就连常遇春和胡大海的儿子听取徐达的建议也迁居到了山海关。这三家的后代，在山海关城里修了徐达庙，城东北修了胡家坟，城西南修了常家坟，都立了石人石马石牌坊。
徐达听完刘伯温的话连连叫好，当日回营，二人连夜画图，第二天派副将送往京城。朝廷准奏，命令立刻动工。整整干了一年零八个月，关隘竣工。
一天早朝，朱元璋一看徐达、刘伯温回来了，便问道：“二位爱卿回转京城，关隘城池可曾筑成？”
二人出班奏道：“托圣上洪福，关隘城池已经全部完工。”
朱元璋听了并未表现出多大的高兴，因为他并不希望他们二人能够按时完工，不按时完工自己就可以明正言顺地治他们的罪了，就可以削去他们手中的兵权了。如今提前完工，不但不能治罪，反而有功了，于是想了想说道：“既然关隘已经建成，那你们二位可曾给关隘想好名字啊？”
徐达和刘伯温二人私下里的确已经想好了关名，只等回京奏请皇上知晓了，刘伯温听闻朱元璋如此发问心中一紧，知道事情有些不妙。
徐达性情耿直，根本就揣测不到朱元璋的真实用意，张开嘴刚要将二人事先想好的名字说出来，只见刘伯温抢先跨前一步说道：“启奏万岁，如此险要关隘，臣知其重要，故而我二人未敢私下妄自命名，此次回京，一是报捷竣工，二是请皇上题写关名。”
刘伯温脑袋转的太快了，若不是他抢先一步抢过话头，让徐达说出来关隘名称，势必要被朱元璋降罪，你想啊！未奏请皇上，私自命名，你这是没将当朝天子放在眼里啊！此事说大不大说小也不能算小了，治你个罪降职外放都不在话下。
朱元璋看着刘伯温，心说：“我本无心伤你，只想夺下徐达手中兵权，你却三番两次的出力保他，这还了得！容我日后慢慢的处理你。”
朱元璋听了刘伯温的话，知道他已经将自己降罪的路堵的死死的了，只好说道：“那你描述一下关隘的情况，大家一起来起个名字。”
刘伯温说道：“这座新城，南入渤海之滨，北依燕山之险，关隘居中而建，真可谓连山通海之关，万岁圣明，请万岁恩示！”
朱元璋听完描述，把手一摆，说道：“好，既然连山通海，那就叫山海关吧！”
山海关因此得名。
后来，据说刘伯温断出来朱元璋要对大明功臣下手，自己又多次献计救过徐达，恐怕难逃朱元璋的黑手，于是决定放弃荣华富贵，告老还乡隐居山林。
…。。