但是，凡事瞒不过有心人。朱元璋的精心谋划，到底被一个人看出了破绽，猜中了底细。这个人便是“再生诸葛”刘伯温。刘伯温感到事情有点不对头，联系到朱元璋疑心重重，接连杀了好些个大臣的事情，越发觉得这里面有名堂。庆功楼建好之后，他细心观察，终于发现楼房后堆了好些干柴，而且都是由检校和锦衣卫的人员亲自动手干的，心中就格外地清楚了。

刘伯温虽然看出了破绽，但却既不敢劝阻，又不敢声张。他思索了一会，感到事不宜迟，便立即写了一道奏折，上呈朱元璋，借口自己年已老迈，昏聩无用，要求告老还乡。朱元璋见了刘伯温的奏折，本想不准，但又念他自从应征以来，确曾为自己的王功帝业出了不少好主意，于是皱了皱眉头，说：

“就让他去了也罢。”随即用朱笔批了一个“准”字。

刘伯温获准还乡，便收拾细软，捆好行装。临走的时候，许多大臣都赶来欢送，他满心酸痛，强忍眼泪，不敢透出半点风声。但是，等到他看见徐达时，他却再也忍耐不住，泪珠一下滚了出来。徐达心中暗想：刘中丞突然告老还乡；今日见了我，又偷偷地凄然落泪，其中一定有什么蹊跷。于是便寻个机会，悄声问道：“刘中丞，敢是出了什么事么？”刘伯温连忙看看左右，见没有什么人在注意他们，才吞吞吐吐地答道：“将军切莫多问！等庆功表贺那天，你只管紧紧跟着皇上，切勿离开一步，事后便知，千万要记住啊！”徐达听了，不敢再问，只好忍痛分手。

刘伯温走后，不久便到了朱元璋所选定的庆功表贺日期。这一天，庆功楼前，鼓乐喧天，爆竹震响，不一会儿，文武老臣们都来了，一个个喜笑颜开，春风满面。