明太祖在统一战争中，依靠了一批英勇善战的将领争城夺地：又吸收了一些谋士，帮他出谋划策。在这些谋士中，刘基是最著名的一个。

刘基又叫刘伯温，本来是元朝的官员，因为对元朝的政治腐败不满意，常常写点文章，讽刺时事，后来，被解职回到他的家乡青田（在今浙江）。朱元璋的军队打到浙东的时候，把刘基请了出来，当他的谋士。在打败陈友谅、张士诚的战争中，刘基出了不少计策。由于他足智多谋，得到明太祖的信任。明太祖把他比做西汉初年的张良。

刘基不但谋略好，而且精通天文。在古代，往往把天文现象跟人间的吉凶扯在一起。刘基对天下形势观察仔细，考虑问题周到，他的预见往往比较准确。但是大家都认为这跟他精通天文有关。民间传说把刘伯温看作一个“未卜先知”的人物。

朱元璋当吴王的时候，江南发生了一场旱灾。刘基掌管天文，朱元璋问他为什么发生大旱，怎样才能求上天下雨。刘基说：“天一直不下雨，因为牢狱里关押的人有冤枉。”

朱元璋信了刘基的话，派他去查牢监里关的犯人。刘基一查，果然有不少冤案。他向朱元璋奏明后，平反了冤案，把错抓的人放了。

求雨和平反本来是毫不相干的两码事。刘基也不可能有求雨的法术。不过他懂得天文，可能观测到气象要发生变化，就借这个机会劝谏朱元璋平反冤案。果然不出几天，乌云密布，接着就下了一场透雨。刘基趁朱元璋高兴的时候，又劝他制定法律，依法办事，防止错杀无辜的人。

明太祖即位以后，叫刘基做御史中丞，负责司法工作。刘基严格执法。有一次，丞相李善长的一个亲信犯了法。李善长是明王朝开国功臣，又是明太祖的同乡，势力很大。但是刘基不顾李善长的阻挠，奏明明太祖，把那个亲信杀了。这件事当然招来了李善长的怨恨。

正巧这一年，京城又逢到大旱，明太祖十分着急。刘基乘机跟明太祖说：“战争中的死亡将士，他们的妻子需要抚恤；一些在筑城中死亡的工匠，尸骨还暴露在田野上，没人收埋。把这些事办了，说不定能下雨。”