说起刘基的大名，知道的人可能不多；但是对于刘伯温，大家也许都不陌生，民间传说中都把他与“推背图”（预言兴亡变乱的图书）联系在一起，颇有一点神秘色彩。野史中有这样的说法：刘基在青田山洞石函中拿到四卷藏书，难以通解，遍游深山古刹，访求高人指点。遇到一仙风道骨的老道士，就跪拜恳请指教。两人闭门讨论七昼夜，穷尽“壁中书”的要旨。临别之际，老道士告诫说：凡是天人授受，因才而异，从前张良、诸葛亮得到六成，我得到八成，如今你才得到四成，已经足以澄清浊世了。这当然是传说，姑妄听之。
刘基，字伯温，浙江青田人。十四岁进入学校读书，向老师学习儒家经书《春秋》，同学们很少见到他拿着经书朗读背诵，却可以把全书默写出来。后来投身科举事业，崭露头角，焦竑《玉堂丛语》说：“为文有奇气，决疑义，皆出人意表。凡天文、兵法诸书，过目洞识其要。”元末学者揭傒斯见到他，十分惊讶地说：此人是魏徵之流，而英迈犹有过之，是匡时济世的人才。
元朝末年，他担任地方官，由于清廉正直，仕途颇为坎坷。在当时人心目中，他是一个奇人。首先是长相奇特，远远望去，简直一副“虬髯客”模样，一脸络腮胡子，身材高挑而魁梧。其次是风格奇特，《明史》说他“慷慨有大节，论天下安危，义形于色”。更奇特的是他学问高深莫测，上知天文下知地理，又有未卜先知的本领。不过他的真正本领并不在此，《明史》有一句话说得非常好：“世所传为神奇多阴阳风角之术，非其至也。”所谓“非其至”，意思是说“阴阳风角”并非他的强项，他的强项在于治国平天下的韬略。这一点可以从朱元璋那里得到证实，他一再称刘伯温是我的张子房（张良），有人说刘伯温有秘密传授的阴阳风角之术，他断然反驳道：伯温敷陈王道，经常用孔子的话来开导我，岂有阴阳风角之术的影子？
无怪乎当时的四川名人赵天泽品评“江左人物”时，首推刘基，赞誉为诸葛孔明再世。赵天泽是四川新都人，与同乡杜圭明都以研究《春秋》而齐名。后来他弃官游历江南，所到之处人们倒屣迎接。行省大臣为赵天泽接风，议论到江南人物时，赵天泽首推当时籍籍无名的青田刘伯温，众人始而惊愕，继而窃笑。事后，他写信给刘基：“萧何拔韩信，玄德师孔明，非信任之笃，则汦水之奇，八阵之妙，何由照耀后世？”因此后人赞誉赵公“深奇预识”。
朱元璋打下浙东，仰慕刘基的才学，将他与章溢、叶琛、宋濂一起召到身边，尊称为“浙东四先生”。朱元璋召见四先生，问道：如今天下纷争，何时能定？章溢说：天道无常，只有德高望重、不嗜杀人者能够统一。刘基则条陈“时务十八策”，非同凡响。一天，朱元璋问郎中陶安：这四人和你相比如何？陶安说：臣谋略不如刘基，学问不如宋濂，治民之才不如章溢、叶琛。
确实，刘基的谋略多有过人之处，在南征北战中，运筹帷幄之功最多。当时的形势，陈友谅占据湖广，张士诚占据浙西，究竟先对付哪一个，议论不决。多数将领以为苏州、湖州富庶，应该先取张士诚。朱元璋征求刘基的意见，他力排众议，主张先取陈友谅，说：陈友谅劫持主公、威胁下属，名号不正，而且占据我方上游，应该先打掉他。张士诚是一个守财奴，陈氏灭掉以后，张氏孤立，取他犹如探囊取物。南方一举而定，然后北向中原，帝王之业可定。朱元璋采纳了这个正确的战略决策。史家赞扬道：“陈氏平，遂决计伐（张）士诚，暨北定中原，（刘）基运筹居多。”朱升这样评价他：“学贯天人，才兼文武。”可谓知人之论。
由于他是浙东人，受到李善长为首的淮西集团的排挤。明朝初年大封功臣，李善长封为韩国公，岁禄4000石；刘基只封为诚意伯，岁禄240石；李善长官居左丞相（即首相），刘基不过是御史中丞（御史台第三把手，一、二把手是汤和、邓愈），没有多大实权，难以施展手脚。开国不久，他就向皇帝请求致仕（退休），一般人百思不得其解，个中缘由是颇堪思量的。
为了都城的选址，朱元璋带领文武大臣到河南开封等地视察，指定左丞相李善长和御史中丞刘基留守南京。主张依法治国的刘基对李善长说：宋元两朝由于法制过于宽纵而丢失天下，如今应该严肃纲纪，让监察御史无所避忌地弹劾违法的官员，宫内的宿卫和宦官如有过失，应该请示皇太子依法惩处。几天下来，官员们对他的严厉颇为忌惮。这时，中书省一个中层官员李彬贪赃枉法，刘基准备严办，李善长对于这个亲信一向眷顾，主张从宽发落。刘基不同意，但李善长毕竟是总理政务的首相，不能置若罔闻。足智多谋的刘基想出了一个点子，写了一份奏疏，派人快马加鞭送往开封，请示皇帝的圣旨。得到皇帝的圣旨，他立即把正在参加祈雨仪式的李彬就地正法。李善长大为恼怒，等到皇帝回京后，抢先告状，说刘基竟然在祭坛前杀人，实属大不敬。怨恨刘基的官员，纷纷乘机弹劾。
朱元璋没有表态。几天后，他借天旱征求刘基意见，刘基说：阵亡士兵的妻子全部集中居住在营房，达几万人之多，阴气郁结。另外隶属于官府的工匠死亡后，暴尸野外，这些都足以“上干和气”。朱元璋采纳了他的意见，采取了措施，但十天以后仍不下雨，便狠狠地训斥了刘基。惹恼了皇帝和首相，刘基意识到，离去的时刻到了。正好这时他的妻子过世，便向皇帝请求“告归”。洪武元年（1368）八月，当了几个月御史中丞的刘基以“致仕”的形式，告别政坛。
临行前，刘基就两件大事向皇帝提出忠告：一件是，针对皇帝有意把自己的家乡凤阳作为都城，直截了当地表示反对：凤阳虽然是皇帝家乡，但并非建都之地；另一件是，应该集中力量消灭元朝残余势力。朱元璋接受了前一点，对于后一点有所忽视，措置失当，让蒙古军队逃回沙漠，成为北方边疆的大患。于是乎，朱元璋恍然大悟，这位张子房式的人物是不可或缺的，就在当年年底，写了亲笔信，把刘基召回南京，给予丰厚的赏赐，追赠其祖父、父亲为“永嘉郡公”。
朱元璋一如既往地信任他，视为心腹，每次召见刘基，屏退左右，长时间密谈。刘基也为知遇之恩而感动，知无不言，言无不尽。以前在战争时期，每每遇到急难，他勇气奋发，当机立断，人莫能测。现在太平了，他所谈大多是帝王之道，朱元璋洗耳恭听。
皇权与相权历来是一对矛盾，互相抑制，此消彼长。朱元璋是一个权力欲极强的人，喜欢大权独揽，对于左丞相李善长为首的淮西集团势力膨胀有所不满，抑制的办法只有一个——撤换李善长，另择丞相人选。这种重大人事变动，是绝对机密，只能和刘基商量（因为他不属于淮西集团）。刘基一听要撤换李善长，立即表示反对。于是君臣之间有一场推心置腹的对话。关于这场对话，黄寿生《刘基行状录》、王世贞《弇州史料前集》、《明史·刘基传》都有记录。
刘基说：李善长是开国元勋，能调和各路将领。
朱元璋说：他多次要害你，你还为他讲好话，如此高风亮节，我要任命你为丞相。