胡惟庸名列《明史·奸臣传》，对他而言并无不公，此人本来就是一个宵小之徒，为人阴险狡猾，惯于钻营，一旦大权在握便得意忘形。如果按照老百姓“好人—坏人”模式来衡量，他肯定不是一个“好人”。他被处死后株连数以万计的“胡党”，绝大多数并非“奸臣”，不少还是功臣。历史上开国皇帝杀功臣，屡见不鲜，不足为奇。“胡惟庸党案”是此类事件又一次重演，不过奇特得令人震惊，却又迷雾重重。
由于被胡惟庸株连的官员成千上万，官场上一片恐怖气氛，人人自危，噤若寒蝉，文人学者多不敢记载此事。《明太祖实录》大抵是依据当时官方公布的《昭示奸党录》之类官方文书，来撰写事件的始末，清朝人编写的《明史》也没有跳出这一窠臼，因此后人阅读这一段历史，不免扑朔迷离。1934年，吴晗在《燕京学报》发表论文《胡惟庸党案考》，才使真相大白：其一，胡惟庸是一个“枭猾阴险专权树党的人”，被“自私惨刻的怪杰”朱元璋处死，是咎由自取；其二，所谓胡惟庸及其党羽企图谋刺皇帝、勾通倭寇之类罪状，一概子虚乌有，是为了株连“胡党”而虚构的。
胡惟庸和李善长是同乡，都是濠州定远人，朱元璋奉郭子兴之命打下和州，他前往投奔，在元帅府当差，后来外放宁国知县、吉安通判、湖广佥事，逐渐晋升为太常寺卿，洪武三年（1370）进入中书省，任参知政事。这一切离不开李善长的提拔。
中书省是丞相的办事机构，是朝廷的中枢，因此成为皇帝和大臣关注的焦点。当时最有可能取代已经失宠的李善长的是杨宪，朱元璋多次说：“杨宪可居相位。”把他由御史中丞调任中书省左丞之职。杨宪其人优点突出，缺点也突出，刘基说他“有相才无相器”，是有道理的。史书对他的评价是：“有才辨，明敏善决事，然忮刻，有不足于己者，辄以事中伤之。在中书，欲尽易省中故事，凡旧吏皆罢去，更用己所亲信者。”胡惟庸对这个山西阳曲人耿耿于怀，和左丞相李善长说：“杨宪为相，我等淮人不得为大官矣！”李善长心领神会，终于抓住了他的把柄。事情是这样的：
朱元璋鉴于李善长有病，把陕西参政汪广洋晋升为中书省右丞。杨宪是左丞，官大一级，独断专行，不把汪广洋放在眼里。汪广洋初来乍到，十分低调，依违于其间，杨宪仍不满意，嗾使侍御史刘炳弹劾汪广洋“奉母无状”，遭到皇帝谴责，调回陕西。杨宪还不罢休，奏请皇帝把他调往海南，朱元璋很不高兴，对杨宪有所怀疑。李善长抓住时机，上了一道奏疏，指责他“排陷大臣，放肆为奸”。不明内情的刘炳继续攻击汪广洋，朱元璋发觉是诬陷，逮捕刘炳。刘炳终于交代，他所做的一切都受杨宪指使。于是，朱元璋老账新账一起算，处死杨宪、刘炳，召还汪广洋，恢复中书省右丞之职，后来还加封为“忠勤伯”。洪武四年正月李善长罢官后，汪广洋出任中书省右丞相，胡惟庸出任中书省左丞。胡惟庸的官职低于汪广洋，却“专决省中事”，反过来指责汪广洋“无所建白”，终于导致右丞相汪广洋被贬为广东行省参政。朱元璋以为胡惟庸是一个干才，在洪武六年七月升任他为右丞相，并且按照他的推荐，任命陈宁为御史大夫、涂节为御史中丞。不久又升任左丞相，朱元璋虽然再度起用汪广洋为右丞相，对他有所制约，但改变不了胡惟庸“独相”的局面。《明史·胡惟庸传》写道：
自杨宪诛，帝以惟庸为才，宠任之。惟庸亦自励，尝以曲谨当上意，宠遇日隆。独相数岁，生杀黜陟，或不奏径行，内外诸司上封事，必先取阅，害己者辄匿不以闻。四方躁进之徒，及功臣武夫失职者争走其门，馈遗金帛名马玩好，不可胜数。
在此之前，御史大夫韩宜可就对胡惟庸与陈宁、涂节之流恃宠擅权，有所不满，当面向皇帝递交弹劾奏疏，措辞十分尖锐：“三人险恶似忠，奸佞似直，恃功怙宠，内怀反侧，擢置台端，擅作威福，乞斩其首以谢天下。”朱元璋当时满以为胡惟庸是人才，对他宠信有加，看到韩宜可请求处死胡惟庸、陈宁、涂节的奏疏，大为愤怒，破口大骂：“快口御史，敢排陷大臣呀！”当即把他押入锦衣卫诏狱。不久，国子监助教吴伯宗察觉胡惟庸的奸恶，不愿同流合污，被胡惟庸贬官至凤阳，他上书皇帝：“胡惟庸专恣不法，久之必为国患。”这次似乎引起了朱元璋的重视，把他从凤阳召回，赏赐衣钞，让他出使安南，返京后调入翰林院。
胡惟庸是个厉害的角色，听不得反对意见，报复心理极强。为大明王朝立下丰功伟绩的大将军徐达，为人正直，早就看穿了胡惟庸的奸猾本性，向朱元璋从容进言，希望有所提防。胡惟庸得知后，蓄意报复，用重金收买徐府门房福寿，诱使他诬陷徐达。幸亏福寿不为所动，事态才没有恶化。刘基曾经在朱元璋面前把胡惟庸比喻为劣马，胡惟庸指使亲信诬陷刘基坟地有“王气”，居心叵测，朱元璋信以为真。刘基病重，朱元璋命胡惟庸派医生去诊治，使刘基中毒而死。胡惟庸与李善长关系愈来愈密切，把自己的侄女许配给李善长的侄子，结成姻亲。自以为背景强硬的胡惟庸，得意忘形，贪贿弄权，更加肆无忌惮。
胡惟庸的擅作威福，激化了相权与皇权的矛盾，朱元璋感到前所未有的大权旁落。此前左丞相李善长小心谨慎，右丞相徐达经常统兵在外，后来的右丞相汪广洋只知饮酒而不管事，相权与皇权的矛盾是隐而不显的。权势欲极强的朱元璋，用人多疑，颇有心计，在任命胡惟庸为左丞相的同时，重新起用汪广洋为右丞相，希望他们互相牵制。后来他逐渐发现胡惟庸的“奸状”，而汪广洋“依违其间，无所救正”，很为不满。洪武十二年（1379）九月，占城国王派遣使臣前来朝贡，胡惟庸没有向他报告，他从太监那里得到消息，愤怒地指责中书省，胡、汪二人一面顿首谢罪，一面诿过于礼部，朱元璋更怒不可遏。正巧这时御史中丞涂节揭发：刘基是胡惟庸毒死的，汪广洋应该知道。朱元璋怒上加怒，谴责汪广洋“朋欺”，也就是朋比为奸欺君罔上，撤销右丞相官职，贬往广东，行至半途，又追加罪状，下旨“赐死”。对于胡惟庸而言，这是一个不祥之兆。