位高权重的李善长，变得越来越傲慢，朝中大小官员，一旦不小心有冒犯他的地方，他就要利用权利深究其责，将其治罪，甚至在朝堂之上大骂谋士刘伯温。  

慢慢的，这引起了朱元璋的反感，但朱元璋念其有功，也就睁一只眼闭一只眼过去了。  

1371年，年事已高的李善长，辞官回乡养老，但他临走之前做的一件事，让本该安享晚年的他，埋下了杀身之患。  

不知李善长是真为江山社稷着想，还是舍不得手中大权，他辞官时，把自己的学生胡惟庸推荐到朝中，接替了自己的位置。  

而胡惟庸当上丞相之后，却利用手中大权，结党营私，敛财收贿，还和李善长的弟弟李存义关系密切，并暗中招兵买马，意图谋反。 

有一次，胡惟庸让李存义，去游说兄长李善长，共商谋反之事，李善长闻言大惊道:“你此话当真？倘若谋反，可是灭九族之罪！”李善长深知后果严重，不能草率答应。  

后来，胡惟庸又派了李善长的一个好朋友去游说，并说:“事成之后，以淮西之地封您为王！”这次，李善长惊愕之余，有所心动，但再三权衡之后，仍然没有答应。