1358年，朱元璋在攻取克婺州后，下令禁止酿酒，岂料手下一员大将之子不顾禁令，以身试法。朱元璋勃然大怒，下令将其处斩，手下将士连忙劝阻，说此人的父亲正在外地带兵，不宜杀其子。朱元璋却说宁可让他的父亲背叛我，也不能让我的法令不行，随后亲手杀死犯法的“将二代”。事后，“将二代”的父亲不仅没有背叛朱元璋，反而继续征战，直至殉难。
这个“将二代”的父亲就是朱元璋麾下大将胡大海。在民间小说、评书的影响下，胡大海与说唐中的程咬金的形象类似，武艺粗糙，但机警过人。然而这其实与历史上真实的胡大海有着很大的不同。
胡大海，字通甫，泗州虹县人，长身铁面，智力过人。朱元璋刚在滁阳拉起队伍时，胡大海就前来投奔，被任命为前锋。胡大海跟随大军破宁国，占领徽州。后来元将杨完者派十万兵前来进攻，胡大海在城下迎战，元军大败而逃。此后又和邓愈、李文忠自昱岭关一直攻打到建德。在淳安打败元军，攻克建德。再次打败了杨完者，降服了溪洞兵三万人。胡大海晋升为枢密院事，成为朱元璋手下的重要将领之一。
胡大海不仅作战勇敢，善于用兵，而且军纪严明，他常常朗诵：“我是武人，不知书本知识，仅仅懂得三件事而已：不杀人，不掠夺妇女，不焚烧房屋。”他的军队所到之处，远近都争相归附。胡大海虽然是个武人，不读诗书，但对文人十分尊重，刘基、宋濂、叶琛、章溢等人的聘用，实际上都是胡大海极力推荐的。
当胡大海的儿子胡三舍被朱元璋处死时，忠心耿耿的胡大海并未背叛，朱元璋也对他非常信任，任命他为江南行省参知政事，镇守金华。
1362年，一场不是意外的意外发生了。之前，胡大海在攻下严州后，苗将蒋英、刘震等人前来归附。胡大海十分喜爱他们骁勇，就留他们在自己的麾下。但这几个人贼心不死，谋划作乱。
2月7日早晨，蒋英进入分省署，请胡大海在八咏楼观弩。胡大海前去，蒋英派其党羽跪在马前，假装诉说蒋英的罪过，胡大海还没来得及回答，回过头来看蒋英。蒋英拿出袖中的槌子猛击大海，直中脑部倒地，他的次子胡关住、郎中王恺都遇害。
蒋英等人在城中大肆掠夺后，后来投奔了张士诚。之后李文忠攻打杭州，杭州人抓住蒋英来降，朱元璋命令杀了他，用他的血来祭奠胡大海，并作文以祭。1368年明朝建立后，朱元璋没有忘记胡大海这些没有等到建国的功臣，他下诏特赠胡大海为光禄大夫，追封越国公，谥武庄，肖像功臣庙，位列第七，配享太庙。
由于胡大海的长子被朱元璋杀死，次子被叛将杀死，胡大海已经没有后代了，只有一个养子胡德济。