他没想到的是，像他这样一位一呼百应的“造反派”并不能为朝廷所容忍，因此最后被高俅设宴毒死。与宋江一同被下毒的还有二号人物卢俊义，不过他没有被毒死，而是中毒受伤失足落水而亡。梁山三号人物吴用听闻宋江已死，自己在宋江墓前上吊死了。至此，梁山的头三号人物的死就很明了了，分别是被毒死和自杀。那么，公孙胜呢？其实在小说里并未明确交代他的死因，只是对他的去向做了交代。宋江率众归附朝廷，公孙胜遂以当年的约定为由告辞而去。
原来，早在公孙胜出山之时，便对梁山众人的结局有了一定的先见之明，他知道梁山众人之所以聚义不是为了穷苦百姓，而是因为自身利益受到损害的缘故，所以根本就不会和朝廷“死磕”到底，接受招安是迟早的事。于是，公孙胜借他的师父之口与宋江立下“逢幽而止，遇汴而还”的约定，当宋江等人兴高采烈地前往汴京受封之时，他便早早做好了打算，等到征辽之后，便以当初的约定为借口告辞回乡，从此潜心修道。所以，小说里的公孙胜的结局是功成身退，至于他是怎么死的则没有明说，我们就只能猜测他是病死或老死的了。
