以至于就連吳人都不首接叫他名字，而是稱呼為羊公。等到公元二七八年羊祜去世后，長江兩岸人民如喪考妣，哭聲一片，襄陽百姓自發(fā)的在羊祜常去的峴山立碑建廟，每年按時祭祀，看到碑的人都忍不住流淚，而此碑也就被稱為墮淚碑。什么是好官，羊公就是。考慮到滅吳必用水軍，羊祜向司馬炎建議任命王濬為益州刺史，秘密造船。公元二七六年，羊公上《平吳策》詳細如下：先帝順天應時，西平巴蜀，南和吳會，海內(nèi)得以休息，兆庶有樂安之心。而吳復背信，使邊事更興。夫期運雖天所授，而功業(yè)必由人而成，不一大舉掃滅，則眾役無時得安。亦所以隆先帝之勛，成無為之化也。故堯有丹水之伐，舜有三苗之征，咸以寧靜宇宙，戢兵和眾者也。蜀平之時，天下皆謂吳當并亡，自此來十三年，是謂一周，平定之期復在今日矣。議者常言吳楚有道后服，無禮先強，此乃謂侯之時耳。當今一統(tǒng)，不得與古同諭。夫適道之論，皆未應權(quán)，是故謀之雖多，而決之欲獨。凡以險阻得存者，謂所敵者同，力足自固。茍其輕重不齊，強弱異勢，則智士不能謀，而險阻不可保也。蜀之為國，非不險也，高山尋云霓，深谷肆無景，束馬懸車，然后得濟，皆言一夫荷戟，千人莫當。及進兵之日，曾無籓籬之限，斬將搴旗，伏尸數(shù)萬，乘勝席卷，徑至成都，漢中諸城，皆鳥棲而不敢出。非皆無戰(zhàn)心，誠力不足相抗。至劉禪降服，諸營堡者索然俱散。今江淮之難，不過劍閣；山川之險，不過岷漢；孫皓之暴，侈于劉禪；吳人之困，甚于巴蜀。而大晉兵眾，多于前世；資儲器械，盛于往時；今不于此平吳，而更阻兵相守，征夫苦役，日尋干戈，經(jīng)歷盛衰