为肃清东南之始。俄授公安徽巡抚;公上疏三辞,于是改公提督。又以武职望轻,改以兵部侍郎候补;旋补右侍郎。
贼自据金陵,以芜湖为屏障,以东、西梁山为关键;同治元年,公与曾忠襄水陆会攻铜城闸,水师攻其东石垒、陆军攻其西土垒,破之。于是收复巢县、含山、和州三城,又袭破雍家镇、玉溪口诸要隘,而克西梁山。又由鲇鱼觜,进攻采石矶。时忠襄之师已由西梁山南渡,逼金柱关而营。公分水军为三,一队守险、一队冲入内河;一队辇炮登岸,环城而轰之。夜半,射火箭,焚其西门轈楼,贼从火焰中逸出,积骸满渠;遂复金柱关,而东梁山亦一鼓而下。东、西梁山既复,芜湖贼孤;循江而进,复芜湖。而忠襄之师已进攻秣陵关,公率水军由烈山赴之,会陆军拔头关,进攻江心洲。洲有二石垒,屹若坚城;公选壮士登岸,蛇行芦苇间,逼垒纵火,焱焱烛天,洲遂破。又破蒲包洲,进泊金陵之护城河口;而忠襄之师遂进而营于雨花台,以规复金陵。二年五月,攻复江浦、浦口两城,乃议攻九洑洲。九洑洲在惊湍急浪中,贼筑垒数十,列舟环之,为金陵掎角;又有拦江矶、草鞋峡、七里洲、燕子矶、中关、下关诸隘,相倚以为固。前督师向公、和公皆以攻洲不克故,无成功。公议先破其南岸诸隘,命丁泗滨等循南岸而下,预以枯荻获灌油焚其舟,乘势薄其垒,猱而升;草鞋峡、燕子矶、下关诸隘悉平。次日昧爽,两岸并举,人皆死战;贼在中关者竟不为动,自朝至暮。公令夜战,且曰:『洲不破,不收队矣』!是夜选精队四十人,人持短兵、怀火蛋,令巴里坤总兵成发翔率之登岸,于黑雾中潜烧贼垒;诸将蚁附而上,前者殪、后者继,践尸复登。乙夜,大破九洑洲;群丑聚歼,无一脱者。最公生平田家镇之战、石钟山之战、九洑洲之战,皆肉薄血战;所谓「劳苦功高」,询不虚矣。是年八月,解青阳之围。十月,收复高淳、宁国、建平、溧水诸郡县,夺还水阳、新河庄、东坝要隘。东坝既复,驻重兵焉;而金陵伪都粮道始断。诏并论前九洑洲功,赐黄马袿。
三年,江宁复,大功成;赏一等轻车都尉世职,加太子少保衔。
四年,命署漕运总督;再疏辞,言『臣本寒儒,佣书养母。咸丰三年丁母忧,曾国藩谬采虚声,强令入营。初见,即自誓不求保举、不受官职。十余年来,自知府至巡抚、由提督改侍郎,并未尝一日居位;历任廉俸及军营例支官品银,从未具领分毫。恩虽实授,官犹虚寄。若责臣以必赴,惟有负罪而再辞』。上鉴其诚,从之。乃与曾文正奏定长江水师之制:自荆、岳二州至崇明县五千余里,设提督一员、总兵五员,以六标分汛营哨官七百九十八员、兵万二千人;月饷及杂费银皆取给长江厘税,不烦户部。公在军垂二十年,初时军饷奇绌,公商于盐政,捆盐自卖以供一军之饷。至是,军饷有额支实款,公以所领盐票犒诸将领之有功者;而历年余存盐银无虑六十万,咨明两湖、两江督抚发南北两盐道生息,存为长江水师公费,且以备外患,一无所私。公疏言:『臣以寒士来,愿以寒士归』。又言:『士大夫出处、进退,关系风俗之盛衰。臣墨绖从戎,志在灭贼;贼已灭而不归,近于贪位。长江既设提、镇,责有攸司;臣犹在军,近于恋权。改易初心贪恋权位,则前此辞官疑于作伪。三年之制,贤愚所同;军志已终,不仍补行终制,涉于忘亲。四者有一焉,皆足以伤败风俗。天下之乱不徒在盗贼,而在士大夫进无礼、退无义;臣岂敢稍犯不韪,以伤朝廷之雅化。古来,臣子往往始有建竖、末路陨越,由精气竭也;臣每叹其人不能善藏其短,又当日朝廷不能善全其长。知进而不知退,圣人深戒之。乞开臣兵部侍郎本缺,回籍终制』。疏入,报可,旋命公满百日即出。公既归,以查江旧居久圮,卜郡城东岸作小楼自居,题曰退省庵。时往母墓及查江家庙,布衣青鞋,不设舆卫。补制满,竟不出;种树灌园,有终焉之意。
而自公之归,长江水师规制浸弛,以侈靡相尚,篙、舵工有不能操舟者;众论至谓「水师无益,可废」。十一年,曾文正薨,诏复起公视师。公一出,劾罢营哨官八十余人;于是,长江水师又大振。公入觐,命署兵部右侍郎,赐紫禁城骑马。大婚,充宫门弹压大臣。恩命稠迭,卿贰清闲,或谓公可无辞矣;公始终一辙,再疏力辞,始许。公南归,仍命每年巡阅长江,得专折奏事;应需公费,由两江、湖广各总督筹备。公乃奏定巡阅长江章程:一岁自上游本籍衡州出巡,至江、浙度岁;一岁自下游江、浙出巡,至衡州度岁。于浙江西湖筑室三楹,亦名退省庵,为下游事竣休息之所;而经费即取给前存盐道生息之款,岁支银四、五千两。其两江、两湖筹拨银一万两,皆奏罢之。自是岁以为常,轻舟小艓,往来倏忽;不独将佐畏之如神,即地方有司亦望风震慑。而民间诸不轨之徒作奸犯科、愍不畏法者,辄相惊曰:『彭宫保来』!骙瞿奔触,伏不敢出;台州贼黄金满,束手来归。威声震动数千里,他帅莫与比也。
朝廷知公廉直,凡有大事,辄以属公。如两江总督左公宗棠、刘公坤一、湖广总督涂公宗瀛、两广总督张公树声皆朝廷倚重大臣,而一经言官劾奏,皆命公察核。公平心