有道是，亂世出英雄。曾國藩出山之後做的第一件事就是把羅澤南從家鄉拉到了自己身邊，從而奠定了湘軍的基石。然而，不久之後曾國藩就不得不離開長沙，移師衡陽。
衡陽離長沙不遠，離曾國藩的家湘鄉也不遠。衡陽是曾國藩兄弟早年讀書求學的地方，對這個地方他並不陌生。天緣湊泊，移師衡陽本是不得已，然而，卻又給曾國藩帶來了意想不到的收穫和命運的轉機。
衡陽在湘江中游，江面寬闊，大浪淘沙，是非常適合訓練水軍的地方。面對着滔滔江水，曾國藩想起太平軍自出師以來，陸戰並無什麼戰績，靠的都是水軍。心想，不如訓練出一支水師勁旅，與太平軍一決高下。他將這一想法與衡陽友人一商量，立即獲得了異乎尋常的呼應。衡陽地處湘江中下游，自來熟悉水性者極多，不怕招募不到好兵。於是曾國藩即下決心，招募水師。然而，當前之下，陸師有了羅澤南，就好比劉備之有關公；水師又當由誰來統領？當地鄉紳便向曾國藩舉薦了一人。此人便是當地人稱周瑜再世的彭玉麟。
彭玉麟生於1816年，比曾國藩小五歲，衡陽縣人，字雪琴，自號退省山人。早年家境貧寒，從小跟隨父親在安徽長大，父親死後，族人欺負他孤兒寡母，竟奪其田，母子只好避居衡陽，就讀於四大書院的石鼓書院。他也是一個有名的孝子，為了侍奉老母，做司書小吏謀碗飯吃。運道不濟，直到37歲仍是一個窮秀才。然而窮並不能喪其志。他有一首詩，其中云：“無補時艱深愧我，一腔心事托梅花。”道出了學無所用的遺憾。由於生於水濱，深諳水性，對水戰之法頗有用心，相傳他家裡藏有一部《公瑾水戰法》的兵書。
咸豐三年，就在曾國藩因人推薦要訪求雪琴之時，彭玉麟正丁母憂在家，為人盡孝的彭玉麟因這個原因不想出山。然而，耐不住曾國藩數番誠懇相邀，尤其是曾國藩的一番話：“鄉里藉藉，父子且不相保，能長守丘墓乎？”令他大為感奮，於是墨絰出山，受命率領一支水師。從此深得曾國藩的喜愛與信任。此後，彭玉麟一直率領水師跟隨曾國藩出生入死，也成為曾國藩最為根本的嫡系之師。有了彭玉麟，如同孫權有了周瑜，從此，水師成為曾國藩手下一支重要的生力軍。同治三年，他率領水師和曾國荃率領的吉字營配合攻打，歷經艱辛，終於攻下南京，成為“天下第一功”的重要參與者。
以一個窮秀才出身，十餘年間，彭玉麟官至“誥授光祿大夫太子少保兵部尚書詳勇巴圖魯世襲一等輕車都尉欽差巡視長江水師贈太子太保”（這是清代名儒王闓運為他所做的行狀的題目），位居“中興四大名臣”之列。然而，彭玉麟一生為後人所重視的原因並不在這裡，卻在於他與世俗不同，卓然獨立的處世態度。唐浩明先生稱之為“古今難尋”。
和曾國藩做官不為發財，不取公家一絲一毫的做法相似，彭玉麟也從小就立有三不之志：不受官，不私財，不要命。這樣一種人品，正是曾國藩所看重的，因而，曾對他是傾心相待，不僅是上下級關係，也是情趣相合的朋友。
說他是周郎再世，一點也不誇張附會。人所皆知，三國周郎善識音，“曲有誤，周郎顧”，作為將軍的周瑜還是音樂家和音樂鑒賞家。彭玉麟頗有周郎之風範，表現在兩個方面：一是有周郎之才，周郎會識音，雪琴善畫梅。二是有周郎之情，周郎有“初嫁之小喬”，雪琴有一生難捨的戀人。他一生畫梅相傳有十萬枝，他本不是畫家，也沒有專門學過畫畫，畫梅做什麼？紀念戀人，此事成為晚清一代人所共知的佳話。他的戀人是誰？說法不一。據羅爾綱先生考證其為彭玉麟外祖母的養女王竹賓。彭玉麟少年生長在安慶，與舅父王氏共居。其外祖母有養女王竹賓，年紀比他略大一點，“少小相親意氣投”，私訂終身。但彭玉麟17歲時，跟隨父母回其原籍衡陽。12年後，其舅父去世，外祖母和王竹賓無人贍養，彭玉麟遣其三弟赴安慶接其外祖母和王竹賓至衡陽就養。此時，彭玉麟已娶妻鄒氏，竹賓尚未嫁。戀人相見，情何以堪。彭妻鄒氏百般防範。未幾王竹賓出嫁，四年後因難產而卒。彭玉麟後來與妻子分居，也沒有娶妾，“終身無房室之歡”，唯以畫梅自遣，畫上常鈐“一生知己是梅花”或“古今第一傷心人”印。彭玉麟悼其戀人的詩現存多首，哀艷沉痛，錄二首如下：
《感懷》二首
少小相親意氣投，芳蹤喜共渭陽留。
劇憐窗下廝磨慣，難忘燈前笑語柔。
生許相依原有願，死期入夢竟無繇。
黃家山裡冬青樹，一道花牆萬古愁。
皖水分襟十二年，瀟湘重聚晚春天。
徒留四載刀環約，未遂三生鏡匣緣。
惜別惺惺情繾綣，關懷事事意纏綿。
撫今思昔增悲哽，無限心傷聽杜鵑。
彭玉麟對戀人的深情是世所公認的，“一生心事付梅花”。雖周郎也無過於他。他還有周郎的儒雅。易宗夔在《新世說》的書裡面說他“貌清癯如閑雲野鶴，出語聲細微至不可辨”，又說他是“恂恂儒者，和氣藹然”。可見也是一員儒將。
除此而外，彭玉麟還以拚命辭官而享譽天下。他一生有過六次辭官。第一次是在咸豐十年四月，此時玉麟官銜是布政使，水師統領。曾國藩想要他由“相當於副省級”的虛銜變成安徽巡撫的實職，由品級高地位低的武職變成文職，既是出於多年情誼，也是為了他的安全考慮——長年居住在狹窄窒息的船上，與一個統領身份也不大符。聖旨下達，玉麟以不習地方事務，當不好巡撫為由三次上表辭謝，朝廷只好改授他為兵部侍郎。第二次是同治四年二月，代理漕運總督這樣一個大肥缺已落到了他頭上，然而，玉麟又以不懂漕政為由，二次上疏辭謝了這個令無數人垂涎三尺的肥缺。第三次是同治七年六月，彭主動要求開除他的兵部侍郎職，回家去補上當年沒有守滿的母喪之制。第四次是同治十一年，兩宮太后懿旨玉麟進京代理兵部侍郎，出任同治皇帝大婚慶典中的宮門彈壓大臣，但他婚禮一結束，就要求做一個散秩大員，去巡視長江。第五次是光緒七年七月，朝廷任命他為代理兩江總督兼南洋通商大臣。眾所周知兩江總督是名臣宿宦方可擔當起的重任，可玉麟又不領旨，上疏請辭，並薦曾國荃代。第六次是光緒八年正月，朝廷任命其為兵部尚書。接旨后再次請辭，不過這一次可沒如願，等到中法戰爭爆發，清廷命他率舊部前往廣東辦理防務。玉麟以這個理由再次辭去兵部尚書，然後前往廣東前線；為辭去兵部尚書一職，他先後四次上疏，直到光緒十四年朝廷才答應他的要求。
曆數這種種辭官經歷，不能不令人感慨這確實是一個古今難尋之“封建官僚”。玉麟忠實地履行了他“不受官”的信條。
再看他的“不私財”。清代官員工資不高，但養廉銀（獎金）卻還可觀。一個巡撫一年工資不過155兩，獎金（養廉銀）可達10000-15000兩。彭玉麟十多年間積累下來的養廉銀應相當可觀。然而，他卻把這筆獎金全部記在公家的帳上，自己私用從不在此開支。而且他多次將這筆錢捐獻給糧台作為軍費開支。另外又熱心公益事業，衡陽城內的船山書院就是他捐建的。同治六年，他還要求曾國藩代他奏疏，請求皇帝不要因為他捐獻獎金而額外恩賜他的子女。這樣不要錢的官員，恐怕也只有明朝的海瑞可比了。
他的“不怕死”則更是典型的湖湘士人性格。曾國藩在給朝廷的奏摺中這樣評價他：“附生彭玉麟，書生從戎，膽氣過於宿將，激昂慷慨，有烈士風。”因此，湘軍上下都叫他“雪帥”。
漢陽之戰，彭玉麟乘坐的長龍被炮火擊沉，他墜入江中，後面的舢板趕緊來救，卻拽不起他，原來是水下有人死死抱着他的雙腿不放，舢舨上的軍士便大喊大叫：“快放手，你抱的是統領大人！”玉麟嗆了水，卻並不惱怒，對手下說：“這時候他只顧自家性命，哪管什麼統領不統領！”雙雙獲救后，才知那人是同船的司舵。玉麟笑着罵道：“早知是你這傢伙，我提着你的頭髮扔十丈外去了！”生死之際，他仍能如此從容談笑，真可謂膽色超群。
光緒十六年三月，75歲的湘軍名將彭玉麟以一介平民之身在衡陽老家病逝。自1853年出師以來，30年間，有15年是居住在一隻小船上度過的。他自述：“臣素無聲色之好家室之樂，性尤不耽安樂。治軍十餘年，未嘗營一瓦之蕧一畝之殖以庇妻子。身受重傷，積勞多疾，未嘗請一日之假回籍調治。終年風濤矢石之中，雖其病，未嘗一日移居岸上。”這樣一個“剛直”之人，深得時人畏懼，長沙千里水師，個個害怕他，一聽說他要來巡視長江，人人提心弔膽。他死後，王闓運、張之洞、俞樾等著名人士均為之慷慨作歌。王闓運的輓聯說：
詩酒自名家，更勛業爛然，長增畫苑梅花價；
樓船欲渡海，嘆英雄老矣，忍說江南血戰功。
張之洞的輓聯則云：
五年前瘴海同袍，艱危竟奠重溟浪；
二千里長江如鏡，掃蕩艱忌百戰人。
（摘自《歷史給誰來釀酒》當代中國出版社出版）