彭玉麟是衡阳县渣江镇人，1816年出生，与曾国藩、左宗棠号为晚清三杰。1853年，曾国藩移驻衡阳操练水师，彭玉麟被选入水师做了个营官，在镇压太平天国战争中，彭玉麟升为水师统帅，成为湘军水师中第一员骁将。由于他战功赫赫，清政府多次封授他高官厚爵，她均坚辞不就，被时人称为不要官的将军。

1861年底，安徽巡抚翁同书因与太平军作战不力被罢官，咸丰帝下了一道紧急圣旨，任命彭玉麟补授安徽巡抚一职。此时，彭玉麟正率师在武汉作战，随时都有生命危险，如果有半点贪图安逸之心，岂不正中下怀，更何况这巡抚之职，乃是封疆大吏，一省之长，很多人求之不得。然而，彭玉麟对破格提拔看得很轻，坚辞不受。这年11月26日，他给皇帝的辞呈中讲了三条理由：一是才疏学浅，“问刑名不知，问钱谷不知”，怕误了军国大事。二是统带水师作战正是自己的长处，如果去做行政长官，岂不是舍长就短。三是几十年的沙场生涯，性格刚烈，去做一省之长，难以做到精深稳健。皇帝鉴于他“真实不欺”，只好收回成命，给他个兵部侍郎的虚职。

彭玉麟第二次辞官是1865年的事，太平天国失败后，湘军的头目们作为有功之臣都委以重任，彭玉麟被授以漕运总督，这是个捞取钱财的肥缺，许多官员挖空心思都弄不到手，可彭玉麟又是上奏推辞。他的理由是：当初投军是因为国家有难，才出来报效国家，现在太平了，初志已完，就该解甲归田。更何况漕运业务不热，年过五十，不胜风浪矢石，因此，要求漕运总督和兵部侍郎两职一并辞去。清廷见他“情辞恳切，出于至诚”，批复他回籍休养，假满后仍回长江水师原任。

1881年，两江总督刘坤一被召入京，清廷任命彭玉麟署理两江总督，兼理南洋通商大臣，直隶、两江总督，是清政府封疆大吏中两个最重要的位子，一控京师，一控江湖，皆为国家命脉所系，兼之这两个总督又都分理南洋和北洋通商、外交事务，只有最信得过的权臣才能充任。彭玉麟受任两江总督一职自感荣耀，可光耀之余，他经过再三忖度，还是辞去了这个职务，他给皇帝的辞疏陈述了四条理由：一是两江总督位子重要，贸然赴任，不敢拿国家的利益轻于一试。二是自己一介武夫，不善理财，怕误国误民。三是不谙夷势，不习夷情，兼任南洋大臣，难以应付外交事宜。四是年逾花甲，心力已衰，五十辞漕运，十几载后，更不该再任两江总督。由于彭玉麟固辞不就，两江总督一职只好改派左宗棠充任。

1883年，清政府考虑到彭玉麟已是20余年没有升级，仍是一个兵部侍郎的虚职，与他的功勋、资望不相称，又提升他为兵部尚书，并催他赴京就任。彭玉麟仍象前三次一样，上疏力辞，强调年高老迈，坚请辞官回籍，就是不去上任。然而，就在这个时候，法国侵略军大举进攻越南，兵锋直逼南疆，清政府为了加强防卫，调集主战将领前往两广、云贵、台湾防线，彭玉麟也被调往广东，彭玉麟接旨后，遂打消辞官回籍的念头，带领四营湘军急赶广东参战。与主战派两广总督张之洞等整顿海陆防，编练军队，购置新式武器，增修炮台，使广州民心顿定，士气顿雄，五羊城俨若有长城之可恃。翌年，他支持冯子材率军驻守镇南关，终于取得了震惊中外的谅山一镇南关大捷，扭转中法战争的格局。战后，彭玉麟返回原任，尽管清政府多次招他进京就职，他总以年迈多病为由相拒，直到1890年病故，终未赴京就任。