湘军克南京，朝野表面弹冠相庆，私底下，针对曾国藩的动作多起来了。“尾大不掉”的道理，慈禧当然是知道的。同治四年(1865年)春，起居注官蔡寿祺连上两道奏折，弹劾曾国藩等湘系人物以及恭亲王奕。蔡寿祺历数曾国藩等人“破坏纲纪”等八条“罪状”，应该“择其极恶者立予逮问，置之于法”。慈禧太后很有心计，她不去碰曾国藩，恐生剧变，而是革去了恭亲王奕的议政王及总理衙门差使。这就叫敲山震虎。此外，朝廷之上，也有人主张严厉追究幼天王下落、及太平军将领李秀成之死。李秀成从被捕到被曾国藩处死，只有短短16天。这样一个重要的人犯，按常规当然是要递解进京的。况且，李秀成已写下洋洋五万言供词，“心悔莫及”，有“乞降求抚之意”。曾国藩竟然还是将其杀了。其原因是简单的。曾国藩生怕李秀成进京，说出湘军在南京纵兵抢掠之劣迹。
曾国藩是一位熟读四书五经之人。功高招忌，狡兔死、走狗烹。道理人人知道。但是，真正能把握其关键者，少之又少。史书上多少权臣，都因为不懂得功成身退而最终身败名裂。曾国藩在家丁忧之时曾研读《道德经》，并在该书扉页上写过八个字：“大柔非柔，至刚无刚。”他说，“人之生也柔弱，其死也坚强，草木之生也柔脆，其死也枯槁。”他还曾经写下不少对联，以明心志。比如：“战战兢兢，即生时不忘地狱；坦坦荡荡，虽逆境亦畅天怀”。“天下古今之庸人，皆以一情字致败；天下古今之才人，皆以一傲字致败”。等等。他也感叹：“功名之地，自古难居”，“人又何必占天下之第一美名裁？”“天下无易境，天下无难境；终身有乐处，终身有忧处。”
因此，功成名就的曾国藩，此时毅然选择了急流勇退。他进南京之后，立即办了三件事。一是盖贡院提拔江南人士；二是建造南京旗兵营房，请八旗兵南来驻防；三是裁撤数万湘军。他上折给清廷说，湘军打仗的时间很长了，且“无昔日之生气”，奏请裁汰遣散。曾国藩的意思是清楚的：本人无意拥军。同时，曾国藩在奏折中对他个人去留也只字不提。他深知，此时无论进退，都会产生各方猜忌。但是，他却替他的弟弟曾国荃“专折”奏请开缺回籍养病，朝廷立即“恩准”了。曾国荃急功贪财，恶名远扬。对这个弟弟，曾国藩最不放心。他曾对曾国荃说：“古来成大功大名者，恒有多少风波，多少灾难，谈何容易？愿与弟兢兢业业，各怀临深履薄之惧，以冀免于大戾。”《曾文正公家书·致沅弟季弟》。他还说：“弟若不知自爱，懊怒不已，剥丧元气，则真太愚矣！”
