1945年5月，在国民党第六次全国代表大会上，张国焘被选为国民党中央执行委员会委员。8月，在日本投降前夕，蒋介石召见张国焘，让他草拟一个管理全国粮食和一般物价的方案。张国焘到处搜集材料，连熬几夜，写出一份洋洋万言的方案。送给蒋介石后，就没有下文了。
戴笠乘坐的飞机机毁人亡张国焘另谋出路
1946年3月，戴笠乘坐的飞机撞在南京附近的江宁县板桥镇戴山，机毁人亡，军统也准备改组裁员。不久，军统改为国防部保密局，张国焘也趁机另谋出路。他通过同乡、时任国民党中央设计局局长的熊式辉，向国民政府行政院善后救济总署署长蒋廷黻推荐，当上了善后救济总署江西分署署长和江西省临时参议会参议员。
张国焘一上任，就受到了江西省主席王陵基的排挤。原来，当年张国焘率红四方面军入川时，曾与田颂尧、王陵基交战川北。田、王损失惨重，大败而逃。王陵基因此被刘湘撤职，拘禁数月。如今，张国焘虽然脱离了共产党，但王陵基旧恨难消。于是，他让部下对张国焘冷嘲热讽，蓄意刁难。不久，张国焘不得不离开江西，避居上海。
张国焘在上海闲居了将近两年。在这两年中，中国的政治军事形势发生了急剧的变化。1946年6月，蒋介石发动全面内战后，经过1年的作战，中国共产党领导的人民军队不仅粉碎了国民党军队的进攻，而且从1947年7月开始，转入了战略进攻，将战争引向了国民党统治区域。与此同时，在国民党统治区也兴起了广泛的学生运动和人民运动，形成了反对国民党统治的第二条战线。南京国民党政权已处在风雨飘摇之中。