这时，国民党的一些特务组织也对张国焘颇感兴趣，希望能从张国焘的口中得到有关中共和八路军、新四军的情报以及中共地下党组织的线索。CC系陈立夫、陈果夫很想让张国焘去工作，军事委员会政治部也说需要这样的人，胡宗南、康泽等也向蒋介石请求，让张国焘到他们那里工作。一时间，登门者络绎不绝，张国焘有时不得不跑到蔡孟坚家去“避难”。但是，蒋介石对于这些部门的请求，都没有答应。
武汉失守前，张国焘应广西“朋友”之邀到桂林观光。张国焘携一家老小前往。在桂林的一天晚上，母亲向张国焘讲述了自他离开家乡以后的家境，引起了张国焘的共鸣。他对自己前半生的所作所为深感后悔，对自己的前程感到茫然。
在张国焘到达桂林的第三天，广西的《建设》杂志全文刊登了共产国际批准开除张国焘党籍的决定。张国焘看到后大为丧气，认为是在戏弄讥嘲他，于是扫兴离开桂林，转赴重庆。
到重庆以后，蒋介石给张国焘的工作做出了安排。蒋介石在接见张国焘时，指着站在身旁的戴笠，很客气地说：我想请张先生给他帮帮忙。就这样，张国焘正式参与了国民党特务组织“军统”的工作。蒋介石还委任张国焘为军事委员会中将委员，但这只是一个空头衔。
张国焘到军统后，受到戴笠的重视。他主持所谓“特种政治问题研究室”，担任研究室的少将主任。为国民党特务组织策反中共人员出谋划策。他还主办所谓“特种政治工作人员训练班”，为国民党训练特务，专门从事反共的特务活动。曾任军统总务处长的沈醉后来回忆说：
戴最初对张国焘寄予极大的希望，满以为只要张肯卖一点气力，便可以把共产党搞垮。张国焘说要办一个训练班，由他来培训一批专门人员，戴笠马上挑选各训练班毕业学生中最优秀分子送去给他训练。他说要在陕甘宁边区设立一些策反站，戴笠马上照他计划办理。真是要人给人，要钱给钱。这时张国焘不仅是戴笠宴客时座上最受欢迎的佳宾，也是戴笠引为最得意的部属。他每次请客准备邀张国焘去参加时，往往先告诉他的朋友，并且用很骄傲的口吻先向朋友们介绍说：“明天你来吃饭时，便可以看到共产党里面坐第三把交椅的人物了。”