中共初创期负责人
张国焘在北京还是不得存身，他已上了北京政府的黑名单，况且，用他的话说：“我的学业已耽误了一个学期，到了无法追上的地步。”学业之梦就此破灭，他索性整日泡在北大图书馆，“贪婪地阅读社会主义的书籍”。
五四运动的积极分子乘着暑假多已离开学校。在征得李大钊的意见后，他决定去上海。行前，李大钊让他向陈独秀“表达他的意思，大意是他虽主张从研究马克思主义入手，但陈先生如有进一步计划，他也很赞成”。这时，陈独秀等已在上海创立了中国的第一个共产党组织。就要回北京了，陈独秀希望李大钊在北方发起组织共产党。
回到北京，他向李大钊介绍了上海的情况，并转述陈独秀的意见。10月，李大钊、张国焘和张申府在北大图书馆召开了会议，正式成立共产党组织，随后成立支部，李大钊为书记，他负责组织工作，罗章龙负责宣传工作。
1921年6月，北京党接到召开第一次全国代表大会的通知。刘仁静是这样回忆选举出席中共一大代表的，他说：“我记得选举的实际情况是：首先大家一致选张国焘当代表，在选第二个代表时，曾提出过邓中夏和罗章龙，然而他们十分谦让，以工作忙不可分身为由辞谢，这样最后才确定我当代表。”
中共一大在上海召开时，会议主持人理所当然应是陈独秀，可陈独秀因故缺席，而李汉俊、李达不善交往，代表们这才推举张国焘主持会议，毛泽东和周佛海担任记录。在中共一大上，代表们选举出由陈独秀、张国焘、李达组成的中央局，陈独秀为书记，张国焘为组织主任，李达为宣传主任。
中共初创时的组织工作主要是工人运动， 8月中旬，中国劳动组合书记部在上海成立，张国焘为主任。正当他全神贯注于工人运动时，又被推举为中共代表之一，去苏联参加共产国际召开的远东各国共产党及民族革命团体代表大会，这是中共参加首次大型国际会议。会议期间，他还和国民党代表张秋白、工人代表邓培，受到抱病出席会议的列宁的接见。这在当时党内是非常稀罕的殊荣。
