1918年5月21日,《大中华报》披露《中日共同防敌协定》,学生们对此协定异常愤怒。次日,北大和其他几所学校的学生,来到总统府,捧着请愿书,恭而敬之地要求见冯国璋总统。这是张国焘初涉政治的第一次行动。当时,他就对这种温和的请愿“觉得太不够味”,他欣赏“天津学生代表郭隆贞女士在总统府门前大哭大闹”的抗议方式,这种热烈的情绪,促使他萌发“激进”的念头,“认为应当从事彻底革命,推翻亲日派的统治”。
他和一些同学发起成立国民杂志社,成员有100多人,多是北大学生,而且,后来都成了五四运动的积极分子。不久,邓中夏又发起组织平民教育讲演团,他是其中的积极分子,讲演的内容多为启蒙教育,也有结合政治形势的讲演。此时对他最有意义的莫过于同李大钊的来往,他说:“我在欧战结束的时候,与当时任北大图书馆主任的李大钊先生来往密切起来了。由于他的影响,使我增加了对于社会主义的兴趣。”
五四运动爆发,北大学生干事会也应运而生,干事会由段锡明、罗家伦、康白情和他等组成,他负责讲演部的工作。5月19日,北京学生全体总罢课,发表《罢课宣言》,讲演部更是走在运动的风口浪尖。他们走街串巷,深入民众,宣讲买卖国货、抵制日货的道理。