但是一次次请愿的失败让张国焘失去了往日的热情，他开始反对学生请愿，并申诉自己的理由说：“学生无后盾！”他转入北大哲学系，决定一心完成学业，以期将来功成名就。但是张国焘已经被当局列入黑名单，不得不在组织的安排下转移上海，经历了短暂的流亡岁月。

开办工人补习学校

张国焘在上海时期，曾与陈独秀畅谈救国理想，创建中国共产党。张国焘在《我的回忆》中说，在上海和陈独秀谈到党纲、党章等许多具体问题，“希望李大钊先生和我从速在北方发动，先组织北京小组，再向周边城市发展。”

回到北京后，已经耽误一个学期课的张国焘得到了学校和教授的优待，总是能得到一个善意的及格分数。张国焘便常常泡在北大图书馆，他在李大钊的引导下，大量阅读介绍马克思主义的书籍，历经流亡失落的他重拾信心，正式踏上了政治舞台。

1920年，共产主义小组在北京组建。李大钊为书记，张国焘负责组织工作，主要是指导工人运动。李大钊从他每个月140元的工资当中拿出80元，作为北京支部的活动经费，在他的指导下，北京共产党的工作开展得有声有色，其中最显著的要数张国焘负责的长辛店工人运动。

长辛店距北京城21公里，京汉铁路北段的修车厂设在这里，有工人3000余名。张国焘经过调查，决定在长辛店创办劳动补习学校，让工人及其子女接受教育，这是发动工人运动的最佳方式。

开办学校是需要经费的，张国焘不愿再向李大钊开口，于是将当年家中邮寄给他的一年生活费300块钱捐出来。支部的同志都尽力捐款，此后这项制度逐渐沿袭下来，最终成为中共党费的来源。