1932年6月，蒋介石对中央苏区发动第四次“围剿”。这时，以王明为代表的“左”倾教条主义路线已统治全党。毛泽东的正确领导已被排斥，但是，毛泽东的军事思想在红军中有很深的影响，任弼时同周恩来、朱德一起，仍然主张按毛泽东的战略战术原则来对付敌人，胜利地粉碎了第四次“围剿”。
1934年10月，第五次反“围剿”失败，中央红军被迫实行战略大转移。1935年6月16日，毛泽东、周恩来等率领的中央红军和张国焘率领的红四方面军会合，中央决定两军主力向北进攻，先取甘肃南部，以创建川陕甘根据地，但张国焘不同意中央北上的战略决策，党内展开了激烈的斗争。张国焘最后公开搞分裂活动，另立中央。
由于通讯不便，领导红二方面军的任弼时、贺龙并不了解张国焘的反党阴谋。1936年7月，红二、四方面军在甘孜会合时，张国焘企图把红二方面军拉过去，共同反对中央。开始，张国焘故作热情，极力拉拢。但任弼时识破了他的心计，同他进行了针锋相对的斗争。
两军会合后，任弼时首先到当时受张国焘排挤的朱德那里，深夜长谈，较详细地了解了张国焘的罪恶行径，并坚决表示说：“我不同意张国焘那一套!”
张国焘依旧高傲自大，一意孤行。一次，张国焘派人送来一批文件，内有攻击党中央和红一方面军北上是“逃跑”，并指名道姓地诽谤毛泽东、周恩来、张闻天、博古等领导人的内容。
任弼时见状，立即指示：不准进行反中央的宣传，送来的材料一律不准下发。文件材料保留一份，其余的全部烧掉。他气愤地说：“张国焘，你要反党中央，反毛泽东，你算个什么党员，算什么老党员!”
在红二、四方面军的干部会上，张国焘又公开诋毁毛泽东。任弼时严厉地警告说：“我们二方面军的同志，很多是从井冈山来的。对毛主席是有感情的，你如果强迫他们反对毛主席，他们就要翻脸，他们是不认识你的!”
任弼时和朱德一方面严厉地批评张国焘的错误，同时又严肃而耐心地做他的思想工作。任弼时找红四方面军的领导干部谈心，宣传团结统一和北上抗日的重要意义，广大指战员逐渐觉悟，张国焘孤立了。最后，张国焘只得表示北上。