1935年9月俄界会议后，张国焘仍坚持其错误主张，率部南下。他在9月中旬主持召开的阿坝会议上，污蔑党中央北上抗日的正确方针是“右倾逃跑主义”，并且对维护中央正确方针的朱德等人进行围攻。10月5日，张国焘在卓木碉非法作出《关于成立第二中央的组织决议》，宣布成立“中共中央”、“中央政府”、“中央军委”和“总司令部”，自任伪中央“主席”。12月5日，张国焘致电党中央，狂妄地宣称：1．此间用中央、中共中央、中央政府、中央军委、总司令部等名义对外发表文件，并和你们发生关系。2．你们应称北方局、陕甘政府和北路军，不得再冒用党中央名义。3．一、四方面军名义已取消。4．你们应将北方局、北路军和政权组织报来，以便批准。至此，张国焘的右倾分裂主义已达到登峰造极的地步。
党中央率领陕甘支队于1935年10月19日胜利到达陕北吴起镇，和陕北红军一起，粉碎了敌人的第三次“围剿”，巩固和扩大了陕北根据地。党中央为了团结四方面军共同北上，也为了教育和挽救张国焘本人，于1936年1月22日作出了《关于张国焘同志成立第二“中央”的决定》，指出：张国焘“成立第二党的倾向，无异于自绝于党，自绝于中国革命。”责令张国焘“立刻取消他的一切‘中央’，放弃一切反党的倾向”，同时决定向全党公布俄界会议《关于张国焘同志的错误的决定》。1936年1月24日，张浩代表共产国际致电张国焘，说明“共产国际完全同意中国党中央的政治路线”，令其取消第二中央，“可即成立西南局，直属代表团”。张国焘被迫表示“原则同意”党中央的路线。
由于共产国际代表张浩和党中央的坚决反对，由于朱德、刘伯承等同张国焘的坚决斗争，加上1936年2月四方面军在天全、芦山、宝兴地区作战失败，部队由8万多人减至4万多人，张国焘在走投无路的情况下，才被迫于6月6日取消伪“中央”，成立西北局。7月27日，中央正式批准成立西北局，由张国焘任书记，任弼时任副书记。
当1936年7月初，二、六军团(与四方面军会师后改称红二方面军)与四方面军在甘孜会师后，张国焘又极力拉拢与欺骗二方面军干部，支持他的反党行为，遭到二方面军领导人任弼时、贺龙、关向应等的反对。张国焘在甘孜会议上表示同意二、四方面军共同北上，随后又主张西进青海。由于朱德、任弼时等人的斗争，张国焘又被迫同意北上。10月8日，红军三大主力——一、二、四方面军终于在甘肃会宁地区会师，完成了具有伟大历史意义的长征。
鉴于张国焘在一、四方面军会合后的一系列错误，从1937年1月在中央内部，开始了对张国焘错误的批判。张国焘在1937年2月6日不得不向党中央作了《从现在来看过去》的书面检讨，勉强承认自己“在政治上是原则性的错误，组织上是组织路线的错误。”1937年2月27日，凯丰发表了《党中央与国焘路线分歧在那里》一文，全面系统剖析了一、四方面军会合后张国焘在政治形势、军事战略、红军和苏维埃建设等十几个问题上的错误，指出：“国焘路线的性质是苏维埃运动中一种特殊形式的右倾机会主义和军阀土匪主义。”可是张国焘本人却不肯认真检查承认错误。凯丰的文章为延安会议全面清算张国焘的错误作了重要的准备。1937年3月间，西路军惨痛失败的消息传来，引起包括红四方面军在内的党内军内同志对张国焘右倾分裂主义错误的强烈愤慨。
为了确定党在抗日民族统一战线新形势下的新任务，系统地揭发和批判张国焘右倾分裂主义错误，1937年3月23日至31日，中共中央在延安召开政治局扩大会议。出席会议的有：毛泽东、张闻天、博古、朱德、张国焘、凯丰、林伯渠、林彪、彭德怀、任弼时、贺龙、董必武、罗荣桓、廖承志、徐特立、肖劲光、胡耀邦等56人。