秋收起义失败后，队伍去向何处，当时领导层中有两种不同的意见。工农革命军第一军第一师师长余洒度认为，应该回去攻打长沙，毛主席则认为，敌人力量强大，不能硬碰，应该退到湘粤赣边境上去坚持农村斗争。

当时，警卫团团长卢德铭站在了毛主席这一边，起义部队被带上了井冈山。

现在我们说起上井冈山，都认为这是中国革命史上一个具有重要意义的历史时刻。但是，当时的人们却不这样认为。有人认为，秋收起义的目标就是攻打长沙，在湖南进行土地革命，长沙没有打下来，部队应该重整旗鼓，发动群众再次攻打才对，而不是把部队带向深山，这完全是“畏敌逃跑”，“军事投机”。

所以，在1927年11月的会议上，毛主席被撤销了政治局候补委员的职务。1928年3月初，湘南特委代表周鲁来到井冈山，误将撤销政治局候补委员的决定传达成了开除党籍，所幸后来很快证明这是谣传。

1929年春，中央又派遣刘安恭来到了红四军，这位特派员对红四军的一些原则性问题大发议论，指手画脚，批评红四军只从自己的局部利益出发，而不按照国际的指示办事。

在红四军召开的第七次代表大会上，毛主席落选前委书记，这是他第一次失去军权。他无奈地离开了前委，转去做地方工作。

过了一段时间，红四军作战不利，陈毅到中央汇报工作，周总理肯定了毛主席的建军思想和原则，毛主席于是重回部队，在古田会议上通过了著名的《古田会议决议》。

古田会议后，红军迎来了一段快速发展的时期，朱毛领导的红四军和彭德怀的第五军发展成了一个方面军，人数达到了3万多，并先后打破了蒋介石的三次“围剿”。

这个时候，从上海来的中央代表团来了，他们认为，三次反“围剿”的胜利，证明红军已经有足够的力量，所以应该贯彻中央的进攻精神，实现革命“在一省数省的首先胜利”。毛主席则认为，攻打城市没有获胜的可能，要把攻打中心城市“放在脑后”，甚至“放在屁股后”。

1931年11月的赣南会议上，有人将“诱敌深入、后发制人”的战略视为“游击主义的传统”、“保守主义”、“单纯防御路线”，将从实际出发的理念批评为“狭隘经验论”。会议上，毛主席的红军总政委职务被取消，这是他第二次失去对红军的领导权，带着警卫班到瑞金城郊的东华山古庙休养。

在这之后，红军浩浩荡荡地前去攻打赣州，围城33天，未能攻克，反而差一些被敌人包围。中革军委急电请毛主席暂停休养，赶赴前线参加决策，毛主席建议把红五军团拉上来，最终红三军团脱出险境。不久后，为了应对蒋介石的第四次“围剿”，毛主席被中革军委重新任命为红一方面军总政委。

1932年8月，红一方面军发起乐安宜黄战役，重创前来围剿的国民革命军。战役结束后，临时中央和苏区中央局命令红一方面继续北进，进攻国民革命军重兵防守的南城。毛主席等前线指挥员先后两次联名致电苏区中央局，表示在当前条件下无把握攻城，但遭到拒绝，回电要求他们必须执行进攻中心城市同敌军主力决战的“积极进攻路线”。双方争执不下。

最后，中央局要求部队暂停行动，要求在前方召开中央局全体会议，这就是著名的宁都会议。

宁都会议是赣南会议的扩大和升级。在宁都会议上，中央局一些成员，根据临时中央历次指示，批评前方“表现对革命胜利与红军力量估量不足”，指责对“夺取中心城市”方针的“消极怠工”，是“上山主义”，把“诱敌深入”方针，指责为“守株待兔”、“专去等待敌人进攻的右倾主要危险”。

会议通过的军事行动方针要求红军在敌军未完成合围前，主动出击夺取中心城市，争取革命在江西省首先胜利。尽管周恩来“坚持要毛同志在前方助理，或由毛同志负主持战争责任”，但会议最终“批准毛同志暂时请病假，必要时到前方”，实际上剥夺了毛主席的军权。

这次离开军队后，毛主席一直到遵义会议才正式重回军队的指挥岗位。