1927年八一南昌起义,起义部队组建为3个军,总计约2.3万人。

叶挺的第11军,叶挺任师长的第24师5500人,周士第任师长的第25师2个团3000余人,蔡廷锴的第10师4500人,总计13000多人。

贺龙的第20军3个师1万多人,有7500人参加了起义。
朱德担任副军长的第9军,由滇军军官教导团、南昌市公安局2个保安队、武汉工人纠察队等组成,2000多人。

1927年8月3日起义军南下,计划到广东省发展革命力量,在那里建立根据地,获得苏联海运武器援助。
起义军南下不久,蔡廷锴带领第10师脱离起义军。后来,第20军第1师第5团叛逃。起义军南下广东行军1个多月,与国民党军进行了多次战斗,部队也伤亡数千人。9月下旬,起义军攻占广东省潮安县,此时仅剩下1万余人。

1927年9月20日,起义军进行了分兵。朱德率领第11军周士第25师和第9军,共约3000多人在三河坝阻击敌人追兵。第20军第3师近2000人驻守潮汕地区。主力部队第11军24师和第20军第1师、第2师共6500人南下与敌军作战。
10月1日至3日,朱德和第9军党代表朱克靖、第25师师长周士第指挥三河坝阻击战。10月4日凌晨,阻击部队约2000余人撤出战斗,向潮汕地区前进。此时传来起义军主力南下失败消息。10月5日,在饶平县与第20军第3师一部会合,各个编制部队共约2200人。

朱德成为剩余部队最高领导人,他在饶平茂芝全德学校召开干部会议,作出了”隐蔽北上,穿山西进,直奔湘南”的战略决策,决定到湘南地区去发展革命力量。
南昌起义军余部跨过闽赣边界,边打边走向湘南行军。这支部队饥寒交迫,被失败情绪所笼罩,沿途许多官兵不辞而别,有时一个排、一个连离队。
10月21日,起义部队抵达江西安远县天心圩,只剩下1000多人。三河坝战斗后,朱克靖与部队失去联系。周士第辗转去了香港,后来参加了邓演达领导的黄埔革命同学会。
团级以上干部除了朱德,只剩下第73团政治指导员陈毅、第74团参谋长王尔琢。为保存革命火种,朱德领导下对部队进行了三次整顿、整编和整训。

一、天心圩整顿思想
10月下旬,朱德在天心圩召开军人大会。他告诉大家南昌起义失败了,要革命的跟着他走,不革命的可以回家。他还分析了革命形势,告诉大家苏联1917年10月革命之前,也经历过1905年革命失败。中国革命现在失败了,只要保存实力,以后也会像10月革命一样成功。
陈毅在会上也讲了话,他支持朱德的观点,说南昌起义是失败了,以后中国革命还是会成功。

二、大余整顿制度
1927年10月底,在赣粤边大余地区部队又一次进行整顿。此时又有一批官兵离开队伍,只剩下八九百人。
朱德领导下部队进行了整编,采用国民革命军第五纵队番号。部队战斗序列如下:
司令:朱德元帅。
指导员:陈毅元帅。
参谋长:王尔琢,1929年牺牲。
第一支队支队长:周子昆,1938年失踪。
第一支队指导员:蔡协民,1934年牺牲。
第1连连长:龚楷,1930年牺牲。
第2连连长:林彪元帅。
第3连连长:夏瑞林,1929年牺牲。
第二支队支队长:李奇中,1929年脱离党组织。
第二支队副支队长:周炳星,1935年3月牺牲。
第二支队指导员:杜松柏,后来叛逃。
第5连连长:耿凯,后来牺牲。
第5连指导员:粟裕大将。
第6连连长:杨至成上将。
第三支队支队长:李天柱,1935年6月在江西寻邬战斗中牺牲。
第三支队指导员:毛泽覃,1935年牺牲,毛主席三弟。
第9连连长:不详。
第10连连长:陈道明,后来牺牲。
机炮大队大队长:何笃才,后来被错杀。
特务大队大队长:萧劲,1928年牺牲。
教导大队大队长:李奇中,1929年脱离组织。
教导大队副大队长:蒙九龄,1928年牺牲。
教导大队指导员:赵尔陆上将。
陈毅领导下,部队中的党团员重新登记。通过调整,起义军每10人中就有了1名党员,各级组织都有党团员。

三、上堡整纪整训
11月初,朱德在赣南崇义县上堡地区对部队进行整训,主要是整顿纪律和整训部队。
朱德和陈毅整顿下,旧军队中的不良制度和作风得到纠正,规定了一些军事指挥和日常行为的要求。
朱德带下,部队开展了游击战术军事训练,部队编写了新的训练教材,提出了一些战术原则。经过20天整训,部队指战员学习了山区作战方法,由正规战向游击战转变。
朱德通过赣南三整,对起义部队进行了全面改造,部队面貌焕然一新。
1928年2月,朱德领导发动了粤北湘南起义,武装起义遍及湘南大地。1928年3月上旬,湘南起义受军阀围剿遭受挫折。

1928年4月底,湘南起义部队1万余人撤离湘南,到达江西砻市,与毛泽东领导的秋收起义部队会师。

南昌起义和秋收起义部队共同创建了中国工农红军第四军,这支部队后来发展出红一方面军。