林彪指挥部队从东北一路打到海南岛，卸了国民党的“四梁八柱”；平津战役后，第四野战军继续南下。

“四野”进行了思想教育工作，克服“居功自傲”、“无组织无纪律”等现象，为大军南下作准备。1949年4月11日，四野主力陆续南下。首先的作战任务是攻下安阳，安阳位于河南北部，国军残部盘踞在安阳、新乡，挡住南下道路。攻取安阳由四野的四十二军负责，朱德对四十二军军长吴瑞林说，安阳城防坚固，至少要带五六千发炮弹，一万公斤炸药，千万不要轻敌。吴瑞林到安阳附近了解情况，决定先包围后歼灭，强攻安阳。4月16日，四十二军到达安阳；到17日，包围了安阳。安阳城防工事坚固，城墙高10米，上宽5米，下宽15米，城墙外是宽10米的外壕，壕外是护城河，水深3米，河底布满竹签；城池周围修筑了200多个碉堡，有明堡、有暗堡。吴瑞林不得不庆幸朱德让他多带炮弹炸药；解放军用大炮轰炸了20多分钟，战士们攻克了外围据点。为了减少伤亡，决定挖坑道，用炸药炸开城墙。发现西城墙有道裂缝，就对准那里挖；挖了三天两夜，挖到距护城河10米，在那里安置了1000公斤炸药。一声巨响，砖土落在护城河里，填平了10米长，成为条道路；其他暗堡也被炸飞。5月6日，炸开城墙后，部队冲入城中；经过12小时激战，歼灭国军两个军1.6万人，解放了安阳。四十七军负责攻打新乡；四十七军炮兵团副团长冉影想起和新乡守将李辰熙是表兄弟，报告给林彪后，林彪召见了冉影，派冉影去说服李辰熙投降。李辰熙和冉影说了番，决定投诚；李辰熙率1.7万多人投诚，所部编为两个师。

四野先遣兵团南下，逼近武汉；白崇禧一心保存实力，将精锐第七军和四十八军撤回江南；张轸十九兵团起义，白崇禧得知后，攻击张轸部，双方混战，解放军援助张轸，白崇禧南撤。长江以北被四野攻占；守长江的国军一部起义，四野渡过长江，占领武汉。

林彪发起了沙宜战役、湘赣战役；沙宜战役，沙指“沙市”，宜指“宜昌”，原准备包围歼灭宋希濂部，被宋希濂发觉，率部逃了回去。1949年7月8日，湘赣战役打响；四野扑向高安，发现是空城，白崇禧早撤退了。林彪又派军攻打上高，打算和白崇禧主力决战；到了上高后，又扑了空，白崇禧撤退了。林彪感到很郁闷，小看白崇禧了。

此时，桂系部队撤到衡阳一线布防，长沙和湖南北部由陈明仁负责。陈明仁在东北四平立了大功，却被撤职；到后来，国民党屡战屡败，白崇禧邀请陈明仁到他的部队里，陈明仁就到白崇禧那里，担任“华中剿总副司令、武汉警备司令、十九军军长”；之后，白崇禧又让陈明仁任“第一兵团司令”。陈明仁上任后，表面上说要与中共大战，实际想投向中共；释放了进步学生和政治犯，与主张和平的程潜联络。陈明仁向白崇禧提出，自己到湖南去。“桂系”和程潜是宿敌，白崇禧希望陈明仁到湖南监视程潜，同时和中共大战，保住湖南，至少可以作为广西的屏障；就将第一兵团调到湖南。程潜是国民党元老，早年追随孙中山，后来被蒋介石夺权、缴械遣散；程潜投靠了武汉国民政府，逼蒋下野；蒋介石复出后，联合桂系，打败程潜。李宗仁将程潜拘禁，程潜的部队被蒋介石消灭。1948年，蒋介石让程潜回湖南任“省主席”；程潜决定投向中共，和中共联络。陈明仁到湖南后，拜访程潜，出示了蒋介石让他监视程潜的“密令”。程潜任“讲武学校”校长时，陈明仁就读，两人有很深的师生之谊。

白崇禧退到长沙后，将程潜的三一四师骗入埋伏，缴了械，夺了程潜的军权，将程潜架空。这样，反而导致程潜加快向中共靠拢。经过中共活动，1949年8月4日，程潜、陈明仁通电起义。白崇禧得知程潜陈明仁投向中共后，派飞机往长沙抛撒传单；同时任命黄杰为“第一兵团司令”，重组第一兵团。白崇禧在传单上写着，“共产党假和平、程潜陈明仁已被中共拘禁、林彪就要打过来、一兵团赶快往衡阳跑”。那些传单威力很大，第一兵团人心惶惶；陈明仁控制不了部队，请林彪出兵弹压；但大部分逃走了。之后，程潜、陈明仁参加了开国大典，1955年授予陈明仁“上将”军衔。

四野另一部发起“赣南战役”，解放了江西。南下部队进入江西，远远望见井冈山，都百感交集：毛主席当年就是在井冈山上和国民党反动派打游击。接下来的任务就是剿匪，江西的土匪有五十多股、一万多人。经过战斗，基本肃清了江西的土匪。不久，又发起“衡宝战役”，歼灭桂系主力4个师，2.9万人。

解放军突破长江防线，占领南京后，国民政府迁到广州，宣布广州为“新都”。陈赓兵团南下，攻取广州，解放了广东；歼灭余汉谋部6.2万人。衡宝战役后，白崇禧退回广西，整顿兵马，准备和林彪大战。解放军三面包围广西，1949年12月4日攻下南宁。白崇禧逃往海南，蒋介石骗白崇禧当“行政院长”，白崇禧到了台湾。蒋介石是怕白崇禧和李宗仁合在一起反对他，白崇禧到台湾后才明白蒋介石是骗他，后悔万分。白崇禧到海南后，广西剩余的国军残部准备经钦州去越南；林彪派军追击，国军残部不堪一击，大部分被俘虏。解放军攻陷钦州后，国军知道退往海南的道路被堵死，溃散了。解放军为防止残敌逃出国境，就向镇南关急行军；经过激战，占领镇南关。到1949年12月14日，桂系除2万人逃往越南，其他悉数被歼灭；广西全境解放。

林彪等人从衡阳回到武汉，下一步考虑解放海南、以及剿匪。广西土匪遍地，多如牛毛；尤其是土匪的老巢瑶山。毛泽东派四野政治部副主任陶铸去广西帮助指挥剿匪，经过艰苦的战斗，基本剿灭了广西的土匪。