淮海战役是1948年11月6日开始的，一直到1949年1月10日，共计历时66天。

在山东南部，有一座城市叫郯城，该城与邳县和海州相邻，距离新安镇25公里，既是连接山东与华中的南北交通的要点，也是华野南下的必经之地。

淮海战役前，驻防郯城的是王洪九的山东保安一旅，共计3000余人，该旅归黄百韬7兵团指挥。

1948年11月6日傍晚，鲁中南纵队1.4万人突然行动，包围了郯城，经过一天一夜的激战，于8日拂晓，全歼保一旅，俘虏了王洪九。

所以，6日傍晚时分开始的郯城之战，鲁中南纵队打响了淮海战役的第一枪，郯城的攻克，为华野大军南下打通了道路。

鲁中南纵队是1948年7月时，由鲁中南军区基干团改组为为华野鲁中南纵队。

1948年10月，济南战役结束后不久，全纵队整编为2个师6个团，分别是46师、47师，各自下辖了3个团，全纵队共计1.4万人，在整个华东野战军序列，鲁中南纵队的人数仅仅比特纵和两广纵队多，排行倒数第三。

1949年2月时，鲁中南纵队与吴化文的部队合编为35军，下辖第103、第104、第105师，每个个师下辖3个团，其中2个团是原鲁中南纵队的，1个团是原吴化文部队的，35军隶属于华野7兵团。

本来吴化文和鲁中南纵队的战士们有仇，合编命令下来后，很多指战员都不理解，抗拒情绪很大，后来是陈老总亲自做工作，加上吴化文当众承认错误，这次顺利完成整编。

在渡江战役中，35军划归8兵团，其运气非常好，解放了南京，第一个将红旗在南京总统府上面升起，这是非常光荣的。

1949年9月，35军下辖的3个师，103师、104师、105师拨归浙江军区建制，分别兼任衢州军分区、绍兴军分区和杭州警备区。

1950年1月，由于35军下面已经没有部队了，第35军番号撤销，军部及军属炮兵团拨归华东军区海军。