新四军3师的发展历程相对而言复杂，根据革命形势发展，从山西转入冀鲁豫，转入豫东，再到苏北。

3师下辖7旅、8旅、10旅。

就在部队出发时，黄克诚领导的部队率领1.2万人南下，与豫皖苏边区彭雪枫部会合，上级让黄克诚部与彭雪枫部组建八路军4纵队，分别担任政委、司令，下辖2旅、3纵、4旅、6旅。

为何到1941年，上级要让9旅与10旅对调？

10旅在4师建制下，奉命展开反顽斗争。在几个月里，由于各方面因素，使得部队遭受不小损失。奉命撤回皖东北到后方休整。1941年9月，10旅与9旅对调，原因有几个方面，皖东北当时划归四师范围，而且9旅的部队就是从皖东北发展起来的，回到家乡打仗更有利。10旅需要休整补充，苏北兵员不少，能让部队短时间恢复。

当10旅划归3师后，黄克诚依然是这支部队老首长，也非常老家这支部队，他的前身就是红15军部队，红15军团是由25军和陕北红军组建而来，是一支战斗力强的老部队。

可当时，苏北开辟两个军分区，让10旅兼任淮海军分区，刘震担任旅长兼军分区司令，另一个军分区由洪学智担任。7旅和8旅作为机动部队。

10旅没有来苏北之前，9旅兼淮海军分区，作为10旅指战员有些不开心，表示：查查10旅家谱，从红军时期就是主力军，怎么变成地方部队，是因为在豫苏皖没打好吗？人家地方部队升级，我们反而降级。实际上，上级希望这支部队得到更快发展，主力地方化，恢复元气。

而且当时的形势，并不是说机动部队就是主力，地方化就是回头路，要坚持发展根据地，就要化下去。将来会有三个旅，甚至更多旅成长起来，战斗力也会加强。

事实上进入战略相持阶段后，各根据地主力都在地方化，旅长兼任军分区职务、地方职务都是普遍存在的。