1937年7月，日本悍然发动全面侵华战争，中华民族全民族抗战开始。
10月12日，赣、闽、粤、湘、鄂、豫、浙、皖等8省坚持游击战争的红军和游击队，被改编为国民革命军陆军新编第四军，叶挺任军长，项英任副军长。
相比国共两党关于八路军番号的斗争，新四军的番号就要简单的很多。
广州起义失败后，叶挺流亡国外， “九一八事变”后到澳门居住。“七七事变”后，叶挺结束流亡，回到国内。
“八一三事变”后，叶挺向蒋介石提出为了抵抗日本侵略，“让我来集合仍留在南方的红军和改编这些军队”的建议，并说改编后番号叫“新四军”。蒋介石接受了叶挺的建议, 新四军番号得到了国共两党的认可。
蒋介石认可“新四军”，是他任总司令的北伐军中有个第四军。
皖南事变发生之后，国民党内随即产生四派意见：
何应钦主张为叶挺另编一新四军；
白崇禧主张取消新四军番号；
徐永昌主张政治上与中共全面破裂；
王世杰、张治中、贺耀祖等则力主缓和。
最终，蒋介石采纳了白崇禧的意见。
毛泽东认可“新四军”, 是他创建人民军队的第一个军是红四军。
第一次国共合作北伐时，北伐的8个军中第四军共产党员最多、战斗力最强, 共产党员叶挺时任第四军直属独立团团长。1926年8月下旬，在进攻湖北重镇汀泗桥和贺胜桥的战役中，面对吴佩孚3万余精锐主力，叶挺独立团的2000多名将士勇猛血战，获得“铁军”之誉。
因慕铁军“独负盛名、战绩辉煌”，朱德、毛泽东井冈山会师后的第一支部队合编为“中国工农革命军第四军”，成为中共第一军。
叶挺之所以提议把红军游击队改编为新四军，就是希望继承“铁军”和红四军的优良传统。
毛泽东虽然认可“新四军”这个番号，但对叶挺改编南方红军、游击队却不是完全放心。因为此时的叶挺已不是共产党员，所以中共方面没有推荐叶挺为新四军军长的人选。
而对于中共方面推荐的其他人选，国民党方面则表示反对。
国民党方面随后提出，由陈诚或张发奎指挥“新四军”，中共方面不同意。
9月28日，蒋介石突然单方面委任叶挺为新四军军长。在他看来，叶挺在国外过了十年流亡生活，已脱离共产党且失去共产党的信任，想趁机把叶挺拉过去，进而通过叶挺把红军、游击队抓在自己手里。
中共没有立即同意叶挺就任新四军军长，因为叶挺长期寓居海外，虽然归国后见到周恩来时有一个表态，但对他的政治态度和立场还缺乏全面掌握，需要一个考察了解的过程。
在询问并得到叶挺愿意接受中国共产党的领导，并决定前往延安的承诺后，中共方面这才同意对叶挺的任命。
10月12日，国民政府军事委员会宣布，南方8省14个地区 (不含琼崖) 的红军和游击队，改编为国民革命军陆军新编第四军，军长叶挺、副军长项英。中共认可叶挺任新四军军长，同时决定成立以项英、陈毅为正副书记的军委新四军分会，以加强党对新四军的领导。
1937年12月25日，新四军军部在汉口成立。次年1月移驻南昌，2月部队开始集结整编。全军1.03万人，编为四个支队：第一支队司令员陈毅、第二支队司令员张鼎丞、第三支队司令员张云逸、第四支队司令员高敬亭。
整训后新四军即刻开赴华中敌后开展抗日游击战，创建华中多块抗日根据地，成为华中抗战的一支劲旅。
抗日战争进入相持阶段后，日本侵略者对国民党采取以政治诱降为主、军事打击为辅的方针。受此影响，国民党内部动摇分化。1938年12月，国民党副总裁汪精卫公开叛国投敌。蒋介石也一再限制、缩小新四军的活动范围，制造反共军事磨擦，最终导致皖南事变的发生。
1941年1月6日，从皖南云岭出发的新四军军部及直属部队9000余人行至泾县茂林地区时，突遭国民党军伏击。七昼夜血火，9000将士大半壮烈牺牲。军长叶挺被扣押，副军长项英、副参谋长周子昆突围后遇难，政治部主任袁国平牺牲。
叶挺怀揣蒋介石的委任状，但一直“白皮红心”，对共产党忠贞不渝。叶挺被扣押后，面对蒋介石的软硬兼施、威逼利诱，他信念不改，出狱后的第一个要求是重新入党，可惜后因飞机失事牺牲。
对国民党顽固派发动皖南事变、取消新四军番号最有力的回击，无疑就是新四军军部的迅速重建。
国民党取消新四军番号的第3天，即1941年1月20日，中共中央军委命令重建新四军军部，任命陈毅为国民革命军新编第四军代理军长，张云逸为副军长，刘少奇为政治委员，赖传珠为参谋长，邓子恢为政治部主任。
5天后，新四军军部在苏北重镇盐城游艺园重新建立。
皖南事变损失了7000余人，重建军部后壮大到9万余人，诞生了一大批如粟裕、张云逸、黄克诚、彭雪枫、李先念、谭振林、张鼎城、梁兴初等名将。
八年全面抗战，新四军同日伪军进行着激烈的浴血奋战，总共作战2.46万余次，比较著名的战斗有云岭保卫战、黄桥战役等，共歼敌47万余人（其中毙伤日伪军29.37万余名，俘日伪军12.42万余名，还有5.4万余名日伪军官兵投诚、反正），新四军也付出了重大的牺牲，共伤亡指战员8.2万人。
新四军在华中建立了地跨苏、浙、皖、豫、鄂五省的八块抗日民主根据地，先后光复国土25.3万平方公里，解放人口3420多万。新四军在华中坚决地、顽强地抗击日伪军，有力地挫败了日军“以华制华”、“以战养战”的计划，同时也牵制了日军对中国正面战场和太平洋战场的进攻。
1945年10月28日，新四军军部来到山东临沂。此后，新四军军部与山东军区合并，成立新四军兼山东军区。1947年1月21日，新四军兼山东军区和华中军区合并为华东军区，山东野战军和华中野战军合编为华东野战军，新四军番号最终被取消。
