1941年1月，日本第11军为了打通平汉铁路，同时解除中国军队对信阳日军的威胁，调集兵力，分为三路，向河南南部发起进攻；日本指挥官是园部和一郎。中国第五战区司令长官李宗仁指挥三个集团军，进行防御作战。这即“豫南会战”。

中国军队的战略是避实击虚，以少数兵力正面抗击，主力转向两翼，等日军兵力分散时，从两侧和后背围歼日军。1月25日，日军向遂平、舞阳、上蔡地区进攻。1月29日，日军遭到中国守军猛烈反击；1月30日，中路日军一部向上蔡增援，主力向舞阳迂回，企图与日军左翼军围歼舞阳的中国军队。但舞阳的中国军队已转移，日军扑了个空，日军合击计划落空。日军第三师团到了舞阳南部时，中国第十三军向其发起攻击，经过激烈战斗，击毙击伤日军3000多人，击毁日军坦克6辆。中国第八十五军攻击向上蔡进攻的日军第十七师团，击毙击伤日军1600多人。1月31日，日军改变部署，将中路的十七师团一部向两翼迂回，一部向上蔡右部迂回。与此同时，中国第二集团军向舞阳后方攻击，切断日军后方交通线。日军只得再次改变作战计划，留一部在舞阳，主力向镇平、南阳前进，企图夹击第二集团军，未能得逞。中国第十三军乘机反攻，收复了舞阳，向方城追击。2月4日，日军攻陷南阳；中国军队反击，2月6日收复南阳。中国第六十八军在象河关附近截击日军第十七师团，日军伤亡惨重，向信阳撤退，中国军队追击，战果可观。河南东部、安徽北部的日军，为了配合豫南作战，分路进兵，并以飞机轰炸郑州、洛阳、舞阳等地。2月11日，恢复为战前态势，“豫南会战”结束；共击毙击伤日军9000多人。此次会战，中国军队主力并没有和日军交锋，日军像游行一样转了一圈。

1941年3月，在江西爆发了“上高会战”；与其他会战不同，“上高会战”中国军队打赢了。百团大战后，日本从华中抽调两个师团增援华北方面军；驻防南昌的日军三十四师团长大贺茂向第十一军司令官园部和一郎建议，在三十三师团北调之前，歼灭南昌周围罗卓英等部，以减轻他守城的压力。日本从上海调来一个旅团，以增强三十三师团北调后南昌的守备；日军批准了大贺茂的要求，准备攻打南昌周围的中国军队。1941年3月15日凌晨，战斗打响；北路日军三十三师团向中国七十军进攻；南路日军第二十旅团，西渡赣江，占领曲江、独城等地；中路日军第三十四师团，向西突击，占领莲花山等地。3月17日，中国守军主动放弃高安；3月18日，日军三十四师团过了高安，占领龙团圩。日军进展顺利，情绪骄傲。中国七十军且战且退，向西北退去；日军三十三师团跟踪追击，遭到中国七十军、七十二军围攻；激战两天，第三十三师团伤亡巨大，突围返回奉新。南路的日军二十旅团，留下一个大队在曲江、泉港，主力向西突击；中国命令四十九军去歼灭日军留守的那个大队，激战了三天，歼灭其大半。中路的日军继续向西孤军冒进；第十九集团军总司令罗卓英下令：引诱日军到上高地区，然后围歼。中路日军三十四师团已陷入包围，但日军毫不察觉，仍想着歼灭罗卓英十九集团军主力。日军三十四师团采取锥形插入战术，用大炮十多门、飞机30多架，轰击泗水西岸中国阵地，双方激战。为了切断日军三十四师团后路，命李天霞部开进到高安；途中遭遇到日军第二十旅团，激战后，改变部署：李天霞部向左方转移。到3月23日中午，对三十四师团的包围已形成；罗卓英下令缩小包围圈。日军三十四师团被压缩包围在南北10里，东西30里的包围圈里。日军第三十四师团向十一军司令官求援；日本命令三十三师团和其他部队去接应三十四师团突围。三十三师团猛攻包围日军的中国军队张方传师阵地，接应三十四师团突围。中国军队腹背受敌，力战不胜，只得撤退；日军三十三师团和三十四师团会合，日军退去。3月26日，罗卓英考虑到增援的川军、东北军到了战场，中国兵力具优势，决定第二次包围，彻底歼灭三十四师团。3月27日，日军三十四师团狼狈逃窜，罗卓英下令歼灭日军。3月28日，中国军队阻击日军三十四师团，并与日军二十旅团大战。3月29日，中国军队全线追击日军，日军伤亡惨重。3月31日，中国军队收复了高安、奉新等地，日军龟缩回原阵地；“上高会战”结束。

1941年5月，日军向中条山发起进攻，“中条山战役”爆发，也就是“晋南会战”；“晋南会战”中国军队惨败。中条山位于山西南部，在黄河北岸；与吕梁山、太岳山成犄角之势，战略位置重要；随着山西各个关隘的失守，中条山更重要了。驻守中条山的是蒋介石中央军，日军曾十三次围攻中条山，都未得逞。这次，日军调集七个师团的兵力，包围进攻中国军队。1941年5月7日傍晚，日军分四路，进攻中条山地区。东路，日军向济源、孟县进犯；西路，日军从闻喜、夏县向张店镇进犯；北路，日军猛攻横垣大道；东北路，日军从阳城向董封镇攻击。东线中国守军节节败退，第十四集团军被日军包围。西线，是日军主攻方向；中国守军伤亡惨重，未能守住阵地。北线，日军猛烈进攻，中国军队惨败。东北线，曾多次打退日军，可最终还是失去阵地。经过几天激战，日军将中条山一分为二，中国军队互相不能救应，无法协调；只能被动抵抗。在中国守军全线败退时，日军以猛烈的炮火，强横的攻击力，突破了中条山全部防御阵地，占领了垣曲、济源、孟县、平陆等县城和关隘，封锁了黄河各个渡口；然后对中国守军阵地各个扫荡。中国守军向各地突围，中条山守军大部分退出中条山地区。中条山战役，中国军队被俘30000多人，战场遗弃尸体42000具，总伤亡超过10万。日军死亡673名，负伤2292名。日军此次战役是主力决战，可中国军队缺乏清醒认识，以为是场“扫荡”；之前，卫立煌是以二十六万大军与日军四个师团对峙，可此次会战，日军是七个师团，中国守军抽调部队到其他地方，主力第四集团军被调离，中条山守军下降到只有十七八万。日军在抗战期间，集中10万兵力的战役不多，中条山战役日军出动十万兵力。而且日本间谍、奸细早就混入中条山，潜伏暗藏。在中条山战役前，日军准备充分，兵精粮足；相反，中国军队却断粮，饿着肚子打仗。中条山战役是惨败了，蒋介石称之为“抗战史上最大之耻辱”。