自从5月初，日军发起进攻后，除第31集团军始终在正面与来犯之敌进行激烈战斗外，第五战区战区所属郭忏的江防军第26军肖之楚部，与驻守大别山麓周围的部队也不断从侧面对敌人发起攻击，以牵制日军兵力，减轻汤恩伯所部的压力。
5月6日，第26军第41师丁治磐部，一举收复了京山西南的陆家鈭，13日，又收复了瓦庙和雁门口。
参加过南京保卫战，并死里逃生的丁治磐，从抗战全面爆发以来，参加过数次大型会战，屡立战功，后来升任第26军军长。
时任第26军41师师长丁治磐
另外，在大别山地区担任敌后游击任务的桂军廖磊第21集团军第7军，由军长张淦指挥，早于4月30日，即发动了攻势，其一部在围攻麻城的战斗中的，成功地突进北门。5月4日，又于红安以北的打油尖一带，包围并歼灭了一部日军。
战区第二游击纵队在傅光咸司令的指挥下，四处出击，成功破坏了大悟县至花园沿线的日军交通和通讯设施，给敌人的作战联络造成了很大困难。
随枣会战中，日军右翼第3师团第29旅团在重武器的掩护下，从信阳出发沿着北路全线突进，这一线国军兵力不多，以川军为主。
经过数日苦战，日军于12日占领了桐柏县。
此时，左翼日军已经占领距离桐柏县仅仅50公里的湖阳镇，右翼日军占领了桐柏，这样一来，冈村宁次计划的内层包围圈大体形成，只有桐柏山区这50公里距离，仍然还是一个缺口。
日军占领的桐柏县，地处桐柏山区腹地，日军占领这里后，虽然不能彻底封锁桐柏山区，但是，中国军队想在山区大规模撤退，也是比较困难的。
由于桐柏山区很难彻底封锁，日军还在进行外层包围圈的努力。
此时，左翼外层包围圈的日军骑兵第4旅团已经推进到了唐河，距离泌阳仅有25公里，而桐柏的日军也开始北上，桐柏县城距离泌阳也仅有25公里。
如果中国军队没有强力部队阻挡这两股日军，正常情况，只需要再过1日，两翼日军就可以完成合围。
此刻，两翼日军都在向泌阳急进，一旦这两路日军在这里汇合，那么，冈村宁次的外层和内层包围圈全部形成，就连一点点缺口也不存在了。
这样一来，不但汤恩伯第31集团军必遭歼灭，甚至，连包围圈中的桂军李品仙集团军、张自忠集团军和川军恐怕也是难逃一劫。
在此之前，第31集团军主力正在正面高城、合河地区和日军第3师团激烈交火。汤恩伯感觉到正面日军攻势虽然猛烈，但却似乎在逐步增强兵力。这一点，让他非常奇怪。
汤恩伯旧照 图片来自网络
汤恩伯（1900年9月—1954年6月29日 ），字克勤，浙江武义人。陆军二级上将，黄埔系骨干将领。
1926年，汤恩伯毕业于日本陆军士官学校。1928年，任新迁到南京的陆军军官学校第六期学生大队长。次年，改任教导第一旅旅长。
1930年中原大战中在豫东归德（今商丘市）作战， 因保护蒋介石的安全而深受赏识。1931年升任师长。
1933年，他奉命往福建讨伐李济深、蔡廷锴等所建立的人民政府。1934年夏，率部参加对中央革命根据地的第五次“围剿”， 进逼瑞金。1935年，任第13军军长兼陕北“剿匪” 善后办事处主任， 围攻延安等地的工农红军。
1937年，七七事变爆发后，汤恩伯指挥部队在南口地区抗击日军进攻，重创敌军，后担任第20军军团长。1938年3月，率部参加台儿庄会战。6月，任第31集团军总司令。
由于汤恩伯是日本陆军士官学校的毕业生，所以，对日军的一切战术都非常了解。
一般情况下，日军在进攻中， 从来都是讲究用尽全力，用雷霆一击之势，彻底击溃敌人的防线和士气。
在日俄战争中，日军不惜一切代价的猛烈进攻，最终伤亡高达8万多人，而俄军伤亡只有4万多人。
日军攻打旅顺要塞的冲锋非常猛烈，以28个连队使用舟波性的攻击，每隔15分钟冲锋一次。结果，短时间内，日军就死伤5万多人，甚至一天就伤亡5000多人。
当副官上报给总参谋长儿玉源太郎时候，儿玉源太郎居然认为副官搞错了，把伤亡人数多加了一个零。
这一次，汤恩伯觉得日军似乎没有一次性使用所有兵力进攻，奇怪的是，既然有足够兵力，为什么不一开始就全面进攻呢?
就在这个时候，他突然接到日军从桐柏、枣阳以及新野、唐河作双重包围随县一线的情况，汤恩伯大吃一惊。
千钧一发，若是稍有迟疑，后患无穷，汤恩伯立即上报李宗仁，要求第31集团军主力立即北上撤退，突破日军包围圈以后，再南下进攻。
随枣会战中，坚守阵地的第31集团军官兵 图片来自网络
但是，李宗仁居然不同意，他要求汤恩伯主力留在桐柏山区固守，只要坚持二到三周，日军自然会退兵。
到了9日，汤恩伯得到情报，在他东北面仅仅20公里处的桐柏县，已经遭到日军第3师团29旅团的全线进攻，估计很快就会失守。
汤大吃一惊，仔细察看地图，他终于发现，日军的主攻目的就是它的31集团军，而且，试图将其包围歼灭。
汤一面命令部队开始向北收缩，一面紧急向第五战区司令长官部求证。
程潜旧照 图片来自网络
此时，由于枣阳失陷，李宗仁与前线部队的联系暂时中断，形势万分危急。驻扎在西安，时任天水行营主任、北方战场最高长官的程潜主动接过令旗，他下了三道命令：
一，令第一战区司令长官卫立煌速调孙连仲第2集团军（池峰城第30军，刘汝明第68军）南下，支援第五战区作战。
二，令左，右两兵团司令立刻整饬部队死守阵地，不得再退，违即军法严惩。
三，令汤恩伯第31集团军迅速突围北撤，与孙连仲部会合，反击日军。
右翼兵团司令张自忠接到命令，立刻带领司令部人员渡过襄河，亲临前线督战。
之前，李宗仁向汤恩伯隐瞒日军发动随枣会战，就是为了歼灭31集团军的情报，也没有告知随枣整个局势。
程潜跟汤恩伯没有任何矛盾，毫不犹豫的将所有情况告知汤。当时，已经是10日，汤西撤路线的枣阳早在8日已经被日军占领，而10日当天，北撤的重要通道桐柏县城正在遭受日军的攻击。
汤听到程潜的情报以后，不觉勃然大怒，他立即命令第31集团军立即放弃随枣正面的缠斗，除留一部继续阻击日军外，其余各部全力向北突围。
当时，桐柏山区已经被日军占领一半，好在该山区地形极为复杂，还有约50公里的山区可以突围，日军一时来不及封死。
第31集团军兵力虽多，装备虽好，也没有什么重武器，全是轻装步兵，从山区突围，还是可能的。
但是，汤恩伯还是相当惊恐，因为日军正在外围进攻泌阳，一旦泌阳被占领，第31集团军就彻底被包围了。
所以，汤命令31集团军全军突围的同时，立即赶赴李宗仁的指挥部，问清楚情况。
汤和李在谷城的指挥部见面，汤恩伯怒火中烧，暂时勉强忍住，同李商讨下一步怎么办。
李宗仁毫不客气的命令汤恩伯，无需北撤到泌阳以北，只需要撤退到桐柏山区就行了。
对于李宗仁的这个命令，汤恩伯已经恨到了极点。他认为，李宗仁到了这个时候，还在不把他的第31集团军当回事，用整个集团军来冒险。
不错，桐柏山区地形复杂，确实可以放一些部队。但是，如果第31集团军把两个主力军全部放在桐柏山区，目标太大，也太过于危险。
偿若日军放弃合围，全力围剿、包围桐柏那么，第31集团军如果稍有不慎，就算不被日军打垮，也会被日军饿死，后来的中条山战役就是这样。
于是，汤恩伯要求第31集团军立即撤退，顶多留1个军在桐柏。但李宗仁却仍然坚持留在包围圈中继续作战。
两人商讨无效，汤恩伯便大发脾气，说：不行，不行，你不能胡乱拿我的部队来牺牲!
李宗仁回忆到：
我再耐心地向他解释说，你以桐柏山为后方，有什么危险?……不待我说完，恩伯便牛性大发，竟不听命令，拂袖而去。
李宗仁在回忆录中还说：
在任何战争中，当前线危急之时，部将不听主官约束而擅自行动，都是犯法的。可是抗战期中，所谓“嫡系”的“中央军”如胡宗南、汤恩伯等，皆习以为常。当时作战区司令长官的困难，也就可以想见了。
实际上，从客观来说，根据当时战场局势来说，汤恩伯的作为是合理的。
以同汤恩伯并肩作战的桂军第84军为例，他们早已已经接到李宗仁的撤退命令，此时，已全线北撤。
即就是这样，桂军第84军也被日军追击包围的很惨，该军有3个师，最早撤退的173师钟毅部撤退比较成功，沿途几乎没有和日军遭遇，从樊城成功退到河南境内。
但是，第174师和189师由于退的较迟，在日军追击下，都有不轻的伤亡。其中，第174师仅仅迟173师一步撤退，但就这一点，差点让他们全军覆没。
当他们退到唐县的时候，遭遇了日军骑兵和坦克的当面拦截，根本无法到达樊城，师部副官何伟豪被俘。该师只得转至三合店，想由此进入河南境内。
没想到，第174师到达三合店的时候，发现日军又已经占领了该地，两军发生遭遇战，该师以相当的伤亡，击溃这路日军，勉强突围而出。
第189师撤退的也够呛，当时，该师奉命驻守随县外围，担任右翼防守任务，与来犯日寇反复争夺每一座据点、每一条防线，连续坚守4天。
后来，日寇出动飞机向第189师阵地施放毒气，导致缺乏防毒面具的官兵们被大批熏倒。
战至8日，实在难以支撑，当晚8时，师长凌压西接到第84军军长覃连芳的命令，即率第189师全部脱离阵地，经环潭、唐县镇，沿襄花公路，火速撤往后方的樊城。
随后，第189师师部和第567旅到达襄花公路，与由厉山来追之敌遭遇，迫使其不能依照军部指定路线转进。
遂转向桐柏山出平化、唐河、赊旗镇、方城，再转博望、南阳、邓县、老河口回樊城集中，除在襄花公路与敌相遇作数小时的局部战斗外，沿途都很安全，无甚损失。
第189师师长凌压西对部队撤退时的混乱不堪，极度不满:
参战部队除第189师是奉命有计划地自动撤退之外，所有第173师的两个团和第174师的3个团，都是由战场溃败下来的，情形相当狼狈。
因此，全军不能集中作统一的行动，3个师分成三路转进。各师的团、营以下亦有因中途被敌击散而分数路退却的……
全军凌乱奔逃，一泻几百里，停脚点竟超过战区指挥部后方甚远。
由于分散突围，非常艰苦，一直对抗战动摇的桂军第189师副师长、第566旅旅长李宝琏就此投敌。
李宝琏是抗战爆发前夕加入桂军的东北籍将领，他出生于奉天盘山（今盘锦市盘山县），曾就读于日本陆军士官学校第20期，3年学成归来后，一直在东北讲武堂任步兵科教官。
1931年“九一八”事变后，东三省全境沦陷，其随军撤至关内，又到南京陆军步兵学校任教；1934年底，南下广西投靠桂系后，一直充当参谋之类的闲职。
1938年春，桂系先期投入抗日战场的部队损失惨重，其精锐第7军、第48军等部在淞沪会战中损失大半，后来，又在台儿庄等地迭遭血战，战力大损。
为了应对不断扩大的战争，桂系紧急从广西本省抽调部队，并以各县民团等地方武装为基础，大量扩建新军。
桂南地区的几个独立团也合并组成第189师，被调往湖北广济（今黄冈市武穴市）附近驻防，隶属刚刚成立的第84军。
不久，白崇禧以副参谋总长兼第五战区代理司令长官身份前来视察，对第84军其他部队均赞赏有加，唯独对第189师将领配备非常不满意。
他认为，这些临时抽调的民团首领或机关人员难以适应当前战争要求，遂将其副师长、参谋长等解职调回广西。
为了补齐缺额，正在第五战区总指挥部任高参的李宝琏，被任命为该师参谋长。大浪淘金，难免泥沙俱下，李宝琏在这种情况下，被任命为军事主官，不过是桂军迅速扩军时的应急之举。
此后仅1个月，第84军就投入武汉会战的激烈交锋中，协同兄弟部队在太湖、黄梅、宿松等地连续对日寇展开反攻，也根本无暇重新调配人手。
武汉失守后，第84军奉命转移至鄂西北随县附近，构筑工事准备迎击沿平汉铁路来犯之敌，保障大别山区安全，部队也得到了补充休整的机会。
由于前期作战损失惨重，军官缺额较大，李宝琏不仅未被撤换，还补了副师长的缺额，并兼任第566旅旅长，掌握了实权。
在随枣会战中，伤亡严重的第189师被迫撤退，准备绕道退至樊城（今湖北省襄阳市樊城区），与军部会合。其中，第566旅负责担任殿后掩护。
此时，李宝琏已经对抗日战争的前景悲观失望，萌生了率部投敌的念头。
早在其驻防随县期间，日军就派出一位与其在日本留学期间私交甚密的同学前去诱降，妄图不费吹灰之力拿下襄阳和樊城重镇。
不过，由于该师另一位旅长、同样曾留学日本的朱乃瑞坚决拒绝，李宝琏等人的阴谋才并未得逞。此番，李独自担任全军后卫，心中再无顾忌，开始频频与日寇密使接洽，商谈投降价码。
虽然李宝琏打定主意要投敌当汉奸，但其麾下的广西子弟兵却意志坚定、不为所动，他们见李宝琏与汉奸接触，并制降旗时，非常激愤，在两位团长谢振东、周天柱的率领下，将李抓捕关押。
途中，李宝链在上茅厕时候，不顾一切的跳入粪坑游走，勉强逃身，所部绕道至樊城归队。
其投靠日军后，立即与昔日在日本陆军士官学校的同窗联系上，得到了3000余国民党军俘虏和一部分枪支弹药，再加上收编的几十股大小土匪，组建了湖北绥靖军暂编第11师，但毕竟是一群临时拼凑的乌合之众，绝非桂系百战精锐可比。
桂军在抗战中，是投敌最少的军阀部队，可李宝琏是投敌军衔最高，因此，对桂军声誉影响很大。
第84军先退一步，尚且退得如此惨，更别说目前还被留在一线作战的汤部了。
第13军军长张轸旧照 图片来自网络
此刻，随枣一线正面仅仅留下第31集团军，而光是正面的日军第3师团就有4万多重兵，不用说，第31集团军相当危险。
汤恩伯回到一线以后，思索再三，认为现在一定要撤退，只要自己跳出日军包围圈，日军随枣会战全部部署就完全失败。
回头第31集团军完全可以再南下攻击，追击反攻日军，转败为胜，很显然，这是最有效，也是最正确的打法。
10日，汤恩伯果断决定，除了留下第13军军长张轸率第23师、独立第1、第2旅在桐柏山区进行游击外，其余的集团军主力以相互交替掩护的方法，向北经平氏、西新集之间的桐柏山区，全线撤退。
与此同时，汤恩伯紧急向蒋介石求援。
