1947年6月下旬，蒋介石调集11个整编师32个旅近30万兵力再次向沂蒙山区进犯，妄图和华野在鲁中一带决战。为了粉碎敌人的图谋并策应刘邓大军主力挺进大别山，西柏坡要求华野多路出击，将国军牵制在山东战场，以减轻中野挺进大别山的压力。根据这个要求，华野在7月进行了分兵。

具体部署为：叶飞、陶勇率领1纵和4纵组成左路兵团，越过临蒙公路后向鲁南挺进；陈士榘、唐亮率领第3、第8和第9三个纵队组成右路兵团直插鲁西，攻击泰安、曲阜；陈毅和粟裕率领第2、第6、第7和第9四个纵队外加特种兵纵队一部留在内线寻找战机。

分兵之初，左路兵团和右路兵团都取得了不小的进展。叶飞和陶勇率部在费县歼敌6000余人，并乘胜收复了峄县和枣庄；陈士榘唐亮率部攻克了泰安和大汶口，率部向宁阳、曲阜前进。华野的左路兵团和右路兵团攻势迅猛，对兖州和徐州构成了直接威胁。

为了确保兖州和徐州这两个战略要地，蒋介石从鲁中前线抽调了七个整编师回援。这样一来，留在鲁中的国军部队就只剩下四个整编师了，分别是王凌云的整编第9师、胡琏的整编第11师、黄百韬的整编第25师和黄国梁的整编第64师。而且这四个整编师彼此并未靠拢，这就给粟裕各个击破提供了机会。

粟裕决心拿黄百韬的整编第25师开刀。孟良崮战役期间，黄百韬拼命救援张灵甫，差点让粟裕的歼敌计划功亏一篑。这次有了机会，粟裕决心吃掉这个老对手。而且黄百韬是杂牌出身的将领，国军又有见死不救的陋习，他若被华野围攻的话，其他国军将领大概率是不会救援的。

黄百韬率领的整编第25师虽然有一定的战斗力，但毕竟是杂牌部队，武器装备主要以日械为主。粟裕手握四个纵队的兵力，只要能将黄百韬围住，就可以吃掉他。不料黄百韬的警惕性极高，粟裕的攻击部署刚刚展开，他便率部和黄国梁聚拢到了一起。此时如果仍要强攻的话，华野4个纵队很难吃掉敌人两个整编师。

无奈之下，粟裕只得重新寻找作战目标。此时国军在鲁中一带还有另外两个整编师，王凌云的整编第9师距离较远，华野打他需要长途奔袭，作战计划容易暴露；胡琏的整编第11师驻在南麻，和华野部队集结地沂水县很近。而且整编第11师态势孤立，和其他三个整编师有着几天的路程，这就给华野歼敌提供了时间。

但胡琏的整编第11师并不好打，他也是国军五大主力之一，全副美械装备，战斗力极强。胡琏进驻南麻之后，就意识到了自己处境不妙，为了自保，他下令部队修建了密密麻麻的防御工事，并扫清了射界。孟良崮战役的时候，粟裕集中了华野全力，其中四个纵队阻援，5个纵队攻坚，这才吃掉了张灵甫。

现在粟裕手中只有四个纵队的兵力，如果攻击胡琏的话，至少要安排一个纵队阻援，这样一来，攻坚的就只有三个纵队了。要靠三个纵队吃掉有牢固防御工事的整编第11师，难度不小。华野成立后，先后取得了宿北战役、莱芜战役和孟良崮战役等战役战斗的胜利，连战连捷，一些指战员因此产生了乐观和骄傲的心理。

在这种情绪的驱使下，一些纵队司令开始主动请战，并得到了华野一些大佬的支持。虽然粟裕认为此时要强攻有牢固防御工事的整编第11师，自己手中的兵力有点薄弱。但在胜利情绪的鼓舞下，再加上众人的积极请战，因此最终下定了南麻战役的决心。1947年7月17日，南麻战役正式打响。

粟裕以第2、第6和第9三个纵队进攻南麻，7纵在地方部队的配合下负责阻援。战斗打响后不久，本来晴空万里的天空突然下了瓢泼大雨，而且越下越大。在泥泞的道路上，华野的炮车根本上不来，一些炸药包也因为受潮失效。没了炮火的支援，华野进攻部队在攻打敌军的子母堡时遇到了很大的阻击。

经过三天三夜的苦战，2纵、6纵和9纵终于逼近了敌人的核心阵地。眼看自己就要步张灵甫的后尘，胡琏心急如麻，一个劲地向蒋介石求援。胡琏是蒋介石的嫡系爱将，整编第11师也是国军五大主力之一，如果再被消灭的话，国军的士气将受到沉重的打击。

为了避免这种状况的出现，蒋介石严令各部迅速向南麻增援。这次又是黄百韬最卖力，他率部昼夜兼程，一路冲破7纵的阻拦，出现在了华野攻击部队的后方。为了避免陷入被敌人前后夹击的险境，粟裕只得下令撤退。之后华野又在临朐围攻李弥的整编第8师，结果也没打好。

南麻临朐战役，华野歼敌一万多，自身伤亡两万多，得不偿失，而且战役目标也未能实现。与此同时，叶飞陶勇进攻滕县失利，陈士榘唐亮进攻汶上和济宁失利，短时间内，华野等于连打了5场败仗。这下不少人都有了意见，并把矛头对准了粟裕。在华东局召开的会议上，粟裕做了深刻的自我批评，并主动承担了战役失利的责任。

按理来说，滕县、汶上和济宁这三场败仗，都不是粟裕指挥的，他也不用为此负责，但粟裕还是主动承担了责任。虽然如此，不少人还是对他提出了批评，谭老板更是在会议上直言：“粟裕同志缺乏大局意识，缺乏远见，急于打大仗，打大胜仗，往往在战略上只看出去一步两步，轻敌躁进，盲目乐观，我们现在不得不对你进行帮助！”

陈毅也对华野近期的表现不满，说七月打了8仗，输了5仗。在这种情况下，一些人上纲上线，提出了对粟裕进行处分的建议。华东局常委张鼎丞对此很不赞同，他说：“仗没有打好，几仗下来减员5万，这是事实。但7月分兵是否太仓促了一些？导致我们兵力分散。既然7月分兵是集体决定的，集体也是否应该承担一部分责任呢？粟裕同志的检讨，我认为很好。但板子不能光打在他一个人的身上！”

张云逸随后发言，他说道：“仗打输了，指挥员有责任，但要因此就处分粟裕同志，我认为是瞎胡闹。我没有见过东北局、中原局、华北局因为仗打输了，就去处分林刘聂……。”因为张鼎丞和张云逸等同志的不同意见，会议未能形成决议。只是在会后将会议纪录原文发送中央，请求中央定夺。

毛主席对粟裕十分了解，也极为欣赏，他认为南麻临朐战役的失利有一定的客观因素，不能把责任都归结到粟裕一人身上。因此他很快就回电说“华东局并转粟裕同志：几仗未打好并不要紧，整个形势仍是好的。请安心工作，鼓励士气，以利再战！”看完毛主席的回电后，陈毅当日即原文转发给粟裕，并另附一份电文：最近几仗，事前我也无预见。事中亦无匡救，事后应共同负责，故力取教训以便再战！

陈毅的这份电文等于和粟裕一起承担了南麻临朐战役失利的责任。此时华东局的饶书记也给粟裕去电说：20年革命战争中，你对党、对人民贡献很大。近两月来的战斗，虽未能如五月以前那样伟大胜利，却给敌以强大杀伤。近月来伤亡较大，主观上可能有些缺点，但也有客观原因。只要善于研究经验定能取得更大的胜利。自74师歼灭后，你头晕病，久未痊愈，我们甚为怀念，望珍重。

饶书记对粟裕也极为赏识和支持，不仅没有因为南麻临朐战役的失利对他进行批评，还对他进行了宽慰，并挂念他的头疼病。这几位大佬表态后，再没有人要求对粟裕进行处分了。之后粟裕越打越好，先后取得了豫东战役和济南战役的胜利，并在淮海决战中以60万大破国军80万，创造了战争史的一个奇迹，1955年被授予大将军衔。