抗日战争全面爆发后，日军沿津浦路南下，直逼山东。手握十万重兵的韩复榘不战而逃，将山东拱手让给了日寇。日军占领山东后，烧杀抢掠，无恶不作，沦陷区的百姓生活在水深火热之中。以黎玉为首的山东省委积极活动，领导了包括徂徕山在内的多个武装起义，组建起了抗日武装。

当时山东境内的日伪军有十万之众，单靠黎玉领导的地方武装要想在日伪军的重重围困下有一番作为难度很大。1938年4月，黎玉来到延安向毛主席汇报工作，请求八路军派干部和一个主力团去山东，以打开山东抗战的局面。毛主席同意了黎玉的请求，并对他说：“一个团太小家子气了，给你们派两支主力部队去，敌人就不敢再叫你们土八路了！”

不久后由萧华领导的八路军东进抗日挺进纵队和由罗荣桓、陈光率领的苏鲁豫抗日支队先后挺进山东，与张经武、黎玉领导的山东纵队一起构成了八路军在山东境内的主要抗日武装力量。115师主力进入山东极大鼓舞了当地军民抗战必胜的信心，但问题也接踵而来。

当时115师和山东纵队都受八路军总部的指挥指挥，两者是平级的关系，彼此都不能给对方下命令，这对集中兵力和日伪军作战是很不利的。为了解决这个问题，就必须要有一个人来掌舵，统一指挥这两支部队和敌人作斗争。当时山东纵队的总指挥是张经武，红军时期他虽然担任过师长，但很长一段时间从事的都是参谋长的工作，由他来掌舵显然是不合适的。

115师代师长陈光资历深，指挥打仗也是一把好手，但他性子太烈，不擅长协调和处理各方面的关系，因此也不适合当这个掌舵人。黎玉虽然长期在山东工作，但很少负责军事指挥，因此也被排除在外。这样一来，合适的人选就剩下一个罗荣桓了，但他长期从事政工工作，缺少指挥大部队作战的经验。

经过仔细考量后，毛主席决定将徐向前派往山东坐镇。1939年8月初，八路军第一纵队成立，徐向前为司令，朱瑞为政委，统一指挥山东境内的抗日武装。几天后，山东军政委员会成立，朱瑞担任书记，徐向前、郭洪涛、陈光、罗荣桓和黎玉为委员。4个月后，山东分局成立，郭洪涛任书记，徐向前、朱瑞、罗荣桓、黎玉、张经武、陈光和彭雪枫为委员。后来郭洪涛调回延安工作，朱瑞接任山东分局书记。

徐向前上任后，凭借着深厚的资历、威望和卓越的军事指挥才能，迅速成了山东八路军的掌舵人。在他的领导下，八路军第一纵队多次和日伪军血战，取得了不俗的战果。1940年6月，徐向前回延安参加“七大”，在一次骑马时意外受伤，由于伤势较重，不得不入院治疗，短期内无法再回山东。

这样一来，时任山东分局书记兼山东军政委员会书记的朱瑞在组织名义上成为了山东八路军的掌舵人。早期的时候，朱瑞曾在苏联学习过炮兵技术，1930年回国后担任红军总司令部科长、红军学校教员等职，后来还担任过红3军的政委和红5军团的政委。历史上他和115师并没有太多渊源，加上缺乏直接指挥大部队作战的经历，因此他要真正领导115师是有困难的。

而且在两支部队上，他也没有做到一碗水端平，对115师的批评很多，这就导致和陈光之间矛盾不断，偏偏在此时又发生了“南大顶事件”。1940年8月17日，时任天宝山游击大队大队长的廉德山在日寇的诱降下叛变投敌，并将115师派往该部进行整编工作的13名干部战士交给了日寇，这13人随后被日寇杀害。

消息传来，115师群情激愤，纷纷要求消灭廉德山，为牺牲的战友报仇，随后陈光出动四个连的兵力对廉德山发起进攻。廉德山率领铁杆死党退守天宝山顶峰南大顶负隅顽抗，给我进攻部队造成了不小的伤亡。经过一番苦战后，这股叛匪被消灭，廉德山顺密道侥幸逃脱。

参加战斗的一名政工科长在战后没能控制好自己的情绪，开枪射杀了一名已经被俘的叛匪。由于违反了俘虏政策，他很快被罗荣桓免职。不久后115师在桃峪召开高干会议，罗荣桓专门就此事做了自我批评。参加会议的朱瑞以“南大顶事件”为例，对115师进行了严厉的批评，并说115师除了卫生之外其他工作都没有进步。

这话说的有点重，性子烈的陈光不服，当众拍桌和朱瑞顶牛，会议也不欢而散。夹在朱瑞和陈光之间的罗荣桓左右为难，不久后向中央请辞，要求回延安学习或者去其他地区工作。随后朱瑞也给延安去电，对115师在根据地建设和整军等方面的工作提出了批评，并要求“陈、罗最好给予休养”。

为了调和二者之间的矛盾，上级想了不少办法，但都没有取得太好的成效。最后只得决定让陈光和罗荣桓负责山东的军事指挥，朱瑞负责山东分局的工作。两年多后，抗日战争进入了一个比较缓和的阶段，毛主席开始下决心彻底解决山东的问题，他果断将陈光和朱瑞都调回了延安，让罗荣桓统一指挥山东境内的八路军作战并担任山东分局书记。

这样一来，罗荣桓就成了山东八路的掌舵人，在他的率领下，山东军区的各项工作都取得了长足的进步，根据地也日益巩固。到抗战胜利时，山东军区的八路军正规部队已经到达了27万人，占我军总数的四分之一还要多，地方武装也发展到了50多万人。后来往东北派兵时，山东军区贡献最大。

对于罗荣桓在这一时期的工作，毛主席给予了很高的评价，他说：“山东只用了一个罗荣桓，全局都活了！”抗战胜利后，罗荣桓又率山东军区的精干兵力奔赴东北参加解放战争，出任东北野战军政委，在先打锦州还是先打长春的问题上，坚决执行中央的主张，为辽沈战役的胜利起到了至关重要的作用。

新中国成立后，罗荣桓出任总政主任兼总干部部长，主持了我军历史上第一次大授衔。之后他还担任过人大副委员长和军委副主席等职，为我军的正规化和现代化建设作出了极为重要的贡献。1963年罗荣桓元帅不幸病逝，年仅61岁。毛主席得知后十分悲痛，不仅亲自参加了罗荣桓的追悼会，还写了一首七律对他的一生给予了极高的评价。