八路军前方总指挥部于1938年12月组建于晋东南,正、副总指挥分别由八路军总指挥朱德、副总指挥彭德怀担任,参谋长则由八路军副参谋长左权担任。
1940年4月中旬,朱德总司令离开太行山回到延安后,八路军前指便由彭老总、左权负责,后二人指挥了著名的百团大战,在彭左的指挥下,八路军取得了节节胜利,打击了日军的嚣张气焰。

为了报复八路军,日军也四处开始“扫荡”,1942年5月,日军纠集了3万余人对我八路军前指所在的太行山根据地发动大“扫荡”,当时形势十分危机,八路军前指及北方局机关被日军包围在十字岭一带。
形势危急,彭老总下令分散突围,前指直属队和北方局向北突围到太行二分区,野战政治部向东南突围到太行六分区。彭老总的安全尤为重要,所以在突围前,左权专门找到作战科科长王政柱以及警卫连连长,特意交待一定要保护彭老总顺利突围。
而左权自己则主动承担了掩护任务,最后前指的大部分人员都顺利突围出去了,而就在左权在十字岭对掩护部队做撤退前最后的战斗部署检查时,一颗炮弹在他身边落下,左权壮烈牺牲,时年37岁。

左权的牺牲对我军无疑是一个重大的损失,中央特意在延安为其召开了隆重的追悼会,朱德总司令、周总理亲自撰写了悼文。为了纪念左权,晋冀鲁豫边区政府将左权牺牲地——辽县更名为左权县。
得知左权牺牲后的彭老总也是悲痛万分,要知道左权不仅是自己最得力的助手,也是自己最亲密的战友,哀伤了许久后,彭老总才慢慢从悲痛中缓过来,但小鬼子还没打跑,前指的工作仍要继续。
该由谁来接任前指参谋长一职呢?彭老总向中央推荐了两个人选,第一位是八路军参谋长叶剑英,叶剑英素有“叶参座”之称,是我军著名的“参谋元帅”,参谋工作非常出色。

更难道的是红军时期还曾给彭老总担任过一段时间的参谋长,1935年红三军团参谋长邓萍牺牲后,叶剑英调任红三军团参谋长,因为曾有过这段合作的经历,彭老总便推荐了他。
但此时叶剑英已经出任军委参谋长,作为军委参谋长,叶剑英的工作可以说是非常的繁忙,仅每天要办理的文电就高达几十件甚至上百件之多,根本就抽不开身,所以毛主席决定仍把他留在军委工作。
而第二位人选则是林彪,1938年3月林彪被晋绥军误伤而不得不离开前线,后前往苏联治疗,1942年回到延安,此时正在中央党校工作,林彪拥有非常出色的军事才能,彭老总觉得他更适合待在前线,便推荐了他。

不过毛主席认为林彪更适合任军事主官,后来林彪一直留在延安工作,直到抗战胜利后,毛主席把他调往山东军区担任司令员,但由于决定了进军东北的方针,林彪在赴任途中接到命令,改道东北,担任东北人民自治军总司令。
叶剑英、林彪均被拒绝,经过慎重考虑后,彭老总又推荐了滕代远,对于滕代远,彭老总是非常了解的,二人曾长期搭档,一个任军事主官,一个任政委,在工作上早就有了默契,而滕代远不仅政工工作出色,参谋工作也干得有声有色,曾在军委担任过一段时间的参谋长。
1942年8月,滕代远正式接任八路军前指参谋长,滕代远上任后的第一把火便是和彭老总筹划消灭了“益子挺进队”,这个“益子挺进队”属于日军的特种部队,当时就是它给日军大部队提供的情报包围的八路军前指。

抗战胜利后,滕代远调往晋冀鲁豫军区担任副司令员,后又担任华北军区副司令员,铁道兵团首任司令员,遗憾的是未能参加授衔。