1940年，李聚奎指挥的先遣纵队与张维翰领导的筑先纵队合编为129师新8旅，旅长是张维翰，李聚奎却被调离，到决死一纵担任副司令。

从到李聚奎是开国上将中的老资格，土地革命时期担任红1军团1师师长，杨得志、黄永胜、邓华同时在他麾下担任团长、团政委，可见资历不一般。

1935年，四方面军与一方面军会师后，他就不再担任军事主官，而是改为参谋工作，在四方面军工作1年，担任31军副参谋长、9军参谋长。西路军失利后，千难万险回到延安，随着抗战爆发，31军改编为386旅，他继续担任参谋长。

1938年，他被派往收编的抗日队伍担任政委，该部与771团改编为青年纵队。工作一段时间后，他被派往鲁西北展开工作。这里有一支爱国队伍，由范筑先领导抗击敌人。范筑先是进步人士，有手里有人也有枪，是一支不可忽视的抗日力量。

李聚奎调去组建129师先遣纵队，他就带着两个警卫员，没有将青年纵队带去。抵达鲁西北后，他与地方联系，地方抽调一百多人组建先遣纵队机关。为支持李聚奎，冀南调去200多人归先遣部队建制，他担任司令兼政委。

发展部队手里没有人和枪，战斗是困难的，可以以少量骨干力量为基础发展壮大。如果仅凭他与两个警卫员，那困难是可想而知的。先遣部队与筑先纵队都活跃在鲁西北地区，对日作战也经常配合。

说到筑先纵队，一开始是范筑先领导，他牺牲后，筑先纵队由张维翰指挥。

1940年6月，上级将筑先纵队与先遣纵队合并成立129师新8师，张维翰担任旅长，而李聚奎调离。

从战斗经验和资历上，新8旅应该由李聚奎担任旅长更合适，张维翰受过高等教育，抗战前是范筑先的秘书，加入共产党。向范筑先传输进步思想等。他干地方工作或者行政工作应该是好手，打仗不多。

上级之所以调张维翰担任旅长，或许因为他是筑先纵队的一面旗帜，是继范筑先指挥在鲁西北扛旗的人，而且从部队数量来说也不少，先遣纵队毕竟是新成立的部队，而筑先纵队已经有几千人。

两支部队合编为新八旅后，下辖6000余人，是一支有战斗力的部队。

李聚奎调去决死一纵，是薄一波拉起来的部队，这支部队大多数是青年学生，尽管没有多少战斗经验，但是一支很有朝气的队伍。该部编入129师序列，纵队设置在太岳去腹地，政委是薄一波，他在军事方面不见长，但统战工作非常出色。

上级为这支部队调不少老干部，如毕占云，李成芳。李聚奎调工作就是负责作战和训练，薄负责大政方针和部队建设问题。之所以没有担任司令，或因为他是空降过来的，下面对他不熟悉，他对下面也不熟悉。

1942年，太岳军区整编，司令员是陈赓，安子文是政委，决死一纵改为决一旅，他担任旅长兼军分区司令。1943年离开前线去延安学习。

解放战争时，并没有在作战部队担任主官，而是干起西满军区参谋长，后勤部参谋长、后勤部长等职。

从1935年到新中国成立，他担任军事主官的时间是短暂的，即便担任也是在新部队。这也为他日后在评级，评军衔上有所影响。