1977年,总政部副主任徐立清三次请张爱萍将军出来工作,但都碰壁了。此时的张爱萍,经历“两落”,对重返一线或许还有顾虑。

张爱萍自1954年被任命为副总长,到1960年以后逐渐从总参转入国防科委工作,依然兼任副总长。1967年被扣上帽子后中断工作,也导致身体受到不小损伤,因腿部骨折,多次手术不理想,面临坐轮椅或者拄双拐的境地。
1973年,被老部下请去福州治疗,在老中医的调理下,腿逐渐恢复健康,从过去双拐到拐棍儿,再到不借助任何外力行走。1975年,老战友认为他应该出来工作了,宋时轮找搭档,愿不愿意到军科院工作,院长、政委由他选。张爱萍此时没有工作的念头,以不熟悉军科院工作婉拒。宋时轮可没有同意,直接找叶帅要调他到军科院。
叶帅得知后,也打算让他回国防科委继续抓工作,因此把张爱萍找来谈话,谈到国防科委自他离开后,很多工作止步不前,不仅没有进步,反而出现不小的失误。对此,张爱萍很心疼,思考良久才答应出来工作。第二次担任副总长,并兼任国防科委主任。
在进行整顿时,让一些造反头头很狼狈,这些人都有通上层的能力,最终服从打几个月就靠边站了。尽管这次靠边站,没有第一次强烈,随着四人帮被抓,各方面局势得到好转。可他却无心工作,负责全军任免工作的徐立清奉命多次去做工作,都被他给谢绝。这或许是徐立清第一次遇到。

在那时候,很多老将都盼望着组织上来找自己工作,可张爱萍却想“清闲”起来。
他负责的工作,一般人还干不了。在1975年出来工作时,就立下军令状,要将洲际导弹试射出去。因靠边站,这个军令状就没有实现,但抓国防尖端武器,洲际导弹还需要他继续负责,其他人不容易,也不好领导。
徐立清碰壁后,将情况汇报给叶帅,叶帅亲自给他打电话,让去到西山住所谈。叶帅谈了,此时我们正面临北方的威胁。叶帅问题几个问题,敌人机械化集群大规模入侵行动,地面集群坦克连续突击,你该怎么做。张爱萍深思后,说出自己的想法。
这些问题不过是叶帅引向正题的引子,把话题转入洲际导弹来。没有现代化装备的军队,没有核反击能力,是不可能拥有和平的。我们总不能把烂摊子留给下一代吧。

沉思许久后,张爱萍答应出来工作。叶帅对他的评价是:这个人冲了点,但做起工作,大刀阔斧,能在困难面前打开局面的人。我们需要这样的干部。
张爱萍在副总长兼国防科委位置上继续发挥作用,到1980年立下军令状兑现。这是国之重器,可以不用它,但不能没有它。
进入八十年代,张爱萍担任过副总理,军委副秘书长兼国防部长等职。