1977年党的十一大后，原本担任中联部部长且兼管中央宣传口的耿飚变得更加繁忙起来，他当选为国务院副总理，协助邓小平和李先念处理外交事务，领导和协调各对外部门的工作，同时还领导国家民航总局和国家旅游局。到了1979年1月，耿飚又多了一项职务，被任命为中央军事委员会常务委员、秘书长，协助军委主席、副主席处理中央军委的日常工作。这一新的职务，让耿飚既兴奋又悲痛。
让耿飚兴奋的是，在时隔29年后，他再一次回到了军队当中。耿飚从18岁开始成为游击队长，21岁正式加入红军，整个革命时期都在军中度过。早在红军时期，耿飚就是红4军参谋长，尤其是长征时，曾担任前卫团团长，攻克古陂，激战九峰山，夜渡潇水河，奔袭道州城，血战湘江边，沿途斩关夺隘，之后又参加首夺天险娄山关，四渡赤水、巧渡金山江等多个重大战役。
到了抗战时期，耿飚是八路军第129师385旅副旅长兼副政委，率部驻守陇东，保卫陕甘宁边区。解放战争时期，又担任华北军区第2兵团副司令兼参谋长。先后率部参加平津战役、太原战役、宁夏战役，为全国解放战争的胜利作出了重要贡献。新中国成立后，征战多年的耿飚北周总理调回北京，为新中国的外交事业奋斗，成为一名将军大使。自那之后，耿飚在外交战线发光发热，但也就离开了他喜欢的军队，此番时隔29年重回军队，的确让他十分兴奋。
而让耿飚悲痛的是，此番就任军委秘书长，接任的是罗瑞卿的职位。就在1978年3月，当耿飚加勒比海和地中海4国的访问，归国途中在中转机场休息时，突然传来了军委秘书长、开国大将罗瑞卿逝世的噩耗。罗瑞卿大将的逝世，对于国家来说，无疑是重大损失，而在个人方面耿飚跟罗瑞卿也是关系匪浅。
长征期间，罗瑞卿是红一军团保卫局长，耿飚则是红一军团二师四团团长。湘江血战中，红四团政委杨成武重伤，全团伤亡惨重撤出阵地，罗瑞卿用驳壳枪顶着耿飚脑袋，质问“为什么丢了阵地。”后来知道耿飚打着摆子在坚持指挥，罗瑞卿也后悔了。那会儿是生死关头，大家都比较着急，也都相互理解。
1946年初，罗瑞卿任北平军事调处执行部中共方面参谋长，协助叶剑英同国民党方面谈判。耿飚也在军调处担任副参谋长，在罗瑞卿没到任之前，耿飚代替他参加了三方的参谋长会议。解放战争时期，从晋察冀野战军到后来的华北二兵团，都是罗瑞卿担任政委，耿飚则是参谋长，再加上司令员杨得志，就是鼎鼎大名的“杨罗耿兵团”。而今，“杨罗耿”痛失一角，耿飚自然悲痛不已。
8月12日，耿飚在人民大会堂出席了罗瑞卿的追悼大会。由于罗瑞卿的去世，中央军委秘书长一职出现了空缺，主持军委日常工作的叶剑英元帅想到了耿飚。到年底的十一届三中全会期间，军委副主席、国防部长徐向前元帅召集各大军区负责人开了一次军委座谈会。这次座谈会逐步升级为军委常委会、军委扩大会，耿飚参加了这些会议。1979年1月2日，邓小平在军委扩大会议上宣布：军委决定耿飚回军队任职。1月11日，中共中央正式任命耿飚兼任军委常务委员、秘书长协助军委主席、副主席处理中央军委的日常工作。
尽管当时已经是古稀之龄，但当时的中国正处在历史的转折点，有太多事情需要人做，耿飚作为一个老革命，当仁不让。更何况，当时已接近80岁的叶帅、70好几岁的徐帅都还在为国操劳，在他们面前，耿飚更是责无旁贷。
更难得的是，耿飚虽然童工出身，没念过什么书，但素来以机智见长，而且学习能力极强。16岁那年，耿飚只身进入醴陵县城，在保安团的紧密盯防下，利用当地的乞丐，将组织上的传单撒满了整个县城，将警告信塞进了每一位土豪劣绅家的门房。红军时期，耿飚曾为了架桥，啃下一本满是外文公式的《工程学》，而他所有的外文基础仅仅是在水口山当童工时，曾跟毛泽覃学过几个英文单词。后来，他又凭借着这几个英文单词的基础，在驻外大使工作上做得有声有色。
能够重回军队，耿飚还是难言兴奋之情。夫人赵兰香很多年后还记得耿飚回归军队那一天，“工作人员送来了军装，等不及我给新衣服过水，耿飚当即就‘披挂’上阵了。他一连说了几个‘好哇，穿什么都不如穿他舒服。还是红旗式的领章好，还是那颗红五星好！’”
耿飚穿上军装，仿佛又回到了1930年他带领游击队正式参加红军那一刻，70岁的炮兵还是那样心潮澎湃。看着那颗红五星，耿飚激动地说：“还是那颗红星，过大渡河的时候，夜里全靠帽徽识别敌我呢。”
在一棵雪松前面，耿飚拉着赵兰香照相留念，过后又忙不迭地出去找老战友“亮相”。
70年代末期的世界还是个冷战的世界，当时还是美国和苏联两个超级大国对立，形成两个壁垒分明的阵营。当时的中国成为第三世界国家的代言人，但在国际政治中的影响力，还是远远不足以与美苏两个超级大国匹敌。相反，由于中苏交恶，苏联又拼命拉拢中南半岛小国越南，从战略上对中国形成了一种合围的态势。
这种对中国合围的做法，美国在新中国50年代就曾做过。当时，美国先后拉东南亚国家成立“马尼拉条约组织”，及西亚国家成立“巴格达条约组织”，试图在中国西面跟南面形成一条锁链。最后，在毛主席的敏锐洞察下，中国利用发展跟巴基斯坦的关系，将这条“锁链”当中斩断。20年过去了，对中国采取合围战略的，变成了昔日的老大哥苏联。
在越南抗法抗美战争的三十年间，中国派防空部队和工程部队支援越南，中国人民还勒紧裤腰带为越南提供了价值200亿美元的无私援助。1975年越南完成统一后，越南政府却忘恩负义，疯狂反华排华。刚开始时，越南在刚刚统一的南方将比较富裕的华人排走，后来连北方的华侨也被排走。
越南北部的难民潮从1977年就开始了，在1978年达到高潮。在排华浪潮中，华裔政府官员被解职，独立开业的商人被迫停业，华人学校被关闭。在所谓的战略要地，华人要接受“忠诚测试”，直至被驱逐。而在南部，大约3万家华人商店被关闭。在越南政府的授意下，富有的华人被迫缴纳多达数百万美元的出境税，并被赶上破旧的渔船驶向怒海。
1979年1月底，邓小平访问美国，当被问及对越政策时，他胸有成竹地说，“小朋友不听话，该打打屁股了”，当时已有22.5万解放军集结在中越边境，只等一声令下。
耿飚正是在这样的背景下，回到了解放军的队列中。他担任军委秘书长的第一个任务，就是搬进设在某地的指挥部，向南疆东西两线下达了自卫反击战的任务。作为解放军最著名的参谋长之一，耿飚重新拿起指挥尺，回到了阔别29年的大倍军用地图前，再一次展现他依然充满活力的指挥才能。
当年活捉罗历戎的清风店战役，正是耿飚在行军途中果断抓住战机，跟司令员杨得志、第二政委杨成武一起蹲在地上，围着一幅军用地图，准确计算着围攻罗历戎部的战场。当年他们的部队被称为“杨罗耿兵团”，耿飚担任副司令员兼参谋长。而今，政委罗瑞卿已经逝去，而当年的司令员、耿飚的老领导杨得志，正被任命为西线总指挥，等待着耿飚下达作战的命令。
耿飚跟杨得志的渊源远不止如此，他们还是老乡，都是湖南醴陵人，这个湖南东陲的小县城里，不但走出了耿飚和杨得志，还有左权、蔡申熙、宋时轮、陈明仁等军事奇才。说起来，杨得志比耿飚还要小两岁，但他1928年便跟随湘南起义的部队上了井冈山，而耿飚直到1930年才从游击队跟红军汇合。长征时期，杨得志是红一团团长，耿飚是红四团团长，他们都属于林彪率领的红一军团。这两个团正好是整个红军的开路先锋，很多艰难险阻，都是他们两个团一起克服的。
长征结束后，红军整编后的红一师，陈赓担任师长杨成武任政委，杨得志是副师长，耿飚则是参谋长，这是耿飚跟杨得志两个醴陵人搭档的开始。后来在晋察冀，两人再次相遇，同在聂荣臻麾下，组成了让敌人闻风丧胆的杨罗耿兵团。
东线总指挥是广州军区司令员，开国上将许世友。耿飚是中央红军的干部，许世友则是红四方面军的干部，两人的革命历程并无多少交集，唯一打过交道是在陕北红军大学期间。有一天，耿飚与许世友在操场散步，许世友获知耿飚是位武术高手，想与耿飚比武，耿飚对许世友说：“南拳北腿，咱俩不一定打得起来。再说，谁打了谁也不合适，还是你自己来一套吧”。在这天，许世友在耿飚面前表演了一套拳术，赢得了耿飚的一阵喝彩。
当时，许世友已经73岁高龄，杨得志也已经是68岁了。两位都是开国上将，曾经为国内革命的胜利立下过汗马功劳。虽然年岁已高，但在面对国家的召唤时，两位老将军都毫无怨言。在艰苦的作战环境中，杨得志的老胃病和高血压都急剧恶化，期间好几次因身体扛不住晕厥过去，最终不得不住进医院进行治疗。
为了给中国制造压力，苏联调集大军在苏联及蒙古境内搞大规模演习，投掷和发射了超过1000枚航空炸弹和导弹。甚至还演习了从蒙古机场起飞，飞行一个半小后到北京上空，然后空降的场景。苏联海军的巡洋舰跟驱逐舰也接连出现在南海，目的都是为了将武力恫吓的效果传到北京。
但中国显然是不会被吓倒的。最终，我军从东西两线突进敌纵深20至40公里，攻占了高平、谅山等重要城镇和战略要地。越北个重镇被我军控制，威逼河内的态势已经形成，反击作战的战略目的已经达到。
3月5日，中央军委下达撤军命令。西线部队于3月13日全部撤回中国境内，东线部队于3月16日全部撤回中国境内，对越自卫反击战告一段落。
对越自卫反击战后，中央决定在中央军委常委领导下，建立办公会议，负责处理军委日常工作。军委办公会议由耿飚主持，成员包括耿飚、韦国清、王平、杨勇、王尚荣、梁必业、洪学智、萧洪达。这个由开国上将跟开国中将组成的军委办公会议，主持工作的却是1955年未参与授衔，离开军队29年后重新回来的耿飚，也足见中央对耿飚能力的信任程度。
不久后，邓小平不再兼任参谋总长，叶剑英一度提议由耿飚再兼任一项职务，在他的再三推辞下才算作罢。而最终担任参谋总长一职的，正是杨得志。就这样，耿飚跟杨得志又成为了搭档。他们一起完成了解放军的精编简编任务，将解放军总员额由600多万降到了400多万。
1981年3月，耿飚又兼任国防部长，成为新中国第一个未授衔的国防部长。
耿飚的一生经历丰富多彩，由于工作需要，党和国家安排他在不同的工作岗位上从事截然不同的工作，他在每一个岗位上都能干的出色。
耿飚的女儿耿莹曾这样形容自己的父亲：“我这个父亲，上山能打猎，下水能摸鱼，出门能谈判，回家能做饭……”而耿飚夫人赵兰香也有同感：“耿飚一生经历丰富，由于工作需要，党和国家安排他在不同的工作岗位上，从事截然不同的工作，但他在每一个岗位上都能干得很出色。”他甚至在主持旅游局期间，将当时在中国鲜为人知的旅游行业扭亏为盈。
