1976年，叶剑英元帅生病，而军委一职空缺，对此毛主席觉得陈锡联就可以，随后便让他接手叶剑英的工作。

毛主席曾评价他：陈锡联在年纪较小时，就响应红军号召，参加革命事业，从学识不深到精通打仗排兵，相信他不会让我们失望的！

2月2日，中共中央发出了一号文件：第一条，由华国锋同志任国务院代总理；第二条，在叶剑英同志生病期间，陈锡联同志负责主持中央军委工作。

在陈锡联上任后，有些事情他还是不懂，遇到问题就会主动去找老帅们商量，而且他对老帅们很尊重。   

面对叶剑英的时候，陈锡联非常有礼貌，当叶剑英有问题要问他的时候，他都会及时告知，那段时间他们的关系很不错。

但值得注意的是，当时“四人帮”作祟，说“陈锡联夺了叶剑英的军权”，随后这些话一直流言，甚至连百姓都知道。

原本叶剑英本不愿意理会这些，也没有觉得这是个问题，但不久后，毛主席去世了，而这些流言时刻提醒着他。   

在这样的背景下，叶剑英产生了离开北京回广东居住的想法，当时叶剑英想着离开，主要有三大原因。

首先是触景生情，我们都知道，叶剑英追随毛主席多年，从长征到建国，出生入死，情谊深厚。

随着毛主席的去世，作为多年战友的叶剑英一时间无法接受，而且他与毛主席一直在北京，如此一来，便想着离开这个伤心的地方。   

其次是急流勇退，毛主席去世的那段时间正是中央最紧张的是，当时“四人帮”野心暴露，试图做一些事情。

“四人帮”当时威胁了很多人，当然也包括叶剑英，加上叶剑英已经不再担任军委工作，于是选择“逃离”，这或许对于他而言是个不错的选择。

最后一个是身体状况，当然也是最重要的一个原因，当时叶剑英已经快八十岁，这个年纪早已该退休了。

要知道，在1976年，不仅深受百姓爱戴的周总理因病逝世，不久后德高望重的朱老总也因病逝世。

当时又是毛主席去世，连续三个老战友、老同志接连去世，叶剑英眼看着年纪大了，也该安度晚年了。

然而当叶剑英要离开北京的消息公布后，人们的反应各不相同。   

首先是“四人帮”，他们非常支持这个决定，在他们眼里，叶剑英走了，就会少一颗钉子，少一个麻烦。

再就是叶剑英的老部下，他们倍感惋惜，纷纷打去电话，询问有关叶帅的情况，有的老同志亲自上门询问原因。

空军副司令吴富善见到叶帅后，询问道：“老首长，为什么不干了？”

叶帅听后则无奈的表示：“谁说不干了？他们不叫我干，只好不干！”

然而当接替叶剑英职位的陈锡联，并没有“落井下石”，他直接站出来：“叶帅，您不能走！现在局势复杂，您可以在政治局里留一票。”

陈锡联这么说的话，表明了两个意思，首先是个人立场，他说到“国家局势”，则表明以国家为重。

至于外界传言的“夺权”也就不攻自破，当前最主要是稳定国家局面，不可为自己的事情而意气用事。   

至于第二个意思则是想让叶剑英留下来主持大局，虽然“四人帮”猖狂，但还没有到最后，一切都有可能发生变化。

所谓的“留一票”，是考虑到叶剑英在党内的地位和威望，他的话势必有人听，这样做些什么事情的话也方便很多。

有了这次谈话，叶剑英选择留下来，而也正是这通电话，使得叶剑英在最后做出了正确的选择。

1976年10月6日，叶剑英配合华国锋，粉碎“四人帮”，帮国家重回正轨。

1977年3月，陈锡联主动让贤，辞去军委一把手重任，叶剑英走马上任，重新主持军委工作。

1999年6月10日，陈锡联在北京逝世，享年85岁！