新中国成立后，有些将领因需要而转入地方工作，如伍修权等。

论资历和职务来说，如果授军衔，不会低，因为在土地革命时期担任过军团副参谋长；抗战时，军委一局局长、总参谋部作战部副部长；解放战争时担任过东北民主联军第二参谋长，东北军区参谋长。

1950年，因有外事经验而转入外交领域，担任外交部苏欧司司长、副部长，后调任中联部副部长。1967年中断工作后，1975年上级重新安排工作。

1975年1月参加大会期间，见到主持军委工作的叶帅，对方问他工作上有什么打算。伍修权表示希望可以重返军队。叶帅说：现在总参需要懂业务的干部，准备调他去总参下辖二部担任部长。

二部被俗称情报部，如负责收集和分析军事、政治情报。战争年代，他在军委一局与总参作战部都干过相关工作，虽然战争年代与现在的工作形式不是很相同，但多少也是熟悉工作情况的。

伍修权在战争年代军中有一些遗憾，没有成为军队主官，在一线领兵打仗。一直从事机关或者后方工作。他内心是非常希望从事军事工作的，担任东北民主联军参谋长时，从军调部回总部，被安排干军工，刘亚楼负责作战，心里还有点不乐意。

解放后，各方面建设需要，他曾经留下苏联，又曾在解放战争之初的军调部工作过，在急缺外交人才时被派去，从大局出发比在军队更有作用。此后离开部队二十多年。

对于他的职务，叶帅一开始考虑加强总参二部领导班子，在讨论这项任命时，有人认为他的资格老，过去职务高，只担任总参下属二级部部长有点低，充其量只是正兵团职，提出兼任副总长更合适。因此，他被任命副总长兼二部部长，主要精力在二部。

没想到时隔25年，重返军队工作。

上任后进行整顿，平反等工作，在业务方面加强各方面力量，调整领导班子等。

1978年，已经70岁的他不再兼任二部部长，考虑身体原因。过去主要负责二部工作，如今成为专职副总长，实际上主管工作范围更宽，分管二部、三部、外事局。他对外事工作内行，还担任中央外事工作领导小组副组长

在总参工作几年后，1982年，在干部年轻化号召下，已经七十多岁的他正式离开一线，当选为中顾委委员、中顾委常委。