1977年，几个大军区级单位军事主官调整，如南京军区、福州军区、成都军区、第二炮兵以及铁道兵等。

在李水清的回忆中，他作为南京军区第一副司令准备担任军区司令，聂凤智副司令调任福州军区司令，吴克华调任二炮司令等。可最终由于各种因素使然，原来的设想没有变成现实。

由于福州军区原司令员皮定均意外牺牲，军区工作由副司令代理，上级准备让聂凤智去。因为他过去曾经在福州军区担任过空军司令，熟悉环境，而且资历和能力也都够。他曾在空军指挥员中是最能打的，指挥志愿军空军作战，取得很大胜利，还有一江山岛等战役。

当台海形势严峻时，被派往最前线的福州军区负责空军建设等。

可他因身体不适，提出自己留在南京更好一些，已经习惯了这里的气候。很多人不知道，他被推荐担任空军司令，可他婉拒了，认为有多年没在空军任职，不熟悉各种机型等情况。

聂凤智被留下，李水清就需要调整，本来安排他当南京军区主官。上级决定将他调去成都军区担任司令，可计划赶不上变化，正式任命还没下来，总政部告诉他到二炮担任司令，与向守志对调职务。

为什么不去成都军区，并非他能左右，而是吴克华。

吴克华原本要接替二炮司令，但他考虑过去曾经担任过炮兵司令，二炮之前隶属于炮兵序列。二炮机关是过去公安部队和炮兵部队一步为基础组建而来，自己到二炮工作，工作上不容易超脱，因此希望改动一下。他的意思是，到二炮进行整顿，而二炮一部分干部是过去炮兵干部，都是他认识的人，在处理问题时难免不客观等情况。

对于他说的问题，也是客观存在的。因此上级采纳了意见，决定调他到成都军区担任司令，李水清改为二炮司令。

李水清从最开始拟定南京军区司令，后改为成都军区司令，但都有其他因素而改计划，最终担任二炮司令。二炮在1966年成立，过去隶属炮兵，如今成为战略兵种。

上级调他去二炮，因为二炮也有许多遗留问题，需要他来处理。而他过去没有与二炮有过交集，在处理问题上也容易超脱，也即是在整顿时没有顾及。

用李水清的话，用5年时间的励精图治，二炮在思想政治上组织上的拨乱反正，走上正常运行的轨道。

1982年随着干部年轻化口号的提出，他认为自己已经65岁到了一个十字路口，进退去留的重大抉择。从年纪来说，符合上级规定的年龄标准里的大军区正职，只有王猛、傅奎清。他也在杠杆上。在大军区正职中，还算年轻，可以留下，也可以走。而他坚决执行干部年轻化号召，从一线退下来，有利于部队发展。