1954年春节前，吴西接到组织上的通知，将他调往东海舰队担任政治部副主任。

对于组织上的命令，吴西向来是无条件服从的。对于官职的大小，吴西从来不在意，只要是革命工作，党分配什么就干什么。

吴西在东海舰队上任后，便立即前往各基地和舰艇了解情况。 在经过了解后，吴西才发现东海舰队面临一个很大的难题，那就是在当时强调向苏联学习的特定条件下，内部发生分歧，常常会因此而争论不休。

当时海军队伍中，苏联专家很多。这些苏联来的专家，非常强调军事，强调技术，就是不强调思想政治工作。

用苏联专家的话来说：“在我们那里，政委不能过问军事指挥，而且要听司令的。”

不过吴西等同志认为我党我军几十年的战斗经历表明，丢掉了思想政治工作，再好的战舰也会触礁、搁浅以及沉没。

为此在这个问题上，东海舰队内部产生了激烈的争论。这时，有的人不讲政治工作了，有的人甚至提出取消政治委员制度了。

某次第六支队护卫舰支队（相当于师一级）召开党代会，东海舰队派吴西将军参加。在这次会议上，大家争论最激烈的问题：要不要取消政治委员制度。

那时双方势均力敌，你说你有理，他说他有理，各不相让，气氛相当紧张。由于吴西是上级机关的领导成员，为此大家便让吴西进行发言，想要听听他的主意。

吴西那时也来不及请示舰队领导，在会议上公开谈论了自己的想法：

政治委员制度要坚持，不能取消，思想政治工作要加强，不能削弱。我们的原则是党指挥枪，而不是枪指挥党。这是我党我军的优良传统，必须保持和发扬。

吴西将军的这番话，也是引起在场同志的认可：“吴副主任，你讲得好，讲的对啊！”

这场争论，持续了若干年。最后，中央、中央军委和海军领导机关明确表态，不能完全照搬外国，工作要从我们的实际出发，坚持政治委员制度，加强思想政治工作。

吴西身为一名老革命者，他在当时的发言，可谓是立场坚定，受到了党中央领导的称赞。

1955年全军大授衔时，吴西将军凭借自己过往的功绩，被授予开国少将军衔。