1975年，全军大军区级单位政委进行大调整，军科院政委廖汉生调任南京军区政委。

南京军区领导班子中，司令员是丁盛兼军区第三书记，张春桥兼任军区第一政委、党委第一书记，彭冲兼任第二政委、党委第二书记。廖汉生的党委排名在丁盛之后。军区全面工作由丁盛负责，廖汉生抓政治工作。

按说全面工作由军区第一书记负责，可第一、第二书记都是兼职挂名，就按党委书记排序进行。

廖汉生过去担任过军事学院院长、北京军区政委、军科院政委，长期担任政工主官。如今再次担任大军区主官也不陌生。在欢迎仪式上，他说：听说过去有这家山头，那家山头，过去的不管，从现在开始，谁的工作做不好就批评，做好就表扬，我自己绝不搞山头。

他的这番讲话，台下人的反应各有不一，有人拍手叫好，有人半信半疑，有人嫌他锋芒毕露等。

因为在过去，派性问题影响到团结，很多单位讲究派性，让人站队，不占对方那边，就要打倒等。消除派性是安定团结的一个基准，也是上级一直要求的，消除派性，促进生产，搞大联合等。

对于“山头”，廖汉生看得很重。

当时，上级调武汉军区下辖 1军与南京军区下辖20军对调。1军是廖汉生的老部队，过去他担任1军政委。当1军调南京军区时，他就对1军对调方案提出多次不同意见，自己担任过1军政委，刚到军区，就把1军调来。而且军区首长和部门首长中也有一些原1军或者2方面军队干部。

并不是很希望1军调来，怕大家认为他要拉山头。他给叶帅打电话，建议20军可以跟沈阳军区下辖部队对调，而且都是华东的老部队。

还有一点，上级准备将张希钦和邓家泰调南京军区任职，总政部征求他的意见，他表示不来行不行。过去都是战友、部下。他不希望让人产生自己拉山头的感觉。

对此，叶帅说：不要顾虑太多，军委决定了。

他上任是那样说，工作是小心翼翼，尽量避嫌，避免大家产生误会。实际上，大可不必，但那时个特殊而又敏感的事情。他的继任者郭林祥在接替工作后，总部首长也告诉他不要调他多人去，一次他连秘书都没有带，独自一人上任。