1975年2月，廖汉生奉命到南京军区担任政治委员。2月28日，廖汉生带着行动不便（扭伤脚）的夫人白林、刚生了小孩的女儿廖晓理，以及小外孙一起乘坐苏制伊尔18军用飞机，飞抵南京机场。一直以来，廖汉生都遵循着“命令一下，人走家搬”的准则。

3月3日晚，南京军区为廖汉生到职准备了一个欢迎大会。在会上，廖汉生首先传达了叶帅、邓公两位副主席的指示精神，接着作了简短的发言，总结起来就八个字：“安定团结，反对派性”。

十几天后，廖汉生接到了军委的一条命令，关于军区、军分区，及所属的武装部、野战部队的调防问题。经过开会讨论，很快推出了相关方案，但野战部队的调防他们研究了半天，也没找到解决的办法。

廖汉生从“派性”的角度考虑，给出了他自己的一套建议，然而叶帅认为，廖汉生顾虑太多。最终，叶帅拍板决定。话说，廖汉生整顿南京军区期间，投入了很大的精力，受到了战友、同事和上级的一致好评！

初来南京，廖的一些老战友、同事听说他来南京军区赴职，纷纷前来看望他。大家都了解廖汉生的脾性，知道他好急，碰到什么不愉快的事，如果别人不讲，他是一定要讲出来的。这样一来，不免就会犯错误。由此，一些好心的同志就劝他：要少说话，刚开始不要亮明自己的态度。

然而，廖汉生此次前来，正是带着整顿南京军区的重大使命来的。他觉得自己必须要亮明态度，这样才能继续下面的一系列工作。由此，在隆重的欢迎大会上，廖汉生开门见山地说：

“听说以前有这家山头，那家山头，过去的事我不管，从现在开始，谁的工作做好了表扬，做不好批评。我自己绝不搞‘廖家山头’！”

廖汉生讲完，台下爆发了各种不一样的讨论声。有鼓掌的，有怀疑的，也有觉得廖张狂的。对此，廖汉生却不以为然，此后在各种大小会议上，廖汉生继续大讲“反对派性”。

由于各部队有“三支两军”的任务，导致一些部队和军事部门，陷入了派性斗争当中。廖汉生把“调整和调动”列为军区党委工作的第一位，也就是“调防”问题。

不久，依着军委的命令，南京军区党委决定，浙江省军区独立第一师与安徽省军区独立第一师对调；金华、台州的两个军分区，所属的武装部和阜阳、安庆的进行对调。

各调防单位领受任务之后，与军区派出的工作组一起，在规定的时间内，完成对调任务。在军区、分军区以及所属部队调防过程中，军区党委反复讨论野战部队的调防方案，驻浙江的第20军该怎么调？一直没有商量出个所以然来！

军委起初的方案是，与驻江苏的第60军对调，后来又拟定与武汉军区第一军对调。廖汉生对此提出了自己的不同意见：廖本来就是在一军这个老部队成长起来的，还担任过该军首任的军政治委员。如今，他本人才刚刚调来南京军区，自己的老部队就紧跟着调过来，不是很合适。

与此同时，第一军的司令部参谋长邓家泰、副参谋长张希钦已经很长时间都不担任工作了，而这次总政治部却要把这二人调来南京军区。总政的同志打电话给廖汉生征求他的意见时，廖汉生直接拒绝两位老战友过来，可总政的同志说，已经确定了。

廖汉生考虑，若是这样安排，可能会让别人产生一种他要在南京军区搞新“山头”的印象。于是，廖汉生就将这些担忧如实汇报给叶帅，并提出自己的意见，可以把驻浙江的第20军与沈阳军区的一支部队进行对调，毕竟两者同是华东的老部队。

叶帅听完廖汉生的话后，觉得他考虑太多。最终，叶帅拍板决定，按照军委的指示办。既然如此，廖汉生也不好再说什么了。接下来，由丁盛司令员亲自到武汉，与第一军进行协商，最终，一军来到了浙江驻防。

廖汉生初来南京，落实干部政策问题比较超脱。他自己在特殊时期，处境也不好，所以他能感同身受。其中有一些干部，廖汉生多少了解一些情况，比如，赵俊，两人在南京学院战役系第二小组做了两年同学，他相信赵俊是没啥问题的。

很快，军区党委召开一次大会，会上，廖汉生确定了20多名军、师职干部的工作分配。赵俊的名单也在其中。在廖的帮助下，赵俊重新担任了南京军区司令部副参谋长。

4月的一天，王恩茂夫妇来拜访廖汉生。此时的王恩茂在安徽芜湖地区当副书记，处境不佳。廖汉生知晓了王恩茂的情况后，不久后的一次率队野营拉练来到芜湖，专门叫来了当地党委和革命委员会的负责人谈话。

廖汉生动之以理晓之以情地讲，王恩茂是从井岗山出来的老红军，参加过长征，如今在芜湖工作。我们中国历来有尊老爱幼的说法，这个传统不能丢。不说他过去如何如何，就是老革命、老红军的身份，也应该尊重他，支持他的工作。

当地的领导听后，马上表态说，一定会尊重王书记。之后，王恩茂写信给毛主席，毛主席看过信后，批准了他的请求。就这样，王恩茂来到了南京军区担任副政治委员，同廖汉生一起工作。

像王恩茂这类干部也不少，暂时都安置在了南京军区。此外，还有生产建设兵团撤销后，调出去的干部又回来，以及派到地方“支左”的干部陆续撤回来，这就导致干部超编过多。据廖了解，当时全区超过编制的干部人数，竟然多达3万多人。为此，廖汉生采取了多种措施，逐步压缩和安置了一些超编干部。

在干部工作的问题上，廖汉生发现很多军区的首长都选择在自己的家里办公。由于每个首长都住在不同的地段，当中央下达文件后，秘书需要到处跑去送文件，并请首长签字。这样一来，太费时间，办事效率太低，更重要的是还不保密。

为此，廖汉生在会上提出，军区首长没有生病就必须来机关上班，实在来不了就不能看中央文件，一切军事问题都要在机关谈。廖的意见得到了大家的一致同意。廖汉生是有很强的执行力，每天都按照规定时间上下班，给下面的人带了一个好头。他的这种做法在机关引起了强烈的反响，收获了老战友、同事和领导的一致好评！

几个月后，廖汉生想到部队看看军长、师长、团长们是怎么带兵的？他不去问这些领导，而是下到基层问战士。在一些小、远的连队，廖汉生问战士们军、师、团长多久来部队？如果一次都没来的话，廖汉生就特别生气。他说，现在部队没有军衔的标志，到了打起仗来，干部下到部队，战士们都不认识，到时候能好好地指挥战斗吗？

廖汉生调到南京军区后，完全执行党中央和军委下达的指示。在他的领导下，南京军区存在的一些重大问题得到了解决，虽然没有彻底地扫清障碍，但廖汉生的努力是人们有目共睹的。