元象二年(539)四月，高欢向全国各地的刺史写信，表扬徐州刺史房谟、广平太守羊孰、广宗太守窦援、平原太守许惇勤政清廉，要求各地地方官要以他们为榜样。仅仅是一年前，当杜弼提出先清除内贼，整顿吏治时，高欢还对官吏们尤其是将领们的贪污行为采取放任的态度，经过了与西魏两次大战，尤其是当西魏军队到来后，东魏黄河以南甚至距离晋阳咫尺之遥的河东等地百姓纷纷归降，这让他似乎已经认识到失去民心的可怕，也明白了纵容权贵贪污腐败可能会危及政权了，他亲自给各地的刺史写信，已经透露出将要改弦更张的风向了。

不过，冰冻三尺非一日之寒。东魏的官吏早已养成的贪腐之风，岂能因高欢的一纸书信就能刹住?况且，那些敢于违背禁令、公然贪腐的人都是与高欢有着千丝万缕的关系的。比如，尉景，他是高欢的姐夫，高欢生下来母亲就死掉了，从小是尉景夫妇把高欢一手拉扯大，可以说尉景夫妇对高欢是恩重如山，但尉景非常贪财，虽然高欢曾屡屡斥责，但尉景就是不改。

高欢要想整顿吏治，不从自己身边的人下手又怎能取得成效?可是，假如把自己的心腹们都得罪了，他高欢不又成了孤家寡人吗?

显然，这点事难不倒高欢。

这些心腹旧臣都与高欢关系甚深，但世子高澄年纪很轻，与这些人就没有太多的亲情了，高欢想到了一个一举两得的妙计——让高澄利用辅政的有利条件，站在前台整肃吏治。司州中从事宋游道，素来以正直倔强闻名于世。高欢推荐宋游道担任御史中尉，高欢拉拢宋游道就是为以后打击朝中权贵、整肃朝纲做准备。对于父亲的用意，高澄当然也是心领神会，但他与宋游道关系一般，更想任命自己的心腹吏部郎崔暹为御史中尉，在高澄的坚持下，高欢最终同意以崔暹为御史中尉，以宋游道为尚书左丞。

高欢让高澄站到前台大规模地整顿吏治，一方面树立起高澄的威信；另一方面高欢也有回旋余地，起到打击一个、教育一片的作用。

宋游道和崔暹二人果然不负期望。宋游道一上任就一口气弹劾了太师咸阳王元坦、太保孙腾、司徒高隆之、司空侯景、尚书令司马子如；崔暹上任之初，就大力扩充御史编制，他举荐毕义云、卢潜、宋钦道、李惰、崔瞻、杜蕤、嵇晔、郦伯伟、崔子武、李广等人，全部任命他们为御史，加大了对百官的监督力度。崔暹专门弹劾权贵，无所回避，前后上书弹劾了尚书令司马子如、尚书元羡、雍州刺史慕容献、太师咸阳王元坦、并州刺史可朱浑道元，经核实后，全部免官，其余还有很多小官被免官或者被治罪。

高欢、高澄都是在演戏，而崔暹和宋游道则是这场大戏中的工具，高欢试图利用他们来达到整顿吏治的目的，当然，这既要从权贵近戚们入手，但又要掌握住火候，不能伤筋动骨了。果然，高欢对邺城的权贵们写信，他在信中说道∶"崔暹过去是我的弟弟高琛的定州长史，后来又当我儿子高澄的开府咨议参军，一直到他升任左丞吏部郎，我也不清楚他的才能。他刚刚担任御史中尉，就进行弹劾，咸阳王元坦和尚书令司马子如可都是我老友，朝廷群臣论尊贵、论亲昵，没有超过他们二位的，他们两人却同时被惩处，我无能为力，你们大家都要小心啊!"在高欢父子的精心安排下，东魏朝廷风气为之一变。

当然，治理贪腐只是整顿吏治的一个方面，更重要的还是选拔合格的人才。元象元年，高澄兼任吏部尚书后，就开始对朝廷的选官用人制度进行大刀阔斧的改革了。北魏末年崔亮实施停年格之后，选拔官吏不再考核人的才能，仅仅进行论资排辈，高澄废除了这一制度，要求选拔官吏只看才能。他还重新淘汰尚书郎，精心挑选门第高贵又有才能的人充当尚书郎，一些有才能的人士都得到了提拔，即便是没有担任高官显职，也都被他网罗到自己身边，充当门客，大家经常在一起聚会、赋诗、谈论，各尽所能，士大夫们都对高澄一片赞扬。

在整顿吏治的同时，高欢还高度关注法治建设。北魏末年以来，天下大乱，法律标准不一，尤其是在尔朱氏专权时期，轻重随意，地方官员多数以严酷为能。等到迁都邺城之后，民事诉讼案件陡增，京畿治安状况严峻，刑事案件频发，可是，朝廷过去颁布的法令与皇帝后来颁布的诏书很多地方相互矛盾，具体办案的法官无所适从，以致案件堆积如山，在这种情况下，东魏朝廷必须对长期以来的司法解释进行进一步的删定。到东魏兴和三年，即公元541年十月十六日，麟趾格颁布实施。麟趾格具有单行刑事法规的性质，对统一东魏刑事政策具有重要作用，对于以后的《北齐律》具有很大的影响。

高欢还注意到各州上缴的丝绸长短不一，百姓利益受到损害，他又上书孝静帝统一以四十尺为一匹，他还下令在各州的沿河以及渡口等地设置粮仓，便于运输，又命幽州、瀛州、沧州、青州四州煮海水制盐，增加政府收入。同时，由于北魏末年以来，大量百姓为了躲避兵役、徭役，出家为僧，致使天下有佛寺三万多个，僧尼二百多万人，极大地影响了国家收入，至此，东魏政府下令，各地郡守、县令擅自兴修寺庙的，根据支出费用，以枉法论罪。几年下来，东魏连年丰收，粮食价格下降到一斛仅卖九钱，人民生活稍稍得到了改善。