兴平元年（公元194年）二月，曹操刚从徐州撤军，仅仅休整了两个月，到了这一年的四月，他就又留下司马荀彧、寿张令程昱驻守鄄城，再次讨伐陶谦。这次曹军进展非常顺利，接连攻克了徐州五座城池，一直劫掠了东海郡（治所郯县，今山东省郯城县北）、琅邪国（治所开阳，今山东省临沂市北）。陶谦部将曹豹与刘备驻扎在郯城以东准备截击曹军，曹军回师后，一举将其击破，并趁势攻克了襄贲（今山东省苍山县南），此时陶谦已经魂不守舍，打算弃城，逃奔丹阳。

而恰恰在这时，曹操后方出现了问题。

前九江太守边让，是陈留浚仪（今河南省开封市）人，文采、口才都是一流，大将军何进曾征辟他为下属，孔融、蔡邕、王朗都与他关系很好，后担任九江太守。边让自恃才高，对曹操非常傲慢，尤其是曹操为了报父仇，不惜残害徐州百姓，对此，边让很是不满，曹操听说后，不禁大怒，下令将边让处死，并将其妻子儿女一并诛杀。曹操这一不理智的行动立即产生了负面影响。边让名气很大，他的死在兖州士大夫们中间引起了普遍的担忧，陈宫素来刚烈，内心也对曹操的做法十分不满，边让的死让他也心生恐惧，遂与从事中郎许汜、王楷以及陈留太守张邈的弟弟张超一起密谋背叛曹操。

陈宫对张邈说∶“如今天下分崩离析，豪杰并起，大人以千里之众，居于四方要冲之地，手握宝剑，四下观望，自当成为一代枭雄，却受制于人（陈留郡属于兖州），这岂不是太无能了吗!如今，兖州州军全部投入了东征前线，后方十分空虚，吕布是位壮士，能征惯战，所向无敌，如果权且将他迎来，一起统治兖州，再静观天下的形势，等待局势的变化，这正是纵横捭阖的良机啊!”

曹操、张邈、袁绍三人原本关系不错，曹操起兵就是在张邈的地盘，可以说，张邈给予他很大的帮助，但后来，曹操逐渐脱离张邈，被袁绍任命为东郡太守，不久，又成为兖州牧，成了张邈的上司，这自然让张邈心里不是滋味。另外，吕布在投奔张杨之前与张邈握手发誓，结为同盟，让袁绍恨得牙根痒，张邈也担心曹操终归会听命于袁绍加害自己，内心一直非常不安。在陈宫的劝说下，张邈决定趁势一搏。

当时，曹操以陈宫领兵驻守东郡，陈宫遂率领部下秘密前往河内迎接吕布，答应拥立吕布为兖州牧。吕布在张杨那里几个月了，过得并不舒心，听到张邈等人愿意拥立自己为兖州牧，当然一百个情愿，当即率部赶来。吕布到来后，张邈派亲信刘翊对荀彧说∶“吕将军来协助曹大人进攻陶谦，请赶紧供应军粮。”留守在鄄城的众人都心生疑窦，荀彧立即判断出事情有变，当即下令整顿军队，并派人快马前去濮阳召唤东郡太守夏侯惇前来。

得报后，夏侯惇立即率军赶往鄄城，途中，恰与吕布军遭遇，双方交手后，吕布撤离战场，遂掩袭濮阳，夺得了夏侯惇的辎重。而后，吕布派人前去诈降，在军中劫持了夏侯惇，要求拿出钱财赎人，一时间，全军震恐。夏侯惇的副将韩浩率军将夏侯惇的大营团团围住，召来军中诸将，命令各部均不得乱动，然后，韩浩来到营门外说道∶“你们竟敢如此为非作歹，劫持大将军，还想活吗?我受命讨贼，岂能仅仅因顾及一个将军的性命而放纵你们吗?”又流着眼泪对夏侯惇说∶ “在国法面前我也无能为力啊!”然后下令手下将士直接上前去捉拿劫匪。劫匪们见状，赶忙跪下叩头说∶ “我们只是想弄点钱财啊!”韩浩将这些人斥责一通后，全部斩首。

当时，兖州的文武官员很多都与张邈、陈宫勾结，夏侯惇来到鄄城以后，当夜就下令诛杀了数十人，局面才得到控制。

与陶谦任命的豫州刺史刘备同时还有另外一个豫州刺史郭贡，至于郭贡是长安朝廷任命的，或者是袁术任命的，史无明文。孙贲随袁术南下，击破袁绍任命的九江太守周昂以后，被袁术任命为豫州刺史，不久，袁术又命吴景、孙贲二人南下，赶跑了周昕，孙贲也被袁术调任为丹阳都尉、行征虏将军，据此，郭贡可能就是袁术新任命的豫州刺史。当曹操东征徐州时，袁术派郭贡抄曹操的后路也在情理之中。

郭贡率领数万人马也不期而至，来到鄄城城下，有人说郭贡是与吕布合谋的，城内一片恐惧。郭贡请荀彧出城相见，荀彧将行，夏侯惇等人劝阻说∶“你是全州的依靠，前去十分危险，不行。”荀彧回答∶“郭贡与张邈等人素来没有什么交情，如今他仓促而来，一定不会蓄谋已久，趁此机会，前去说服，即使不听从，也可使其保持中立，如果现在就怀疑他，势必激怒他，反而促使他下定进攻我们的决心。”荀彧从容出城与郭贡见面，郭贡见荀彧毫无惧色，认为鄄城早有戒备，遂不战而退。

当时兖州各地均纷纷反水，响应吕布，只有鄄城、范（今河南省范县东南）、东阿（今山东省阳谷县东北阿城镇）三城没有反叛。

荀彧对程昱说∶“如今全州皆反，只剩下这三座城池还在我们手里，陈宫等人率领重兵前去，如果不深结城内军民之心，三城势必投降。你是东阿的名士，回去说服大家，可能会有效果。”程昱遂离开鄄城返回东阿。

当他路过范县时，对县令靳允说∶“我听说吕布将您的母亲、弟弟、妻子、儿女扣为人质，身为孝子，您此时的心情自然非常沉重!如今天下大乱，英雄并起，最终必定会出现一位盖世英雄，削平群雄，统一天下。智慧之人当对主子仔细选择，选择对了，就会干出一番事业；选择错了，将性命不保。陈宫反叛，迎接吕布，兖州百座城市全部响应，从表面上看，似乎能有所作为，但你认真观察观察，吕布又是什么样的人呢?吕布对人冷酷无情，刚愎无礼，这不过是一个勇猛的粗人而已。陈宫等人与其联合，只是相互利用罢了，没有把他看作自己的主子，他们的军队人数虽多，最终必定不会成功。曹大人智慧胆略，世所罕见，这是上天赋予的啊!大人一定要坚守住范县，我则守住东阿，那么，我们两个将建立起田单一样的功劳，岂不胜过违背忠义、附从叛逆而母子均被处死?请大人深思!”靳允流着眼泪对程昱保证道∶“不敢有二心!”当时泛嶷已经率军来到了范县，靳允与泛嶷相见，设下伏兵将其刺死，然后，回城固守。

程昱又另派一支骑兵切断了仓亭津"陈宫率军来到后，却无法渡过黄河。程昱来到东阿时，东阿县令枣祗（后来首创了屯田制）已经督促军民加强战备、坚守城池了。兖州从事薛悌与程昱齐心协力，最终保全了这三座城池，等待曹操大军返回。曹操回来后，对程昱非常感激，他握住程昱的双手说∶“如果不是你，我将无家可归了!"遂任命程昱为东平相，驻扎在范县；任命薛悌为泰山太守。程昱年少时经常梦见自己登上泰山，双手捧着太阳，他曾将此事偷偷告诉给了荀或，荀彧又告诉了曹操。曹操对程昱说∶“你终将成为我的心腹之臣。”程昱本名程立，曹操在立上加了一个日字，遂将其改名为程昱。