韩复榘自20岁入伍，一直追随冯玉祥左右，历经18年征战，从普通一兵逐步提升为方面大员。冯、韩两人的关系本来情同父子，亲密无间，可是后来却渐渐走向破裂。
那是1929年5月中旬发生的事。
冯玉祥在华阴县召集的“听取汇报、策划反蒋”的会议散场了。韩复榘出了大门，狠狠地掀了掀帽盖，边走边解衣扣，拉开车门，一屁股仰坐在车后座上。他大声地喝令司机：“给我开，快跑！”司机莫名其妙地问道：“朝哪里开？”
“转！”他眼睛朝前方瞪着，大声说道。
汽车发了狂似的在岳镇公路上转来转去。此时的韩复榘，是要在这颠簸的车厢里，松弛一下刚才在会上被羞辱、惊怕、欲望和野心搅乱了的神经，更重要的是，要寻找出一条在夹缝中求生存的出路……
刚刚散场的华阴会议，按照冯玉祥的意志决定下来了：固守潼关，先打山西。这是前不久蒋、桂、阎、冯四派新军阀在南京召开的编遣会议不欢而散的必然结果。冯玉祥回来以后，积极准备反蒋，又因为阎的态度观望有疑，这才决定先把阎锡山驱逐出山西，将陕晋连成一片后再打蒋介石。冯玉祥是个有令必行的人，韩复榘在这次华阴会议上反对了冯玉祥及主战派的意见，遭到了冯玉祥的公开辱骂：
“你小孩子家懂得什么！”
情势已容不得韩复榘再讲什么话了。难堪和羞辱加深了他对冯以往的种种不满和猜忌，也使韩复榘下定了要趁新军阀重开战的机会，叛冯拥兵自立的决心。
回到陕州的当天晚上，韩复榘召开自己的基本部队二十师的营以上长官开会。他说：
“今年西北旱灾，收成不好，粮秣不好办，到西北去就要挨饿。我不同意西撤。打山西也难，山西军队善于守城，久攻不下牺牲太大。冯先生不许我说话，我要再说，就会把我拿出去！现在我决心离开冯先生，如果大家愿意跟我东进就蹲下！”
二十师的官长，都是韩复榘一手提拔起来的人，当场全都蹲下了。韩复榘抱拳对众人说：“好！好！”随即指令孙桐萱为二十师的代理师长，要他带队伍尽快准备徒步东进，到洛阳待命；总指挥部全体和手枪团上火车东走，一路向东而去。
因为韩部是从河南陕县甘棠镇出发，这便是有名的韩叛冯的“甘棠东进”。
对于韩、冯的破裂，人们曾做过各种各样的分析：有人认为韩一度“投晋”是后来分裂的原因；也有人认为是蒋介石把韩收买过去了；还有人认为是冯玉祥心胸狭窄、偏听偏信的结果。但有一点需要指出：素以善治军著称的冯玉祥，在西北军中实行的是封建家长制式的领导。随着西北军的实力扩大，形成了一个庞大的政治军事集团，西北军内各个“山头”愈来愈大，在领导集团内部，上下之间，彼此之间的相互猜忌必然愈演愈烈，所以西北军的分崩离析，势不可免。
1928年韩出任河南省主席后，只掌握有自己嫡系部队的整编第二十师。1927年初，冯委任石敬亭接任二十师师长。石与韩之间本来有隙，石又是冯的参谋长，每日不离冯的左右，石的意见对冯是有一定影响的。石敬亭一接任师长，便找借口撤换了该师第六十旅旅长赵仁泉，换上了自己的亲信李文田，在向部队训话时还说“韩把二十师带成土匪了”，韩部听后大哗，韩也深受刺激。韩后来常说：“我脱离冯先生是石敬亭逼的。”
韩复榘自甘棠东进到了洛阳，又拉上石友三，于5月22日共同联名向蒋介石发出了第一份电报，表示要“维护和平，拥护中央”；第二天，又连续发出两份电报，内容分别是“反对内战、服从指挥”，“已有十万之众正待命东进，请示机宜”。
蒋介石在南京编遣会议散后，忙于蒋桂战争，也面临着如同其他三派新军阀一样的战争扩张局面。这时来了个韩复榘“拥护中央”，正是求之不得的，于是当即复电“极表嘉慰”。
韩复榘因此而被蒋介石视为座上贵宾。蒋请韩到南京欢聚，让宋美龄亲自陪同饮宴、劝酒；
蒋介石约请韩复榘同游西湖，又特意叫上宋美龄三人合影，以示亲爱无间；
宋子文以参观趵突泉为名，到济南联谊韩复榘，送去手枪200支，并乘兴与他结拜为把兄弟；
蒋介石答应每月调拨协饷银60万元；并且在庐山训练团长以上军官时，对韩的团长以上受训军官给予特殊待遇，个别谈话送钱，亲自题名赠送照片，称兄道弟，面嘱有何困难以后可直接写信解决……
韩复榘当然知道蒋介石为什么要如此这般了。此时蒋介石忙于蒋桂战争，北方两派军阀由韩代他抵挡最为合适。因此，同意每月拨韩复榘协饷银60万元，韩复榘则乘机利用蒋介石扩大自己的实力。于是不多久，韩复榘便成了一方拥有五个正规师、一个独立旅和一个独立团（即手枪旅骑兵团）的兵力了。他对蒋介石在庐山集训自己的团长以上军官颇不放心，其受训军官一到济南，他便传令：“立刻来见我！”
受过集训的军官知道韩复榘找他们是摸底，于是全部去掉了国民党的军服，换上了山东军队的服装。只有一个团长仍然穿着受训衣服。韩复榘拿眼死死地盯着这个人，问道：“你姓蒋了？”那个团长见势不妙，随机应道：“报告主席，我姓韩，大家让我穿这套受训军服来是想给主席看看样子，我回去就脱。”韩复榘听后微微一笑，说道：“你倒会说话，回去快脱了吧。”
韩复榘由此在山东崛起了。但他丝毫不觉得蒋介石有什么值得感激和需要他去效忠的。事实上蒋介石并不信任他，蒋派了自己的嫡系蒋伯诚到韩部充任“军事联络员”，实则是监军。蒋伯诚是个军人政客，诡计多端，他及时向蒋介石密报韩的动向。韩被蒋伯诚巧语所蒙，竟长时间不能识破他。
冯玉祥为“整编”与蒋介石决裂，一心想联阎打蒋，竟为阎锡山所愚，被阎骗到山西软禁起来。阎又派人与韩拉拢，韩佯称愿听指挥，并请阎来郑州会晤。阎连夜乘车抵郑州。韩暗中布置扣阎计划，被部臣告密，阎连夜化装逃走。事后韩复榘对部下说：“我要扣阎老西儿的事，大概都听说了，因为冯先生在山西受尽了委屈，这次我本想把阎老西儿扣住，要求他放出冯先生，以此报答冯先生对我旧日的恩情，不料事机不密，一下子跑掉了，全怪我说话不留神，真是可惜得很。”可见韩对冯有旧恩当报之情。
韩复榘在中原大战中，蓄意保存实力，他的撤退胶东，以及他在被晋军追击东撤时电请蒋介石支援不允，终而又对蒋介石通电下野，均使蒋介石大为头痛。且韩在作战中与冯玉祥、石友三藕断丝连，蒋尤不悦。当战后蒋发表韩为山东主席之先，曾表示踌躇，终以曹浩森认为有言在先，力为陈请，始获实现。从此，韩部进驻黄河以北，韩复榘便成了威震山东的“土皇帝”。