1925年3月12日，孙中山先生在北上途中病逝于天津。孙中山死后，党内权力斗争暗潮汹涌，而广州国民政府此时第一次东征虽然于3月底结束，然紧接着平定杨、刘叛乱，故权力斗争还未直接摆到桌面上。

平定杨、刘叛乱后，7月，国民政府宣告成立， 汪精卫为主席，蒋介石仅在军事上处于核心人物。汪精卫为什么能当主席，成为孙中山后名义上的领导人，是因为当时国民党内存在三股势力：

一是以廖仲恺为代表的左派，主张与苏联、与共产党合作。

二是以胡汉民为代表的右派，对与苏联、共产党合作抱有很深的疑虑，系英帝国主义所支持。

三是以汪精卫为代表的中立派，表面上赞同与苏联、共产党合作，但并未公开表明特别的原则。而蒋介石此时主要是军事上的作为，不是一个搞党务的人，党内职务不显。

平稳的局面不到2个月，1925年8月20日，国民党右派把打击左派、反对国共合作的行为公开化，廖仲恺被阴谋暗杀。

据杀害廖仲恺的凶手陈顺供认及从其身上搜出的枪照、名单等证明，暗杀廖仲恺的组织策划者中有的胡汉民的老部下，有的是许崇智下属现役军人。此时，蒋介石与汪精卫联手，借廖案之机牵扯胡汉民和许崇智，让他们负起政治责任，蒋介石利于手中军权，迅速抓捕一干刺廖案一干要犯，于9月1日作出胡汉民出洋决议，23日以访苏名义出国，同时，于9月20日，在孤立许崇智，瓦解其部队，全面掌握广州局面后，作出许崇智卸职赴沪的决议，将其逐出广州。

刺廖案，蒋介石与汪精卫联手，驱逐了胡汉民、许崇智，乘机控制了广州军政实权，成为了第二次东征的总指挥，以前孙中山麾下“三杰”（胡汉民、廖仲恺、汪精卫）以及粤军头头许崇智，只剩下了汪精卫成为其上位的阻碍，然汪精卫于军中无实权，先天有缺陷，前进之路一片坦途。

1926年1月召开的国民党第二次代表大会，蒋介石以“东征英雄”入场，于1月22日，当选为中央常务委员，这样蒋介石从“一大”的一名普通党员，短短2年时间跃居为国民党领导核心，与汪精卫并列为一文一武国民党两大首领，39岁的蒋介石成为国民党最高权力的唯二人选之一。