1925年8月，徐向前带着蒋介石的师生之情离开黄埔岛，告别了黄埔军校，和几位老乡一起高高兴兴地登上了从广州北上的列车。

多年后，在回忆起当时的情景时，徐向前元帅感慨地说：“（蒋介石）批准我们去北方工作，心里是高兴的。”

徐向前元帅为什么会有这样的感慨呢？这要从徐向前离开山西太原，前往上海说起。

1925年8月，徐向前等人经过商量后，决定加入国民二军。国民二军的全称为国民军第二军。

1924年，北京政变后，冯玉祥所部改称中华民国国民军，冯玉祥任总司令兼第一军军长，胡景翼和孙岳为副总司令兼第二、第三军军长。

1925年冯玉祥就任西北边防督办，国民军改称西北边防军也就是西北军，但部队依旧被习惯性地称为国民军。

徐向前他们要去的，就是当时驻扎在河南安阳的国民军第二军，也就是人们习惯称呼的国民二军。

很快，徐向前等人便在蒋介石的批准下，离开广州北上，准备加入冯玉祥部的国民二军。

临行前，蒋介石以黄埔军校校长的身份，亲自召见了徐向前等人。

那天，在黄埔军校校长办公室里，蒋介石首先询问了徐向前等人的名字，年龄和籍贯等信息。随后，蒋介石又问了徐向前等人加入国民二军的原因，问他们去国民二军工作怎么想的？

在蒋介石问的时候，徐向前并没有多说，只是按照蒋介石询问的顺序，机械般地做了回答。因此，徐向前的回答，在蒋介石的心里，并没有掀起一点儿波澜。

在所有的学生都回答完后，蒋介石面露不舍的表情，对徐向前等人说：“你们生命都属黄埔，你们都是我最好的学生，我是舍不得你们走的。你们既然愿意去那儿，那也很好。希望你们发扬黄埔精神，多为黄埔军校送来好学生……”

在来到河南安阳后，徐向前被分配到国民二军第6混成旅工作，先后担任了第6混成旅教导营教官、旅司令部参谋、第2团少校团副等职。

后来，徐向前才意识到，他们主动申请去国民二军工作，正中了蒋介石的下怀。晚年，在回忆起这件事时，徐向前元帅在《历史的回顾》中，写道：

“蒋介石视军如命，历来是注意抓军权的。他野心勃勃，不仅要控制黄埔和国民革命军，还想‘改造’冯玉祥部……我们当时识别不出来。批准我们去北方工作，心里是高兴的。”

事实上，蒋介石巴不得徐向前他们早点儿走呢！原本，他也没有看得上徐向前。而徐向前也在后来站在了蒋介石的对立面上，成长为了新中国的元帅。对此，蒋介石后悔不已！

那时候，蒋介石还专门让阎锡山到徐向前家里问候，希望把徐向前争取到国民党的阵营里来。

只不过，在阎锡山的话说完后，徐向前的父亲反问道：“我儿子去军校后没来一封信，是不是被蒋校长关起来了？！！”

听了徐向前父亲的话，能言善辩的阎锡山竟然也哑口无言了。

徐向前到黄埔军校的时间是1924年。那时候，黄埔军校刚刚成立，就连招生也是秘密的。

那时候，徐向前还叫做徐象谦。在失业休息了一段时间后，徐向前来到太原，想要找个事做。

然而，在太原转悠了好几天，徐向前都没有找到适合自己的事情。就在这时，在军队中做事的哥哥徐受谦告诉他，国民革命军陆军军官学校正在上海招生，有位姓郭的军官愿意暗中保举一些人去投考。

听了哥哥的话，徐向前心动了。不久后，徐向前便便约了几个同学前往了上海。 到了上海，徐向前才知道了黄埔军校的招生简章，并了解了考试的规定：

“既要笔试，又要口试，笔试要考作文、考政治、考数学，口试要观察对三民主义了解之程度和性质、志趣、品格、常识、能力等项之推断，适及将来有无发展之希望等。”

在经过三轮考试后，徐向前顺利进入了黄埔军校，成为了第一期的学员，被编入第一队。此后，徐向前正式过上了军事生活。

那时候，身为黄埔军校校长的蒋介石，在看到徐向前时，觉得他的身体太过瘦弱，认为他没有一点英武之气。此外，徐向前还讲着一口让蒋介石难以听懂的五台话。这些，都引起了蒋介石的不满。

当时，蒋介石问徐向前：“叫什么名？”徐向前回答说：“徐象谦。”

接着,蒋介石问：“什么地方人？”徐向前说：“山西五台县。”蒋介石又问：“在家做什么？”徐向前说：“当过教员。”

这次谈话，蒋介石和徐向前的一问一答都显得十分机械，因此也就草草地结束了，因此也就没有给蒋介石留下好印象。

后来，蒋介石便对身边的人说：“这个徐象谦，到底是怎么进来的？这简直是浪费军校的名额，这样的人，难堪大任！”

看得出来，蒋介石对徐向前是不喜欢的。然而，蒋介石是否喜欢，并没有影响徐向前在学校刻苦努力。

在几个月的时间里，徐向前便对学校开设的步兵操典、射击教范、野外勤务、战术学，兵器学、筑城学、地形学、交通学等一些军事课程，都能做到融会贯通。

这些，蒋介石都不知道。甚至可以说，他也不屑知道。因为，他就是那样对徐向前以貌取人了。就是在徐向前等人申请到国民二军工作时，蒋介石也是毫不犹豫地便批准了。

只不过，在徐向前等人临行前，蒋介石也是照例找他们谈了话，说了一些冠冕堂皇的词汇，表达了一些虚情假意的挽留。这些，徐向前是后来才觉悟到的。因此才有了他在《历史的回顾》中写的那段话。

1926年，在保定、蔚州、灵丘、平原等地，徐向前所在的国民二军第6混成旅第2团与奉系军阀作战时，被击溃。

11月，在辗转了北京、上海等地后，徐向前来到了武汉。期间，徐向前先后担任了南湖学兵团指导员、黄埔军校武汉分校学生总队政治大队第1队队长。

1927年3月，国共合作分裂前夕，在樊炳星和杨得魁的介绍下，徐向前加入中国共产党。在填写党员资料的时候，他没有使用一直以来使用的“徐象谦”这个名字，而是改名为“徐向前”。

此后，徐向前这个名字，伴随了他一生，也让蒋介石头疼了一生！