西晋王朝灭亡后，整个中原几乎为匈奴人所控制，而在洛阳沦陷、晋怀帝被俘，至司马邺在长安苟延残喘的几年时间里，大量民众逃往南方，已经在建邺站稳了脚跟的琅琊王司马睿，凭借南方物产富饶、经济繁荣，又有长江天堑作为军事防卫的优越条件，稍加治理，已经取得了很大的成效。

然而，司马睿集团本身并没有足够强大的军事实力，其能够偏安江南主要依靠王导联络南方大族，并取得他们支持的结果。这就从客观上决定了该集团从一开始就对中原叛乱的京师洛阳及长安流亡政权只能持消极观望的态度，不敢冒险发兵中原与匈奴汉军作战。从主观上说，王导、司马睿都曾参与并目睹了八王之乱各诸侯王争权夺利的争斗，不可避免地受到司马氏的负面影响，决定了该集团不可能尽心尽力地勤王中原与关中，只能任由他们自生自灭。

早在建兴元年（公元313年），晋愍帝司马邺上任伊始，任命司马睿为侍中、左丞相、都督陕东诸军事、大司马，并制定了一个雄伟的复兴大晋王朝的计划。当司马邺派殿中都尉刘蜀把诏书送达建康（即建邺，因避司马邺讳改称建康）时，司马睿以刚刚平定江东为由，没有奉诏。

建兴四年（316年）十二月，司马邺出降汉赵消息传到建康时，司马睿还在虚情假意地作秀，穿上铠甲，率领集结起来的军队在野外宿营，向各地发布檄文，摆出一副要北伐的架势。可常言道，兵马未动粮草先行，由于事出仓促，粮食一时筹措不起来，司马睿将督运令史淳于伯一杀了之。丞相司直刘隗认为淳于伯罪不至死、右将军王导等人也主动承认失职，司马睿说了一句∶"这是我一时糊涂昏昧造成的。"至此，北伐之事不了了之。

不久，西晋平东将军宁哲来到建康，宣称带来了司马邺的最高指示，委托司马睿全面负责国家事务。司马睿换上素衣，举哀3日，以西阳王司马亲为首的一帮官员、掾属共同劝说司马睿继位称帝，司马睿不敢贸然接受。

司马羡等人不肯罢休，以死固请，司马睿流着眼泪说∶"我身为丞相，没有尽到辅佐的责任，是戴罪之人。你们再这样纠缠不休地逼我，我只好回琅琊封国去了。"并吩咐奴仆准备车驾，摆出一副要走人的样子。司马羡等人于是退而求其次，请求司马睿依照魏、晋旧例，称晋王。司马睿这回同意了。遂于建兴五（317年）三月即晋王位，大赦天下，改元"建武"，设置百官，建立宗庙社稷。六月，孤悬在北方的并州刺史刘琨、以及归附晋朝的辽西鲜卑左贤王段匹碑等180 人又上书劝进，司马睿还是不答应。

建武二年（318年）三月初七，晋愍帝的死讯传到建康，百官又请求奉上皇帝尊号，司马睿还是不点头。长史纪瞻说："晋朝嗣统中断，至今都已两年了，陛下应当继承大业。遍观皇室子弟，还能推让给谁呢?陛下只有荣登大位，祖先的神灵和天下百姓才能有所依靠。天予不取必受其咎，陛下难道要忤逆天命，违背人心，失去这大好时机吗?洛阳、长安两座京城都被焚烧洗劫，刘聪在西北自立尊号，而陛下却在东南装清高，这就好比要您救火，你却在作揖谦让啊!"

司马睿还要把清高装下去，指示殿中将军韩绩将已经摆设好的宝座撤掉。纪瞻大声呵斥韩绩，说∶"皇帝的座位与天上星辰相对应，有敢挪动者斩首!"

司马睿不是不想坐上那至高无上的宝座，只是其他人的劝进分量太轻，只有得到王氏家族的真心拥护，他才坐得踏实。因此直到三月初十，王导做了大量思想工作，说服堂兄王敦同意后，时年43岁的司马睿才愉快地接受百官的劝进，爽歪歪地登基称帝，是为晋元帝。改元"太兴"，国号仍为"晋"，史称"东晋"。

登基仪式庄严而隆重，文武百官位列两行，司马睿将宝座让出一半，请王导与自己同坐，表示军功章有他的一半，皇权也由两人共享。王导当着众大臣的面，功劳再大也不敢接受这份天大的殊荣，诚惶诚恐地推辞说∶"太阳高悬，才能照耀天下。您就是那高悬的太阳，臣只是地上的一棵小草，怎么能在您身边，妨碍众生仰望呢!"反复谦让了三四次后，司马睿不再勉强。于是便有了"王与马，共天下"的说法，东晋也就以这样的政治格局拉开了帷幕。

登基大典之后就是论功行赏，文武官员一律升级二等。对于上书劝进的官员，每人再升级一等，凡是在劝进书上签过名的平民百姓，都安排到部门工作，共计有20多万人，散骑常侍熊远进谏说∶"臣以为还是按汉朝的老规矩为好。皇帝登基，就要普天同庆，不要只赏赐京师劝进之人，而忽视了远地的百姓。"司马睿不予理会，相应地，对于脑子不开窍的人，司马睿也是不会忘记的。参军周嵩开始的时候见司马睿扭捏作态，就当了真，说什么先帝的梓宫还在敌国，故都还没有光复，义士泣血，士女震动。应先广开言路，训练士卒，整治兵器，等收复失地，洗雪了社稷大耻，到时再登大位也不迟。这让司马睿很不舒服，很快周嵩就因"工作需要"被调离京城，担任新安太守，后来更是因为屡屡发表不合时宜的言论，被免去了官职。