北方发生大乱以后，北方的士族地主纷纷逃到江南来避难。王导又劝说司马睿把他们中间有名望的人都吸收到王府来。司马睿听从王导的意见，前前后后吸收了一百零六个人，在王府里做官。

司马睿听从王导的安排，拉拢了江南的士族，又吸收了北方的人才，巩固了地位，心里十分感激王导。他对王导说：

“你真是我的萧何啊！”

公元３１７年，司马睿在建康即位，重建晋朝。这就是晋元帝。在这以后，晋朝的国都在建康。为了和司马炎建立的晋朝（西晋）相区别，历史上把这个朝代称为东晋。

晋元帝登基的那天，王导和文武官员都进宫来朝见。

晋元帝见到王导，从御座站了起来，把王导拉住，要他一起坐在御座上接受百官朝拜。

这个意外的举动，使王导大为吃惊。因为在封建时代，是绝对不允许有这样的事的。王导忙不迭推辞，他说：“这怎么行。如果太阳跟普通的生物在一起，生物还怎么能得到阳光的照耀呢？”

王导这一番吹捧，使晋元帝十分高兴。晋元帝也不再勉强。但是他总认为他能够得到这个皇位，全靠王导、王敦兄弟的力量，所以，对他们特别尊重。他封王导担任尚书，掌管朝内的大权；又让王敦总管军事。王家的子弟中，很多人都封了重要官职。

当时，民间流传着一句话，叫做“王与马，共天下”。意思就是王氏同皇族司马氏共同掌握了东晋的大权。

王敦掌握军权，自以为了不起，把晋元帝不放在眼里。晋元帝也看出了王敦的骄横，另外重用了大巨刘隗和刁协，对王氏兄弟渐渐疏远起来。这样，刚刚建立的东晋王朝内部就出现了裂痕。