司马睿到了建业之后，靠着王导的帮助，慢慢地在江东站住了脚跟。当时全国一片混乱，只有江东稍微安定，中原的士人百姓大多南渡长江去避乱。王导劝说琅邪王司马睿，召收贤能英俊的人才，与他们一同成就事业。司马睿采纳了王导的意见，任用了一百多人作为掾属，当时的人称之为百六掾 。而对于不服从自己的地方势力，司马睿也是进行征伐。打拉结合，效果还不错。
　　司马睿王导等人治理江左，虽然吸引了大批的南渡士人，但是也有很多人对他们持悲观态度，桓彝在初到江左时，看到司马睿势力单薄，很是担心，他对周顗说：“我因为中原多故，想到江南寻个安身立命之地，不料朝廷如此微弱，怎么办才好呢？”当王导和他纵谈形势以后，他的态度有了变化：“我见到了江左‘管仲’，不再忧虑了。”还有一次诸名士在新亭上聚会，周顗叹气说：“风景不殊，正自有山河之异。”在座的听了都不禁伤心落泪。王导当场放下脸道：“当共戮力王室，克复神州，何至作楚囚相对！”

　　司马睿等人在建业还没过几年太平日了，就面临着一个重大威胁，这就是羯人石勒，洛阳陷落后，石勒杀了王弥，这却惹恼了刘聪，但是为了彻底消灭晋朝的有生力量，刘聪还加封石勒为镇东大将军，希望他继续为匈奴汉国攻打晋朝军队。

　　此时晋朝北方重镇中并州刘琨和幽州王浚各自仰仗鲜卑诸部的势力称威一方，石勒认为不能和他们抗衡，就把目光瞄向江东。公元312年二月，石勒在葛陂（在今河南新蔡）修筑营垒，课农造舟，将备攻打建业。司马睿大惊，江淮一旦失守，江东危矣，马上征调江南所有兵马屯于寿春（安徽寿县），以镇东长史纪瞻为扬威将军，都督诸军讨伐石勒。
　　日期：2014-05-16 21:42:03
　　也算是司马睿运气好，刚好遇到大雨，三个月不停，石勒军队饥乏疾病一起来，饿死病死累死的人超过一大半，又听到晋朝军队将要开来，就召集武将及参佐商议。有人请石勒先向司马睿求和，先扫平河朔，等到司马睿的军队退还江南，再慢慢谋取他。石勒听后忧伤地大声发出长叹。他的重要幕僚张宾说：“将军您攻陷京城，囚禁了晋朝天子，杀害亲王公卿大臣，侵占凌辱晋朝的嫔妃公主，拔下您的头发，也不够来数将军您的罪过。怎么能再以臣下的身分尊奉晋朝呢？去年杀了王弥，就不应该到这里来。现在，几百里内上天不断地降雨，这是告诉将军您不应该在这里逗留了。邺城有三个高台防守坚固，西临汉 都城平阳，隔山阻河四面都有要塞，应当向北迁徙占据那里，经营黄河以北地区。河北地区稳定后，全国就没有处在将军您上面的人。晋朝保卫寿春，只是害怕您去攻打寿春罢了。他们听说我们离去了，对能够自己保全而感到高兴满足，还有什么功夫追击我军的后部，施行不利于我军的行动呢？您应当派辎重队伍从北面的道路先行出发，您带领大部军队开往寿春。辎重队伍走远后，大部军队再缓慢回撤，还忧虑什么进退无路的呢？”石勒捋起衣袖抚动髯须说：“张君的计策好啊！”

　　于是石勒带兵从葛陂出发，派侄子石虎带领二千骑兵开往寿春，遇到晋朝的运输船，石虎的部将兵士争先攻取，结果被纪瞻打败。纪瞻追击了一百多里，追上石勒的军队，石勒排好兵阵等待，而纪瞻不敢攻打，退还到寿春。这建业才算稳定了一会。
　　石勒北退之后，建东暂安，之后，长安的朝廷以司马睿担任左丞相、大都督，都督陕东诸军事；以南阳王司马保任右丞相、大都督，都督陕西诸军事。诏书说：“现在应当扫除像刘聪那样的大鱼，奉迎怀帝的灵柩。命令幽、并两州带领三十万兵率直接进兵平阳，右丞相应当率领秦州、凉州、梁州、雍州的军队三十万人直接到长安，左丞相率领所属的二十万精锐兵士直接到洛阳，共同奔赴约定的大业，完成伟大的功勋。”

　　下了诏书，愍帝还派人持诏令让司马睿按时进军，与皇帝的乘舆在中原相会。但是此时司马睿已经满足于暂安江南，满脑子想的是稳固自己的地盘，对给朝廷卖命是一点都没兴趣，所以对于北伐的诏令是万般推辞。
　　就在司马睿等人对长安朝廷一点都不关心的时候，公元316年，长安终于失守了，司马睿听说长安失守，就假惺惺地做个样子，带军队出去露宿野外，他亲自穿上铠甲，向各地发布檄文，限定日期北伐。走了还没几步，就因为水道运粮耽误了日期，杀督运史淳于伯。行刑的人用刀擦柱子，血逆流而上，一直到二丈多的柱子末端才流下。观看的人都认为淳于伯冤枉。其实大家都知道，本来你就不想去北伐，现在何必为难别人呢？

　　长安的失守，对建康的司马睿是产生了一些震动的，但是他更多的是看到了机会，公元317年，有大臣从长安逃到建康来，称说奉晋愍帝诏书，令丞相、琅邪王司马睿总摄国家所有事宜。这年三月，司马睿换上素色服装，避居于别室，举哀三天。此时许多官员、部属等共同进上皇帝尊号，琅邪王不肯即位。他感慨地流着眼泪说：“孤是有罪之人。诸位贤良如果逼我不止，我将返归琅邪封国。”并传呼私人奴仆，让他们驾车准备返回封国。其实这当然是做做样子给别人看的，你就是赶他走，他也不会走，到最后，司马睿即晋王位，大赦天下，改年号为建武，开始设置百官，建立宗庙和社稷。并且立了太子，这年，大臣们多次建议他称帝算了，司马睿一直没有答应。

　　到了公元318年三月，愍帝死讯传至建康，自己的皇帝被人家给杀了。这司马睿其实内心应该还是有几分喜悦的，但是样子也得做做吧，于是他穿着丧服，别居倚庐。百官们在这个时候摸清了他的心思，纷纷奏请晋王使用皇帝尊号，其实这也是大臣们给自己考虑，你上位了别人也好上位啊，现在机会来了，你要不当皇帝，万一别的司马抢在你面前称帝了，你无所谓，可我们怎么办啊？但是晋王司马睿还是不同意。纪瞻说：“晋政权灭亡，至今已经两年，陛下应当继承大业。遍观皇室子弟，又有谁值得推让！陛下如果荣登皇位，那么祖先神灵和国民都能有所依凭；如果拂逆天命，违背人心，大势一旦失去，就无法挽回了。现在洛阳、长安两座京城被毁，国家无主，刘聪在西北自立国号，而陛下却在东南清高地推谢帝位，这就如同急于救火却恭礼谦让。”晋王还是不同意，让殿中将军韩绩撤去摆好的皇帝宝座。纪瞻喝斥韩绩说：“皇帝之座与天上列星相应，敢搬动的斩首！”晋王脸色为之一变。

　　就在这帮君臣忙着称帝登基的时候，也有不识相的站出来说话，有个大臣说到： “古代帝王，道义周全而后撷取，谦让顺成而后据有，所以能长久地统治国家，恩泽被服万世。现在愍帝的梓宫尚未返国，故都耻辱尚未涤清，胸怀节义者痛心泣血，士子民女惶惶失措。应当广开言路征求良好的建议，训练士卒、整备兵器，先洗雪国家覆亡的大耻，实现天下人民的共同愿望，那么君临天下的大权还能给谁呢！”他这话明显的就是发对人家司马睿登基，于是很快就被司马睿给赶到地方上去了，可见这司马睿推脱不称帝到底是多么的虚伪。