东晋从立国江东以后，中央政府和荆州地方的军人颇相猜忌，所以内外相持，坐视北方的扰乱而不能平定。当后赵灭亡时，荆州的桓温曾出兵灭前蜀，并收复河南地方。然伐前秦、前燕都不利，河南亦复为前燕所陷。到苻坚南伐时，镇江地方产生了一支精兵，谓之“北府兵”。靠着这一支兵，把苻坚打退。然而这一支兵的中心人物刘牢之，是个反复无常的人。此时桓温的小儿子，唤作桓玄，闲住在荆州。实际颇有势力。荆州地方反抗中央的人，都拉拢着他。中央政府，也给他一个地盘。后来荆州地方，遂尽为所并。有一年，荆州大饥，中央政府想趁此讨伐桓玄，而刘牢之和桓玄勾通，桓玄就入都篡位。夺掉刘牢之的兵权。牢之要想反抗，而手下的人都可恶他反复，不听命令，牢之遂自缢（yì）而死。然而北府兵的势力，实际并未消灭。数年之后，军中旧人刘裕等起兵以攻桓玄。桓玄败死。晋帝复位。中央的实权，都入于刘裕之手。