与此同时,中国北方陷入分裂混战,黄河流域成匈奴、羯、鲜卑、氐、羌等「五胡」族军阀争杀的战场,各个「胡」族首领纷纷建立政权,和东晋汉族政权长期对峙,史称五胡十六国。从公元304年匈奴贵族刘渊建立汉国,316年灭掉西晋,到439年鲜卑拓拔部统一北方,这100多年里,北方各民族相互争战,先后建立了前赵(匈奴)、后赵(羯)、前燕(鲜卑)、前凉(汉)、前秦(氐)、后秦(羌)、后燕(鲜卑)、西秦(鲜卑)、后凉(氐)、南凉(鲜卑)、西凉(汉)、北凉(卢水胡)、南燕(鲜卑)、北燕(汉)、夏(匈奴)等十五个政权,连同西南氐族建立的成汉,总称十六国。在十六国时期,除十六国之外,还有汉人冉闵建立的魏、丁灵翟氏建立的魏、武都氐帅杨氏建立的仇池国、鲜卑慕容氏建立的西燕、鲜卑拓跋氏建立的代五个政权,总计先后建立了21个政权。上述政权中,后赵、前燕、前秦都曾占据过北方的大部分疆域,尤其是前秦曾基本上统一了北方,不过时间都很短,在百余年时间,北方战乱基本上没有停息。