匈奴族早在公元前7、8世纪时就已生息和繁衍在中国北方的广大地区，建立起氏族和部落联盟了。匈奴人最初的政治、经济中心在今内蒙古自治区的河套及大青山一带，后始逐步移居漠北。所属各氏族和部落，彼此间并没有永久性的盟约关系，只是根据共同的利害关系随时聚合离散。据《史记》记载：“自淳维(传说为匈奴人始祖)以至于头曼千有余岁，时大时小，别散分离。”就是当时社会现实的概括反映。
匈奴人和他们的东西方邻居们，从一开始就进行着不间断的战争。但是，对匈奴人来说，最痛苦的，莫过于与南方的汉人进行的长达数百年的征讨与杀伐……
公元前3世纪时，匈奴进入铁器时代，军事实力得到相应加强。匈奴的铁骑，经常驰驱于楼烦(今山西省宁武县一带)之下。不久，匈奴又逐步推进，将势力扩至战国七雄中的秦、赵、燕边境，并不时给燕、赵二国以威胁。公元前265年，匈奴骑兵被赵将李牧击败，但不久又卷土重来。直至前215年，秦始皇赢政派遣蒙恬出兵攻击匈奴，匈奴战败后，“不敢南下而牧马，士不敢弯弓而报怨”。但是到了秦朝末年，匈奴却又乘机向南发展，逐渐傍近秦朝的边塞。
根据《汉书》的记载，在大约公元前215年的时候，匈奴部落的大本营，所在地不在外蒙古，而是在内蒙一带。匈奴的兴起，与匈奴国家的创立者头曼密不可分，头曼是匈奴首称领，单于者。公元前214年，蒙恬北伐，头曼败于秦，率部迁至漠北蒙古(就是现在的蒙古国)，蒙恬收复了内蒙一带。秦灭亡之后，趁着中国内乱，头曼再次南下，又收复了内蒙，并将行营建在河套一带，就是现在的呼和浩特附近。
