周朝时期，内蒙古中西部（河套以及周围地区）由楼烦、林胡,狄族等游牧民族居住，东部地区居住着东胡族。
战国时期，赵武灵王（340-295）以如今河北省和山西省为据点，对此地区奉行扩张政策。灭狄族中山国（如今河北省）之后，赵武灵王击败林胡以及楼烦二族，设云中郡，与近代意义上的呼和浩特相临。赵武灵王还修筑长城，绵延至河套地区。
公元前221年，秦始皇建立了中国第一个中央集权帝国。始皇派蒙田逐匈奴驱出该地区，后并入赵国原有的长城，形成了中国的万里长碰圆搏城。始皇保留当地两大郡：九原郡以及云中郡，并迁入三万户人以巩固该地区。公元前腔稿206年，秦朝灭亡，这些举措被废。
西汉时期，公元前127年，武帝派卫青大将军再次北驱匈奴以取得河套地区。之后，武帝继续实行在河套地区笑祥建居住地的政策，以抵御匈奴。同年，武帝在河套地区设立朔方郡、武原郡。如今的内蒙古东部地区在当时由鲜卑控制，后期鲜卑在力量以及影响上都令匈奴黯然失色。
东汉时期，曾降于汉朝的匈奴开始在河套地区定居，并在当地与汉族移民相互来往。西晋时期，匈奴贵族刘渊在该地区建立汉赵帝国，由此开启了十六国时期，中国北方在汉族政权与其他政权的交替中逐渐衰落。
