汉武帝元封中年置并州刺史部，为十三州部之一，领太原、上党、西河、云中、定襄、雁门、朔方、五原、上郡等九郡。东汉时，并州始治晋阳（今太原市晋源区，隋改太原，在今山西太原市西南），建安十八年(213年)并入冀州。三国魏黄初元年(220年)复置，领太原、上党、西河、雁门、乐平、新兴等六郡，仍治晋阳。晋沿用，建兴后沦没。隋唐以后亦有并州，然其地屡有缩小。开元十一年（723年）改为太原府。宋太平兴国四年(979年)置并州于榆次（今晋中市榆次区），五月更名新并州，七年(982年)移治阳曲县（今太原城区），嘉祐四年(1059)改名太原府，并州之名遂废。不过，太原仍沿用并州来命名路名，如并州路。
