地处黄河中游,黄土高原东部,北界长城与内蒙古自治区接壤,西隔黄河与陕西省相望,南抵黄河与河南省为邻,东依太行山与河南、河北两省毗连。省境轮廓大体呈平形四边形,介于东经110°15′-114°33′,北纬34°34′-40°43′之间,南北长628公里,东西宽385公里,总面积15.66万平方公里,约占全国总土地面积的1.63%,总人口3300余万人,占山西省境内山峦叠嶂,丘陵起伏,沟壑纵横,大部分为山区和丘陵。五台山主峰叶斗峰海拔3058米,为华北最高峰。东部太行山、西部吕梁山纵贯南北,中部由北而南分布有大同、忻州、太原、临汾、长治和运城等盆地。恒山、五台山、系舟山、太岳山和中条山散列其间。受地势影响,全省100多条河流分属黄河和海河两大水系。黄河流经晋陕峡谷,在吉县壶口一带河床突然下跌15至20米,流水直泻,形成壮观的壶口瀑布。山西地形复杂,地处中纬度地区,属暖温带、温带大陆性气候,冬寒夏暖,四季分明,南北差异和垂直差异较大。
全国总人口的2.4%。省会太原,省政府驻太原府东街。