民国八年（1919年）10月9日，山西博物院的前身——山西教育图书博物馆成立。
民国十四年（1925年）10月，山西教育图书博物馆更名为山西公立图书馆。原馆面积扩至9万平方米。博物馆成为图书馆的附设机构，馆员13人，藏书也增至13万余册。
民国二十二年（1933年）10月，山西公立图书馆遵照省府颁发的《山西省民众教育馆组织规程》，山西公立图书馆原址及所有图书物品，筹备开办山西省立民众教育馆。
民国二十六年（1937年）11月8日，太原沦陷。山西省立民众教育馆随之沦落日军手中，日军接管省立民众教育馆后，将其更名为太原图书馆，附设于“山西文化保护会”，由日军山冈部队管理。之后又先后易手日军舞兵团和山西陆军特务机关代管。
民国二十九年（1940年）12月，由山西陆军特务机关移交伪山西省署。
民国三十年（1941年）1月，更名为山西省立新民教育馆。日军从全省各地掠夺书籍、文物等以充馆藏，并且将一些珍贵文物、书籍运至日本。
民国三十四年（1945年），抗战胜利，阎锡山委任王仲元为接收委员，恢复省立民众教育馆馆名。
民国三十七年（1948年），太原解放前夕，阎锡山将兵工厂设于民众教育馆馆址文庙，博物馆工作被迫中断。
民国三十八年（1949年）4月，省立民众教育馆由人民解放军太原军事委员会文教接管组接管，更名为山西省图书博物馆，下设博物部。
1953年9月，山西图书博物馆与太原文物馆合并，更名为山西省博物馆，人员编制增至70余人。
1956年，山西省博物馆按照地志博物馆模式陆续完成自然之部、历史之部和社会主义建设之部的基本陈列，并对公众开放。
1966年，文化大革命期间，博物馆陈列和藏品被列为“封资修”或“四旧”受到批判，博物馆事业遭到破坏。
1971年11月，博物馆开始逐步恢复业务工作。
1992年，山西省委和省政府，决定筹建一座现代化新馆。
1997年，山西博物馆新馆项目批准立项。
2001年，山西博物馆新馆奠基。
2004年，新馆建成，定名为山西博物院。8月，陈列设计工程启动。
2005年1月8日，“晋魂”陈列在新落成的馆址举行预展，广泛征求社会各界人士的意见。9月26日，基本陈列“晋魂”正式向公众开放。
