1949年，将全国分为5大行政区和一个中央直属行政单位，总共有30省、1自治区、12直辖市、5行署区、1地方、1地区。
1950年，撤销旅大行署区，设立旅大市，并设立中央人民政府华北事务部，撤销四川省，设立川东、川南、川西、川北4个行署区。
1952年，撤销中央人民政府华北事务部，设立政务院华北行政委员会。并将原来的大行政区改称为行政委员会。撤销了行署区的建制，恢复为原来的省。撤销平原省，将其行政区域并入河南、山东二省。撤销察哈尔省，将其行政区域并入河北、山西二省。直辖南京市改为江苏省辖市。
1953年，吉林省的长春市和松江省的哈尔滨市升为直辖市。总计6大行政区，下辖30省、1自治区、14直辖市、1地方、1地区。
1954年，撤销6大行政委员会，最高一级的地方行政单位变为省。撤销辽东、辽西二省，恢复辽宁省。撤销松江省，将其行政区域并入黑龙江省。撤销宁夏省，将其行政区域并入甘肃省；1954年6月撤销绥远省，将其行政区域并入内蒙古自治区。归绥市改称呼和浩特市，定为自治区首府。总计26省、1自治区、3直辖市、1地方、1地区。
