汉太祖刘邦鉴于秦朝朝廷孤立无援、三世而亡的下场，分封了一批诸侯王，但同时又沿袭了郡县制，使西汉前期的行政区划出现了一种郡县制与分封制并立的局面，史称“郡国并行制”。虽然之后刘邦通过各种途径除去了韩信、英布等大部分的异姓王，但仍设立了九个同姓诸侯王做为朝廷之援。随着时间的推移，各诸侯国实力强大，有独立的军事政治体制与职权，而且多数跨数郡之地，大者甚至有四至六郡。天下六十余郡，有四十余郡在各诸侯王手中，而汉天子所掌握的郡尚不足二十 。
汉文帝、汉景帝时期，朝廷多次设法削弱诸侯王的势力，最终发生了历时不到三个月的“七国之乱”。汉廷迅速平定诸王叛乱后，通过推恩令等手段乘势削减诸侯王国辖区，侯国从此不得超越一郡之制。而且诸王的军政权力也被剥夺，仅保留其在封地内的财政收入，而侯国内高级官员改由中央指派，实际与各郡县的郡守、县令无异。
至汉武帝时期，对外攘夷拓边，将汉初的两百余万平方公里拓展到四百余万平方公里，奠定了汉地基本范围。 面对历史上空前辽阔的疆域，汉武帝除了增设郡县外，还建立了刺史制度，十三个刺史各负责本部即一个地区的若干郡国，并逐步演变为州郡县的三级建制。虽然此时的州并非正式的行政区划，但是它可以有效的将朝廷直接管理的对象从一百多个郡国单位，缩减到十几个州的单位，到了汉宣帝时期，又于西域乌垒城设西域都护府，将西域正式纳入中国版图，对今后数千年的中国历史产生了深远的影响。
