日本的一级行政区划单位为都道府县，全国划分为1都、1道、2府、43县。部份市因人口较多，在当地影响较大，而被指定为政令指定都市、中核市、特例市。都道府县下的行政区划为市町村，此外还有郡、支厅、区、特别区等行政单位。根据地理与人文、经济特征，日本通常被分为八大区域，包括了北海道地方、东北地方、关东地方、中部地方、近畿地方、中国地方、四国地方和九州-冲绳地方
郡是日本自1878年起所设立在都道府县下的行政区域，通常辖有数个町或村的自治地方，市级的自治地方则不隶属郡的管辖；但此日本郡制已于1926年废止，目前郡只作为地名的表示，并无任何治理功能。
现在的市町村
市：人口5万以上，并且户数的六成集中在市中心区域，或著是有六成的人口从事该市的产业，此外还需具有该都道府县的条例中所规定的必须设施。2004年（平成16年）所制定市町村合并特别条例中，允许人口3万人以上市制实施。
町：需具备在该都道府县的条例中所规定的“町”的必备条件，
町村要改制为市，或村要改制为市，需送都道府县知事，经都道府县议会决议通过，并向总务大臣申报。
村：在法律上并没有特别的必要条件规定。
地方自治法中，法律中对于市町村并没有太大的差异。不过，其中的政令指定都市就有事务分配和行政区制度的特例。
镇村可以不设置议会，而以直接民主方式的町村大会替代。但目前并没有实际设置町村大会的例子（另有见解认为东京都八丈支厅宇津木村有设置）)。2006年长野县木曾郡王泷村因多重债务问题曾提出此案，但被村议会否决。
市町村的辖区内会使用“～町”作为地名。
市町村有进行自治事务、制定条例、规则等自治立法权等。
