日本陆军军衔共计6等16级，即大将、中将、少将、大佐（校）、中佐、少佐、大尉、中尉、少尉、准尉、曹长（上士）、军曹（中士）、伍长（下士）、上等兵、一等兵、二等兵。日本陆军也有元帅军衔，但规定由日本天皇从战功显赫或资深的大将中选任，颁赐元帅封号，自明治维新后至1945年日本帝国主义投降，共有17位陆军大将被天皇颁赐元帅军衔。日本军衔与有些国家不同的是，大尉、大佐、大将的领、肩章上都只有3颗星而不是4颗星。在日本陆军中，军司令官常是中将或大将军衔，师团长多是中将军衔，旅团长多是少将军衔（也有个别是中将军衔），联队长多是中佐或大佐军衔，大队长多为少佐、大尉军衔，中队长多为中尉军衔，小队长多为少尉军衔。
日本军队只有陆军和海军两个军种，虽然其曾拥有强大的航空兵部队，但也只是分属于陆军航空兵和海军航空兵，而没有独立的空军。日本的海军各陆军，从服装颜色上很容易区别出来。而日本陆军各兵种的服装虽然一致，但也可以从其佩带的肩章和领章的颜色上加以区分，如日本陆军步兵肩领章底色为红色，炮兵为黄色，骑兵为绿色，工兵为茶色，辎重兵为深蓝色，航空兵为天蓝色，宪兵为黑色，军医为深绿色，军法官为天白色，财会官为银茶色等等。
当时日本陆军的职务编制军衔：
陆军大臣——元帅、大将；
陆军参谋长——元帅、大将；
总军（1945年计划编成，未及实现即投降，相当于方面军）司令官——元帅、大将，
总军参谋长——大将、中将；
军（集团军）司令官——大将，
军参谋长——中将；
方面军（军）司令官——中将，
方面军参谋长——少将；
师团长（师长）——中将，
师团参谋长——少将、大佐；
旅团长（旅长）——少将、大佐，
旅团参谋长——大佐、中佐；
联队长（团长）——大佐、中佐，
副联队长（副团长）——中佐、少佐；
大队长（营长）——少佐、大尉；
中队长（连长）——大尉、中尉；
小队长（排长）——中尉、少尉；
司务长——准尉、曹长；
小队副（副排长）——曹长、军曹；
分队长（班长）——军曹、伍长；
组长——伍长、上等兵。
