1878年日本陆军设立参谋本部，成立后的参谋本部的人员分为两种准官参谋和本官参谋。准官参谋刚提拔到参谋本部是歩，骑，炮，工4科的优秀军官，本官参谋是已经在参谋本部任职并有成绩获得认可的，实际就是实习生和正式工的区别。
参谋本部后成立的最大问题就是人才不够，当时日本没有陆军的高级学府，陆士毕业后的优秀学生是选派出去留学，而这些留学生不一定在海外学习参谋学科，所以参谋本部成立后人员补充一直是个大问题。所以在1882年参谋本部条例中确定成立陆军大学校用于培训参谋军官。
同年11月颁布陆军大学校条例。条例中明确说明从志愿入学的歩，骑，炮，工等兵种军官中选拔优秀学生进行培养毕业后担任参谋职务。也就是陆军大学校一开始的目的非常明确：培养参谋。
1883年4月2日陆军大学校正式开学。在设校两年后，从当时普鲁士军事学院请来名将老毛奇的弟子Klemens Wilhelm Jacob Meckel少校担任教官，引进当时优秀的普鲁士军事参谋教育与制度。
