日本武士的产生是在平安时代，九世纪中期开始，一些地方领主开始建立保卫自己的私人武装，并利用其扩张势力。这种武装逐渐成熟为一种制度化的专业军事组织，其基础是宗族和主从关系。到了十世纪，朝廷无力镇压地方势力的叛乱，不得不借助各地武士的力量，武士更进一步得到了中央的承认，成为日本的特权统治阶级。
日本镰仓幕府是日本武士道的发源地，不过并没有成型，而是后来经江户时代吸收儒家思想才最终成型。镰仓幕府建立武士道之处，还是以倡导忠诚、信义、廉耻、尚武、名誉为主，但做为封建幕府时代政治的产物的武士道，它根本不无法吸收到儒家和佛教的真谛，倒是日本民族固有的神道教，弥补了儒教和佛家的思想中不能满足武士道的某些缺憾。
