日本的黑社会不是单纯的黑社会。往往都有自己的公司，正常纳税，替政客们做一些不足为外人道的事情，很多警察不便插手的事情他们都可以做。
所以日本允许黑帮的存在。
日本的法律虽然健全，但不是很严格。比如高利贷在中国是违法的(利息高于某个百分比就算违法，该欠条没有法律效力)。而日本没有这条。
日本没有一个强有力战败的中央政府，战败的时候各种实力派趁乱建立了自己的势力范围，政府都管不住，只好睁只眼闭只眼默许他们的存在。
日本在战前即存在强大的黑社会势力，主要是和日本政府相勾结的右翼团体，战后这些右翼团体从政治领域开始进入经济领域，而由于当时社会结构的崩坏、经济的低迷，各地出现了黑市现象，来满足老百姓对于配给之外的物质需求。
其中日本最大的黑社会是山口组。
山口组的发展:
山口组的沿革，初代山口组组长、山口春吉于大正4年（1915年）在神户市内，与另外约50名的码头装卸工创立山口组，当时为“大岛组”的一支。数年后，大正14年（1925年），山口春吉隐退，由他的长子山口登继承，成为第二代山口组组长；山口登被“大岛组”逐出后，便涉足独占神户中央运输市场的搬运权，使势力范围扩大。昭和15年（1940年），山口登在一次为了争夺营业权，在东京浅草被“?\寅组”（现合田一家）的人斩成重伤、在昭和17年（1942年）逝世。二次大战后，昭和21年（1946年），田冈一雄被选为山口组的第三代组长。
田冈一雄在位期间的昭和30～40年代（50～60年代），与许多地缘黑帮之间发生数起对立火拼事件，而使山口组扩大全国各地地盘，成为全国性的广域黑社会组织。田冈一雄拥有超群的统御力及组织力，以雄厚的资金涉足演艺娱乐、营造、航空及各行业公司的经营权，加上文、武分明的强力战斗部队，成为称霸全国的原动力。
田冈一雄死后，第四代组长的遴选使山口组内部分裂；在昭和59年6月（1984年）选出第四代组长，继承者为竹中正久。造成内部反对势力“山广派”不服，集体退出山口组，另组“一和会”与山口组长期对抗达8年之久的“山一战争”；抗争期间，昭和60年1月（1985年）第四代组长“竹中正久”及若头“中山胜正”遭到暗杀；最后，“一和会”也被山口组彻底瓦解。
到了平成元年（1989年）由原第四代山口组若头渡边芳则继承组长一职，成为山口组第五代组长。第五代组长渡边芳则就任后，因积极扩张势力范围，尤其他本人相信武力可以解决一切，造成与多个组织发生对抗事件，像“东日本二十日会”、“五者会”组成的对抗事件即是。平成8年（1996年）7月发生若头补佐“中野太郎”遭“会津小铁会系”的袭击，而当时的宅见胜却介入并引敌为友，造成“中野太郎”的不满与愤慨。平成9年（1997年8月），第五代山口组若头宅见胜即被“中野会”（2005年8月7日提出解散）派人暗杀身亡，是山口组内部派系纠纷造成。
（2005年）5月弘田组组长司忍（本名“筱田建市”）继任第五代山口组若头；同年7月29日山口组举行“直系组长例行会议”（简名“定例会”），会后正午宣布领帮16年的第五代山口组组长渡边芳泽退休，并内定司忍继任第六代组长；同年8月27日山口组在神户总本部举行第六代组长的迹目相?A继承仪式。此次山口组除改朝换代之外，在吸收东京活动的国粹会入其伞下，被视为山口组将势力逐步深入关东的核心地。
目前山口组成员有3万9200名成员，占日本所有帮派份子的45%，另外在亚洲数国与美国也都有分支。
