球迷在奥林匹克运动会上首次欣赏到篮球比赛，是1936年在柏林举行的第十一届奥运会上。为此，1936年对于现代篮球来说是重要的里程碑。现任国际业余篮球联合会秘书长波·斯坦科维奇也曾说过：“1936年在篮球史上应大书一笔。”来自北美洲、南美洲、亚洲、欧洲和非洲的21支球队参加了这届奥运会的篮球比赛，成为柏林奥运会团体比赛项目中参赛队伍最多的比赛项目，从而表明，篮球发明45年后的1936年，篮球运动已在世界范围内得到了普及和发展。
奥运会女子篮球比赛始于1976年第二十一届奥运会。在参赛的各路劲旅中，美国和苏联两国的男、女奥林匹克篮球队实力最强，几乎主宰着每届奥运会的篮球比赛。
美国在奥运会篮球史上居于创始地位。美国篮坛重视奥运会篮球比赛胜于世界锦标赛，每届均派出全国最强阵容参赛。到1984年洛杉矶奥运会为止，美国男篮除因抵制而未参加1980年莫斯科奥运会外，共获得9届冠军，仅在 1972年慕尼黑奥运会上以1分之差输给苏联队而获亚军。
苏联男篮1952年首次在赫尔辛基奥运会上亮相，除23届奥运会外，每届均进入前三名，共获一届冠军、四届亚军和三届第三名。
此外，南斯拉夫男篮夺得过1980年莫斯科奥运会冠军、1968年墨西哥城奥运会和1976年蒙特利尔奥运会两届亚军以及1984年洛杉矶奥运会第三名。
美、苏男篮相争是奥运会篮球比赛中最为引人注目的。双方曾五次在决赛中争夺冠军，结果美国队四胜一负。蝉联头七届冠军的美国队在1972年慕尼黑奥运会男篮决赛中，以49∶50的一分之差败在苏联队手下而第一次失去冠军奖杯。这一失利是当时纪录台计时出现严重错误造成的。美国队为此一直不服气，甚至拒绝接受银牌并向国际业余篮球联合会提出了抗议。
1976年蒙特利尔奥运会上，美国队虽然夺回了奥运会冠军称号，但因未能与苏联队相遇而怨气不消。苏联队在半决赛中，出乎人们意料地负于南斯拉夫队，而失去了决赛权。此后，美、苏又分别抵制了1980年莫斯科奥运会和1984年洛杉矶奥运会。人们只得寄希望于1988年奥运会上再次看到美、苏两队16年后对抗的情景。
