中国第一次参加奥运会是在1932年。
在这一年，第10届夏季奥林匹克运动会在美国的洛杉矶举行。中国首次派出了一个3人组成的代表团，但运动员仅刘长春一人，参加了100米、200米、400米比赛。在100米和200米预赛中落选。因体力不支，放弃了400米的比赛。不过，刘长春开创了中国参加奥运会比赛的历史。
新中国参加奥运会是在1952年。
在这一年，第15届奥运会在芬兰赫尔辛基举办，这也是新中国历史上第一次参加奥运会。在本届奥运会之前，中华人民共和国奥委会未得到国际奥委会的承认。由于已与中华人民共和国建立外交关系的部分国家的支持，中华人民共和国在国际奥委会年会上终于取得了参加本届奥运会的资格。但是由于迟到，新中国代表团一行40人赶到赫尔辛基时，大会已进行了10天，故而只赶上男子游泳的一项比赛和最后的闭幕式。
中华人民共和国作为国际奥委会的正式成员参加的第一次奥运会是在1984年。
在这一年，第23届夏季奥林匹克运动会在美国洛杉矶举办。中国派出了运动员达225人的大型体育代表团参加这次盛会，参加了除足球、曲棍球、拳击、马术、现代五项以外的其余16个大项的比赛，并一举夺取了15金、8银、9铜，位列奖牌榜第4名。在本届奥运会上，27岁的中国射击选手许海峰以566环的成绩获男子手枪60发慢射冠军，成为中国第一位奥运会金牌获得者。
另外，中国首次参加的冬季奥林匹克运动会是1980年，在美国普莱西德湖举行的第13届冬季奥林匹克运动会。中国共派出28名男女运动员，参加了滑冰、滑雪、现代冬季两项的18个单项比赛。首次参赛的我国男女选手与世界先进水平有较大差距，无一人进入前六名。
中国首枚冬奥会奖牌是1992年法国阿尔贝维尔第16届冬季奥运会。叶乔波在女子速滑500米比赛中获得的银牌。
中国首枚冬奥会金牌是2002年美国盐湖城第19届冬季奥运会。杨扬获得短道速滑女子500米冠军。
