1896年，第1屆奧運(yùn)會(huì)召開前，國際奧委會(huì)曾通過法國駐華使館向清政府發(fā)出邀請。但當(dāng)時(shí)的清政府正處于內(nèi)憂外患之中，對體育事業(yè)毫不關(guān)心，所以沒有應(yīng)邀參加。1922年，國際奧委會(huì)選舉我國王正廷為國際奧委會(huì)委員。1924年，中國第一個(gè)全國性體育組織--中華全國體育協(xié)進(jìn)會(huì)成立。同年派出三名網(wǎng)球運(yùn)動(dòng)員，在法國巴黎舉行的第8屆奧運(yùn)會(huì)上作了表演賽(奧運(yùn)會(huì)無正式網(wǎng)球賽)。4年后，中國又派宋如海觀光了在荷蘭阿姆斯特丹舉行的第9屆奧運(yùn)會(huì)。1931年，國際奧委會(huì)承認(rèn)中華全國體育協(xié)進(jìn)會(huì)。此后，中國正式參加了第10、11、14屆奧運(yùn)會(huì)，但均未能取得任何成績。在此期間，國際奧委會(huì)于1939年、1947年選出了我國孔祥熙、董守義為國際奧委會(huì)委員。
1949年，新中國成立后，原中華全國體育協(xié)進(jìn)會(huì)改組為中華全國體育總會(huì)(中國奧林匹克委員會(huì))。1952年第15屆奧運(yùn)會(huì)時(shí)，由于國際奧委會(huì)某些人在中國席位問題上有意制造事端，致使我遲至7月才接到國際奧委會(huì)的邀請。待我國派出的由足、籃球隊(duì)與游泳選手組成的40人代表團(tuán)，到達(dá)赫爾辛基時(shí)，比賽已近尾聲，僅吳傳玉一人參加了仰泳比賽。但是，國際奧委會(huì)一直拖延解決我中華全國體育總會(huì)在該會(huì)的合法席位問題，直到1954年在雅典召開的國際奧委會(huì)第49屆會(huì)議上才得到確認(rèn)。1956年，國際奧委會(huì)在某些人操縱下，仍蓄意制造"兩個(gè)中國"。同年11月6日，中華全國體育總會(huì)發(fā)表聲明，宣布不參加第16屆奧運(yùn)會(huì)，以示抗議。1958年，我國中斷了與奧委會(huì)的一切聯(lián)系。
1979年11月26日，國際奧委會(huì)在洛桑宣布，經(jīng)過國際奧委會(huì)全體委員通訊表決，以62票贊成，17票反對，通過了國際奧委會(huì)執(zhí)委會(huì)前此于10月在名古屋作出的承認(rèn)中國奧委會(huì)為全國性奧委會(huì)的決定。中國體育代表團(tuán)參加大會(huì)時(shí)，使用中華人民共和國國歌和國旗。同時(shí)，為了照顧臺(tái)灣的現(xiàn)實(shí)情況，仍將臺(tái)北的奧委會(huì)作為中國的一個(gè)地方機(jī)構(gòu)，以"中國臺(tái)北奧委會(huì)"名稱保留在國際奧委會(huì)內(nèi)，但必須使用有別于迄今使用的歌曲、旗幟和會(huì)徵。至此，國際奧委會(huì)同我國的關(guān)系，才得到了解決。
1980年，新中國第一次派隊(duì)出席了在美國普萊西德湖舉行的第13屆冬季奧運(yùn)會(huì)。男女運(yùn)動(dòng)員共28人，參加了滑冰、滑雪和現(xiàn)代冬季兩項(xiàng)等18個(gè)單項(xiàng)的比賽。但與世界先進(jìn)水平差距較大，無一人進(jìn)入各項(xiàng)前十名。我國未參加同年在莫斯科召開的夏季奧運(yùn)會(huì)。1981年10月，國際奧委會(huì)第84次會(huì)議選出了我國何振梁為國際奧委會(huì)委員。
中國參加奧運(yùn)會(huì)情況--
中國于1984年重返奧運(yùn)會(huì)，并實(shí)現(xiàn)了中國在奧運(yùn)會(huì)歷史上金牌零的突破。至1996年，中國共在奧運(yùn)會(huì)上奪得52枚金牌。中國在奧運(yùn)會(huì)上的傳統(tǒng)強(qiáng)項(xiàng)為男子體操、跳水、乒乓球、女子競走、射擊、女子游泳等。
1984年，在美國洛杉磯舉行的第23屆奧運(yùn)會(huì)上，中國運(yùn)動(dòng)員徐海峰為中國奪得男子手槍速射金牌，實(shí)現(xiàn)了中國在奧運(yùn)史上金牌零的突破。在這屆奧運(yùn)會(huì)上，中國隊(duì)共奪得15枚金牌，列金牌總數(shù)第4。
1988年，在韓國漢城舉行的第24屆奧運(yùn)會(huì)上，中國運(yùn)動(dòng)員共奪得5枚金牌。
1992年，在西班牙巴塞羅那舉行的第25屆奧運(yùn)會(huì)上，中國運(yùn)動(dòng)員共奪得16枚金牌，列金牌總數(shù)第4。
1996年，在美國亞特蘭大舉行第26屆奧運(yùn)會(huì)上，中國運(yùn)動(dòng)員共奪得16枚金牌列金牌榜第四名。還奪得銀牌22枚，銅牌12枚，獎(jiǎng)牌總數(shù)50枚。
2000年，在澳大利亞悉尼舉行第27屆奧運(yùn)會(huì)上，中國運(yùn)動(dòng)員共奪得28枚金牌。
