1896年，国际奥林匹克委员会的发起人、邀请中国参加将在1896年希腊雅典举行的第一届现代奥运会。未派队参加。

1922年，国际奥委会选举我国王正廷为国际奥委会委员，这是国际奥委会第一位中国委员。

1928年，中国又派宋如海观光了在荷兰阿姆斯特丹举行的第九届奥运会。中国正式参加了第十、十一、十四届奥运会，在三届奥运会上均未能取得任何成绩。

1932年，刘长春作为中国唯一的一名田径选手参加了比赛，预赛时就被淘汰。

1936年第十一届柏林奥运会举行时，旧中国也组织了一个140人的代表团参加。

1948年第十四届奥运会真正的运动员和教练员只有36人。

1952年，在芬兰赫尔辛基举行的第十五届奥运会，中国体育代表团40人参加。

1954年，国际奥委会第四十九届会议在希腊举行，因制造“两个中国”的问题拒绝参加奥运会。

1980年我国第一次参加了在美国普莱西德湖举行的第十三届冬季奥运会。