1949年，中华全国体育协进会改组为中华全国体育总会(中国奥委会)。

1952年，第15届奥运会在芬兰的赫尔辛基举行。中国正式接受邀请较晚，只派出了40人的代表团，可比赛已近尾声，只有吴传玉参加了百米仰泳比赛。

1956年，中华全国体育总会发表声明，宣布不参加第16届奥运会。中国台北派出21名男运动员，参加了田径、举重、射击、篮球、拳击项目的比赛。

1958年，中国奥委会被迫中断与国际奥委会关系。

1960年，第17届奥运会在意大利罗马举行。中国台北派出47名运动员，参加了田径、游泳、射击、足球、篮球和拳击项目的比赛。中国台北运动员杨传广获十项全能亚军，是本届奥运会亚洲获得的唯一一枚田径奖牌，是中国获奥运会第一枚奖牌。

1964年，第18届奥运会在日本东京举行。中国台北派出55名运动员参加田径、篮球、举重、射击、自行车、体操、拳击、柔道项目的比赛。

1968年，第19届夏季奥运会在墨西哥首都墨西哥城举行。中国台北派出43名运动员参赛，纪政在80米栏比赛中获得银牌，为中国女子取得首枚奥运会奖牌。

1970年，国际奥委会第70届全会于荷兰阿姆斯特丹举行。中国台北的徐亨当选为国际奥委会委员。

1972年，第20届夏季奥运会在德国慕尼黑举行。中国台北派出63名运动员参加田径、游泳、举重、射击、自行车、射箭、摔跤、柔道、拳击和帆船项目的比赛。