Come un grande paese del mondo, sin dalla nascita delle Olimpiadi moderne, la Cina ha allacciato con queste un legame indissolubile. In occasione della preparazione della prima edizione delle Olimpiadi del 1894, il CIO inviò un invito all' allora governo cinese della dinastia Qing, senza tuttavia ricevere alcuna risposta.

Dopo il 1904, le iniziative olimpiche attirarono gradualmente l'attenzione di alcune personalità illuminate cinesi, mentre alcuni giornali e riviste del paese iniziarono a coprire le Olimpiadi, diffondendo lo spirito olimpico nella terra cinese.

Nel 1913 il governo cinese partecipò alla promozione del procursore dei Giochi olimpici in Asia, ossia i Giochi dell'Estremo Oriente, chiamati inizialmente "Olimpiadi dell'Estremo Oriente".

Nel 1915 il CIO riconobbe l'Associazione sportiva dell'Estremo Oriente e invitò la Cina a partecipare alle successive Olimpiadi e assemblee del CIO.

Nel 1922 il cinese Wang Zhengyan fu eletto membro del CIO. Nel corso dell'ottava edizione delle Olimpiadi del 1924, la Cina inviò per la prima volta tre atleti a partecipare alle gare spettacolari.

Nel 1928 la Cina mandò alle none Olimpiadi l'osservatore Song Ruhai, per procedere ad un' ispezione.

Nel 1931 l'Associazione cinese di coordinamento sportivo fu riconosciuta dal CIO come "Comitato olimpico della Cina", il che segna l'inizio della storia della partecipazione alle Olimpiadi della Cina. Nel corso della 10ma edizione delle Olimpiadi, la Cina inviò una delegazione composta da sei atleti, fra cui Liu Changchun, che nelle gare preliminari dei 100 e 200 metri arrivò quinto e sesto nel suo gruppo, senza riuscire però ad entrare nelle finali. Tuttavia egli fu il primo atleta partecipante alle Olimpiadi nella storia della Cina.

Durante l'11esima edizione, tenutasi nel 1936, la Cina inviò una delegazione di 150 persone che parteciparono alle gare di pallacanestro, calcio, nuoto, atletica leggera, sollevamento pesi, pugilato e ciclismo.

Nel corso della 14esima edizione delle Olimpiadi del 1948, la Cina mandò 33 atleti a partecipare alle gare di pallacanestro, calcio, nuoto, atletica lettera e ciclismo, tuttavia nessuno entrò nelle finali.