L'allora visitatore generale delle missioni gesuitiche d'Oriente, il P. Alessandro Valignano (1539-1606), si proponeva di preparare alcuni uomini per un eventuale inizio delle missioni cattoliche all'interno della Cina, e aveva in precedenza designato anche Michele Ruggieri (1542-1607), che dal 1579 si dedicava a Macau allo studio della lingua e delle istituzioni cinesi.

Dal 10 settembre 1583, Ricci e Ruggieri possono risiedere a Zhaoqing (prov. del Guangdong), allora residenza del governatore del Guangdong-Guangxi. Entrano in cordiale relazione con i letterati del luogo, interessandoli anche con oggetti europei quali un mappamondo, orologi, ecc. Ottengono il permesso di edificare nella città una casa, e una chiesa, che intitolano al "Fior dei Santi", cioè alla Vergine Maria.

Il Ricci racconta così l'ingresso a Zhaoqing e il ricevimento avuto al palazzo del governatore: "(I Padri) furono ricevuti con molta benignità; ...domandò loro il governatore chi erano, di dove venivano e che volevano; risposero ... che erano religiosi ... venuti attratti dalla fama del buon governo della Cina, e solo desideravano un luogo dove potessero fare una casetta e una chiesuola ... servendo fino alla morte al loro Dio". Parole semplici, ma contenenti tutto un programma. I primi inizi del lavoro missionario sono lenti e dettati da grande prudenza. Il Ricci impernia il suo apostolato su due cardini: lo studio della letteratura cinese e delle scienze matematiche, e l'esercizio della carità cristiana.

I due gesuiti incominciano a propagare la dottrina cristiana attraverso i loro contatti con letterati e mandarini. Nel dicembre 1584 si stampa un breve catechismo in cinese composto dal Ruggieri e messo in buona lingua con l'aiuto di un letterato del Fujian, che ha ricevuto il battesimo in quell'anno con il nome di Paolo. Questo Tianzhu Shilu è il primo libro stampato da stranieri in Cina; dapprima in una tiratura di 1.200 copie, seguita da ristampe. Il Ricci compose in questo periodo anche il Mappamondo in lingua cinese; un'opera su cui continuò a lavorare negli anni seguenti.

Frattanto il Valignano, pensando che un'ambasceria papale alla corte del Figlio del Cielo avrebbe potuto risolvere il problema dell'evangelizzazione della Cina, inviò a Roma (25 novembre 1588) il P. Ruggieri, come il più indicato per illustrare l'opportunità di tale progetto. Ma per varie difficoltà sopraggiunte non fu possibile organizzare questa ambasceria; il Ruggieri fu dai superiori fermato in Italia, dove morì nel 1607.

Ricci e Ruggieri dapprima in quanto religiosi indossavano l'abito dei bonzi. Ma i bonzi in Cina non godevano di molta considerazione, sia presso il popolo che presso i letterati e i mandarini. A Qujiang il Ricci abbandona l'abito dei bonzi per adottare le vesti e l'etichetta sociale dei letterati. Si presentò come "teologo, predicatore e letterato occidentale; si studiò di modellare la sua vita su quella dei letterati e dotti cinesi; adottò quindi l'abbigliamento proprio dei letterati. E con la foggia del vestito armonizzò, naturalmente, tutta la sua maniera del vivere esteriormente; si lasciò crescere la barba e i capelli, ciò che non facevano i bonzi; nello spostarsi da un posto all'altro della città si serviva della portantina, accompagnato da due o tre servitori" .

Del periodo di Qujiang è il trattatello di Ricci su L'amicizia, e un atlantino con testi esplicativi.

Dopo un primo viaggio a Nanchino, Ricci fonda nel 1595 la residenza di Nanchang, capitale provinciale del Jiangxi. Nel 1598 riesce a spingersi in viaggio fino a Pechino. La lunga esperienza di sedici anni ha rafforzato, nel Ricci, la convinzione che la diffusione dell'idea cristiana in Cina ha bisogno dell'approvazione ufficiale per i predicatori e libertà per i cinesi di abbracciarla e professarla pubblicamente. Ma questa approvazione e libertà non possono ottenersi fino a quando non fosse arrivato vicino alla corte di Pechino. L'occasione propizia gli viene data ai primi di luglio del 1598, quando il ministro dei riti di Nanchino, suo amico, dovendosi recare a Pechino per la revisione del calendario cinese, vuol condurre con sé anche l'occidentale che conosce la scienza matematica.

Il 25 giugno 1598 il Ricci lascia Nanchang per Pechino, dove arriva dopo un avventuroso viaggio il 7 settembre 1598. La sua permanenza nella capitale è di breve durata, perché a causa della guerra cino-giapponese per la Corea gli stranieri sono mal visti. Il Ricci risolve di tornare a Nanchino aspettando miglior tempo e migliore occasione, prima che gli accada in questa città qualche disgrazia che possa danneggiare le altre residenze e così "impedire la possibilità di un secondo ritorno" a Pechino, come egli stesso scrive. Il 5 novembre 1598 lascia Pechino e torna a Nanchino, dove giunge il 6 febbraio 1599; e questa volta riesce a stabilirvi la sua residenza.

Nel lungo viaggio di oltre un mese in barca da Pechino a Linqing (prov. dello Shandong), Ricci perfeziona il dizionarietto portoghese-cinese su cui lavora da anni (ed è il primo lavoro sinologico del genere) annotando toni e consonanti aspirate. Completa anche una parafrasi latina dei "quattro libri" confuciani.

A Nanchino è ben accolto e riesce a far amicizia con personalità governative e uomini di cultura. Comincia a dare regolari lezioni di scienze occidentali a visitatori sempre più numerosi. Si parla molto di lui in Cina nel ceto colto. Raccomandato dai suoi amici di Nanchino, il 19 maggio del 1600 si rimette in viaggio per Pechino, dove giunge il 24 gennaio 1601 e riesce a stabilirvisi definitivamente. L'imperatore in persona se ne interessa e permette a Ricci e ai suoi di aprire una chiesa, anzi dispone che siano sostentati a spese dell'erario. Frequenti erano gli inviti al palazzo imperiale e le visite dei più ragguardevoli mandarini, i quali lo consideravano non più come "curioso straniero", ma come rispettato dottore. Lo salutavano e lo riverivano da pari.