萬曆二十九年（1601）年初抵達北京，到萬曆三十八年（1610）5月3日在北京病逝，在北京居留九年半。在這九年多期間，利瑪竇一行人一方面結交北京的大臣、官員、士大夫，藉着他們的科技知識，以及對中國儒家學說的尊重，取得中國士大夫的信任。另一方面，致力於傳播天主教。利瑪竇在傳教時，尊重中國文化傳統，不禁止信徒祭祀祖先，容許奉教的讀書人到孔廟祭祀孔子，消除信徒的顧慮，同時，在翻譯天主教經文時，採用儒家經典的語句，使中國信徒感到親切。

利瑪竇在北京的時期，正值明朝政局波濤暗湧：萬曆皇帝的皇后王氏無子，而宮女另一王氏誕下庶長子，但皇帝寵愛鄭貴妃，希望立鄭氏所生的庶三子為太子（庶二子早夭），但朝中不少重臣及士大夫、儒生堅持皇帝必須依照儒家「有嫡立嫡，無嫡立長」的禮制，立長子為太子，歷史上稱為「爭國本」。支持立長子的大臣、儒生聚結成「東林黨」，與萬曆帝展開持續十多年的激烈抗爭；一些支持萬曆帝立愛子的大臣，結為「非東林黨」，與東林黨人水火不容。利瑪竇作為外國人，雖然感情上與東林黨人接近，但與大臣交往時，小心翼翼，避免捲入政治鬥爭漩渦。

萬曆三十二年（1604）四月，利瑪竇在南京結識的儒生徐光啟高中進士，開始在北京任官，從此不斷利用閒暇時間協助利瑪竇撰寫中文譯著，為《天主實義》、《交友論》在北京再版，又翻譯古希臘數學家歐幾里得（Euclid
）的《幾何原本》。

利瑪竇把他與十位中國士大夫交往時，討論宗教哲學和人生觀問題的問答，記錄成書，稱為《畸人十篇》，手稿被士大夫所傳抄。該書與《天主實義》是姐妹篇。十位士大夫是李戴、馮琦、徐光啟、曹于汴、李之藻、吳中明、龔錫爵、郭敦華及其他二人。

明萬曆三十四年（1606），萬曆帝批准利瑪竇在北京城南宣武門內建屋居住，這地方後來成為天主教傳教士在北京城的重要據點，至今仍然存在，稱為宣武門天主堂，但現有建築物已經過清朝多次重修，非利瑪竇時代的面貌。

明萬曆三十三年（1605），瑪竇在北京遇到一位從河南省開封城上京赴考的士子，姓艾名田，他告訴利瑪竇開封城內有一群信奉「挑筋教」的人，其經典內容與天主教《舊約》相同。這群人的祖先來自西域，在宋朝已經定居開封，最初稱為「一賜樂業」。利瑪竇派人到開封探訪，開啟了探索猶太人在中國的歷史。

萬曆三十六年（1608）8月，利瑪竇被明神宗傳召入宮，呈獻六軸十二幅《坤輿全圖》，並命隨時可進宮調校時鐘。因此得到皇帝信任。

1609年（明萬曆三十七年）
2月15日，利瑪竇向耶穌總會彙報來華傳教團情況，指出在華傳教滿懷希望的八個原因。主要提到：學 問備受尊重，儒教雖不關心超自然的事，但倫理觀點“完全與我們一致”，同時，利瑪審還指出，要爭取明朝皇帝恩准天主教大規模在中國傳播根本是不可能的。
8月22日，利瑪竇在致歐洲的信中談到中國皇帝命其獻十二幅綢印《坤輿萬國全圖》。
9月，利瑪竇開始編寫逐年大事記（即利瑪竇中國劄記），其中有中國各耶穌會居留地的彙報和他自己的筆記。是年獲准在太監和官員陪同下到城牆上行走。

1610年（明萬曆三十八年） 5月11日利瑪竇因病在北京逝世，終年五十八歲，萬曆帝御准下葬於北京阜成門外二里溝墓地。至是年，中國內地天主教徒已發展至二千五百人，其中包括徐光啟、李之藻、楊廷筠等有學問的明朝高級官員。

利瑪竇去世之後，耶穌會任命龍華民神父（Nicholas Longobardi，1559-1655）繼任駐華傳教團教長。龍華民一反利瑪竇尊儒傳教的正確路向，認為「祭祖尊孔」違背背天主教義，天主教徒不應參加。此舉引致明朝大臣接連向萬曆帝上書，主張禁止天主教在中國傳播，使傳教處於困境。