利瑪竇在1552年（明嘉靖三十一年）出生於意大利半島中部東岸的市鎮馬切拉塔（Macerata），當時是羅馬教皇的領地。他的父親是當地藥房的老闆，是虔誠的天主教徒，為人老實，曾擔任市政廳議員。利瑪竇是家中長子，父親對他寄望甚大，邀請學識淵博的賓奇維格尼（Nicolo Bencivegni）神父為小利瑪竇啓蒙老師。利瑪竇9歲時，進入耶穌會開辦的學校，學習人文學科和修辭學，他天資聰穎，記憶力特別強，成積優異，進步神速，在學習期間，已有獻身修道之志。

1571年8月15日，利瑪竇19歲時，正式申請加入耶穌會。次年；進入耶穌會所創辦的羅馬公學（Collegio Romano，1515年由依納爵·羅耀拉Ignatius de Loyola 所創辦，其後經由教宗額我略十三世擴充，1873年改制為「宗座額我略大學」Pontificiae Universitatis Gregorianae，今日仍為羅馬最重要之天主教學府），除了研習神學、哲學、歷史、修辭、文學、語法、詩歌之外，還學習科學之基礎的數學、天文學、建築學等學科，對地理、機械亦有所涉獵。

耶穌會（拉丁文：Societas Iesu，英文：Jesuits）是十六世紀中期，一些年輕的天主教教士，為回應當時勢不可擋的宗教運動，所成立的修道會。十六世紀初，馬丁路德等人針對當時天主教會的腐敗，推動宗教改革，不少歐洲國家、城邦脫離天主教會，創立新教，猛烈的宗教改革浪潮對天主教衝擊非常大，天主教內產生了一股維新改革的力量。西班牙巴斯克貴族依納爵·羅耀拉（Ignatius of Loyola ，1491年－1556年）在戰爭中受傷，在養傷期間，他閱讀了各種宗教的小冊子，從而引起了信仰危機。他決心改變過去的荒唐生活，獻身為天主服務。其後他到巴塞隆拿、巴黎等地遊學，結識同道中人，為改革天主教而努力。

1534年8月15日，羅耀拉與其他巴黎大學學生方濟各·沙勿略（Francis Xavier
）在等六人，在巴黎郊外聖但尼小教堂的地下室成立了耶穌會。其宗旨是內部改革天主教會，同時希望能以此獲得更靠近耶穌地位。重視神學教育、對教會的忠誠度以及向青年傳教，由於羅耀拉有軍官背景，他規定修會的成員必須對教宗聖座的命令絕對服從。並將耶穌會的會士們建立成為一個有紀律、有中心、有操練的組織，他們宣誓守三條規律：清貧、守貞、服從。耶穌會注重學習計晝，並且廣設學校，在羅馬、德國、希臘、匈牙利，和英國建立學院，招收優秀青年為學生，推向當時認知的世界推廣天主教。羅耀拉的好友方濟各·沙勿略於1541年開始到東方，先後在印度、日本、中國傳播天主教，並死在中國廣東上川島，成為耶穌會向東方傳教的先驅。

利瑪竇在羅馬學院第三年時，申請往遠方傳教，1577年，獲得耶穌會批准前往印度。當時他是二十五歲。