早在道光二十七年(公元1847年)，法國天主教傳教士羅類斯(義大利人)利用清政府取消對天主教的禁令，就想在上海徐家匯建天主教堂，當他們在這裡強買民地準備修建時，因遭到當地人民的群起反對而中止。
現在的徐家匯天主堂，建於清光緒三十二年(公元1906年)，當時取名聖依納爵堂，當地人習慣上稱之為徐家匯天主堂。該堂現在位於上海上漕溪北路。
現存的教堂建築為羅馬式，前部有兩座鐘樓，均高達50餘米，外形宏偉壯觀。堂內設祭台19座，可同時容納2500人，為上海市最大的天主教堂。
徐家匯天主堂現在每日接待大量教友，外國宗教人士和遊客也經常來訪。