Dividido entre el valor y el miedo ante una misión arriesgada, José Vaz llegó a la isla de Ceilán en 1686, con treinta y cinco años, oculto tras los harapos de un mendicante para pasar desapercibido ante la aguda vigilancia de los calvinistas holandeses que perseguían a los católicos. Este sacerdote indio de Goa, caracterizado por su inteligencia, humildad y tenacidad, había deseado esta misión durante años, incluso mientras servía como vicario apostólico o cuando lideraba la naciente comunidad de sacerdotes indios en el Monte Boa Vista, que más tarde se asociaría a la Congregación del Oratorio de San Felipe Neri. Impaciente por socorrer a los fieles dispersos, ideó un plan para entrar clandestinamente en la isla haciéndose pasar por esclavo, llevando consigo una estrategia tan simple como eficaz para identificarse: una corona del Rosario.

Sus inicios fueron extremadamente duros; tras sobrevivir a una enfermedad que lo dejó languideciendo como la víctima del buen samaritano al borde del camino, José utilizó el Rosario colgado al cuello como señal secreta para identificar a las familias católicas que ocultaban su fe en Jaffna. Una vez ganada su confianza, comenzó una incansable labor de reevangelización mediante misas nocturnas y la administración de sacramentos en secreto. A pesar de que las autoridades ofrecieron recompensas por su captura y difundieron noticias falsas acusándolo de ser un espía portugués, la fidelidad de los locales, que llegaron a sufrir prisión y martirio por protegerlo, le permitió refugiarse en el pequeño reino de Kandy.

Allí, aunque fue encarcelado inicialmente debido a los rumores, su mansedumbre en prisión llamó la atención del rey budista Vilamadharma, quien decidió conocerlo y terminó forjando con él una sólida amistad. La consagración definitiva de su figura ante el pueblo llegó en 1697 durante una terrible epidemia de viruela; la dedicación del Padre José curando enfermos e imponiendo normas de higiene para frenar el contagio demostró una grandeza moral superior a cualquier prejuicio. Gracias a la protección real y la llegada de diez nuevos oratorianos, la misión floreció con traducciones del Evangelio al tamil y cingalés. Cuando José Vaz falleció agotado el 16 de enero de 1711, el antiguo esclavo de Dios dejaba tras de sí una iglesia vibrante con setenta mil bautizados, quince iglesias y cuatrocientas capillas.