De tre døtrene Francesca (sr. Maria Seraphica; d. 1727), Isabella Domenica (sr. Maria Crucifixa a Conceptione; 1645-99) og Antonia (sr. Maria Magdalena; d. 1721), som alle trådte inn i benediktinerklosteret Nostra Signora del Santo Rosario i Palermo, som var grunnlagt av deres far, under abbedisse Antonia Traina, som var søster av deres mor. Josefs mor gikk også i kloster som oblat eller tertiar sammen med sin treårige datter Alipia Gaetana (senere sr. Maria Lanceata; d. 1734). Etter at hun ble enke, ble hun nonne der i 1673 (sr. Maria Sepulta a Conceptione).
Josef var altså eldste sønn og skulle føre slekten videre. Han fikk en god utdannelse og lærte klassiske og moderne språk, spesielt spansk, for familien hadde utsett ham til det spanske hoffet. Men da han ble femten år, ønsket han å slutte seg til theatinerne (Ordo Clericorum Regularium vulgo Theatinorum - OTheat), som var grunnlagt av den hellige Cajetan av Thiene i 1524. Men da oppdaget han at faren også ønsket å forlate verden og overgi sin posisjon og eiendommer til sønnen. Men etter hvert ga faren seg og støttet sønnens kall.
Josef begynte på theatinernes novisiat i Palermo i 1664. Han valgte theatinerne hovedsakelig fordi hans onkel, Don Carlo Tomasi, var et fremtredende medlem av ordenen. Etter fire måneders postulanttid påbegynte han novisiatet den 24. mars 1665 under novisemesteren p. Francesco Maria Maggio. Han var helgenaktig og teologisk svært lærd, spesielt innen liturgihistorie, og hadde skrevet de to liturgiske verkene De sacris ceremoniis og De Divino Officio et Choro.
Før avleggelsen av sine løfter den 25. mars 1666 frasa den unge novisen Josef seg skriftlig sine rettigheter som førstefødt sønn og sin tittel til fordel for sin yngre bror Ferdinand, som imidlertid døde allerede i 1672, fire måneder etter sin hustru, prinsesse Melchiora Naselli av Aragón, som døde i januar 1672, like etter å ha født sønnen Giulio i 1671. Etter løfteavleggelsen begynte Josef på sine filosofiske og teologiske studier. Han ble snart sendt til Palma av helsemessige årsaker, og derfra fortsatte han til Messina, hvor han studerte filosofi (1666-67). Han fortsatte til Roma og universitetene i Ferrara og Bologna (1668) og Modena (1669) før han igjen kom til Roma, hvor han studerte teologi fra 1670. Der ble han viet til subdiakon og diakon i desember 1671. På grunn av brorens død i 1672 kom han så tilbake til Palma di Montechiaro. Han fullførte studiene i Palermo.
Hans ry som lærd spredte seg, og han viste en bemerkelsesverdig begavelse for kirkemusikk. Hans søster Isabella, med ordensnavnet Maria Crocifissa, som alltid skulle stå ham nær og være en stadig kilde til oppmuntring, skal ha forutsagt at han en dag kom til å ende som kardinal. Men med jordnær siciliansk praktisk sans la hun til at «en hest er fortsatt en hest, uansett hvor fint den er utstaffert». Men til tross for sin lærdhet var Josef så oppslukt i Guds kjærlighet at han ofte gikk omkring og knapt visste hva han gjorde. Han viste sin kjærlighet til Guds skapninger ved sine almisser og omsorg for alle som kom til ham i sin nød - han lot ikke engang fuglene sulte. Men hans ydmykhet ble til tider noe overdreven, og hans onkel Don Carlo, som selv var theatiner, refset ham en gang for å kalle seg selv en døgenikt, og ba ham om ikke å være ynkelig, men ydmyk. Vi kan også lese om hvor tålmodig han bar sin konstant dårlige helse, om hans harde botsøvelser og om den kloke moderasjon han ga til alle som søkte hans hjelp.
Etter avslutningen av studiene ble han kalt til Roma, hvor han ble presteviet den 23. desember 1673 i Laterankirken av erkebiskop Joakim de Angelis av Urbino. Han sang sine første tre julemesser i kirken San Silvestro di Monte Cavallo (nå San Silvestro al Quirinale), som da var setet for ordenens generalat. Han skulle bli i Roma i tretti år. Hans brev til søsteren taler om tider med prøvelser og åndelig tørke, og de viser hans enorme samvittighetsfullhet, men han synes å ha utøvd en beroligende og dempende innflytelse på alt han drev med.
Josef snart fikk ry som hellig og også som en stor vitenskapsmann, særlig innen liturgien. Han er beskrevet som «fyrsten blant liturgikere» på grunn av sitt arbeid med liturgiske tekster, og æres like mye av anglikanere som av katolikker. Hans betydelige liturgiske skrifter viser at han har vært en mann av dyptgående lærdom, kritisk ånd og uavhengig dømmekraft. Han ble så berømt og aktet at alle søkte hans vennskap og følte seg beæret over å lære ham å kjenne. Den abdiserte og konverterte dronning Kristina av Sverige ønsket ham som medlem av sin egen krets av lærde.
Først ga hans overordnede ham poster i sin egen orden. Han ble stedfortreder for novisemesteren og åndelig veileder for legbrødrene i generalatet, senere også stedfortredende studieprefekt for ordenens klerikere. Men han måtte snart oppgi disse embetene, fordi han ble rammet av uovervinnelig tvil og angst, spesielt i forvaltning av botens sakrament.
I stedet viet han seg til bønn og studier av orientalske språk, men særlig gresk filosofi og hebraisk, og den lærde rabbineren Mosè da Cave som underviste ham i hebraisk, omvendte han til kristendommen. Han behersket hebraisk, arabisk, syro-kaldeisk og etiopisk. Dessuten studerte han særlig Breviaret. Hans samlede verker i elleve bind inneholder verdifulle liturgiske avhandlinger. Han ga ut Speculum (1679) om den hellige Augustin, Codices Sacramentorum Nongentis Annis Vetustiores (1680), fire gamle liturgiske tekster inkludert Missale Gothicum og Missale Francorum, Breviarium psalterii (1683), Exercitium Fidei, Spei et Caritatis (1683), Vera norma di glorificar Dio (1687), Fermentum (1688), Officium Domicinae Passionis (1695), Psalterium cum canticis (1697).
Han fortjener også heder for sine bibelske studier, særlig for hans Psalterium (1683), en kritisk gjennomgang av to viktige oversettelser av Salmenes bok, et arbeid han av beskjedenhet utga under pseudonymet Giuseppe Caro (J.M. Carus). Under samme navn ga han også ut Responsalia et Antiphonaria Roman Ecclesia a Sancto Gregorio Magno Disposita (1686), Sacrorum Bibliorum Tituli, sive capitula (1688) og Antiqui libri Missarum Roman Ecclesia (1691). Dette fikk pave Innocent XII (1691-1700) greie på og kalte ham til Vatikanet, og utnevnte ham til teolog for Kongregasjonen for geistligheten. Men samtidig praktiserte Josef heroiske dyder og var trofast til hver minste detalj i en streng ordensregel. Han skrev også Indiculus institutionum theologicarum veterurn Patrum i tre bind (1709, 1710; 1712) om teologisk teori og praksis.
Han var valgt til skriftefar av kardinal Giovanni Francesco Albani, som i 1700 motvillig aksepterte paveverdigheten etter at Josef hadde truet med at det ville være en dødssynd å nekte. Men den nye paven Klemens XI (1700-21) insisterte på sin side kort etter å tvinge kardinalhatten på Josef Tomasi, idet han sa: «Det Tomasi gjorde mot oss, vil vi gjøre mot ham». Men Josef var motvillig, og klarte å slippe unna hedersbevisningen i lang tid. Han ble først den 18. mai 1712 kreert til kardinal av Ss Silvestro e Martino ai Monti, på et tidspunkt da han sa: «Vel, det vil bare bli for noen måneder». Han fortsatte sitt enkle og strenge liv, og i sin titularkirke San Martino ai Monti ville han ikke tillate noe musikk, bare sang a cappella, og han holdt selv katekeseundervisning der. Sine inntekter delte han for en stor del ut til de fattige.
Den 6. juli 1985 undertegnet pave Johannes Paul II dekretet fra Helligkåringskongregasjonen som anerkjente et nytt mirakel på Josef Marias forbønn. Han ble helligkåret den 12. oktober 1986 av pave Johannes Paul II i Peterskirken i Roma. Hans minnedag er dødsdagen 1. januar, men i theatinerkirken Sant'Andrea del Valle feires han den 3. januar. Der ligger hans legeme i et glasskrin iført kardinaldrakt etter at det i 1971 var flyttet fra hans titularkirke Ss Silvestro e Martino ai Monti.