Den hellige Josef Maria Rubio y Peralta (sp: José María) ble født den 22. juli 1864 i Dalías i provinsen Almería i Sør-Spania. Han kom fra en from bondefamilie hvor seks av tolv barn overlevde, og han fikk en kristen utdannelse. Han begynte på middelskolen i provinshovedstaden Almería i 1875, men da han snart ble klar over sitt prestekall, begynte han som 12-åring i 1876 på gutteseminaret i bispedømmet Almería. I 1878 begynte han på presteseminaret i Granada. Der studerte han i to år filosofi, i fire år teologi og deretter i to år kirkerett.
I Granada bodde han hos p. Joakim Torres Asensio, en professor ved seminaret. I 1886 ble p. Torres tilbudt en stilling ved katedralen i Madrid, og da flyttet Josef med ham til Madrid. Der fullførte han i 1887 sine studier med lisensiatgrad i teologi og doktorgrad i kirkerett. Han ble presteviet den 24. september 1887 i Madrid. Først var han kapellan i Chinchón fra 1887 til 1889, deretter var han sogneadministrator i Estremera. Deretter ble han kalt tilbake til Madrid i 1890 for å undervise i latin, metafysikk og pastoralteologi på seminaret ved siden av å være synodaleksaminator og notar i bispedømmets kurie.
Han ønsket egentlig å bli jesuitt, men pliktfølelse overfor p. Torres, som nå bodde sammen med ham, forhindret ham fra det. Men han betraktet seg som jesuitt i hjertet. Etter fire år som professor ble han i 1893 kapellan for cisterciensersøstrene i St. Bernhard, og der i sentrum av Madrid begynte han sin unike pastorale tjeneste. Han foretok en valfart til Det hellige Land i 1905.
I januar 1906 døde p. Torres, og nå var det ikke noe som hindret Josef i å bli jesuitt. Den 11. oktober 1906 trådte han inn i jesuittordenen (Societas Iesu - SJ) i deres novisiat i Granada. Han var da en 42 år gammel prest med mye erfaring. Der avla han sine første løfter den 12. oktober 1908. Etter ytterligere et studieår for å gjenoppfriske teologien samt virksomhet ved jesuittenes residens i Sevilla tilbrakte han sin tredje prøveperiode eller tertiarat i Manresa. Deretter ble han i 1911 overført til jesuittenes hus i Madrid, hvor han forble til sin død.
Josef var en eksemplarisk prest med et dypt åndelig liv bygd rundt hengivenhet til den hellige Eukaristi og Jesu hellige Hjerte. Han utøvde to betydelige apostolater i Madrid, nemlig i skriftestolen og på prekestolen. Køene utenfor hans skriftestol var uvanlige lange, og der sto både aristokrater og enkle mennesker. Herrer og tjenere var like når de møttes foran Josefs skriftestol, og det store flertallet kom mer for åndelig veiledning enn for absolusjon. Og køene vokste etter hvert som hans berømmelse økte. For å være sikre på å få snakket med ham, var det mange som kom før kirkedørene åpnet.
Han hadde en lignende appell på prekestolen. Selv om Spanias beste talere kom for å preke i katedralen, foretrakk folket Josefs enkle og oppriktige prekener som var fri for retorikk, men i stand til å bevege mennesker, slik som Curé d'Ars, den hellige Johannes Maria Vianney, hadde gjort. Hans apostolat var ikke begrenset til kirkebygninger, for han pleide å frekventere de fattigste og mest forsømte delene av Madrid, og han bidro kraftig til den åndelige fornyelsen der. Innbyggerne der fant en venn i ham, og det gikk ikke en uke uten at han fikk anmodninger om hjelp, enten det var en som manglet et sted å sove eller det var en ung jente som manglet medgift. Alle kom til ham fordi de visste han ville hjelpe dem.
Han var også veileder for ordenskommuniteter og legselskaper. Han organiserte et alterselskap ved navn Maria av Tabernaklene, som var en gruppe på rundt 6.000 kvinner som besøkte de hundrevis av landsbykirkene i forstedene og omegn for å se at altrene var korrekt utstyrt. Til mange av disse kirkene sørget kvinnene for alterduker og messeklær. Josef ledet også en gruppe han kalte «Æresgarden for Jesu hellige Hjerte». Denne gruppen vokste til medlemstallet nådde 5.000. Dens fremste formål var å fremme andakt for Jesu Hjerte, men den var også aktiv i det sosiale apostolatet. De ga penger til skoler, medgift til fattige jenter, besøkte de syke og vanføre og organiserte sognemisjoner og retretter.
Ingen deler av Madrid var uberørt av p. Rubios innflytelse. Det er sagt at han i løpet av sine 41 år som prest hadde hjulpet 10.000 enkeltpersoner langs veien til perfeksjon. Han oppmuntret utallige gutter til å bli sekularprester og han sendte mange kall til ordener og kongregasjoner. De siste ti årene av hans liv gjorde en rekke ekstraordinære begivenheter at han fikk ry som undergjører. Han ble kalt «Madrids apostel» av byens daværende biskop.
I 1929 dro han for å hvile litt ut i jesuittnovisiatet i Aranjuez. Der fikk han et atakk av angina den 2. mai 1929, og han døde klokken 18.35, ennå ikke 65 år gammel. Han ble gravlagt på seminarets kirkegård, men i 1953 ble hans jordiske rester overført til jesuittenes hus i Calle Maldonado i Madrid. Hans saligkåringsprosess ble åpnet i 1963, og han ble saligkåret den 6. oktober 1985 av pave Johannes Paul II.
Den 23. april 2002 undertegnet pave Johannes Paul II dekretet fra Helligkåringskongregasjonen som godkjente et mirakel på hans forbønn. Det åpnet veien for hans helligkåring, som fant sted den 4. mai 2003 under pave Johannes Paul IIs besøk i Spania. Hans minnedag er dødsdagen 2. mai, mens jesuittene feirer sin medbror den 4. mai.