Han gikk på skolen i nærliggende Talavera de la Reina, hvor familien hadde flyttet i 1508, og deretter i Toledo. Han var korgutt i Talavera og seise i katedralen i Toledo. Deretter sendte foreldrene ham som 14-åring til universitetet i Salamanca, hvor en eldre bror allerede studerte og hvor Alfons begynte å studere jus. Der utviklet han den sans for musikk og kunst som han skulle følge ham hele livet.
Mens han var i Salamanca, hørte han i fastetiden 1520 noen prekener av den hellige augustineren Thomas av Villanueva, som da var en ung ordensbror, over salme 114 (Vulgata 113a), In exitu Israel. Disse bekreftet hans overbevisning, som han hadde hatt siden han var seks år, om at han hadde prestekall. Da han hadde avsluttet jusstudiene, sluttet han seg derfor i en alder av 22 år den 8. juni 1522 til augustinereremittene (Ordo Fratrum Eremitarum Sancti Augustini - OESA, siden 1969: Ordo Sancti Augustini - OSA) sammen med en eldre bror, Francisco. Brorens døde imidlertid under novisiatet, og hans død fremkalte en krise i Alfons som han brukte lang tid på å komme seg fra. Han holdt likevel ut til tross for anfall av dårlig helse, og han avla sine løfter året etter til sin prior, Thomas av Villanueva. Hans lærer var den fromme Luis de Montoya.
Da Alfons ble presteviet i 1527, oppdaget hans overordnede i ham en så dyp spiritualitet og en kapasitet for forkynnelse av Guds ord, at de svært snart utpekte ham til å gjøre tjeneste som predikant. Det meste av sine første tretti år som ordensmann tilbrakte han med å undervise, preke og høre skriftemål. Fra 30-årsalderen innehadde han en rekke embeter, og fire ganger ble han utnevnt til prior for ulike augustinerklostre, blant annet i Sevilla. I 1547 fikk han tillatelse til å oppfylle sitt sterke og langvarige ønske om å reise til Mexico som misjonær, inspirert av et ønske om martyrium. Men da han kom til Kanariøyene, fikk han en alvorlig leddbetennelse, og legene, som fryktet for hans liv, tvang ham til å vende tilbake.
Den 13. mars 1554, det året hvor kong Filip II av Spania (1527-98) giftet seg med dronning Maria Tudor («Bloody Mary») av England, ble Alfons sendt som prior til augustinernes kloster i den kongelige byen Valladolid. Dette var en rolle som han passet spesielt bra til, for til tross for sin egen askese var han mild og forståelsesfull i sin måte å styre på. I 1556 ble han utnevnt til predikant ved hoffet til kong Filip II og kongefamiliens kapellan. Her utøvde han en svært positiv innflytelse i mange år, og hans sofistikerte menighet ble trukket til hans prekener av deres enkle, men overbevisende kvalitet. De fattige tjente også på ordningen, for Alfons var svært sjenerøs med pengene han mottok for sine prekener.
I 1561 bestemte Filip å etablere hoffet i Madrid, og Alfons fulgte kongen til den nye hovedstaden. Men han valgte å bo i klosteret San Felipe el Real i en enkel celle som sto i skarp kontrast til prakten ved hoffet. Han levde i asketisk fattigdom, spiste bare en gang daglig ved middag og sov ikke mer enn tre timer, fordi han sa at det var nok for den nye dagens oppgaver. Et bord var hans seng og oppskårne vinranker hans pute. Hans rom inneholdt bare en stol, et lys, en feiekost og noen bøker.
Etter hans eget ønske var rommet nær inngangsdøren, slik at han lettere kunne vente på de fattige som pleide å komme der og be om hans hjelp. Uten å neglisjere sine daglige plikter med korbønnen i kirken, pleide han å besøke de syke på sykehusene, fangene i fengslene og de fattige i gatene og sine hjem. Han tilbrakte dagen i bønn, studier og skriving. I sitt liv ved hoffet engasjerte han seg ikke i fornøyelsene eller intrigene rundt ham, og hans hellighets eksempel gjorde et stort inntrykk på kongefamilien og adelen.
Alfons var svært populær hos medlemmer av alle sosiale klasser. Fremtredende skikkelser fra samfunnsliv og kultur var vitner i hans saligkåringsprosess, som prinsesse Isabel Clara Eugenia, hertugene av Alba og Lerma, forfatteren Lope de Vega, Francisco de Quevedo og González Dávila. Men hans forbindelser med overklassen fikk ham ikke bort fra sin asketiske livsstil. Hans berømmelse bredte seg over hele Madrid, og folket pleide å kalle ham «den hellige fra San Felipe», noe han mislikte sterkt. Folket elsket ham for hans vennlige følsomhet i det å komme nær alle uten å skjelne etter status og rang.
Mens Alfons var prior ved klosteret i Sevilla i 1542, hadde han en visjon av Jomfru Maria, som sa kun ett ord til ham: «Skriv!» Etter det brukte han trofast sitt talent for å skrive i Guds tjeneste, for hvert år produserte han en ny bok om Maria. Disse, sammen med hans mystiske og fromme verker om bønn og bot, fyller syv store bind. Hans verker, som han skrev på både spansk og latin, regnes blant klassikerne i den spanske litteraturen. Blant dem er «Regel for et kristent liv » (1542), «Hage av bønn og fjell av kontemplasjon» (1544), «Minne om hellig kjærlighet» (1576), «Åndelig skattkammer» (1551), «Kunsten å elske Gud og nesten» (1567), «Boken om Guds vennlighet» (1576) og «Traktat om Vår Frues krone» (1588).
Mot slutten av hans liv ba hans overordnede ham om å skrive en beretning om sine egne mystiske erfaringer, og denne boken kalte han «Bekjennelser». Han var også sterkt knyttet til kjærligheten til sin egen orden og skrev om dens historie og spiritualitet, i håp om å oppmuntre gode menn til å etterligne det augustinske levesett. Langs disse linjene, drevet av et ønske om indre reform, som senere ville utvikle seg til en ettertenksomhetsbevegelse i ordenen (augustiner-rekollekter). Alfons var ansvarlig for grunnleggelsen av tre klostre for kontemplative augustinernonner og to år før sin død grunnla han Inkarnasjonskollegiet for utdannelse av kandidater til ordenen - det er i dag setet for det spanske senatet.
Da han nærmet seg 80 år, ba han kongen om å bli fritatt for sine plikter ved hoffet for å kunne tilbringe sine siste dager i bønn og ensomhet som en forberedelse på døden. Men kongens svar var et blankt avslag, og han ble ivrig støttet av medlemmene av hoffet, som ønsket at «hoffets helgen» skulle fortsette å utføre sin tjeneste for dem. Det viste seg at denne tjenesten skulle vare i enda ti år.
I august 1591 ble han syk med feber, men dette forhindret ham ikke fra å feire sin daglige messe. Ingen sykdom fikk ham noen sinne til å unnlate å feire det hellige messeoffer, og han sa med en viss humor: «Gud gjør ingen noen skade». Under sin sykdom fikk han besøk av kong Filip II, av tronarvingen og prinsesse Isabel og kardinalerkebiskopen av Toledo, Gaspar de Quiroga, som personlig ga ham mat og deretter ba om hans velsignelse.
Etter noen ukers alvorlig sykdom døde Alfons den 19. september 1591 i Inkarnasjonskollegiet i Madrid, nesten 91 år gammel. Nyheten om hans død skapte sorg i hele byen. Quevedo forteller at hele byen defilerte forbi kapellet hvor han hvilte, stormet mot dørene i kollegiets kirke og rev dem ned etter jakt på noen relikvier, en flis fra sengen eller en del av hans klær eller sko eller hårskjorte. I mange år beholdt kardinalerkebiskopen selv det trekorset som «den hellige fra San Felipe» pleide å bære med seg.
Hele hoffet møtte opp i ekte sorg og med ekte tårer for å følge hans kiste. Han ble gravlagt i kirken i Inkarnasjonskollegiet i Madrid- Hengivenheten til hans salige minne forble konstant, og da hans kiste ble åpnet 12 år etter hans død, ble hans legeme funnet like friskt og uråtnet. Dette gjorde at hans kult ble enda større. Da hans relikvier ble flyttet, hadde hans venner som var til stede ved seremonien, den glede å enda en gang se sin gamle venn akkurat slik han så ut da han døde. Presteklærne han var gravlagt i, hadde imidlertid gått i oppløsning.
Augustinerne i Spania ba om at de kirkelige myndighetene foretok en juridisk undersøkelse av helligheten til denne ydmyke presten, som allerede ble regnet som helgen av alle. Da pave Klemens VIII (1592-1605) hørte om hans mirakuløst bevarte legeme, utbrøt han at han hadde kjent Alfons selv og betraktet ham som en helgen, og at han var henrykt over dette miraklet. Alfons' hellighet ble ytterligere stadfestet av pave Urban VIII (1623-44), som undertegnet dokumentet som ble satt opp ved avslutningen av den foreløpige undersøkelsen som ble foretatt av den pavelige nuntius, og han anbefalte at saligkåringssaken fortsatte.
Men Alfons ble ikke saligkåret før den 15. januar 1882 (dokumentet (Breve) var datert den 1. oktober 1881) av pave Leo XIII (1878-1903) ved en høytidelighet i Peterskirken i Roma. Den 24. april 2001 undertegnet pave Johannes Paul II dekretet fra Helligkåringskongregasjonen som godkjente et mirakel på hans forbønn. Han ble helligkåret den 19. mai 2002 av pave Johannes Paul II på Petersplassen i Roma. Hans legeme er ikke lenger bevart uråtnet, men hans dyrebare bein oppbevares i et sølvskrin hos augustinerpatrene i Valladolid. Hans minnedag er dødsdagen 19. september.