Pavens advarsler om kunstig intelligens de siste årene danner rammen for Antiqua et nova, «Notat om forholdet mellom kunstig intelligens og menneskelig intelligens», som presenterer resultatene av en felles refleksjon mellom Dikasteriet for troslæren og Dikasteriet for kultur og utdannelse. Det nye dokumentet er spesielt rettet til «de som er betrodd å formidle troen», men også til «de som deler overbevisningen om at vitenskapelige og teknologiske fremskritt bør rettes mot å tjene mennesket og det felles gode» (5).
I 117 avsnitt belyser Antiqua et nova utfordringer og muligheter ved utviklingen av kunstig intelligens (KI) på områdene utdanning, økonomi, arbeid, helse, relasjoner og krigføring. På sistnevnte område advarer dokumentet for eksempel mot KIs potensial til å øke «krigsinstrumentene langt utover menneskelig kontroll og utløse et destabiliserende våpenkappløp, med katastrofale konsekvenser for menneskerettighetene» (99).
Kirken oppmuntrer til fremgang innen vitenskap, teknologi, kunst og andre former for menneskelig virksomhet, og ser på dem som en del av «mannens og kvinnens samarbeid med Gud for å fullkommengjøre det synlige skaperverket.» Som Sirak sier, har Gud «gitt menneskene kunnskap, for at de skal prise hans under» (Sir 38,6). (2)
Farer og fremskritt
Dokumentet lister ikke bare opp risikoene, men også fremskrittene knyttet til KI, som det oppmuntrer til som «en del av mannens og kvinnens samarbeid med Gud» (2). Det unngår imidlertid ikke de bekymringene som følger med alle nyvinninger hvis virkninger fortsatt er uforutsigbare.
Skillet mellom KI og menneskelig intelligens
Flere avsnitt i notatet er viet skillet mellom KI og menneskelig intelligens. Dokumentet siterer pave Frans og slår fast at «selve bruken av ordet 'intelligens' i forbindelse med KI 'kan vise seg å være misvisende' ... I lys av dette bør KI ikke ses på som en kunstig form for menneskelig intelligens, men som et produkt av den» (35). «Som ethvert produkt av menneskelig oppfinnsomhet kan også KI rettes mot positive eller negative formål» (40). «KI kan 'introdusere viktige innovasjoner'» (48), men risikerer også å forverre situasjoner med diskriminering, fattigdom, «digitalt skille» og sosiale ulikheter (52). «Konsentrasjonen av makten over de vanligste KI-applikasjonene i hendene på noen få mektige selskaper reiser betydelige etiske bekymringer», inkludert «risikoen for at KI kan manipuleres for personlig eller bedriftsmessig vinning eller for å styre den offentlige opinion til fordel for en bestemt bransje» (53).
Pave Frans [bemerker] at «selve bruken av ordet 'intelligens'» i forbindelse med KI «kan vise seg å være misvisende» og risikerer å overse det mest verdifulle ved mennesket. I lys av dette bør KI ikke ses på som en kunstig form for menneskelig intelligens, men som et produkt av den. (35)
Krig
Når det gjelder krig, understreker Antiqua et nova at autonome og dødelige våpensystemer som er i stand til å «identifisere og angripe mål uten direkte menneskelig inngripen, er 'en grunn til alvorlig etisk bekymring'» (100). Det påpeker at pave Frans har bedt om at bruken av dem forbys, siden de utgjør «en 'eksistensiell risiko' ved at de har potensialet til å handle på måter som kan true hele regioners eller til og med selve menneskehetens overlevelse» (101). «Denne faren krever alvorlig oppmerksomhet», heter det i dokumentet, «og gjenspeiler den langvarige bekymringen for teknologier som gir krig 'en ukontrollerbar destruktiv kraft over et stort antall uskyldige sivile', uten engang å skåne barn» (101).
Menneskelige relasjoner
Når det gjelder menneskelige relasjoner, påpeker dokumentet at KI kan føre til «skadelig isolasjon» (58), at «antropomorfisering av KI» skaper problemer for barns utvikling (60), og at feilaktig fremstilling av KI som en person er «et alvorlig etisk overtramp» hvis dette gjøres «i bedragersk hensikt». På samme måte er «bruk av KI til å bedra i andre sammenhenger – som i utdanning eller i menneskelige relasjoner, inkludert innenfor seksualitet – også å betrakte som umoralsk og krever nøye tilsyn» (62).
I lys av det ovennevnte er det klart hvorfor det alltid bør unngås å fremstille KI som en person; å gjøre dette i bedragersk hensikt er et alvorlig etisk overtramp som kan undergrave sosial tillit. (62)
Økonomi og arbeid
Den samme årvåkenheten kreves på det økonomisk-finansielle området, og innen arbeidslivet. Antiqua et nova påpeker at «selv om KI lover å øke produktiviteten ... kan dagens tilnærming til teknologien paradoksalt nok føre til at arbeidere mister ferdigheter, blir utsatt for automatisert overvåkning og henvist til rigide og repetitive oppgaver» (67).
Helse
Notatet vier også betydelig plass til helseomsorg. Det minner om det «enorme potensialet» for ulike bruksområder på det medisinske feltet, men advarer samtidig om at hvis KI skulle erstatte lege-pasient-forholdet, ville det risikere «å forverre ensomheten som ofte følger med sykdom» (73). Det advarer også om at «integreringen av KI i helsevesenet innebærer også risikoen for å forsterke andre eksisterende ulikheter i tilgangen til medisinsk behandling», med fare for å «forsterke en 'medisin for de rike'-modell, der de med økonomiske midler drar nytte av avanserte forebyggende verktøy og personlig helseinformasjon, mens andre sliter med å få tilgang til selv grunnleggende tjenester» (76).
Utdanning
På utdanningsområdet påpeker Antiqua et nova at «KI byr på både muligheter og utfordringer». Hvis KI brukes klokt, kan det forbedre tilgangen til utdanning og gi «umiddelbar tilbakemelding» til studenter (80). Et problem er at mange programmer «bare gir svar i stedet for å oppmuntre studenter til å komme frem til svarene selv eller skrive egne tekster», noe som kan føre til at de ikke utvikler evnen til kritisk tenkning (82). Notatet advarer også mot «partisk eller fabrikkert informasjon» og «falske nyheter» som enkelte programmer kan generere (84).
Mens noen KI-systemer er laget for å hjelpe mennesker med å utvikle sine evner til kritisk tenkning og problemløsning, er det mange andre som bare gir svar i stedet for å oppmuntre studenter til å komme frem til svarene selv eller skrive egne tekster. (82)
Falske nyheter og «deepfakes»
Når det gjelder falske nyheter, advarer dokumentet mot den alvorlige risikoen for at KI «genererer manipulert innhold og falsk informasjon» (85), noe som blir verre når det spres med hensikt om å bedra eller forårsake skade (87). Antiqua et nova insisterer på at «De som produserer og deler KI-generert innhold, bør alltid utvise aktsomhet når det gjelder å verifisere sannheten i det de sprer, og i alle tilfeller bør de 'unngå å dele ord og bilder som nedverdiger mennesker, som fremmer hat og intoleranse, som forringer den menneskelige seksualitetens godhet og intimitet, eller som utnytter de svake og sårbare'» (89).
Personvern og kontroll
Når det gjelder personvern og kontroll, påpeker notatet at noen typer data kan gå så langt som å berøre «individets indre liv, kanskje til og med deres samvittighet» (90), med faren for at alt blir «et slags skue som skal undersøkes og inspiseres» (92). Digital overvåking «kan også misbrukes til å utøve kontroll over troendes liv og hvordan de uttrykker sin tro» (90).
Felles hjem
Når det gjelder omsorg for skaperverket, sier Antiqua et nova at «KI har mange lovende bruksområder for å forbedre vårt forhold til vårt 'felles hjem'» (95). «Samtidig forbruker dagens KI-modeller og maskinvaren som kreves for å understøtte dem enorme mengder energi og vann, noe som bidrar betydelig til CO₂-utslipp og tærer på ressursene» (96).
Å anta at man kan erstatte Gud med et menneskeskapt artefakt er ... avgudsdyrkelse, en praksis som Skriften uttrykkelig advarer mot... Dessuten kan KI vise seg å være enda mer forførende enn tradisjonelle avguder, for i motsetning til avguder som «har munn, men ikke kan tale ...» (Sal 115,5–6), kan KI «tale» – eller i det minste gi inntrykk av å gjøre det. (105)
Forholdet til Gud
Til slutt advarer notatet mot risikoen for at menneskeheten blir «slavebundet til sitt eget verk» (105). Kunstig intelligens, insisterer Antiqua et nova, «bør kun brukes som et verktøy for å supplere menneskelig intelligens, snarere enn å erstatte dens rikdom» (112).
Les mer
- Saken hos Vatican News (engelsk)
- Notatet Antiqua et nova på Vatikanets nettsider (engelsk, tysk, spansk og italiensk)
