MENNESKEHJERTE: «Alt hva mennesket får i hende er en mulighet eller en fare, avhengig av hvordan hjertet er orientert. Selve menneskekroppen, skapt for å være et sted for kommunikasjon og fellesskap, kan bli et middel for å utøve aggresjon. På samme måte kan enhver teknisk forlengelse av mennesket være et redskap for kjærlig tjeneste, eller for fiendtlig dominans». Foto: Pixabay
«Hvordan kan vi forbli fullt menneskelige og orientere den pågående kulturelle endringen i retning av det gode?»
Oversettelse Vuokko-Helena Caseiro
Vatican News
Det spør pave Frans i sitt budskap til Verdensdagen for sosial kommunikasjon, som markeres søndag før pinse, den 12. mai 2024. Her er budskapet:
Kunstig intelligens og hjertets visdom: for en fullt menneskelig kommunikasjon
Kjære brødre og søstre!
Utviklingen av såkalt «kunstig intelligente» systemer – som jeg reflekterte over også i mitt budskap til Verdens fredsdag nylig – er på en radikal måte i ferd med å endre også informasjon og kommunikasjon, og dermed noe av grunnlaget for samfunnsliv. Det er en endring som angår alle, ikke bare fagfolk. Den stadig raskere utbredelse av vidunderlige oppfinnelser, hvis funksjonsmåte og potensielle muligheter er ubegripelige for de fleste av oss, vekker en forbløffelse som varierer mellom entusiasme og desorientering, og den stiller oss uvegerlig overfor noen grunnleggende spørsmål: Hva er mennesket? Hva er særegent for det? Og hvordan blir fremtiden for denne vår art, Homo sapiens, i den kunstige intelligens’ tidsalder? Hvordan kan vi forbli fullt menneskelige og orientere den pågående kulturelle endringen i retning av det gode?
Ut fra hjertet
Først av alt bør vi rydde av veien pessimistiske lesemåter med deres lammende virkninger. Allerede for hundre år siden gjorde Romano Guardini seg tanker om teknologien og mennesket. Han ba folk ikke stille seg steilt avvisende til «det nye» i et forsøk på å «bevare en vakker verden […] som må gå under». Samtidig formante han profetisk og intenst: «Vår plass er i det tilblivende. Vi må ta vår plass i det, på hvert vårt sted, [...] si vårt oppriktige ja til det, men samtidig med ubestikkelig hjerte forbli vare for alt som er ødeleggende, umenneskelig i det. Og han avsluttet slik: «Sant nok handler det om tekniske, vitenskapelige, politiske oppgaver; men disse kan bare løses ut fra mennesket. En ny menneskehet må våkne opp, med dypere åndelighet, ny frihet og inderlighet.» [1]
I denne vår tidsalder, som står i fare for å være rik på teknologi og fattig på menneskelighet, må vår refleksjon nødvendigvis ta utgangspunkt i menneskehjertet [2]. Bare ved å anta et åndelig blikk, bare ved å gjenvinne en hjertets visdom, kan vi lese og tolke det nye i vår tid og finne veien til en fullt menneskelig kommunikasjon. Hjertet, bibelsk forstått som sete for frihet og for de viktigste valg i livet, er et symbol på integritet, på enhet, men viser også til følelser, lengsler og drømmer, og det er framfor alt det indre sted for å møte Gud. Så hjertets visdom er den dyd som lar oss veve sammen helhet og deler, valg og konsekvenser av valg, gedigenhet og gebrekkelighet, fortid og fremtid, jeg og vi.
Denne hjertets visdom lar seg finne av dem som søker den, og er lett å få øye på for dem som elsker den; den skynder seg fram for dem som lengter etter den, og går selv omkring og leter etter dem som er den verd (jf. Visd 6,12–16). Den er hos dem som lar seg råde (jf. Ordsp 13,10), som har et lydhørt hjerte, et hjerte som lytter (jf. 1 Kong 3,9). Den er en av Den hellige ånds gaver, den gjør det mulig å se med Guds øyne, å forstå sammenhenger, situasjoner og begivenheter og oppdage meningen med dem. Uten denne visdom blir tilværelsen smakløs, for det er nettopp visdommen [italiensk: sapienza] – hvis latinske rot sapere forbinder den med sapore [smak] – som gir livet smak.
«Den første KI-bølgen, nemlig sosiale medier, har vi allerede kunnet erfare i all dens ambivalens: dens muligheter, men også dens farer og sykelige sider.»
Muligheter og farer
Denne visdom kan vi ikke forvente av maskiner. Selv om uttrykket kunstig intelligens allerede har erstattet det mer adekvate machine learning, anvendt i vitenskapelig litteratur, er bruken av ordet «intelligens» i seg selv misvisende. Visst er maskiner mye bedre egnet enn mennesket til å lagre og korrelere data, men det er opp til mennesket alene å tyde deres mening. Så det dreier seg ikke om å ville ha maskiner til å synes menneskelige. Det dreier seg snarere om å vekke mennesket fra dets hypnotiske allmaktsdelirium – det tror seg å være et fullstendig autonomt og selvreferende subjekt, løsrevet fra alle sosiale bånd, og glemmer at det er en skapning.
I virkeligheten har mennesket alltid erfart at det ikke er tilstrekkelig i seg selv, og det har alltid, med alle tilgjengelige midler, forsøkt å få bukt med sin sårbarhet. Fra de første forhistoriske gjenstander, anvendt som en forlengelse av armer, via medier, brukt som en forlengelse av ord, er vi i dag kommet til de mest sofistikerte maskiner, som virker som hjelpemidler for mennesketanken. Men hvert av disse midlene kan være befengt med urfristelsen til å ville bli som Gud uten Gud (jf. 1 Mos 3), altså av egen kraft å ville erobre det som derimot må mottas av Gud, som gave, og leves ut i relasjon til andre.
Alt hva mennesket får i hende er en mulighet eller en fare, avhengig av hvordan hjertet er orientert. Selve menneskekroppen, skapt for å være et sted for kommunikasjon og fellesskap, kan bli et middel for å utøve aggresjon. På samme måte kan enhver teknisk forlengelse av mennesket være et redskap for kjærlig tjeneste, eller for fiendtlig dominans. KI-systemer kan bidra til befrielse fra uvitenhet og lette informasjonsutveksling mellom forskjellige folkeslag og generasjoner. For eksempel kan store mengder kunnskap nedskrevet i tidligere tider gjøres tilgjengelig og forståelig, eller mennesker kan gis mulighet til å kommunisere på språk de ikke kan. Men samtidig kan slike systemer være redskap for «kognitiv forurensning», for forfalskning av virkeligheten ved hjelp av delvis eller fullstendig falske narrativer, som dog blir trodd – og videreformidlet – som om de var sanne. Bare tenk på vårt årelange desinformasjonsproblem i form av fake news [3], som i dag benytter seg av deepfake, altså av produksjon og spredning av bilder som synes helt troverdige, men som er falske (også jeg selv er blitt utsatt for dette), eller av lydmeldinger som bruker stemmen til en person, for å få sagt ting som vedkommende aldri har sagt. Den simulering som disse programmene bygger på, kan være nyttig på visse områder, men der den fordreier vårt forhold til andre og til virkeligheten, er den fordervet.
Den første KI-bølgen, nemlig sosiale medier, har vi allerede kunnet erfare i all dens ambivalens: dens muligheter, men også dens farer og sykelige sider. Annet nivå av generativ KI innebærer et uomtvistelig kvalitetssprang. Så det er viktig å se rekkevidden av, forstå og regulere verktøy som i gale hender kan føre til negative scenarioer. Likesom alt annet som stammer fra menneskets hode og hender er heller ikke algoritmer nøytrale. Det er derfor nødvendig å handle forebyggende, ved å legge fram modeller for etisk regulering, for å demme opp for skadelige, diskriminerende og sosialt urettferdige virkninger av KI-systemer og for å motvirke at de anvendes til reduksjon av pluralisme, til polarisering av offentlig opinion eller til ensretting av tanken. Så jeg vil igjen oppfordre «fellesskapet av nasjoner til å arbeide sammen for å slutte en bindende internasjonal overenskomst, som kan regulere utviklingen av og bruken av KI i dens mange former» [4]. Som ellers i menneskelivet er det imidlertid ikke nok med bare regulering.
«Den digitale revolusjonen kan muligens gjøre oss mer fri, men slett ikke om vi den holder oss fanget i modeller som i dag kalles for echo chambers.»
Å gå fram i menneskelighet
Sammen er vi kalt til å gå fram, i menneskelighet, og som menneskehet. Det er nødvendig med et kvalitetssprang om vi skal kunne holde tritt med et mangfoldig, multietnisk, pluralistisk, multireligiøst og multikulturelt samfunn. Vi må stille oss spørsmål om den teoretiske utvikling og den praktiske bruk av disse nye kommunikasjons- og kunnskapsverktøyene. Store muligheter for det gode går hånd i hånd med faren for at alt forvandles til abstrakte regnestykker, som reduserer menneske til data, tanke til skjema, erfaring til enkeltttilfelle, det gode til profitt, og framfor alt med faren for benektelse av at hvert enkeltmenneske og dets historie er noe helt for seg selv, og for oppløsning av den konkrete virkeligheten i en serie statistiske data.
Den digitale revolusjonen kan muligens gjøre oss mer fri, men slett ikke om vi den holder oss fanget i modeller som i dag kalles for echo chambers. I stedet for å få stadig større informasjonspluralisme står vi da i fare for å rote oss ut i en anonym sump som bare tjener markeds- og maktinteresser. Det er uakseptabelt om bruk av KI fører til en anonym mennesketanke, til en opphopning av uverifiserte data, til en kollektiv redaksjonell ansvarsfraskrivelse. Representasjon av virkeligheten som big data fungerer nok bra for maskiner, men medfører faktisk et substansielt tap av tingenes virkelighet, og dette kan forhindre mellommenneskelig kommunikasjon og være skadelig for selve vår menneskelighet. Informasjon kan ikke holdes adskilt fra levende relasjoner: Informasjon innebærer kropp, det å være i virkeligheten; den krever at ikke bare data, men også erfaring settes i sammenheng; foruten utveksling av data kreves ansikter, blikk og medfølelse.
Jeg tenker her på krigsjournalistikk og på den «parallelle krig» som føres gjennom desinformasjonskampanjer. Og jeg tenker på de mange reporterne som blir såret eller dør i felt for at vi skal kunne se det som de har sett med sine egne øyne. For bare ved å komme tett på lidelsene til barn, kvinner og menn kan man forstå hvor meningsløst krig er.
Bruk av KI vil kunne være et positivt bidrag i kommunikasjonssektoren forutsatt at journalistikk i felt ikke tilsidesettes, men tvert imot blir støttet opp om; forutsatt at profesjonell kommunikasjon oppvurderes og alle kommunikatorer ansvarliggjøres; forutsatt at den gir ethvert menneske tilbake rollen som kritisk subjekt i kommunikasjon.
«Det er opp til oss å bestemme om vi bli til fôr for algoritmer, eller nære vårt hjerte med frihet, noe som er helt nødvendig for å kunne gå fram i visdom.»
Spørsmål for i dag og i morgen
Noen spørsmål melder seg da av seg selv: Hvordan ivareta profesjonaliteten og verdigheten til dem som arbeider med kommunikasjon og informasjon, og til alle brukere over hele verden? Hvordan sikre at plattformer er interoperable? Hvordan påse at selskaper som utvikler digitale plattformer påtar seg sitt ansvar når det gjelder det som de sprer og som de tjener penger på, slik redaktørene i tradisjonelle medier gjør? Hvordan gjøre dem mer gjennomsiktige, de kriterier som ligger til grunn for indekserings- og avindekseringalgoritmer og for søkemotorer, som er i stand til å løfte fram eller slette personer og meninger, historier og kulturer? Hvordan sikre at informasjonsprosesser er gjennomsiktige? Hvordan tydeliggjøre opphavet til skrifter og gjøre kilder sporbare, for slik å forhindre anonymitetens skalkeskjul? Hvordan klargjøre om et bilde eller en video skildrer en virkelig hendelse eller simulerer en? Hvordan unngå at antall kilder reduseres til én, til en eneste algoritmisk bearbeidet tanke? Og hvordan kan vi i stedet fremme et miljø egnet for å bevare pluralisme og gjengi virkeligheten i hele dens mangfold? Hvordan kan vi gjøre dette kraftige, dyre og ekstremt energikrevende verktøyet bærekraftig? Hvordan kan vi gjøre det tilgjengelig også for utviklingsland?
Av svarene på disse og andre spørsmål vil vi skjønne om KI vil ende opp med å gi opphav til nye kaster, basert på informasjonsdominans, og frembringe nye former for utnyttelse og ulikhet. Eller om KI tvert imot vil bringe mer likhet ved å fremme korrekt informasjon og større bevissthet om det epokeskifte vi gjennomgår, og ved å gi behovene til enkeltmennesker og hele folk større gjenklang, i et mangslungent og pluralistisk system. På den ene side avtegner det seg et nytt slaveri, på den annen side en erobring av frihet; på den ene side muligheten for at noen få står bak alles tanke; på den andre muligheten for at alle deltar i utvikling av tanken.
Svaret er ikke gitt, det avhenger av oss. Det er opp til oss å bestemme om vi bli til fôr for algoritmer, eller nære vårt hjerte med frihet, noe som er helt nødvendig for å kunne gå fram i visdom. Denne visdom modnes ved å ta tiden til hjelp og akseptere vår sårbarhet. Den vokser i forbundet mellom generasjoner, mellom dem som har fortidsminner og dem som har fremtidsvyer. Bare gjennom samhold vokser evnen til å skjelne, å våke, å se ting ut fra hva de fører til. La oss, for ikke å miste vår menneskelighet, søke Visdommen, som ble skapt før alt (jf. Sir 1,4), som trer inn hos rene hjerter og gjør dem til profeter og venner av Gud (jf. Visd 7,27): Den vil hjelpe oss å innrette KI-systemer slik at de inngår i fullt menneskelig kommunikasjon.
FRANS
Roma, Laterankirken, 24. januar 2024
Fotonoter:
[1] Briefe vom Comer See, Berlin 1927, 93–96
[2] Som en fortsettelse av budskapene til de foregående Verdensdager for sosial kommunikasjon, viet til å møte menneskene der de er og slik de er (2021), til å lytte med hjertet (2022) og til å tale med hjertet (2023).
[3] Jf. «The truth will set you free» (Jn 8:32). Fake News and Journalism for peace, Budskapet til Verdensdagen for sosial kommunikasjon 2018
[4] Budskapet til den 58. Verdensdagen for fred, 8
Les mer på Vatican News:
- Påven Franciskus deltar i G7 om artificiell intelligens
- Pavens budskap til Verdensdagen for fred 2024