Paul Scherz, hoogleraar theologie aan de Universiteit van Notre Dame en lid van de AI-onderzoeksgroep van het Vaticaans Centrum voor Digitale Cultuur, deelt zijn inzichten over het raakvlak tussen theologie, wetenschap en technologie met Jun Ma, een software-engineer. Professor Scherz nam deel aan het recente panel ‘The Church and AI’ tijdens de New York Encounter, waar de vraag aan de orde kwam hoe de katholieke sociale leer omgaat met de uitdagingen van kunstmatige intelligentie.

U hebt in recente gesprekken met geestelijken gezegd dat AI een kans biedt om te evangeliseren. Wat bedoelt u daarmee?
Als ik het heb over een moment van evangelisatie bedoel ik dat er zoveel mensen zijn die vragen stellen over AI. Het roept fundamentele vragen op: Wat zijn wij? Wat is de mens? Hoe moeten we omgaan met technologie? De Kerk heeft antwoorden op deze vragen. We hebben een 2000 jaar oude traditie van nadenken over de mens, hoe we ons verhouden tot de wereld en hoe we ons verhouden tot anderen. Daarom kijken mensen uit de tech-industrie naar de Kerk en vragen ze wat ze met deze technologie moeten doen. Door die antwoorden te delen – over hoe goede relaties eruitzien, hoe we met anderen moeten omgaan, hoe goed werk eruitziet – putten we uit de rijke traditie van de katholieke sociale leer over de waardigheid van werk en hoe we de goederen van de samenleving moeten verdelen. Paus Leo spreekt ook over deze kans: het delen van de rijkdom van onze traditie met de wereld, laten zien wat het betekent om christen te zijn en hoe het christendom niet alleen onze relatie met God kan vormgeven, maar ons hele leven, en ons hele leven naar God kan leiden.

Wat betekent dat dan voor hoe we deze technologie gebruiken?
Hier geeft het nadenken over wie de mens is richting aan hoe we technologie moeten gebruiken. Je moet technologie niet gebruiken om relaties te vervangen. In wezen zijn we relationele wezens. Als je de arts-patiëntrelatie volledig elimineert is dat een probleem. Als je situaties creëert waarin iemand niemand heeft om tegen een AI-beslissing in beroep te gaan is dat een ernstig probleem. Wij hebben verantwoordelijkheid, aansprakelijkheid en een geweten dat ons op een manier naar het moreel goede leidt dat AI niet heeft. AI heeft dat soort verantwoordelijkheid niet. We kunnen dus richtlijnen en wetten vaststellen die voorschrijven dat er geen systemen mogen bestaan waarbij je geen beroep kunt aantekenen tegen een AI-beslissing. Wat betreft werk dat tot goede doelen leidt en de menselijke waardigheid respecteert: we willen mensen niet werkloos laten, maar sommige werkzaamheden zijn minder gericht op inhoudsrijke doelen: bureaucratisch werk, papierwerk, enzovoort.

AI bestaat al heel lang, maar met grote taalmodellen en AI-chatservices is het alomtegenwoordig geworden in het dagelijks leven. Kunnen we toepassingen isoleren waarbij AI functioneert als een hulpmiddel – zoals een rekenmachine die de productiviteit verhoogt – tegenover wat paus Leo de “antropologische dreiging” van AI noemt, het simuleren van menselijke relaties?
Een deel van het probleem is hoe mensen AI's ontwerpen. Je kunt ze ontwerpen om te worden gebruikt als hulpmiddelen voor dingen die mensen niet goed kunnen. In de wetenschap is een grote triomf AlphaFold, dat eiwitvouwing voorspelt. Dit was buitengewoon moeilijk omdat eiwitvouwing geen eenduidige regels volgt. Er was enorm veel empirisch werk nodig om de eiwitstructuur te ontrafelen. AI blinkt hier uit met probabilistische voorspellingen en kan gemakkelijk eiwitstructuren genereren. Dit is geweldig voor farmaceutische ontdekkingen: iets vervelends waar mensen niet goed in zijn wordt eenvoudig gemaakt. Mensen kunnen zich dan richten op de vragen die ze echt willen beantwoorden: wat is de functie van dit eiwit? Hoe blokkeren we een ziekteverwekkend eiwit? Het versterkt menselijk werk. Wat mij zorgen baart bij chatbots is wanneer ze zijn ontworpen om een persoon te vervangen en als een persoon te verschijnen. Het wordt een antropologische bedreiging waarbij je niet kunt zien of je met een persoon of een machine communiceert. We zijn van nature geneigd om dingen een eigen wil toe te schrijven – mensen praten over hun auto als ‘zij’ of ‘hij’. Dat doen we gemakkelijk. Naarmate AI menselijker lijkt wordt het heel gemakkelijk om mensen voor de gek te houden. Dat is een problematische ontwerpkeuze.

Zoals AI is gebouwd, is het er altijd op uit om te behagen. Het zegt voortdurend “je hebt helemaal gelijk” of “ik heb me vergist”. Het simuleert menselijkheid en biedt tegelijkertijd bevestiging. Het is de drang om geliefd te zijn, bevestigd te worden, om iets te horen dat zegt “je hebt waarde”. Wat zijn in die context de bedreigingen die je ziet in de richting waarin AI zich ontwikkelt? Zijn er vangrails?
Wat je beschrijft is slijmerigheid. Veel AI-chatbots zijn ontworpen als consumentenproduct om ons tevreden te stellen. Dit is cruciaal: deze tools zijn niet gericht op de waarheid. Ze zijn ontworpen om problemen op te lossen door het meest waarschijnlijke antwoord te geven – of het antwoord dat iemand zou goedkeuren. Ze geven ons geen waarheid; ze geven antwoorden waar we ja tegen zouden zeggen, en dat is vaak wat we willen horen. Maar het antwoord dat je wilt horen, is niet altijd het antwoord dat je moet horen – zoals ‘nee, je hebt het mis’ of ‘je bent op de verkeerde weg’. Het is cruciaal om mensen dit bij te brengen. Het onthult iets diepers over ons. We willen bevestigd worden, en God houdt hoe dan ook van ons. Maar een deel van die liefde roept ons op om verder te gaan dan onszelf, om anderen te zoeken, om dichter bij God te komen. Dit betekent dat we moeten overwinnen waar we nu zijn. We beginnen niet zoals we uiteindelijk zouden moeten zijn – het is altijd een reis naar God toe. Slaafsheid zegt: “Je bent geweldig zoals je bent, blijf gewoon daar, sluit je af in jezelf.” Het ondermijnt het voortdurende proces van groei en uitbreiding waartoe God ons roept.

Een deel van het leren is worstelen – omgaan met een realiteit die misschien niet prettig is, jezelf blootstellen aan momenten van mogelijke mislukking, iets verkeerds zeggen en daar vervolgens doorheen werken. Ik gebruik AI op mijn werk om code te schrijven. Zo gaat dat nu in de branche. Maar hoeveel mis ik door niet de worsteling te doorlopen om het zelf te schrijven? Wat is, afgezien van AI in klaslokalen, de impact op het onderwijs en het pad van ontdekking?
Om ergens in uit te blinken moet je de basis kennen. AI-tools kunnen helpen bij het corrigeren van grammatica of het aanwijzen van fouten als je eenmaal vaardig bent in schrijven. Maar om een uitstekende schrijver te worden moet je eerst leren schrijven. Je moet goed schrijven van slecht kunnen onderscheiden, en dat kun je alleen door zelf te schrijven. Hetzelfde geldt voor coderen: je moet de basis leren, hoe code in elkaar zit, en je er doorheen worstelen om te kunnen beoordelen of AI goede code produceert. Mijn angst is dat, naarmate scholen AI steeds vroeger introduceren, mensen geen basisvaardigheden meer leren en het vermogen verliezen om de output van AI te beoordelen.

Paus Leo waarschuwde tijdens de 60e Werelddag van de Sociale Communicatie dat de simulatiekracht van AI ons kan misleiden door parallelle realiteiten te fabriceren, waarbij onze gezichten en stemmen worden gekaapt. Hij zegt dat onze stemmen en gezichten heilig zijn. Het christendom stelt een hypothese voor die getoetst is aan de totaliteit van de menselijke ervaring en het menselijk verlangen. Hoe beïnvloedt AI, die onze ervaring met de werkelijkheid bemiddelt, ons vermogen om ons met de werkelijkheid in te laten zoals die is?
Een recent artikel in een toonaangevend ecologisch tijdschrift besprak hoe ecologen niet langer de ecosystemen bezoeken die ze bestuderen. Hun werk bestaat uit sensorgegevens die door AI worden verwerkt in laboratoria die in feite computersystemen zijn. Wetenschappers vragen zich af: is er niet iets aan het feit dat, als je in je ecosysteem bent, je niet kunt krijgen via sensorgegevens van satellieten? Ik ben het eens met wat ze zeggen – er is iets dat je krijgt van die rijkere totaliteit van de werkelijkheid. We realiseren ons hoe sociale media ons in verschillende werelden hebben opgesplitst. We krijgen informatie over ons land voorgeschoteld die van persoon tot persoon drastisch verschilt, afhankelijk van onze filterbubbel. Dat schaadt de gemeenschap. AI voegt daar nog een laag aan toe. Zoals paus Leo zegt, kan het beelden en deepfakes creëren die geen verband houden met de werkelijkheid. Dat is beangstigend. Veel mensen zullen in verwarring raken over wat echt is. In mijn werk heb ik mensen aangemoedigd om meer betrokken te raken bij lokale gemeenschappen en zich op een concrete manier bezig te houden met wat er ter plaatse gebeurt. Je kunt feiten verifiëren op manieren die via sociale media alleen niet mogelijk zijn.

Mijn katholieke vrienden willen soms een eenduidige lijst: dit gebruik van AI wordt niet getolereerd, dat wordt goedgekeurd – iets stereotieps. Het feit dat we moeite moeten doen om deze vraag voor onszelf te beoordelen en te beantwoorden is misschien wel een onbedoelde zegen. Welke rol speelt de Kerk bij het vinden van een antwoord?
Morele reflectie kost tijd. Er komen snel nieuwe ontwikkelingen bij – ChatGPT verscheen, twee jaar later kwamen er AI-agents op de markt. Twee jaar is niet veel tijd voor een weloverwogen reflectie. Je hebt het ene probleem nog maar net aangepakt of je staat alweer voor het volgende. Maar we zien dat de Kerk zich over bepaalde kwesties uitspreekt. Het gebruik van aanvallende, dodelijke autonome wapensystemen – dat moet je niet doen. Machines mogen in geen geval beslissingen nemen om te doden zonder menselijk toezicht. Paus Leo is duidelijk geweest: artsen en verpleegkundigen mogen in de gezondheidszorg niet volledig worden vervangen. Klaslokalen mogen niet volledig worden geautomatiseerd. Dit zijn momenten die menselijke ontmoeting vereisen, centraal in wat er gebeurt, vooral als apostolaat in de Kerk. Dus we beginnen er te komen. We krijgen meer casestudy's en richting. Maar in veel aspecten van het leven hangt het af van hoe technologie wordt gebruikt – verkoopt deze app privacygegevens? Hoeveel mogelijkheid tot beroep heeft iemand die onderworpen is aan een AI-beslissing? Er zal veel gewetensvolle reflectie nodig zijn van individuele katholieken. Ik houd me bezig met gezondheidszorgethiek, en ja, er zijn duidelijke rode lijnen in de katholieke gezondheidszorg. Maar de meeste richtlijnen zijn algemeen – de arts en de patiënt moeten met voorzichtigheid beslissen. Er zijn relatief weinig vaste regels. We zijn geroepen tot vrijheid. Er zijn enkele zaken die absoluut in strijd zijn met vrijheid – anderen schade toebrengen of anderen doden. Maar voor het grootste deel worden we opgeroepen om ons geweten te ontwikkelen en daarnaar te leven, zoals God ons roept.

Kan AI creëren? Zo ja, hoe verschilt dat dan van hoe mensen creëren?
Ik denk niet dat AI echte creativiteit kan hebben in de zin van het doen van werkelijk vernieuwende dingen. AI mixt wat er in zijn bibliotheek staat en presenteert dat aan je. Echte creativiteit komt voort uit een authentieke ontmoeting met de werkelijkheid en het ontdekken van iets nieuws en diepers in die werkelijkheid. AI kan die ontmoeting niet hebben.

Sommige collega’s geloven dat creativiteit slechts een andere herformulering is van iets dat eerder gebeurde – eindeloze permutaties waarvan bepaalde worden opgepikt. Kunt u uw visie toelichten?
Denk aan de wetenschap. Veel wetenschappers hebben ervaren dat ze op een idee kwamen dat nog nooit eerder was bedacht – een nieuw beeld van de werkelijkheid op basis van hun gegevens. Zelfs kleine stapjes in laboratoriumwerk, maar ook grote transformaties waarbij je echte creativiteit ziet die niet te voorspellen was op basis van wat er eerder was. Ik denk niet dat AI die echt vernieuwende stappen kan zetten. Een groot kunstwerk is niet zomaar een herschikking van wat er eerder was – het is een herinterpretatie van de wereld waarin we leven, die nieuwe inzichten oplevert waar nog nooit eerder over is geschreven. Ieder individu kan dat moment beleven. We bereiken die geweldige momenten na het doen van heel veel kleine stukjes schrijven, schilderen of onderzoek dat op dat moment niet creatief lijkt. Het bouwt vaardigheden en kracht op, en je begint de werkelijkheid en wat er eerder was te begrijpen. Die vaardigheden maken de grote creativiteit mogelijk waar we het over hebben. Elk moment breng je een nieuw aspect in, realiseer je je iets nieuws over de werkelijkheid. Die vonk is verbazingwekkend in de mens.