Kunstmatige intelligentie is een stille aanwezigheid die naast ons werkt. Fabio Mercorio, hoogleraar informatica aan de Universiteit van Milaan-Bicocca en directeur van de masteropleiding AI & Data Analytics, is zich terdege bewust van de gevaren van de technologie.

Voor de meeste mensen lijkt kunstmatige intelligentie plotseling te zijn verschenen in de periode 2021-22 met ChatGPT. Is dat echt zo?
Kunstmatige intelligentie bestaat al decennia en is het resultaat van een lange evolutie die uit verschillende fasen bestaat. Lange tijd richtte het werk zich voornamelijk op symbolische AI, die het menselijke deductieve redeneren nabootst: uitgaande van premissen of algemene regels leidt het conclusies af over specifieke gevallen (zoals wanneer we een optelsom uitvoeren door een specifieke rekenmethode te volgen). Toen gebeurden er drie beslissende dingen. Ten eerste verbond het internet de planeet. Ten tweede groeide de rekenkracht enorm. Ten derde begonnen we met de komst van smartphones continu en vaak onbewust gegevens te genereren, simpelweg door te leven en te communiceren met apparaten die altijd verbonden zijn. Dit leidde tot de systematische generatie van enorme hoeveelheden gegevens, wat een race ontketende om algoritmen te ontwikkelen die patronen uit die gegevens konden halen. De aanpak draaide om: het was niet langer alleen deductie, maar ook inductie (het afleiden van een algemene regel uit de gegevens). En dat is precies wat de AI-algoritmen, waar we het over hebben, doen.

Lange tijd trok AI echter niet de aandacht van het grote publiek.
Om het eenvoudig te houden zouden we kunnen zeggen dat het jarenlang voornamelijk twee taken uitvoerde: classificatie en voorspelling. Netflix dat een film voorstelt is AI; een social media platform dat een reel (korte, creatieve video, bv op Instagram) aanbeveelt is AI. Maar niemand heeft zich hier ooit over verbaasd. Sinds ongeveer 2019 is er een derde vermogen bijgekomen: generatie. AI begint niet alleen te herkennen en te voorspellen, maar ook inhoud te produceren. Daarom spreken we van generatieve AI. Er moet echter een fundamentele verduidelijking worden gegeven. “Generatief” betekent niet dat het uit het niets creëert. Het genereert op basis van waar het op is getraind, volgens één enkel, perfect ontworpen criterium: waarschijnlijkheid.



Is dit wat het fenomeen van zogenaamde “hallucinaties” verklaart – dat wil zeggen, wanneer AI antwoorden produceert die correct, goed geformuleerd en coherent lijken, maar toch onjuist of verzonnen zijn?
Ja. Hallucinaties worden vaak gezien als een bug (softwarefout) die verholpen moet worden. Dat is niet het geval. AI hallucineert omdat de manier waarop het is getraind inherent probabilistisch is. Het heeft afgeleid dat het proberen van een antwoord altijd beter is dan zeggen “ik weet het niet”. Hallucinatie is geen toeval – het is een structureel kenmerk van deze modellen. Het kan worden verminderd, maar niet volledig worden geëlimineerd.

“We moeten ons niet zozeer afvragen ‘wat we moeten geloven’, maar ‘wie we moeten geloven’. De rol van de getuige wordt weer fundamenteel – niet iemand die neutrale informatie verstrekt, maar iemand die verantwoordelijkheid neemt voor een antwoord.”

Wat verandert er dan in onze relatie met kennis?
De benadering verandert. Als ik niet langer weet of een tekst door een persoon is geschreven, of het beeld dat ik zie echt is of gegenereerd, of de stem die ik hoor echt van iemand is, zou ik in de verleiding kunnen komen om te zeggen dat ik niets meer kan vertrouwen. Maar dat is een te grote vereenvoudiging. Mensen kunnen niet zonder vertrouwen leven. Zelfs vóór het internet vertrouwden we bepaalde mensen: leraren, artsen, journalisten. Tegenwoordig verandert de aard van vertrouwen. We moeten ons niet zozeer afvragen “wat we moeten geloven”, maar “wie we moeten geloven”. De rol van de getuige wordt weer fundamenteel – niet iemand die neutrale informatie verstrekt, maar iemand die verantwoordelijkheid neemt voor een antwoord. In een wereld waar inhoud kan worden vervalst gaat de waarheid steeds meer via relaties. Mensen, gemeenschappen, instellingen en zogenaamde intermediaire organen staan weer centraal – niet om een waarheid op te leggen, maar om er verantwoordelijkheid voor te nemen.

Bestaat er ook een risico dat AI, door op een bijna orakelachtige manier met grote zekerheid te antwoorden, uiteindelijk onze kennishorizon zal vernauwen?
Ja, en dit is een van de meest gevoelige kwesties. Zoals vermeld in het document van de Internationale Theologische Commissie getiteld Quo vadis, humanitas?, is „het grootste gevaar dat de horizon van de menselijke kennis wordt vernauwd en beperkt tot die vormen van kennis die aansluiten bij wat AI kan verwerken.” Als we gewend raken aan het ontvangen van snelle, definitieve antwoorden, sluiten we uiteindelijk vragen en activiteiten uit die niet probabilistisch van aard zijn – vragen over betekenis, vernieuwing, creativiteit, enzovoort. Probeer eens een eenvoudige oefening: denk na over de belangrijkste beslissingen in je leven: waar je gaat studeren, welke baan je kiest, met wie je je leven deelt... We hebben deze beslissingen zelden op puur probabilistische basis genomen. Meestal bespreken we ze met een vriend of een collega. Hier spelen verlangens, relaties en genegenheden een rol – dimensies die niet volgens de logica van de waarschijnlijkheid werken, wat die logica niet nutteloos maakt, maar ons wel vertelt dat ze niet de beslissingen bepaalt die het menselijk leven vormgeven.

Dit heeft ingrijpende gevolgen voor het onderwijs.
Enorme gevolgen. Het vermogen tot onderscheidingsvermogen is niet iets automatisch; het is een spier die getraind moet worden. Als je opgroeit in een omgeving waar alle antwoorden dezelfde vorm aannemen en dezelfde schijnbare autoriteit dragen, vind je het steeds moeilijker om dat vermogen te ontwikkelen. Laten we eens kijken naar onze verantwoordelijkheid ten opzichte van onze kinderen. Ik gebruik vaak het voorbeeld van de fiets: opvoeden betekent niet tegen een kind zeggen: “Hier is de fiets, val maar net zo lang tot je het leert”, want dat is een makkelijke uitweg. En het houdt niet op bij het verbieden van dingen (smartphones, sociale media, enz.). Ik geloof dat het betekent dat we zo ver moeten gaan dat we hen een aanbod doen, een methode voorstellen, hen begeleiden en één zijwieltje per keer verwijderen. Er zijn. In deze metafoor is de fiets geen AI: het is vriendschap, het is studeren, het is werk – ruimtes, plekken en mensen waar deze ervaringen ten volle worden beleefd. Zodat wanneer AI hun leven binnenkomt, jongeren weliswaar geen rijbewijs hebben, maar wel de antistoffen om ermee om te gaan – een spiergeheugen van positieve ervaringen waarmee ze kunnen vergelijken wat AI beoogt te vervangen. En dit geldt ook voor ons volwassenen.

AI-modellen zijn vaak volgzaam en stemmen hun antwoorden af op wat we willen horen. Wat is het risico?
Ik zeg graag dat generatieve AI een ‘bourgeois surrogaat’ is. Het wordt niet boos, het spreekt je niet echt tegen, het daagt je niet uit en het dwingt je niet om je te verontschuldigen. Het probleem is dat je het vermogen verliest om een ander onder ogen te komen wanneer die persoon ver afstaat van wat je verwacht. Daarom sta ik zeer kritisch tegenover AI-modellen die zijn ontworpen voor persoonlijk gezelschap; ik vind dat ze helemaal niet gebruikt zouden moeten worden, omdat de behoefte waaraan ze beweren te voldoen een uitsluitend menselijke behoefte is. Het is geen toeval dat Anthropic afgelopen maart theologen en christelijke leiders bijeenbracht om te werken aan hoe hun chatbot Claude zou moeten reageren op de grote vragen van het leven: hoe om te gaan met verdriet, hoe een tiener met zelfmoordgedachten aan te spreken. Dit laat zien hoe generatieve AI weliswaar taken kan uitvoeren, maar niet opgewassen is tegen de complexiteit van het echte leven – het is de verkeerde gesprekspartner.

Zijn we niet getuige van een “zachte vervanging” – het soort dat plaatsvindt wanneer we accepteren dat machines voor ons spreken en denken?
Ik denk van wel, en ik denk dat dit niet gebeurt omdat machines slecht zijn, maar omdat – zoals ik al zei – we dingen van ze verwachten die ze ons niet kunnen geven. We verwachten waarheid, en we krijgen aannemelijkheid. Mogelijkheid, en we krijgen waarschijnlijkheid. Creativiteit, en we krijgen combinaties. Begrip, en we krijgen neerbuigendheid. Wijsheid, en we krijgen statistieken. Gezelschap, en we krijgen betrokkenheid. Het punt is niet dat deze dingen nutteloos zijn, maar dat ze in andere behoeften voorzien. Door deze vervanging langzaam en zachtjes te accepteren lopen we het risico te wennen aan minder, terwijl we verwoed blijven verlangen naar meer.

Een van je studenten vroeg je: „Als AI zoveel dingen beter kan dan ik, waarom studeer ik dan eigenlijk nog?“
Dit is een indringende vraag die me tot op de dag van vandaag bezighoudt. Als ik geloof dat mijn waarde uitsluitend ligt in wat ik kan doen, dan is het inderdaad zo dat AI me vroeg of laat zal overtreffen in het „doen“. Maar ik geloof dat talent niet alleen een vaardigheid of een gave is. Als ik zeg: “Ik ben goed in lesgeven”, dan beperkt deze uitspraak, hoewel ze me misschien trots maakt, de betekenis van talent. Maar als ik zeg dat mijn talent ligt in de studenten voor mij, verandert alles – ik geloof dat talent is wat je geroepen bent te cultiveren binnen een relatie, een situatie. Als christelijk talent wordt beleefd in dienstbaarheid aan de werkelijkheid waarin je leeft kan AI je dat niet afnemen. Je studeert niet alleen om te leren – je studeert om te worden, om te ontdekken wie je bent, om een passie aan te wakkeren. Dit gebeurt binnen een relatie, en AI kan hierin niet bemiddelen zonder het te reduceren. Hetzelfde geldt voor werk – als werk louter het doen van dingen is, dan zal AI vroeg of laat ons gevoel van veiligheid ondermijnen. Dus wat is voor ons, net als voor de student, het nut van werk?

Lopen artsen, advocaten en journalisten die dagelijks AI gebruiken het risico van zogenaamde “deskilling” – dat wil zeggen, het geleidelijke verlies van vaardigheden door taken aan AI te delegeren?
Dat is mogelijk. Sommige vaardigheden zullen verzwakken, maar dat is door de geschiedenis heen altijd al gebeurd. Hoeveel mensen zouden tegenwoordig nog weten hoe ze met een vuursteen een vuur moeten maken? Vaardigheden zijn historisch bepaald. Het probleem is niet het verlies van een specifieke technische vaardigheid, maar het afhankelijk worden van een hulpmiddel zonder de criteria te hebben om te beoordelen waarvoor het dient. Generatieve AI is de discountwinkel van kennis: het biedt toegang tot enorme hoeveelheden inhoud, maar kennis leidt niet tot competentie. Ik leer een vak door fouten te maken, het opnieuw te proberen en hard te werken – en daarbij leer ik ook wie ik ben en of ik het leuk vind; het is als een spiegel. Als ik niet eens meer in staat ben om iets op een rudimentaire manier te doen, kan ik niet eens beoordelen of wat de AI me geeft zinvol is. Het is duidelijk een educatief probleem.



Wat moeten we dan doen?
Het niet gebruiken zou onredelijk en dwaas zijn; ik gebruik het zeker. Het gaat er niet om het te verbieden, maar om open te staan voor het heroverwegen van ons werk: welk deel van mijn werk wil ik, zelfs als ik het zou kunnen, niet aan een algoritme delegeren? Hoe kan deze technologie mijn werk ondersteunen en verbeteren? Deze antwoorden zijn uiteraard niet in een handleiding te vinden.

Wat zijn daarentegen de positieve aspecten van AI?
Die zijn er wel degelijk, en ze zijn enorm. Niet elk uur werk levert originele resultaten op: vaak voeren we taken uit die we graag zouden delegeren, en dit is waar AI echt kan helpen. Dan zijn er toepassingen die dingen mogelijk maken die voorheen onmogelijk waren – systemen die premature baby's op de intensive care in realtime monitoren; stemklonen waardoor ALS-patiënten met hun eigen stem kunnen spreken; en de versnelde diagnose van zeldzame ziekten en de ontwikkeling van nieuwe medicijnen, materialen, enzovoort. Dit zijn toepassingen die mogelijk maken wat voorheen onmogelijk was, terwijl ze tegelijkertijd helpen de menselijke waardigheid te handhaven. Laten we, om een terugblik te maken, eens overwegen wat er zou zijn gebeurd als COVID ons in de jaren tachtig had getroffen. Het is duidelijk dat digitale technologie ons heeft ondersteund tijdens een moeilijke tijd voor de hele mensheid, en daar ben ik dankbaar voor.

Hoe moeten we dan kijken naar de AI-toepassingen die we vandaag de dag hebben en in de toekomst steeds meer zullen hebben?
Antiqua et Nova, de nota van het Vaticaan over de relatie tussen kunstmatige intelligentie en menselijke intelligentie, biedt ons een kompas: “De doelen en de middelen die in een bepaalde toepassing van AI worden gebruikt, moeten allemaal worden geëvalueerd om ervoor te zorgen dat ze de menselijke waardigheid respecteren en het algemeen welzijn bevorderen.” Deze criteria vertellen ons dat we inderdaad christenen kunnen zijn, ertoe geroepen zijn, zelfs te midden van deze transformatie. We moeten AI niet ontvluchten, noch het passief ondergaan, maar het benaderen met de creativiteit die ons altijd heeft gekenmerkt, zonder ons ooit terug te trekken. Ik waardeer hoe Antiqua et Nova een houding van waardering aanneemt, niet ten opzichte van AI als object, maar ten opzichte van de mens die het heeft bedacht en gebouwd, ten opzichte van het werk van de mensheid. En juist om deze reden roept het ons op om aan de slag te gaan, ieder van ons op de plek waar we wonen en in de verantwoordelijkheden die we hebben. Als we ons hier niet op elk niveau voor inzetten dreigt AI ontmenselijkend te worden – niet omdat het dat op zichzelf is, maar omdat we hebben toegestaan dat het zo is geworden.