Technologische ontwikkelingen die een revolutie teweegbrengen in de alledaagse werkelijkheid roepen opnieuw radicale vragen op: Wie is de mens? Wat gebeurt er met de mens nadat hij veel functies aan de computer heeft gedelegeerd? Miguel Benasayag, psychoanalyticus en neurofysioloog, geeft antwoorden.

Miguel Benasayag, Argentijn van geboorte en Frans door adoptie, is psychoanalyticus en neurofysioloog. Hij werkt specifiek aan problemen in de kindertijd en adolescentie en bestudeert al jaren de veranderingen die de digitale revolutie met zich meebrengt en hun impact op de mens. Er is een groot risico dat, met de ontwikkeling van kunstmatige intelligentie, de mens wordt gereduceerd tot een optelsom van functies, zegt hij. Maar "het leven van de mens is om er te zijn, niet om te functioneren als een machine." Wat blijft er over van de mens nadat bepaalde functies aan machines zijn gedelegeerd? "Alles blijft." Omdat de mens "onherleidbaar is tot de elementen en processen" waaruit hij bestaat. En hoe zit het met het transhumanisme, dat fantaseert over een mens zonder grenzen? "Misleidende theorieën."



De impact van kunstmatige intelligentie is vergeleken met die van de industriële revolutie. Tweehonderd jaar geleden nam de productieautomatisering handmatige taken weg van de persoon, en nu neemt AI een deel van hun intellectuele activiteit weg: het schrijft, analyseert, beslist voor hen. Wat is dan de persoon? Bestaat niet het risico dat we hem "door reductie" definiëren als het overblijfsel van wat overblijft nadat hij in de handen van machines is gelegd?
Dat is de verleiding. Maar we moeten zeggen wie de persoon positief is, niet nadat de machine hem van bepaalde functies heeft ontdaan. Vandaag de dag wordt de mens gedefinieerd als een som van modules, van onderdelen. Dit is een zwak standpunt, dat voortkomt uit een "modulaire" filosofische opvatting die geen rekening houdt met het fundamentele verschil tussen een geheel en een organisme. Een aggregaat is een som van functies; het organisme daarentegen is een unitaire entiteit en wordt niet simpelweg gedefinieerd door de manier waarop het functioneert. In de biologie, in de epistemologie, kijken we naar Kants definitie in de derde Kritiek, waar hij zegt dat een organisme functioneert "voor" en "door" al zijn delen, die op zichzelf niet denkbaar zijn. Elk deel van een organisme functioneert volgens een tweeledig principe: volgens zijn eigen aard, maar ook volgens de aard van het hele organisme. Voor mij is dit het centrale probleem van onze tijd: de verwarring tussen wat organisch is en wat geaggregeerd. Machines kunnen veel dingen doen; ze kunnen fascineren of bang maken. Maar het fundamentele probleem is het verschil te begrijpen tussen organisme en artefact en de bijzondere eigenheid van het levende.

De eenheid van de persoon, zijn ware "ik"
De persoon is een unitair wezen, onherleidbaar tot de elementen en processen waaruit hij is samengesteld. Een organisme neemt deel aan het leven voor zover het relaties heeft en tot een duurzame soort behoort. Ik werk met het concept van een "biologisch veld"; d.w.z. een permanente interactie tussen levende wezens.

Denkt u dat het woord "intelligentie" geschikt is voor wat we nu "kunstmatige intelligentie" noemen?
Niet echt. De machine is op zichzelf niet intelligent: hij kan voorspellen, rekenen, een heleboel handelingen verrichten, maar intelligentie voor de levenden - niet alleen voor de mensen - is altijd een kwestie van integratie tussen de hersenen en de werkelijkheid, niet alleen het vermogen om goede berekeningen te maken. De rationaliteit van kunstmatige intelligentie is erg slecht. Ze kan bijvoorbeeld de inherente negativiteit van het leven niet accepteren, of het feit dat lichamen verlangen, onderhevig zijn aan driften en niet altijd positief handelen. Zelfs dertig jaar geleden, toen ik met dit onderzoek begon, schreef ik dat we te veel spraken over "intelligentie" met betrekking tot machines, en dat dit negatieve gevolgen zou hebben.



Hoe zou u kunstmatige intelligentie noemen?
Een interessant artefact. Machines. Omgekeerd, door voortdurend te praten over intelligentie en kunstmatig leven, hebben we tegenwoordig een kunstmatige opvatting van biologisch leven. Het discours is op zijn kop gezet. In mijn onderzoeksveld zegt de meerderheid dat er een natuurlijke consensus bestaat tussen intelligentie en kunstmatig leven, en biologisch en cultureel leven, terwijl het verschil slechts kwantitatief is. Ik zeg het tegenovergestelde, namelijk dat er een kwalitatief verschil is, maar dat dit heel moeilijk wetenschappelijk te bevestigen is omdat we alleen in termen van meetbaarheid redeneren. Mensen zoals ik worden beschouwd als idealisten, "vitalisten", die een niet-wetenschappelijk element willen opnemen in de definitie van leven.

In uw onderzoek heeft u altijd de grens geprezen. De mens kan fouten maken en heeft een besef van zijn begrensdheid, maar de machine niet.
Zo is het. Voor mij heeft begrensdheid geen negatieve betekenis: het is wat mijn manier van in de wereld staan definieert. We zijn beperkt omdat we standpunten, affecties en verantwoordelijkheden hebben. Integendeel, het is antiwetenschappelijk om een machine met grenzen te programmeren: de machine mag er geen hebben omdat hij altijd perfect moet functioneren. In plaats daarvan wordt het menselijk wezen, en meer in het algemeen het levende wezen, gedefinieerd door zijn begrensdheid, die geen grens is die het leven verhindert, maar eerder de voorwaarde van het leven.

Een leven zonder grenzen is de mythe van de hedendaagse wereld.
Het lijkt ongelooflijk, maar al die waanzinnige transhumanistische theorieën over een leven zonder grenzen hebben echt een enorm publiek. Het idee dat grenzen willekeurig zijn, dat mensen geen reden hebben om ze te accepteren, is absolute waanzin.

Hoe verklaart u het succes van deze theorieën?
Het dagelijks leven is ermee doordrenkt. Het wegnemen van grenzen is bijvoorbeeld de basis van het neoliberalisme, dat alles wil dereguleren en deterritorialiseren.

Deterritorialiseren?
Ik eet bijvoorbeeld graag het seizoensfruit van mijn land. Maar er zijn mensen die dat fruit het hele jaar door willen en bereid zijn het uit het buitenland te laten overvliegen of enorme hoeveelheden water te gebruiken om het op ongeschikte maar dichterbij gelegen locaties te verbouwen. Maar als ik zeg dat dit weinig zin heeft, dat het leven bestaat uit cycli, ritmes en zelfs rituelen, dan hoor ik niet thuis in de postmoderniteit. Ik word beschouwd als een obscurantist omdat ik grenzen wil stellen. Deterritorialisering begint met het idee dat de mens geen grenzen mag accepteren. Dat is suïcidaal.

Wijst de mens vandaag de dag ook grenzen af omdat hij niet meer erkent dat hij geschapen is?
De mens beschouwt zichzelf als gemaakt zoals een machine. Dit is een plastisch creationisme. Waarom lijden onder de begrenzing van organiciteit? Dertig jaar geleden werd deze vraag alleen gesteld door psychotici en psychiatrische diensten: waarom moet ik grenzen accepteren, waarom moet ik de dood accepteren? Er is een heel grappig toneelstuk van Eugène Ionesco, Exit the King, waarin de zieke hoofdpersoon niet toegeeft dat hij moet sterven. Ionesco wilde de spot drijven met het westerse individualisme, maar vandaag de dag is het algemene gevoel dit: grenzen zijn arbitraire grenzen. En we hebben een enorme, fantastische macht in handen, maar op dit moment veroorzaakt het veranderingen die we niet kunnen beheersen omdat we niet weten hoe we het moeten temmen.

Wat bedoelt u daarmee?
Je vergeleek machines met de industriële revolutie. Ik vergelijk ze eerder met de ontdekking van de landbouw in de neolithische periode: intensieve teelt veroorzaakte aanvankelijk de dood van een derde van de toenmalige mensheid dankzij deregulering, ontbossing, pest en tuberculose. We bevinden ons in een vergelijkbare situatie: een krachtige revolutie waar we geen volledige controle over hebben. Volgens antropologen staan we zelfs aan de vooravond van een nieuwe grote uitsterving. En de arme, kleine mens is echt bang.

Moeten de machines gestopt worden?
Onmogelijk. Je kunt de toekomst niet door een achteruitkijkspiegel bekijken. In werkelijkheid zijn we al gehybridiseerd, ook al realiseren we ons dat niet. Het is een hybridisatie die niet anatomisch is maar fysiologisch, gerelateerd aan het functioneren. Ik heb bijvoorbeeld jarenlang gewerkt om de invloed van digitale apparaten op de hersenen te begrijpen. Het was heel gemakkelijk om te zien hoe de hersenstructuur van mensen die bepaalde hersenfuncties delegeren aan GPS is veranderd, zowel fysiologisch als anatomisch.

Als sommige vermogens verloren gaan, worden andere dan verbeterd?
Dat is niet mogelijk. Dit is hoe het centrale zenuwstelsel werkt: het delegeert bepaalde functies en recycleert het vrijgekomen hersengebied. We zagen dit toen het schrift werd uitgevonden en het deel van de hersenen dat tot dan toe was gewijd aan geheugenactiviteit werd gebruikt voor lezen en schrijven. Dit zijn zeer langzame processen die zelfs honderden jaren in beslag kunnen nemen. En vandaag de dag, met de snelheid van machines, laat de neurofysiologie zien dat het delegeren van functies een atrofie van het vrijgemaakte hersengebied veroorzaakt. In het geval van satellietnavigators zijn er subcorticale knooppunten die zich bezighouden met tijd en ruimte en dus met cartografie: de knooppunten die de functie delegeren aan de GPS hebben geen tijd om zich te recyclen voor een andere functie en atrofiëren, althans voorlopig.

Betekent dit dat kunstmatige intelligentie natuurlijke stompzinnigheid kan veroorzaken?
Een verzwakking, zeker. We zien het ook bij kinderen die veel tijd doorbrengen met videospelletjes of voor een scherm. Ik zeg dit niet op een technofobe manier, want ik ben geen technofoob, maar gewoon omdat we ons er niet van bewust zijn. Het is niet voor niets dat Silicon Valley-genieën hun kinderen naar scholen zonder computers sturen en ze Latijn en Grieks laten studeren. De neurofysiologie zegt dat we kinderen voor hun derde levensjaar niet voor schermen moeten zetten. Maar gezinnen zijn zich hier niet van bewust, vooral degenen die geen toegang hebben tot cultuur of een gebrek aan discipline hebben.

Zijn machines dan onze vijand?
Nee. Maar we moeten ze leren kennen en opnieuw een anders-zijn creëren. De machine is de machine, leven is leven; leven moet niet gedefinieerd worden als wat overblijft nadat we bepaalde functies aan machines hebben gedelegeerd. Dit onderscheid verliezen is erg gevaarlijk omdat het de persoon en het artefact op hetzelfde niveau plaatst. Maar het leven van de persoon is bestaan, niet functioneren als een machine. Wat blijft er over van de persoon nadat we bepaalde functies aan machines hebben gedelegeerd? Alles blijft. We moeten gewoon leren bestaan, samenleven met deze nieuwe macht die, omdat we er geen volledige controle over hebben, gevaarlijk kan zijn.

Wat is dan onze taak?
Het probleem heeft twee aspecten. Het fundamentele is dat we moeten begrijpen dat we in staat moeten zijn om te identificeren wat we zijn, wat onze eigenheid is, en dat we het niet als rest kunnen definiëren. We moeten terugkeren naar een anders-zijn: het verschil tussen mens en machine is radicaal. De tweede stap is het terugwinnen van het terrein dat we aan de machine hebben overgelaten. Ik herinner me vaak hoe de uitvinding van de lift de mogelijkheid van en de zin in lopen niet wegnam. Het is het beste om het ietwat domme idee van geluk als bewegingsloos comfort, niets doen en bediend worden door de nieuwe slaven, de machines, los te laten. We moeten een verlangen naar geluk herontdekken dat anders is dan deze ijdele visie, die heel erg de Amerikaanse manier van leven weerspiegelt.

De keerzijde van de medaille is dat we vandaag de dag vaak worden beoordeeld op grond van onze prestaties. De machine draait en de mens moet bijblijven.
De huidige esthetiek is om een steeds beter presterende machine te worden. Geluk zou dus aan de ene kant niets doen zijn terwijl de machine alles doet, en aan de andere kant functioneren als een machine terwijl je ook de angsten kwijtraakt die geassocieerd worden met bestaan en de zoektocht naar betekenis. We moeten ons allemaal actief verzetten, niet tegen de machine, maar tegen domheid.

In zijn boodschap voor de Werelddag van de Vrede zegt Paus Franciscus dat kunstmatige intelligentie ongelijkheden kan vergroten. Bent u het daarmee eens?
De machine produceert een wereld van kille berekeningen die niet voorzien in delen waarin de sterksten de sterksten blijven en anderen worden uitgesloten. Statistieken houden rekening met de gemiddelden, de massa, en sluiten de minderheden in de marge uit. Maar het aantal van deze minderheden in de wereld blijft toenemen. Ik denk dat de paus wil waarschuwen tegen de paradox dat machines in dienst staan van iedereen, terwijl ze in werkelijkheid werken voor degenen die ze besturen.