[Dit stuk verscheen op 15 januari 2022 in De Groene Amsterdammer]

In de eerste aflevering van Wintergasten wordt de kijker getrakteerd op anderhalf uur televisie met Yuval Harari, een heerlijke verteller met een geweldige helikopterview op 200.000 jaar geschiedenis van de mensheid. In zijn internationale bestsellers Sapiens en Homo deus relativeert Harari met veel historisch besef de dominante moderne en kapitalistische dogma’s; hij ontmaskert onze arrogantie als heerser van de planeet en met een aanstekelijk optimisme confronteert hij ons met ons onvermogen om nog fatsoenlijk antwoord te kunnen geven op de vraag der vragen: Wat is de zin van ons bestaan? Een onmogelijke vraag voor de moderne mensheid omdat wij verslingerd zijn geraakt aan de luxe die de moderne wetenschap ons heeft gebracht, terwijl het juist ook die wetenschap is die alle Grote Verhalen vernietigt. Dat is treurig voor een diersoort die alleen in en dankzij verhalen kan floreren. 

Toch overheerst de treurigheid niet. Daarvoor heeft Harari te veel levenslust. Net als Riley, de hoofdpersoon in Disney’s animatiefilm Inside Out, waarvan Harari een fragment laat zien. Riley is een jong meisje dat – net als wij allemaal, zo gelooft Harari – bestuurd wordt door een veelvuldigheid aan emotionele processen. In het fragment zien we die emoties, gepersonifieerd: Joy, Sadness, Fear, Anger en Disgust. Met zijn vijven zitten ze aan de knoppen van Rileys leven. Dat deze emoties gepersonifieerd zijn en zelf in feite de hoofdpersonen zijn in het narratief dat Inside Out ons voorschotelt, lijkt aan Harari’s aandacht te ontsnappen. En juist dat vind ik frappant, omdat Harari’s uitleg van wat we in het fragment zien gebeuren geen narratief met hoofdpersonen meer lijkt te zijn, maar het zogenaamd objectieve verslag van de essentieel onpersoonlijke biologische wetenschap over algoritmisch te beschrijven neurofysiologische processen. Dat is veelzeggend omdat het de blinde vlek laat zien in Harari’s anderszins fascinerende vermogen diverse academische disciplines te integreren in zijn wereldgeschiedenis: hij heeft de filosofie van de gedragswetenschappen gemist. In het verlengde van Harari’s incoherente duiding van de emoties in Inside Out zijn er ten minste drie inconsistenties in Harari’s visie op het menselijk handelen te onderscheiden.

1. Het narratieve in het biologische

Harari is een historicus en als historicus heeft hij een ogenschijnlijk duidelijk idee van een fundamenteel onderscheid tussen de natuurwetenschappen en de geesteswetenschappen. De natuurwetenschappen bestuderen de materiële werkelijkheid en verklaren haar in termen van de onderliggende mechanismen die zij weten bloot te leggen. De geesteswetenschappen daarentegen bestuderen de sociaal-culturele werkelijkheid en begrijpen haar door betekenisvolle perspectieven te ontsluiten op onze natuurlijke en maatschappelijke omgeving. De natuurwetenschappen produceren theorieën en de geesteswetenschappen produceren narratieven. Dit is een bekend negentiende-eeuws onderscheid, maar ook een onderscheid waarvan de gedragswetenschappen geen enkel profijt, maar wel veel last hebben. Want wat is gedrag? Is dat een natuurwetenschappelijk object of een geesteswetenschappelijk fenomeen? Allebei natuurlijk, of misschien wel, beter nog, geen van beiden. Harari ziet ogenschijnlijk het probleem niet en dat wreekt zich in zijn kijk op de biologische psychologie. Steeds als hij over menselijk gedrag praat, wordt zijn verhaal incoherent, doordat hij narratieve interpretaties ten beste geeft van wat volgens hem slechts materiële gegevens zijn.

Hij had dat zelf op geen mooiere manier duidelijk kunnen maken dan in zijn verhaal over zijn coming out als gay. Terwijl Harari zegt dat wij als mensen inverhalen leven, dat onze werkelijkheid door en door een mythische, ideologische, narratieve is, meent hij tegelijkertijd dat er een materiële – en ja, die is ook biologisch – werkelijkheid is waaroverheen wij als mensen een tweede laag van betekenissen leggen. Soms prik je, aldus Harari, door die laag van betekenissen heen en kom je in de pure fysieke werkelijkheid terecht, en daar, zichtbaar voor iedereen, ligt het zuiver biologische feit van Harari’s eigen homoseksualiteit. Hij heeft het alleen tot zijn 21ste zelf niet ontdekt, misleid als hij blijkbaar was door de narratieve laag van betekenissen. Dat hij ons dit op deze manier vertelt, dat dit zijn narratief is over zijn voor hemzelf klaarblijkelijk volstrekt verrassende coming out – dat realiseert hij zich helemaal niet. 

Dit feit – en ik geloof onmiddellijk dat dit feit zich in die bioscoop aan hem heeft geopenbaard als een onontkoombaar absoluut gegeven – is voor hem een veel diepere waarheid dan bijvoorbeeld het bestaan van god of het bestaan van de agrarische revolutie. En juist dat geeft dit feit een narratieve lading die volstrekt niet gereduceerd kan worden tot het naakte biologische feit dat een of ander algoritme allang had kunnen vaststellen als het Harari’s ogen had kunnen volgen bij het bekijken van een man en een vrouw die in badkleding over het strand lopen. Het is niet het onpersoonlijke, objectieve, zuiver neurofysiologische karakter van dit feit waardoor het voor Harari zo’n diep inzicht in zijn eigen werkelijkheid betekent. De onontkoombaarheid van zijn homoseksualiteit valt als een puzzelstukje op zijn plaats juist doordat het een narratief gegeven is, doordat Harari in zijn verslag van zijn coming out voor ons zijn eigen, bijzondere, seculier-Israëlische perspectief op zijn leven en zijn seksualiteit ontsluit.

Harari’s vergissing is te denken dat het narratieve een optionele, elimineerbare, tweede laag bovenop de meer fundamentele fysieke werkelijkheid is. Dat is een begrijpelijke vergissing, omdat heel onze cultuur nog alsmaar zucht onder het dualisme van lichaam en geest. Maar het is een vergissing en het vertroebelt Harari’s verhaal over onze biologie op dezelfde manier als zijn interpretatie van Joy en Sadness als onpersoonlijke, neurofysiologische, mechanistische processen.

2. Het ‘harde werk’ van zelfkennis

Met een beetje vilein genoegen dweept Harari met de stelling dat de algoritmen van Google, Amazon en Netflix veel beter en sneller dan wijzelf weten wat wij waarderen, waar ons hart sneller van gaat tikken, wat voor ons echt van belang is. Onze vermogens om inzicht te verwerven in wie we echt zijn en waar we echt om geven zijn zeer beperkt, zo stelt Harari, en het zal niet lang meer duren of artificial intelligence zal ons definitief verslaan in onze zoektocht naar inzicht in onszelf. Ik mag de narrigheid van deze opstelling wel, maar verder zet ik dit soort opmerkingen het liefst onmiddellijk bij het oud vuil, omdat ze zowel de aard van AI als de aard van zelfkennis volstrekt miskennen. Ook hier geeft Harari ons de sleutel tot zijn eigen onbegrip op een presenteerblaadje. Wat dat betreft is zijn optreden in Wintergasten werkelijk prachtige televisie. 

Harari heeft zijn man namelijk online leren kennen, ook al zijn de algoritmen van datingsites volgens hem gebaseerd op een fundamenteel onjuist idee. Die algoritmen doen namelijk alsof mensen ‘partnerconsumenten’ zijn, alsof een partner thuishoort in de categorie van kleding, schoenen, vleeswaar of meubilair. Onjuist, oordeelt Harari. Mensen zijn geen consumenten als ze op zoek zijn naar een partner, maar ‘relatieproducenten’. Dat vind ik een prachtige observatie. Mensen zoeken in een partner geen object dat een verlangen van hen zal bevredigen, maar zoeken een ander mens waarmee zij een relatie willen opbouwen, waarmee zij een nieuwe werkelijkheid willen creëren, de werkelijkheid van hun verbond. Voor dat verbond zijn zij beiden nodig, ieder met hun eigen perspectief, en die twee perspectieven zullen, in hun tweevoud, nodig blijven om samen een werkelijkheid te realiseren waarin zij thuis zullen kunnen zijn, een werkelijkheid die niet van de een is en niet van de ander, maar die er alleen maar is omdat zij beiden die werkelijkheid in gezamenlijkheid realiseren. Dat is ‘hard werken’, voegt Harari daaraan toe. En ik ben dat helemaal met hem eens. 

Maar de crux van dit inzicht dat mensen relatieproducenten zijn, lijkt Harari zich niet te realiseren. Op een bepaalde manier is dat onbegrijpelijk voor de wereldhistoricus die ons helder heeft weten te vertellen dat het succes van de mensheid precies gelegen is in het feit dat wij zo verschrikkelijk goed kunnen samenwerken, zelfs met volstrekte vreemden, en in aantallen die nergens in de dierenwereld geëvenaard worden. Wij bouwen met elkaar abstracte maatschappijen, instituties die een werkelijkheid bezitten die ons individuele bestaan ver te boven gaan en die superecht zijn, ook al zijn ze niet materieel van aard maar mentaal, narratief. Op precies dezelfde manier bouwen we met onze partner aan een intieme relatie die werkelijker wordt dan de spullen die wij samen hebben en het huis waarin wij wonen. Mooi. Maar waarom ziet Harari dan niet dat wij ook individueel het resultaat zijn van ‘hard werken’? 

Ook wij zijn geen object dat algoritmisch blootgelegd kan worden. Wij zijn actoren die een verantwoordelijke relatie hebben met hun eigen gedachten en handelingen. Wij nemen de verantwoordelijkheid op ons om hard werkend waar te maken wie wijzelf in reactie op de verwachtingen van anderen én onszelf menen dat we zouden kunnen, moeten of willen zijn. Wij verhouden ons noodzakelijkerwijze tot de uitkomsten van de algoritmen van Amazon of Netflix, zoals wij ons noodzakelijkerwijze ook verhouden tot de verwachtingen die onze ouders, onze docenten, onze vrienden, vijanden, kinderen, politici en ga zo maar door van ons hebben. En Harari zou dat moeten weten. Daarvoor hoeft hij zich alleen maar af te vragen wat er gebeurd zou zijn als hij op zijn dertiende – lang voordat hij er zelf aan toe was – inderdaad door een algoritme was gewezen op het feit dat hij homoseksueel is. Is dat zo? Omdat hij op het strand eerst en langer naar mannen kijkt dan naar vrouwen? Is dat doorslaggevend of is hij misschien transgender, en zijn zijn verlangens die van iemand die op het punt staat te begrijpen in een ‘verkeerd lichaam’ te zijn geboren? Er zullen veel meer, eindeloos veel vragen zijn, en al die vragen zullen voor de dertienjarige Yuval uitdagingen zijn, aanleidingen om ‘hard te werken’, geen vanzelfsprekend objectief bewijsmateriaal dat hem in de luie stoel van een luxeleven zet omdat alles nu helder en evident is. 

Ook op dit punt is duidelijk dat Harari zich de les van Inside Out niet lijkt te realiseren. Stel je de emotionele warboel voor die zich voor zou doen als de dertienjarige Riley in Inside Out van een algoritme te horen zou krijgen dat ze gay is. Zie de opperste verwarring voor je waarmee Joy, Sadness, Fear, Anger en Disgust op dat moment achter de knoppen zullen staan, niet wetend wat te doen of hoe te reageren. Ze zullen hard moeten werken, samen moeten werken, om met elkaar een coherent verhaal te construeren, te reconstrueren, om het verleden van Riley te verbinden met dit nieuwe inzicht om zo ruimte te scheppen voor Riley, handelingsruimte, zodat ze op het nieuws kan reageren en initiatieven kan nemen om er iets van te maken. Dat er daarbij geen eigenlijk, uniek, authentiek personage is dat in Riley achter de knoppen de dienst uitmaakt, dat kan claimen dat ze in Riley’s binnenwereld de enige gelegitimeerde vertegenwoordiger van Riley zelf is – ja, precies, dat is een goed, belangrijk en relevant (postmodern) inzicht. Maar dat is op geen enkele manier een inzicht dat de deur openzet voor artificieel intelligente algoritmen die beter dan wijzelf weten wie we zijn of die op enig andere manier onze vrije wil – of beter, ons verantwoordelijk actorschap – op beslissende wijze buitenspel zetten.

3. Verantwoordelijk actorschap

Harari is niet de enige die zich verkijkt op wat AI wel is en wat het niet is. In Homo deus neemt hij een term van David Brooks over, ‘dataïsme’, om een wat hem betreft nieuwe religie voor te stellen die op termijn het humanisme – voor Harari de religie van de mens als oppermachtige beheerser van het leven op aarde – zal kunnen wegdrukken. Daarmee zou zich een nieuwe stap in de evolutie kunnen voltrekken: de mensheid zou kunnen uitsterven en opgevolgd kunnen worden door een subliem informatieverwerkend systeem, bestaande uit superintelligente algoritmen die het tot dusver meest begaafde informatieverwerkende systeem, Homo sapiens, verreweg zal overtreffen en die ons, met onze emotioneel instabiele biologische psychologie, als een verouderd algoritme bij het grofvuil van de evolutie zal zetten, net als de dodo, de mammoet en de dinosaurussen.

Hoewel ik, zoals ik al zei, best kan genieten van het venijn waarmee Harari de vermeende superioriteit van de mensheid onderuithaalt, en ik me ook kan voorstellen dat de mensheid daadwerkelijk zal uitsterven, is Harari’s gedweep met artificiële intelligentie uiteindelijk behoorlijk irritant. Het getuigt ook van een gebrek aan inzicht in wat de oude Grieken phronèsis noemden, praktische wijsheid. Als Janine Abbring in Wintergasten Harari vraagt naar het verschil tussen artificiële intelligentie en artificieel bewustzijn, krijgt hij de kans te laten zien dat hij sinds het verschijnen van Homo deus een paar denkstappen in de goede richting heeft gezet. Helaas laat hij die kans lopen en volhardt hij in zijn onbegrip van AI. Weliswaar begint hij goed door de beperktheid van intelligentie te benoemen, door te benadrukken dat intelligentie slechts het strategische vermogen is om plannen op te stellen en om de juiste middelen te selecteren voor het realiseren van je doelen. Intelligentie, zo beschouwd, is een kwestie van instrumentele rationaliteit en heeft eigenlijk niets te maken met bewustzijn, al dan niet artificieel. Ook zonnebloemen, bijvoorbeeld, beschikken over instrumentele rationaliteit. Ze draaien mee met de zon zonder dat ze zich van die zon bewust zijn, zonder dat ze de warme straling op hun huid hoeven voelen, zoals wij op een hete zomerdag. Het mechanisme dat ervoor zorgt dat de zonnebloem met de zon meedraait is een intelligent informatieverwerkend systeem en zo kun je je voorstellen dat bijvoorbeeld ook een klokthermostaat of een elektriciteitsmeter intelligent is. 

Is dan de echte uitdaging voor AI om artificieel bewustzijn te ontwikkelen? Nee, dat is nu precies de vergissing die mogelijk is geworden, en in stand wordt gehouden, door het lichaam-geest dualisme. Want dat dualisme associeert intelligentie met de geest en daarmee met bewustzijn, en vervreemdt het daardoor van intelligent handelen. De hele relevantie van intelligentie is echter juist gelegen in de rol die zij speelt in ons gedrag, in ons handelen, zoals dat ook geldt voor de zonnebloem en eerder gold voor de dodo, de mammoet en de dinosaurussen. Intelligent handelen vraagt echter niet in eerste instantie om instrumentele rationaliteit, maar om praktische wijsheid. Wat is het verschil? 

Praktische wijsheid is het vermogen te reflecteren op de waarde, de relevantie en de betekenisvolheid van drijfveren, van doelen, motieven, ambities, uitdagingen. Praktische wijsheid gaat niet zozeer over hoe je een voorgegeven doel kunt realiseren, maar gaat over waarom je zo’n doel als doel zou accepteren of zou omarmen en over waarom het de moeite waard is om dat doel na te streven. 

In aansluiting op Harari’s mooie inzicht dat wij ‘relatieproducenten’ zijn, zou je kunnen zeggen dat praktische wijsheid voor ons als relatieproducenten veel belangrijker is dan instrumentele rationaliteit. Relatieproducenten geven om hun relatie, die puur op zichzelf als iets waardevols wordt beschouwd en die niet slechts een instrument is dat gebruikt zou kunnen worden om verlangens te bevredigen. Praktische wijsheid is het vermogen in te zien dat je geen ‘partnerconsument’ bent, dat het je niet om bevrediging gaat maar om liefde, om enthousiasme, om het samen hebben van toekomst.

Instrumentele rationaliteit is daarentegen principieel afhankelijk van het voorgegeven zijn van een doel. Pas als er een doel is, is het mogelijk op slimme wijze de meest geschikte middelen te selecteren om dat doel te bereiken. Maar wat nu als er geen doel is? Dan heb je niets aan instrumentele rationaliteit en dus ook helemaal niets aan intelligentie – althans, aan intelligentie opgevat als instrumentele rationaliteit. 

Als er geen doel is, dan gaat een intelligent systeem in de slaapstand. Een artificieel intelligent systeem zonder doel blijft zelfs voor eeuwig in de slaapstand, hoe intelligent het ook is. Maar een intelligent mens zonder doel… die gaat zich vervelen. Een mens heeft op zo’n moment profijt van zijn gevoelens, van zijn emotioneel instabiele biologische psychologie. Als Riley zich verveelt, dan ontstaat er onrust tussen Joy, Sadness, Fear, Anger en Disgust. Die willen iets te doen hebben, die gaan op zoek naar een uitdaging, of ze verzinnen zelf een uitdaging, als in een spelletje. 

De echte uitdaging voor AI is daarom het ontwikkelen van een artificiële actor, een systeem dat op artificiële wijze praktisch wijs is. Zo’n systeem zal intrinsiek gemotiveerd moeten zijn en zolang de architectuur van AI gebaseerd is op informatieverwerkende algoritmen zullen we geen millimeter opschieten in de ontwikkeling van artificiële actoren. Dat hoeven we niet te betreuren. Ik juich het zelfs toe omdat het ons aanmoedigt te stoppen met het betekenisloze gemijmer over de dreiging die volgens Harari uitgaat van dataïsme als een nieuwe religie. 

Laat Harari eerst maar eens een beter inzicht ontwikkelen in het menselijk handelen. Want hij lijkt zich op dit punt voortdurend tegen te spreken. Hij suggereert enerzijds dat de toekomst onvoorspelbaar is en dat de mensheid voor een keuze staat omdat we nog steeds ons actorschap hebben. Maar anderzijds beweert hij dat de narratieve laag een optionele tweede laag van elimineerbare betekenissen is, dat algoritmen onszelf beter kennen dan wijzelf en dat de vrije wil niet bestaat omdat wij bestuurd worden door neurofysiologische processen. Dat lijkt te impliceren dat wij slechts de machteloze toeschouwers zijn van wat zich allemaal onder onze huid afspeelt, een beeld dat echt niet te rijmen is met het actorschap dat hij ons toch toe lijkt te willen schrijven. Mijn conclusie is dat Harari geen coherente visie heeft op het meest relevante menselijke vermogen: ons vermogen elkaar en onszelf ter verantwoording te roepen en zo vorm te geven aan een toekomst die wij delen, als – precies – een toekomst. Dat is hard werken. Dat is emotioneel lichaamswerk, het gestaag en volhardend uiteenrafelen van onze geschiedenis, zowel de evolutionair-biologische, als de traditioneel-religieuze, de modern-wetenschappelijke en de existentieel-persoonlijke. Dat uiteenrafelen van die geschiedenis is tegelijkertijd het opnieuw vertellen van die geschiedenis, is onontkoombaar een continuering van het gesprek van de mensheid als een vertelling die deel uitmaakt van de circle of life. De circle of life – precies, eten en gegeten worden, deel uitmaken van de ecologische niche waarin wij thuishoren. Want in het dataïsme zijn we niet alleen het contact met ons lichaam en onze emoties kwijtgeraakt, maar daarmee, belangrijker nog, het contact met ons actorschap, met onze drijfveren, met onze levenslust die we delen met al wat leeft op aarde. 

Het is de verantwoordelijkheid voor onze levenslust die onze diepste uitdaging is. Dat zou een optimist als Yuval Harari toch moeten kunnen begrijpen.