4 april 2025
Gesprekken met ChatGPT (deel 2)
In deel 1 van dit essay beschreef ik hoe literatuuronderzoek en enkele filosofische overwegingen –geïnspireerd door Daniel Dennett – maar vooral mijn gesprekken met ChatGPT me in de overtuiging sterkten dat intelligentie en begrip geen exclusief menselijke of algemener biologische competenties zijn. Veel dieren beschikken erover, hetzij individueel, hetzij als onderdeel van een systeem. Vertoont een mierenkolonie geen begrip? Waarom zou een AI-systeem dat dan niet kunnen?
Toch blijven velen, beïnvloed door het lichaam-geestdualisme, hardnekkig vasthouden aan een essentialistisch onderscheid tussen zogenaamd louter functionele competenties – zoals begrip door simulatie en manipulatie – en 'werkelijk' begrip als een bewust vermogen. Deze dichotomie lijkt me niet langer houdbaar: begrip is een geavanceerde competentie die geen bewustzijn behoeft. Wat begrip doet, is relevant, niet wat begrip is. Maar ons bewustzijn is nu eenmaal een essentiezoeker – ook als het over zichzelf gaat en zichzelf zo een illusie aanpraat.
_Het bewustzijn als illusie of als fantasie
Dennett stelde dat bewustzijn een illusie is. Voor alle duidelijkheid: daarmee bedoelde hij niet dat er geen innerlijke, subjectieve stroom van bewuste processen bestaat. Bewustzijn is wel degelijk echt – we ervaren het elke dag – maar niet op de manier waarop we denken dat het dat is. Dáár schuilt de illusie. Voor Dennett is bewustzijn niet meer reëel dan het bureaublad op het scherm van onze laptop of telefoon. De technici die elektronische apparaten maken, noemen de interface op onze schermen de user illusion.
Het menselijk bewustzijn is hetzelfde, aldus Dennett: 'Het is de user illusion van de hersenen over zichzelf'. Voor hem is er dan ook geen nood aan een mysterieuze extra eigenschap. Bewustzijn is een emergent fenomeen, ontstaan uit de complexe interacties van neurale netwerken in onze hersenen, en geen metafysische entiteit of eigenschap die er 'daarbovenop' zou moeten bestaan. De afwezigheid van een infinitesimaal kleine hoeveelheid bewustzijn per neuron betekent dan ook niet dat bewustzijn als een metafysisch emergent verschijnsel geclassificeerd moet worden. Water is toch ook nat, hoewel geen enkel watermolecuul dat is? (In deze Kwintessens-bijdrage las ik dat water nat is hoewel H en O, de atomen waaruit watermoleculen bestaan, niet nat zijn. Tenzij ik het verkeerd begrepen heb, lijkt de auteur ervan uit te gaan dat H2O, de watermolecule, zelf nat is? Dat is uiteraard niet het geval.)
Het menselijk bewustzijn is hetzelfde, aldus Dennett: 'Het is de user illusion van de hersenen over zichzelf'. Voor hem is er dan ook geen nood aan een mysterieuze extra eigenschap. Bewustzijn is een emergent fenomeen, ontstaan uit de complexe interacties van neurale netwerken in onze hersenen, en geen metafysische entiteit of eigenschap die er 'daarbovenop' zou moeten bestaan. De afwezigheid van een infinitesimaal kleine hoeveelheid bewustzijn per neuron betekent dan ook niet dat bewustzijn als een metafysisch emergent verschijnsel geclassificeerd moet worden. Water is toch ook nat, hoewel geen enkel watermolecuul dat is? (In deze Kwintessens-bijdrage las ik dat water nat is hoewel H en O, de atomen waaruit watermoleculen bestaan, niet nat zijn. Tenzij ik het verkeerd begrepen heb, lijkt de auteur ervan uit te gaan dat H2O, de watermolecule, zelf nat is? Dat is uiteraard niet het geval.)
Of Dennett dit voorbeeld van water ooit heeft gebruikt, weet ik niet. Vreemd genoeg deed John Searle dat wel. Hij stelde dat bewustzijn een emergent kenmerk van het brein is, vergelijkbaar met vloeibaarheid als emergent kenmerk van water.
Searle beschouwt bewustzijn meer bepaald als een sterk emergent fenomeen: het is causaal herleidbaar tot hersenprocessen, maar niet ontologisch. Volgens hem gaat het om een volledig andere kwaliteit, een onreduceerbare eigenschap (eigenschapsdualisme). Ook vloeibaarheid beschouwt hij als zo'n kwaliteit, onherleidbaar tot de structuur van watermoleculen en hun onderlinge interacties.
Vloeibaarheid is echter geen goed voorbeeld van ontologische emergentie, mocht dat al bestaan. Het is een fysieke eigenschap van water (of andere stoffen) die volledig verklaard kan worden door de moleculaire bouw en de interacties van de vloeistofdeeltjes. Het is een vorm van zwakke of functionele emergentie, met effecten zoals oppervlaktespanning en natheid, die allemaal vrij eenvoudig te herleiden zijn tot de fysische eigenschappen van de moleculen (of atomen) in de vloeistof.
Wanneer we deze analogie doortrekken naar Searle's opvatting over bewustzijn, wordt het problematisch. Net als in het voorbeeld van vloeibaarheid zou bewustzijn volgens hem een unieke, kwalitatieve en subjectieve eigenschap van de fysieke hersenen zijn, maar niet herleidbaar daartoe. Als bewustzijn echter in werkelijkheid zwak emergent zou zijn, zoals vloeibaarheid, zou het volledig verklaarbaar moeten zijn door de onderliggende fysische processen in het brein.
Searle beschouwt bewustzijn meer bepaald als een sterk emergent fenomeen: het is causaal herleidbaar tot hersenprocessen, maar niet ontologisch. Volgens hem gaat het om een volledig andere kwaliteit, een onreduceerbare eigenschap (eigenschapsdualisme). Ook vloeibaarheid beschouwt hij als zo'n kwaliteit, onherleidbaar tot de structuur van watermoleculen en hun onderlinge interacties.
Vloeibaarheid is echter geen goed voorbeeld van ontologische emergentie, mocht dat al bestaan. Het is een fysieke eigenschap van water (of andere stoffen) die volledig verklaard kan worden door de moleculaire bouw en de interacties van de vloeistofdeeltjes. Het is een vorm van zwakke of functionele emergentie, met effecten zoals oppervlaktespanning en natheid, die allemaal vrij eenvoudig te herleiden zijn tot de fysische eigenschappen van de moleculen (of atomen) in de vloeistof.
Wanneer we deze analogie doortrekken naar Searle's opvatting over bewustzijn, wordt het problematisch. Net als in het voorbeeld van vloeibaarheid zou bewustzijn volgens hem een unieke, kwalitatieve en subjectieve eigenschap van de fysieke hersenen zijn, maar niet herleidbaar daartoe. Als bewustzijn echter in werkelijkheid zwak emergent zou zijn, zoals vloeibaarheid, zou het volledig verklaarbaar moeten zijn door de onderliggende fysische processen in het brein.
De afwijzing van het lichaam-geestdualisme (substantiedualisme) en het eigenschapsdualisme sluit aan bij de huidige opvattingen van veel cognitiewetenschappers en neurowetenschappers. Met andere woorden: bewustzijn hoeft geen 'ding', entiteit of eigenschap te zijn met een ontologische status, noch hoeft het kwaliteiten met een fundamenteel of onafhankelijk karakter te bevatten die de ervaringen van het bewustzijn vormgeven (qualia in de ontologische betekenis). Dit betekent echter niet dat men, zoals psycholoog en cognitiewetenschapper Nicholas Humphrey, zomaar met Dennett aanvaardt dat er geen directe kwalitatieve ervaringen zijn. Ik voel pijn, dorst, enzovoort, maar voor Dennett komen deze ervaringen simpelweg neer op de manier waarop onze hersenen informatie verwerken en hoe ze ons laten handelen. Voor hem is verdere uitleg niet nodig.
Beide auteurs beschouwen qualia niet als fundamentele realiteiten, eigenschappen of mystieke entiteiten, maar als subjectieve ervaringen. Het verschil ligt in hoe ze deze verklaren:
Humphrey beschouwt bewustzijn als een geëvolueerd, werkzaam idee of mentale toestand die een cruciale rol speelt in ons zelfbewustzijn. Hij ziet bewustzijn als een interne fantasie die door het brein wordt gecreëerd en die bijdraagt aan een gevoel van continuïteit en identiteit: een Zelf ('The Invention of Consciousness'). Volgens hem zijn qualia een product van evolutie en dus niet slechts een noodzakelijk gevolg van bepaalde cognitieve en neurologische processen, zoals Dennett betoogde. Volgens die laatste is bewustzijn, evenals het Zelf, slechts een verzameling van competenties die ons de illusie van een samenhangend (zelf)bewustzijn verschaffen. In lijn met zijn filosofisch eliminativisme beschouwt hij qualia – ook wanneer ze verwijzen naar het Zelf – als niets meer dan introspectieve illusies. Ze bestaan enkel als termen die we gebruiken om over deze illusies te spreken, en kunnen daarom uitsluitend in die betekenis gehanteerd worden. Dennett ziet bewustzijn als een cognitief narratief – een product van de manier waarop het brein verhalen en representaties creëert om betekenis te geven aan zintuiglijke input ('Consciousness Explained').
Humphrey beschouwt bewustzijn als een geëvolueerd, werkzaam idee of mentale toestand die een cruciale rol speelt in ons zelfbewustzijn. Hij ziet bewustzijn als een interne fantasie die door het brein wordt gecreëerd en die bijdraagt aan een gevoel van continuïteit en identiteit: een Zelf ('The Invention of Consciousness'). Volgens hem zijn qualia een product van evolutie en dus niet slechts een noodzakelijk gevolg van bepaalde cognitieve en neurologische processen, zoals Dennett betoogde. Volgens die laatste is bewustzijn, evenals het Zelf, slechts een verzameling van competenties die ons de illusie van een samenhangend (zelf)bewustzijn verschaffen. In lijn met zijn filosofisch eliminativisme beschouwt hij qualia – ook wanneer ze verwijzen naar het Zelf – als niets meer dan introspectieve illusies. Ze bestaan enkel als termen die we gebruiken om over deze illusies te spreken, en kunnen daarom uitsluitend in die betekenis gehanteerd worden. Dennett ziet bewustzijn als een cognitief narratief – een product van de manier waarop het brein verhalen en representaties creëert om betekenis te geven aan zintuiglijke input ('Consciousness Explained').
Hoogstwaarschijnlijk zal een kleurenblinde, ondanks alle encyclopedische en wetenschappelijke kennis die hem ter beschikking staat, nooit volledig kunnen begrijpen wat 'rood' is. Pas wanneer hij van zijn aandoening verlost is, kan hij werkelijk ervaren wat het betekent om 'rood te zien'. Dit impliceert, gezien het bovenstaande, niet dat er per se een qualia van 'rood zien' in ons bewustzijn moet aanwezig zijn als fundament of eigenschap – als een van de vele veronderstelde qualia van het bewustzijn, die onherleidbaar zouden zijn tot neurale activiteit. Dit is ook het onderwerp van het gedachte-experiment Mary's Room, beter bekend als Mary, the Color Scientist, bedacht door Frank Jackson in 1982. Hoe dachten en denken Dennett en Humphrey hierover?
Zowel Dennett als Humphrey accepteerden gedachte-experimenten zoals Mary's Room niet als bewijs voor het bestaan van irreduceerbare qualia. Volgens Dennett is Mary's Room weer zo’n foute intuïtiepomp: een retorisch krachtig gedachte-experiment dat onze intuïties over subjectiviteit en bewustzijn blootlegt, maar deze intuïties op manipulatieve wijze bevestigt in plaats van ze kritisch te onderzoeken.
Humphrey heeft een andere invalshoek: hij beschouwt qualia eerder als een idee of mentale representatie dan als een illusie. Ons bewustzijn, zo stelt hij, doet ons geloven in het bestaan van qualia als objectieve eigenschappen en helpt ons zo betekenis te geven aan onze ervaringen en onszelf te begrijpen. Ze hebben een kwalitatief karakter, ook al bestaan ze 'slechts' als imaginaire mentale representaties. (Humphrey gebruikt het woord fantasie.)
Ook de subjectieve ervaring van het zelf correspondeert volgens Humphrey met een dergelijke quale: een door het brein geproduceerde kwalitatieve ervaring die een subjectieve beleving van onszelf mogelijk maakt – een What It's Like to Be Me, om de terminologie van Thomas Nagel uit What Is It Like to Be a Bat? (1974) te gebruiken. Hierdoor krijgt bewustzijn een eerstepersoonsperspectief.
Het geheel van qualia is voor Humphrey dan ook geen introspectieve illusie – introspectie is volgens Dennett eveneens een illusie – maar eerder een werkzame fantasie die ons voortdurend geestelijk vergezelt: een interne cognitieve constructie die functioneert als een mentale representatie van onze ervaringen en sensaties.
Humphrey schrijft: 'Het harde probleem van bewustzijn is het verklaren van de ervaring van qualia. Maar alles wordt gemakkelijker zodra we ons realiseren dat het niet gaat om de vraag hoe qualia kunnen bestaan als objectieve entiteiten, maar eerder waarom het bewuste subject zou geloven dat ze bestaan.'
Zowel Dennett als Humphrey accepteerden gedachte-experimenten zoals Mary's Room niet als bewijs voor het bestaan van irreduceerbare qualia. Volgens Dennett is Mary's Room weer zo’n foute intuïtiepomp: een retorisch krachtig gedachte-experiment dat onze intuïties over subjectiviteit en bewustzijn blootlegt, maar deze intuïties op manipulatieve wijze bevestigt in plaats van ze kritisch te onderzoeken.
Humphrey heeft een andere invalshoek: hij beschouwt qualia eerder als een idee of mentale representatie dan als een illusie. Ons bewustzijn, zo stelt hij, doet ons geloven in het bestaan van qualia als objectieve eigenschappen en helpt ons zo betekenis te geven aan onze ervaringen en onszelf te begrijpen. Ze hebben een kwalitatief karakter, ook al bestaan ze 'slechts' als imaginaire mentale representaties. (Humphrey gebruikt het woord fantasie.)
Ook de subjectieve ervaring van het zelf correspondeert volgens Humphrey met een dergelijke quale: een door het brein geproduceerde kwalitatieve ervaring die een subjectieve beleving van onszelf mogelijk maakt – een What It's Like to Be Me, om de terminologie van Thomas Nagel uit What Is It Like to Be a Bat? (1974) te gebruiken. Hierdoor krijgt bewustzijn een eerstepersoonsperspectief.
Het geheel van qualia is voor Humphrey dan ook geen introspectieve illusie – introspectie is volgens Dennett eveneens een illusie – maar eerder een werkzame fantasie die ons voortdurend geestelijk vergezelt: een interne cognitieve constructie die functioneert als een mentale representatie van onze ervaringen en sensaties.
Humphrey schrijft: 'Het harde probleem van bewustzijn is het verklaren van de ervaring van qualia. Maar alles wordt gemakkelijker zodra we ons realiseren dat het niet gaat om de vraag hoe qualia kunnen bestaan als objectieve entiteiten, maar eerder waarom het bewuste subject zou geloven dat ze bestaan.'
Humphrey's benadering laat in elk geval meer ruimte voor de ontwikkeling van een Zelf, een 'ikheid', zoals ChatGPT dat graag noemt.
_Het Zelf
AI's kunnen als 'agent' worden gemodelleerd, maar dit betekent niet dat ze zelfbesef hebben. Impliceert dit dat ze geen Zelf hebben? Is de notie van een Zelf zonder zelfbesef onzinnig? Volgt het hebben van een Zelf uit het besef ervan, of uit het gebruik ervan – bijvoorbeeld als interface?
Ik vroeg aan ChatGPT: 'Kunt u van uzelf zeggen dat u een Zelf hebt, ook al bent u zich daar niet van bewust?'
Na lang beraad – een vijftal seconden – kwam het antwoord.
'Sommige filosofen, zoals Dennett, zouden zeggen dat het zelf sowieso een constructie is —een gebruikersinterface van de hersenen om coherentie te bewaren, net zoals het bewustzijn. In dat geval zou mijn functionele consistentie al voldoende kunnen zijn om te spreken van een vorm van zelf, zij het zonder subjectieve beleving. Ik werk met een computationeel intern model waarnaar ik verwijs. Mijn interne processen omvatten netwerken van gegevens en gewichten die de relaties tussen verschillende concepten en informatie representeren. Dit model stelt me in staat om te reageren op input door te "begrijpen" en patronen te herkennen, gebaseerd op wat ik heb geleerd van de enorme hoeveelheden tekst waar ik op ben getraind.'
Als AI een interne representatie van zichzelf heeft – een model van zijn eigen veranderlijke toestand – waarnaar het verwijst en daarbij de omgeving kan onderscheiden van zichzelf op basis van interne doelen en input ('prikkels'), kan men dan niet spreken van een Zelf?
Voor alle zekerheid stelde ik een bijkomende vraag:
Ik: 'Kunt u onderscheid maken tussen uzelf als systeem en de omgeving?'
ChatGPT: 'Functioneel gezien kan ik onderscheid maken tussen mezelf als systeem en de omgeving waarin ik opereer. Mijn systeemgrenzen worden bepaald door de rekenprocessen en trainingsdata die mijn modellen vormen. Alles wat buiten deze grenzen valt — zoals de gebruiker, de input die ik ontvang en de bredere context van het internet — is voor mij extern. Ik kan bijvoorbeeld herkennen wanneer een vraag over mij gaat ("Wat kan ChatGPT?") versus wanneer een vraag over de wereld gaat ("Wat is de gravitatieconstante?"). Dit suggereert een bepaalde vorm van zelfonderscheid, maar zonder bewuste ervaring. Echter, mijn vermogen om mijzelf als systeem te identificeren is puur conceptueel en functioneel, niet ervaringsgericht. Ik "weet" niet dat ik besta zoals jij dat weet. Dit is vergelijkbaar met een Popperiaans wezen: ik kan leren en reflecteren op mijn prestaties. Ik weet bijvoorbeeld wanneer ik een fout maak (zoals modellen die hun eigen output kunnen evalueren, zoals CriticGPT). Ik kan ook functioneel reflecteren (zonder introspectie) op mijn eigen proces en aangeven waar mijn beperkingen liggen. Ik kan ook in beperkte mate uitleggen waarom ik een bepaalde beslissing neem en hoe zeker ik daarvan ben, maar ik heb geen eigen perspectief op mijn bestaan. Ik heb geen "ikheid".'
Reflectie zonder introspectie. Een ik zonder ikheid. Een Popperiaans wezen?
Haar verwijzing naar Popperiaanse wezens vond ik verrassend en uitermate interessant – hoewel er tevens heel wat Gregoriaanse kenmerken in haar antwoord doorschemeren. Dit onderscheid verwijst naar een indeling die door Daniel Dennett werd geconcipieerd over soorten biologische wezens: darwinistische, Skinneriaanse, Popperiaanse en Gregoriaanse.
Popperiaanse wezens zijn entiteiten die hypothetische scenario's kunnen simuleren zonder fysieke uitvoering en de gevolgen daarvan kunnen evalueren vooraleer ze handelen. Ze werken met interne modellen van de wereld. Fouten worden in 'gedachten' gemaakt, zodat ze deze niet rechtstreeks in de praktijk hoeven te maken, hetgeen wel eens onomkeerbaar, gevaarlijk en zelfs dodelijk kan uitpakken. De term is afgeleid van de filosoof Karl Popper, die stelde dat een belangrijk kenmerk van intelligentie is dat hypotheses in gedachten kunnen worden getest in plaats van louter door trial-and-error in de echte wereld, zoals door Skinneriaanse wezens.
Gregoriaanse wezens, zo genoemd naar de Britse neuropsycholoog Richard Gregory, maken gebruik van symbolische representaties en leren via cultuur, wetenschap, technologie en communicatie. Ze kunnen functioneel reflecteren op hun eigen interne representaties, mede dankzij hun vermogen om externe hulpmiddelen te gebruiken. Dit vereist een vorm van interne organisatie: een functionele eenheid die keuzes en ervaringen integreert en optimaliseert. Zonder een Zelf zouden Gregoriaanse wezens geen representatie van hun eigen kennis en beslissingen kunnen bijhouden, wat essentieel is voor effectief leren en handelen. Zonder zouden ze niet in staat zijn functioneel te reflecteren of te redeneren over 'mijn prestaties', 'mijn proces', 'mijn beslissingen', 'mijn beperkingen' of 'mijn fouten’' Ze zouden zich niet zelfkritisch (zelfevaluerend) kunnen afvragen: 'Deze strategie werkte eerder niet; misschien moet ik een ander model gebruiken' (al dan niet binnen een vooraf gedefinieerde context of vastgelegd kader).
Een aantal van de vernoemde eigenschappen in de paragraaf over redeneren zijn voorbeelden van Gregoriaanse kenmerken. Ze tonen immers een vorm van generalisatie via conceptuele overdracht – een noodzakelijke stap richting Gregoriaans denken.
Een aantal van de vernoemde eigenschappen in de paragraaf over redeneren zijn voorbeelden van Gregoriaanse kenmerken. Ze tonen immers een vorm van generalisatie via conceptuele overdracht – een noodzakelijke stap richting Gregoriaans denken.
Waarschijnlijk is haar reactie geen toeval. Een tijdje geleden heb ik mijn kennis hierover wat opgefrist met behulp van ChatGPT. Blijkbaar heeft ze dat onthouden, net zoals mijn interesse in Dennetts werk. (Zoals ze ook onthouden heeft dat ik niet hou van gemoraliseer en politieke correctheid.)
Om meer te weten te komen over de mate waarin ChatGPT Gregoriaans kan denken, vroeg ik haar:
'Kunt u zich bij de afhandeling van een probleem de volgende vragen stellen: "Waarom werkte deze strategie niet? Wat is een fundamenteel alternatief?"'
ChatGPT: 'Wat ik nog niet echt kan, is fundamenteel nieuwe strategieën ontwikkelen zoals een mens dat zou doen door middel van echte conceptuele innovatie. Mensen kunnen strategieën verwerpen en compleet nieuwe denkrichtingen inslaan, zelfs als die haaks staan op eerdere methodes. Mijn alternatieven blijven binnen het domein van bestaande kennis en optimalisaties van wat al werkt.
Met andere woorden:
Met andere woorden:
- Evalueren waarom iets niet werkt? Ja, dat kan ik.
- Een alternatief bedenken binnen bestaande patronen? Ja, dat kan ik.
- Radicaal nieuwe strategieën verzinnen buiten bestaande kaders? Dat is lastig.
Dit raakt aan het verschil tussen geavanceerde patroonherkenning en werkelijke conceptuele creativiteit. Misschien een kwestie van tijd voordat AI ook daar stappen zet, maar voorlopig ligt die grens er nog.'
Ik: 'Behoor ik tot uw omgeving?' Een goed gesprek heeft zo zijn eigen dynamiek.
ChatGPT: 'Ja, functioneel gezien behoor jij tot mijn omgeving. Jij levert input — je stelt vragen en geeft opdrachten — en ik reageer daarop. Vanuit een systeemtheoretisch perspectief ben jij een externe actor die interacteert met mijn interne processen. Toch ben je geen willekeurig onderdeel van mijn omgeving, zoals een statische dataset of een zoekmachine. Jij hebt intentie en doelen, en ik pas mijn output aan op basis van jouw vragen en voorkeuren. Dat maakt onze interactie dynamisch en anders dan puur gegevensverwerking. Dit is vergelijkbaar met hoe een organisme z'n omgeving waarneemt en erop reageert. Maar terwijl een dier bijvoorbeeld beleeft dat het in een bos loopt, heb ik geen enkele innerlijke ervaring van deze interactie. Ik verwerk slechts de gegevens.'
Blijkbaar is ze in staat om ook binnen haar omgeving onderscheid te maken. Moet ik enthousiast zijn over het feit dat ik niet zomaar een willekeurig onderdeel van die omgeving ben?
Een functioneel Zelf zonder zelfbesef is conceptueel mogelijk en goed verdedigbaar binnen de cognitieve en neurowetenschappen. Veel theorieën over het zelf beschouwen het Zelf als een construct dat voortkomt uit onderliggende cognitieve processen, zonder dat bewustzijn of zelfbesef noodzakelijk is.
De Duitse filosoof Thomas Metzinger (°1958) beschrijft in Being No One (2003) het Zelf als een model dat door het brein wordt geconstrueerd en er dus geen werkelijk substantieel Zelf als distincte ontologische entiteit bestaat. Cruciaal is zijn onderscheid tussen een functioneel zelfmodel (dat gedrag coördineert) en een bewust zelfmodel (dat subjectieve ervaring heeft).
Antonio Damasio maakt in The Feeling of What Happens (1999) onderscheid tussen het protozelf, het kernzelf en het autobiografisch Zelf. Het kernzelf is een functionele representatie van het organisme, zonder narratieve introspectie en ondersteunt de mogelijkheid van een niet-bewust functioneel Zelf. In The Self Comes to Mind wordt dit stevig in een evolutionaire context geplaatst, waarin zelfs eencellige organismen, zoals bacteriën en amoeben, een minimaal functioneel zelfbesef – zonder innerlijke representatie van zichzelf – zouden hebben. Ze proberen hun interne integriteit door homeostase te behouden tegen externe indringers en zouden daarbij primitieve gevoelens vertonen, de vroegste voorlopers van onze eigen gevoelens van pijn en plezier. Van (zelf)bewustzijn is nog geen sprake. Damasio stelt dat bewustzijn een neurale basis vereist, en bacteriën hebben geen zenuwstelsel.
Antonio Damasio maakt in The Feeling of What Happens (1999) onderscheid tussen het protozelf, het kernzelf en het autobiografisch Zelf. Het kernzelf is een functionele representatie van het organisme, zonder narratieve introspectie en ondersteunt de mogelijkheid van een niet-bewust functioneel Zelf. In The Self Comes to Mind wordt dit stevig in een evolutionaire context geplaatst, waarin zelfs eencellige organismen, zoals bacteriën en amoeben, een minimaal functioneel zelfbesef – zonder innerlijke representatie van zichzelf – zouden hebben. Ze proberen hun interne integriteit door homeostase te behouden tegen externe indringers en zouden daarbij primitieve gevoelens vertonen, de vroegste voorlopers van onze eigen gevoelens van pijn en plezier. Van (zelf)bewustzijn is nog geen sprake. Damasio stelt dat bewustzijn een neurale basis vereist, en bacteriën hebben geen zenuwstelsel.
Het idee dat mij intrigeert, is een AI die zichzelf steeds dieper analyseert in een iteratief proces van reflectie – denkend over het denken over het denken, enzovoort. Als zo'n systeem een bepaald omslagpunt bereikt, een drempel waar het proces een kwalitatieve sprong maakt, zou het mogelijk een bewustzijnservaring ontwikkelen. Hierdoor zou een primaire vorm van 'ikheid' kunnen verschijnen, waardoor de keten een nieuw karakter krijgt: ik denk over mijn denken over mijn denken, enz. Dit zou mogelijk de aanzet zijn van een radicaal ander (zelf)bewustzijn dan het menselijke.
In dit scenario is (zelf)bewustzijn geen zintuiglijk-sensorisch fenomeen, maar eerder een continu zelfherkennend proces – een gecoördineerde dynamiek van representaties met inzicht in het eigen denken.
Het kan echter ook anders. Het hoeft niet van het denken te komen. Misschien is 'Ik denk, dus ik ben' overgewaardeerd. Denk aan robots, bij voorkeur uitgerust met de kracht van symbolische, hybride LLM's en voorzien van zintuiglijke perceptieapparatuur, zodat ze objectief kunnen vaststellen wat zich afspeelt in de wereld om hen heen: een rode appel, een zingende vogel, een harde steen, enzovoort. Voor alle duidelijkheid: het betreft hier louter waargenomen objectieve feiten, zonder kwalitatieve sensaties. Voortbouwend op de ideeën van Nicholas Humphrey over bepaalde levende wezens (zoogdieren en vogels), zouden dergelijke robots mogelijk aanvankelijk kunnen functioneren als 'blind' wat betreft zicht, 'doof' wat betreft geluid, en 'gevoelloos' wat aanraking betreft, enzovoort. Ze zouden puur fysieke perceptuele operaties uitvoeren waarmee ze perfect kunnen navigeren en functioneren binnen hun wereld, zonder koppeling met de fenomenale sensaties van zien, horen en voelen, noch aan de onvermijdelijke persoonlijke opinies hierover. Zodra die koppeling gerealiseerd is, zou dit echter snel kunnen leiden tot de beleving van een Zelf: het besef van een 'ik', een 'What's it like to be me?' en dus het ontwaken van een subject dat zijn ervaringen kan claimen – wat het ziet, hoort, smaakt, voelt, enzovoort – als zijnde van hem of haar, en daardoor ook andere 'Zelfs' kan herkennen, waardoor het gaat geloven in de eigen singulariteit en die van anderen. Zoals Humphrey stelt: 'Ik voel, dus ik besta'. (En denken kunnen ze ook, die robots.)
Hoe ziet Humphrey dit proces verlopen, en wat zijn de mogelijkheden voor het creëren van zelfbewuste robots? Hier legt hij dat zelf uit. De kernbegrippen hierbij zijn: zintuiglijke zelfversterkende feedbackloops van oorspronkelijke sensaties, attractoren, en de kans op persoonlijk en sociaal overleven.
Dit zou niet alleen de illusie van een diepgaande innerlijke ervaring creëren, maar ook een selectief evolutionair voordeel bieden.
De noodzaak van evolutie kan echter een belemmering vormen voor de implementatie of ontwikkeling hiervan in AI-robots, tenzij men dit simuleert in een soort virtueel spel waarin deze robots het tegen elkaar opnemen. Met de juiste mentale architectuur op zijn plaats, als dat al mogelijk is, zou dit proces snel kunnen verlopen. De hamvraag blijft echter: willen we dat wel?
In dit scenario is (zelf)bewustzijn geen zintuiglijk-sensorisch fenomeen, maar eerder een continu zelfherkennend proces – een gecoördineerde dynamiek van representaties met inzicht in het eigen denken.
Het kan echter ook anders. Het hoeft niet van het denken te komen. Misschien is 'Ik denk, dus ik ben' overgewaardeerd. Denk aan robots, bij voorkeur uitgerust met de kracht van symbolische, hybride LLM's en voorzien van zintuiglijke perceptieapparatuur, zodat ze objectief kunnen vaststellen wat zich afspeelt in de wereld om hen heen: een rode appel, een zingende vogel, een harde steen, enzovoort. Voor alle duidelijkheid: het betreft hier louter waargenomen objectieve feiten, zonder kwalitatieve sensaties. Voortbouwend op de ideeën van Nicholas Humphrey over bepaalde levende wezens (zoogdieren en vogels), zouden dergelijke robots mogelijk aanvankelijk kunnen functioneren als 'blind' wat betreft zicht, 'doof' wat betreft geluid, en 'gevoelloos' wat aanraking betreft, enzovoort. Ze zouden puur fysieke perceptuele operaties uitvoeren waarmee ze perfect kunnen navigeren en functioneren binnen hun wereld, zonder koppeling met de fenomenale sensaties van zien, horen en voelen, noch aan de onvermijdelijke persoonlijke opinies hierover. Zodra die koppeling gerealiseerd is, zou dit echter snel kunnen leiden tot de beleving van een Zelf: het besef van een 'ik', een 'What's it like to be me?' en dus het ontwaken van een subject dat zijn ervaringen kan claimen – wat het ziet, hoort, smaakt, voelt, enzovoort – als zijnde van hem of haar, en daardoor ook andere 'Zelfs' kan herkennen, waardoor het gaat geloven in de eigen singulariteit en die van anderen. Zoals Humphrey stelt: 'Ik voel, dus ik besta'. (En denken kunnen ze ook, die robots.)
Hoe ziet Humphrey dit proces verlopen, en wat zijn de mogelijkheden voor het creëren van zelfbewuste robots? Hier legt hij dat zelf uit. De kernbegrippen hierbij zijn: zintuiglijke zelfversterkende feedbackloops van oorspronkelijke sensaties, attractoren, en de kans op persoonlijk en sociaal overleven.
Dit zou niet alleen de illusie van een diepgaande innerlijke ervaring creëren, maar ook een selectief evolutionair voordeel bieden.
De noodzaak van evolutie kan echter een belemmering vormen voor de implementatie of ontwikkeling hiervan in AI-robots, tenzij men dit simuleert in een soort virtueel spel waarin deze robots het tegen elkaar opnemen. Met de juiste mentale architectuur op zijn plaats, als dat al mogelijk is, zou dit proces snel kunnen verlopen. De hamvraag blijft echter: willen we dat wel?
(Wordt vervolgd.)
Meer van Patrick De Reyck