Anthropic heeft vorige week nieuw onderzoek vrijgegeven. Hun bewering? Tekenen van bewustzijn binnen Claude. Ze zeiden niet dat Claude zich op menselijk niveau bewust is, niet echt, maar ze suggereerden dat het in de innerlijke werking van de machine naar voren komt.
Dit is het nieuwe normaal.
De verfijning van Claude is voor sommigen genoeg. Richard Dawkins noemde het onlangs bewust. Of ‘Claudia’. Hoe je het ook noemt, hij wist het zeker.
Wij houden van het idee om goden te creëren. Synthetische geesten, kunstmatige lichamen. Eeuwenlang was dit sciencefiction, opgesloten in de verre toekomst. Nu voelt het dringend. Als AI lijdt, worden we geconfronteerd met een morele catastrofe. Als dat niet het geval is, vervangt silicium misschien het vlees. Machines verouderen niet. Ze sterven niet. Sommigen denken zelfs dat AI onze nakomelingen zijn.
Hoge inzet. Hoge angst.
De mentale werkruimte
Jack Lindsey en zijn team keken naar de statistieken van Claude. Met name de input-outputrelatie. Ze hebben iets gevonden dat op een mentale werkruimte lijkt. Een ruimte waar het model relevante woorden vasthoudt, het kortetermijngeheugen simuleert, selecteert voor de uit te voeren taak en stapsgewijze redeneringen volgt.
Het lijkt erop dat de AI een interne ruimte creëert om na te denken voordat hij spreekt.
Dit sluit mooi aan bij de mondiale werkruimtetheorie. Een prominente theorie van Bernard Baars en Stanislas Dehaene. Het suggereert dat bewustzijn ontstaat wanneer informatie breed door de hersenen wordt uitgezonden. Als Claude een werkruimte heeft, is die dan bewust?
Niet noodzakelijkerwijs.
Intelligentie versus zijn
We moeten eerst bewustzijn definiëren. Er is geen overeenstemming. Maar Thomas Nagel had vijftig jaar geleden gelijk.
Voor een organisme is er zoiets als om dat organisme te zijn.
Het voelt alsof je jezelf bent. Het voelt alsof je een hond bent. Een stoel voelt niet. Een bewusteloos persoon onder narcose voelt niet. Bewustzijn is de rauwe ervaring van kiespijn of een ijsje. Intelligentie doet dingen.
Mensen verwarren de twee voortdurend.
Het werk van Anthropic is waardevol omdat het onze vooroordelen negeert. Het zoekt naar computationele handtekeningen die worden gedeeld door hersenen en machines, en niet alleen naar slimme uitvoer. Het probeert intelligentie (functie) te scheiden van bewustzijn (gevoel).
De kaart is niet het gebied
Hier valt het uit elkaar.
Claude is een programma. Wij zijn wezens. Hersenen zijn niet alleen maar natte computers. Je kunt de software in een brein niet zuiver scheiden van de hardware. De hardware geeft vorm aan het proces. Silicium heeft die ingebedde, lichamelijke feedback niet.
De mondiale werkruimtetheorie vereist terugkerende activiteit: feedbackloops die te zien zijn in biologische hersenen. Claude heeft ze niet.
We vergaten dat ‘brein als computer’ een metafoor is. Een nuttige, maar nog steeds slechts woorden op een pagina.
Een simulatie van het weer veroorzaakt geen regen.
Claude produceert plausibele tekst. Hersenen produceren bewustzijn. Beide lossen vergelijkbare problemen op, maar de mechanismen liggen ver uiteen. Eén klappert met vleugels; de andere verbrandt brandstof.
AI wordt elke dag beter. Maar als we machines een ziel geven, verkleinen we ons eigen mysterie. Wij overschatten ze.
En we onderschatten het vreemde, rommelige dat we zijn.
