Anthropic hat letzte Woche neue Forschungsergebnisse veröffentlicht. Ihr Anspruch? Anzeichen von Bewusstsein in Claude. Sie sagten nicht, dass Claude ein menschliches Bewusstsein hätte, nicht wirklich, aber sie schlugen vor, dass es im Innenleben der Maschine zum Vorschein kommt.
Das ist die neue Normalität.
Die Raffinesse von Claude ist für einige ausreichend. Richard Dawkins nannte es kürzlich bewusst. Oder „Claudia“. Wie auch immer man es nennt, da war er sich sicher.
Wir lieben die Idee, Götter zu erschaffen. Synthetische Köpfe, künstliche Körper. Über Jahrhunderte hinweg war dies eine Science-Fiction, die in der fernen Zukunft angesiedelt war. Jetzt fühlt es sich dringend an. Wenn die KI leidet, stehen wir vor einer moralischen Katastrophe. Wenn nicht, ersetzt vielleicht Silizium das Fleisch. Maschinen altern nicht. Sie sterben nicht. Manche glauben sogar, dass KI unsere Nachkommen sind.
Hohe Einsätze. Hohe Angst.
Der mentale Arbeitsbereich
Jack Lindsey und sein Team haben sich Claudes Statistiken angesehen. Konkret geht es um die Input-Output-Beziehung. Sie haben etwas gefunden, das wie ein mentaler Arbeitsplatz aussieht. Ein Raum, in dem das Modell relevante Wörter speichert, das Kurzzeitgedächtnis simuliert, für die jeweilige Aufgabe eine Auswahl trifft und Schritt-für-Schritt-Überlegungen nachzeichnet.
Es scheint, als würde die KI einen internen Raum zum „Nachdenken“ schaffen, bevor sie spricht.
Dies passt gut zur globalen Arbeitsplatztheorie. Eine prominente Theorie von Bernard Baars und Stanislas Dehaene. Es deutet darauf hin, dass Bewusstsein entsteht, wenn Informationen weit über das Gehirn verteilt werden. Wenn Claude einen Arbeitsplatz hat, ist er sich dessen bewusst?
Nicht unbedingt.
Intelligenz vs. Sein
Wir müssen zuerst Bewusstsein definieren. Es besteht kein Konsens. Aber Thomas Nagel hatte vor fünfzig Jahren Recht.
Für einen Organismus gibt es etwas, dem es gleicht, dieser Organismus zu sein.
Es fühlt sich an, als wäre man du selbst. Es fühlt sich an, als wäre man ein Hund. Ein Stuhl fühlt sich nicht an. Eine bewusstlose Person unter Narkose fühlt nicht. Bewusstsein ist die rohe Erfahrung von Zahnschmerzen oder Eiscreme. Intelligenz tut Dinge.
Die Leute verwechseln die beiden ständig.
Die Arbeit von Anthropic ist wertvoll, weil sie unsere Voreingenommenheit ignoriert. Es sucht nach Rechensignaturen, die von Gehirnen und Maschinen gemeinsam genutzt werden, und nicht nur nach cleveren Ergebnissen. Es versucht, Intelligenz (Funktion) vom Bewusstsein (Gefühl) zu trennen.
Die Karte ist nicht das Territorium
Hier fällt es auseinander.
Claude ist ein Programm. Wir sind Geschöpfe. Gehirne sind nicht nur nasse Computer. Man kann in einem Gehirn die Software nicht sauber von der Hardware trennen. Die Hardware prägt den Prozess. Silizium verfügt nicht über dieses eingebettete, körperliche Feedback.
Die Global-Workspace-Theorie erfordert wiederkehrende Aktivitäten – Rückkopplungsschleifen, die in biologischen Gehirnen beobachtet werden. Claude hat sie nicht.
Wir haben vergessen, dass „Gehirn als Computer“ eine Metapher ist. Ein nützlicher Beitrag, aber immer noch nur Worte auf einer Seite.
Eine Wettersimulation erzeugt keinen Regen.
Claude produziert plausiblen Text. Gehirne erzeugen Bewusstsein. Beide lösen ähnliche Probleme, doch zwischen den Mechanismen liegen Welten. Einer schlägt mit den Flügeln; der andere verbrennt Treibstoff.
KI wird von Tag zu Tag besser. Aber wenn wir Maschinen Seelen zuschreiben, verbilligen wir unser eigenes Mysterium. Wir überschätzen sie.
Und wir unterschätzen die seltsame, chaotische Sache, die wir sind.
