Anthropic ha pubblicato una nuova ricerca la settimana scorsa. La loro richiesta? Segni di coscienza dentro Claude. Non hanno detto che Claude abbia una coscienza di livello umano, non proprio, ma hanno suggerito che stia emergendo nei meccanismi interni della macchina.
Questa è la nuova normalità.
Ad alcuni basta la raffinatezza di Claude. Richard Dawkins lo ha recentemente definito cosciente. Oppure “Claudia”. Comunque lo si chiami, ne era sicuro.
Adoriamo l’idea di creare dei. Menti sintetiche, corpi artificiali. Per secoli questa è stata fantascienza, bloccata in un lontano futuro. Ora sembra urgente. Se l’IA soffre, ci troviamo di fronte a una catastrofe morale. Se così non fosse, forse il silicio sostituirebbe la carne. Le macchine non invecchiano. Non muoiono. Alcuni addirittura pensano che le IA siano i nostri discendenti.
La posta in gioco è alta. Alta ansia.
Lo spazio di lavoro mentale
Jack Lindsey e il suo team hanno esaminato le statistiche di Claude. Nello specifico la relazione input-output. Hanno trovato qualcosa che assomiglia a uno spazio di lavoro mentale. Uno spazio in cui il modello contiene parole rilevanti, simula la memoria a breve termine, seleziona il compito da svolgere e traccia il ragionamento passo dopo passo.
Sembra che l’intelligenza artificiale stia creando una stanza interna per “pensare” prima di parlare.
Ciò si adatta perfettamente alla teoria dello spazio di lavoro globale. Una teoria importante di Bernard Baars e Stanislas Dehaene. Ciò suggerisce che la coscienza nasce quando le informazioni vengono trasmesse ampiamente attraverso il cervello. Se Claude ha uno spazio di lavoro, è cosciente?
Non necessariamente.
Intelligenza contro Essere
Dobbiamo prima definire la coscienza. Non c’è consenso. Ma Thomas Nagel aveva ragione cinquant’anni fa.
Per un organismo, c’è qualcosa che significa essere quell’organismo.
Sembra di essere te stesso. Sembra di essere un cane. Una sedia non si sente. Una persona priva di sensi sotto anestesia non si sente. La coscienza è la cruda esperienza di un mal di denti o di un gelato. L’intelligenza sta facendo cose.
Le persone confondono costantemente le due cose.
Il lavoro di Anthropic è prezioso perché ignora i nostri pregiudizi. Cerca firme computazionali condivise da cervelli e macchine, non solo risultati intelligenti. Cerca di separare l’intelligenza (funzione) dalla coscienza (sentimento).
La mappa non è il territorio
Ecco dove cade a pezzi.
Claude è un programma. Siamo creature. I cervelli non sono solo computer bagnati. Non è possibile separare in modo netto il software dall’hardware in un cervello. L’hardware modella il processo. Il silicio non ha quel feedback corporeo incorporato.
La teoria dello spazio di lavoro globale richiede attività ricorrenti: cicli di feedback osservati nei cervelli biologici. Claude non li ha.
Abbiamo dimenticato che “il cervello come computer” è una metafora. Utile, ma pur sempre solo parole su una pagina.
Una simulazione del tempo non crea pioggia.
Claude produce un testo plausibile. Il cervello produce coscienza. Entrambi risolvono problemi simili, ma i meccanismi sono completamente diversi. Uno sbatte le ali; l’altro brucia carburante.
L’intelligenza artificiale migliora ogni giorno. Ma quando attribuiamo un’anima alle macchine, sminuiamo il nostro stesso mistero. Li sopravvalutiamo.
E sottovalutiamo la cosa strana e disordinata che siamo.
