Anthropic publicó una nueva investigación la semana pasada. ¿Su reclamo? Signos de conciencia dentro de Claude. No dijeron que Claude sea consciente a nivel humano, en realidad no, pero sugirieron que está surgiendo en el funcionamiento interno de la máquina.
Esta es la nueva normalidad.
La sofisticación de Claude es suficiente para algunos. Richard Dawkins lo llamó recientemente consciente. O “Claudia”. Como quiera que lo llames, estaba seguro.
Nos encanta la idea de crear dioses. Mentes sintéticas, cuerpos artificiales. Durante siglos esto fue ciencia ficción, encerrada en un futuro lejano. Ahora se siente urgente. Si la IA sufre, nos enfrentamos a una catástrofe moral. Si no es así, tal vez el silicio reemplace a la carne. Las máquinas no envejecen. No mueren. Algunos incluso piensan que la IA es nuestra descendiente.
Hay mucho en juego. Alta ansiedad.
El espacio de trabajo mental
Jack Lindsey y su equipo analizaron las estadísticas de Claude. Específicamente la relación entrada-salida. Encontraron algo que parece un espacio de trabajo mental. Un espacio donde el modelo contiene palabras relevantes, simula la memoria a corto plazo, selecciona la tarea en cuestión y rastrea el razonamiento paso a paso.
Parece que la IA está creando un espacio interno para “pensar” antes de hablar.
Esto se corresponde claramente con la teoría del espacio de trabajo global. Una teoría destacada de Bernard Baars y Stanislas Dehaene. Sugiere que la conciencia surge cuando la información se transmite ampliamente a través del cerebro. Si Claude tiene un espacio de trabajo, ¿es consciente?
No necesariamente.
Inteligencia versus Ser
Primero tenemos que definir la conciencia. No hay consenso. Pero Thomas Nagel tenía razón hace cincuenta años.
Para un organismo, hay algo que es como ser ese organismo.
Se siente como si fueras tú. Se siente como ser un perro. Una silla no se siente. Una persona inconsciente bajo anestesia no siente. La conciencia es la experiencia cruda de un dolor de muelas o un helado. La inteligencia es hacer cosas.
La gente los confunde constantemente.
El trabajo de Anthropic es valioso porque ignora nuestros prejuicios. Busca firmas computacionales compartidas por cerebros y máquinas, no solo resultados inteligentes. Intenta separar la inteligencia (función) de la conciencia (sentimiento).
El mapa no es el territorio
Aquí es donde todo se desmorona.
Claude es un programa. Somos criaturas. Los cerebros no son sólo computadoras mojadas. No se puede separar claramente el software del hardware en un cerebro. El hardware da forma al proceso. El silicio no tiene esa retroalimentación corporal incorporada.
La teoría del espacio de trabajo global requiere una actividad recurrente: bucles de retroalimentación que se observan en los cerebros biológicos. Claude no los tiene.
Olvidamos que “el cerebro como computadora” es una metáfora. Útil, pero sigue siendo solo palabras en una página.
Una simulación del tiempo no genera lluvia.
Claude produce un texto plausible. Los cerebros producen conciencia. Ambos resuelven problemas similares, pero los mecanismos son muy diferentes. Uno bate las alas; el otro quema combustible.
La IA mejora cada día. Pero cuando atribuimos almas a las máquinas, desvalorizamos nuestro propio misterio. Los sobreestimamos.
Y subestimamos lo extraño y desordenado que somos.
