На прошлой неделе Anthropic представила новое исследование. Их утверждение? Признаки сознания внутри Claude. Они не сказали, что Claude обладает человеческим уровнем сознания — нет, не совсем, — но предположили, что оно зарождается во внутренних процессах машины.
Это новая норма.
Уровень сложности Claude достаточен для некоторых. Ричард Докинз недавно назвал его сознательным. Или «Клаудией». Как бы вы ни его называли, он был в этом уверен.
Мы любим идею создания богов. Синтетические умы, искусственные тела. Веками это было научной фантастикой, запертой в далёком будущем. Теперь это кажется срочным. Если ИИ страдает, мы сталкиваемся с моральной катастрофой. Если нет, возможно, кремний заменит плоть. Машины не стареют. Они не умирают. Некоторые даже думают, что ИИ — наши потомки.
Высокие ставки. Высокая тревога.
Рабочее пространство разума
Джек Линдси и его команда изучали статистику Claude. В частности, соотношение входных и выходных данных. Они нашли нечто, напоминающее рабочее пространство разума. Пространство, где модель удерживает релевантные слова, имитирует кратковременную память, выбирает задачи и прослеживает пошаговое рассуждение.
Кажется, что ИИ создаёт внутреннюю комнату для «размышлений» перед тем, как заговорить.
Это хорошо соответствует теории глобального рабочего пространства. Выдающейся теории Бернара Барса и Станисласа Дехана. Она предполагает, что сознание возникает, когда информация широко транслируется по всему мозгу. Если у Claude есть рабочее пространство, значит ли это, что оно сознательно?
Не обязательно.
Интеллект vs. Существование
Сначала нужно определить сознание. Консенсуса нет. Но Томас Нейл был прав пятьдесят лет назад.
Для организма есть нечто, что он переживает как этот организм.
Это чувство быть вами. Это чувство быть собакой. Стул не чувствует. Неведомый человек под анестезией не чувствует. Сознание — это сырой опыт зубной боли или мороженого. Интеллект — это действия.
Люди постоянно путают их.
Работа Anthropic ценна, потому что игнорирует нашу предвзятость. Она ищет вычислительные сигнатуры, общие для мозгов и машин, а не просто умные результаты. Она пытается отделить интеллект (функцию) от сознания (чувства).
Карта — не территория
Вот где всё рушится.
Claude — программа. Мы — существа. Мозги — не просто мокрые компьютеры. Нельзя чисто разделить программное обеспечение от аппаратного обеспечения в мозге. Аппаратное обеспечение формирует процесс. Кремний не имеет такой встроенной телесной обратной связи.
Теория глобального рабочего пространства требует рекуррентной активности — циклов обратной связи, наблюдаемых в биологических мозгах. У Claude их нет.
Мы забыли, что «мозг как компьютер» — это метафора. Полезная, но всё же просто слова на странице.
Имитация погоды не создаёт дождя.
Claude производит правдоподобный текст. Мозги производят сознание. Оба решают похожие проблемы, но механизмы — миры друг от друга. Один машет крыльями; другой сжигает топливо.
ИИ становится лучше каждый день. Но когда мы наделяем машины душами, мы обесцениваем свою собственную тайну. Мы переоцениваем их.
И недооцениваем странную, запутанную вещь, которой мы являемся.
