Минулого тижня Anthropic представила нове дослідження. Їхнє твердження? Ознаки свідомості всередині Claude. Вони не сказали, що Claude має людський рівень свідомості – ні, не зовсім, – але припустили, що воно зароджується у внутрішніх процесах машини.
Це нова норма.
Рівень складності Claude достатній для деяких. Річард Докінз нещодавно назвав його свідомим. Або “Клаудією”. Як би ви не називали його, він був у цьому впевнений.
Ми любимо ідею творення богів. Синтетичні уми, штучні тіла. Повіками це було науковою фантастикою, замкненою у далекому майбутньому. Тепер це видається терміновим. Якщо ІІ страждає, ми стикаємося з моральною катастрофою. Якщо ні, можливо, кремній замінить тіло. Машини не старіють. Вони не вмирають. Дехто навіть думає, що ІІ — наші нащадки.
Високі ставки. Висока тривога.
Робочий простір розуму
Джек Ліндсі та його команда вивчали статистику Claude. Зокрема, співвідношення вхідних та вихідних даних. Вони знайшли щось, що нагадує робочий простір розуму. Простір, де модель утримує релевантні слова, імітує короткочасну пам’ять, вибирає завдання та простежує покрокове міркування.
Здається, що ІІ створює внутрішню кімнату для роздумів перед тим, як заговорити.
Це добре відповідає теорії глобального робочого простору. Видатна теорія Бернара Барса і Станісласа Дехана. Вона припускає, що свідомість виникає, коли інформація широко транслюється по всьому мозку. Якщо Claude має робочий простір, чи означає це, що воно свідоме?
Чи не обов’язково.
Інтелект vs. Існування
Спочатку потрібно визначити свідомість. Консенсусу немає. Але Томас Нейл мав рацію п’ятдесят років тому.
Для організму є щось, що він переживає як цей організм.
Це відчуття бути вами. Це почуття бути собакою. Стілець не відчуває. Невідома людина під анестезією не відчуває. Свідомість – це сирий досвід зубного болю чи морозива. Інтелект – це дії.
Люди постійно плутають їх.
Робота Anthropic є цінною, тому що ігнорує нашу упередженість. Вона шукає обчислювальні сигнатури, загальні для мізків та машин, а не просто розумні результати. Вона намагається відокремити інтелект (функцію) від свідомості (почуття).
Карта – не територія
Ось де все руйнується.
Claude – програма. Ми істоти. Мізки – не просто мокрі комп’ютери. Не можна чисто розділити програмне забезпечення від апаратного забезпечення у мозку. Апаратне забезпечення формує процес. Кремній не має такого вбудованого тілесного зворотного зв’язку.
Теорія глобального робочого простору потребує рекурентної активності – циклів зворотного зв’язку, що спостерігаються в біологічних мізках. У Claude їх немає.
Ми забули, що «мозок як комп’ютер» – це метафора. Корисна, але все ж таки просто слова на сторінці.
Імітація погоди не створює дощу.
Claude робить правдоподібний текст. Мозки виробляють свідомість. Обидва вирішують схожі проблеми, але механізми світи один від одного. Один махає крилами; інший спалює паливо.
ІІ стає краще щодня. Але коли ми наділяємо машини душами, то ми знецінюємо свою власну таємницю. Ми переоцінюємо їх.
І недооцінюємо дивну, заплутану річ, якою ми є.
