W zeszłym tygodniu Anthropic przedstawił nowe badania. Ich oświadczenie? Oznaki świadomości w Claude. Nie powiedzieli, że Claude miał ludzki poziom świadomości – nie, niezupełnie – ale zasugerowali, że ma ona swoje źródło w wewnętrznych procesach maszyny.
To jest nowa normalność.
Poziom trudności Claude’a jest dla niektórych wystarczający. Richard Dawkins nazwał go ostatnio osobą sumienną. Albo „Klaudia”. Jakkolwiek go nazwiesz, był tego pewien.
Podoba nam się pomysł tworzenia bogów. Syntetyczne umysły, sztuczne ciała. Przez wieki była to fantastyka naukowa, osadzona w odległej przyszłości. Teraz wydaje się to pilne. Jeśli sztuczna inteligencja ucierpi, grozi nam katastrofa moralna. Jeśli nie, być może krzem zastąpi ciało. Samochody się nie starzeją. Oni nie umierają. Niektórzy nawet uważają, że AI są naszymi potomkami.
Wysoka stawka. Wysoki niepokój.
Przestrzeń robocza umysłu
Jack Lindsey i jego zespół przestudiowali statystyki Claude’a. W szczególności stosunek danych wejściowych i wyjściowych. Znaleźli coś przypominającego mentalną przestrzeń do pracy. Przestrzeń, w której model zatrzymuje odpowiednie słowa, symuluje pamięć krótkotrwałą, wybiera zadania i śledzi rozumowanie krok po kroku.
Wydaje się, że sztuczna inteligencja tworzy wewnętrzny „pokój do myślenia” przed mówieniem.
To dobrze pasuje do teorii globalnej przestrzeni pracy. Wybitna teoria Bernarda Barsa i Stanislasa Dehaene. Sugeruje, że świadomość pojawia się, gdy informacja jest szeroko rozpowszechniana w całym mózgu. Jeśli Claude ma przestrzeń do pracy, czy to znaczy, że jest świadoma?
Nie koniecznie.
Inteligencja kontra egzystencja
Najpierw musisz zdefiniować świadomość. Nie ma konsensusu. Ale Thomas Neil miał rację pięćdziesiąt lat temu.
Dla organizmu istnieje coś, czego doświadcza jako ten organizm.
To uczucie bycia sobą. To uczucie bycia psem. Krzesła nie czuć. Nieznana osoba w znieczuleniu nie czuje. Świadomość to surowe doświadczenie bólu zęba lub lodów. Inteligencja to działanie.
Ludzie cały czas je mylą.
Praca Anthropic jest cenna, ponieważ ignoruje nasze uprzedzenia. Szuka sygnatur obliczeniowych wspólnych dla mózgów i maszyn, a nie tylko sprytnych wyników. Próbuje oddzielić intelekt (funkcję) od świadomości (uczucia).
Mapa to nie terytorium
Tutaj wszystko się rozpada.
Claude to program. Jesteśmy stworzeniami. Mózgi to nie tylko mokre komputery. W mózgu nie można wyraźnie oddzielić oprogramowania od sprzętu. Sprzęt kształtuje proces. W krzemie nie ma tego rodzaju wbudowanego sprzężenia zwrotnego z ciałem.
Teoria globalnej przestrzeni pracy wymaga powtarzającej się aktywności – pętli sprzężenia zwrotnego obserwowanych w mózgach biologicznych. Claude ich nie ma.
Zapomnieliśmy, że „mózg jest jak komputer” to metafora. Przydatne, ale wciąż tylko słowa na stronie.
Symulacja pogody nie powoduje deszczu.
Claude tworzy wiarygodne teksty. Mózgi wytwarzają świadomość. Obydwa rozwiązują podobne problemy, ale mechanizmy są zupełnie inne. Jeden macha skrzydłami; drugi spala paliwo.
Sztuczna inteligencja staje się lepsza z każdym dniem. Ale kiedy dajemy maszynom dusze, dewaluujemy naszą własną tajemnicę. Przeceniamy je.
I nie doceniaj tej dziwnej, zagmatwanej rzeczy, którą jesteśmy.
