Minulý týden společnost Antropic představila nový výzkum. Jejich vyjádření? Známky vědomí uvnitř Clauda. Neřekli, že Claude měl lidskou úroveň vědomí – ne, ve skutečnosti ne – ale naznačovali, že to má původ ve vnitřních procesech stroje.
To je nový normál.
Claudeova obtížnost je pro některé dostačující. Richard Dawkins ho nedávno označil za svědomitého. Nebo “Claudia”. Ať jsi mu říkal jakkoli, byl si tím jistý.
Milujeme myšlenku stvoření bohů. Syntetické mysli, umělá těla. Po staletí to byla sci-fi, uzamčená ve vzdálené budoucnosti. Teď se to zdá naléhavé. Pokud AI trpí, čelíme morální katastrofě. Pokud ne, možná maso nahradí křemík. Auta nestárnou. Neumírají. Někteří si dokonce myslí, že AI jsou naši potomci.
Vysoké sázky. Vysoká úzkost.
Pracovní prostor mysli
Jack Lindsey a jeho tým studovali Claudeovy statistiky. Zejména poměr vstupních a výstupních dat. Našli něco, co připomínalo duševní pracovní prostor. Prostor, kde model uchovává relevantní slova, simuluje krátkodobou paměť, vybírá úkoly a sleduje uvažování krok za krokem.
Zdá se, že AI vytváří vnitřní „místnost pro přemýšlení“, než začne mluvit.
To dobře zapadá do teorie globálního pracovního prostoru. Vynikající teorie Bernarda Barse a Stanislase Dehaene. Navrhuje, že vědomí nastává, když jsou informace široce vysílány do mozku. Pokud má Claude pracovní prostor, znamená to, že je vědomý?
Ne nutně.
Inteligence vs. existence
Nejprve musíte definovat vědomí. Nepanuje shoda. Ale Thomas Neil měl před padesáti lety pravdu.
Pro organismus existuje něco, co zažívá jako tento organismus.
Je to pocit být vámi. Je to pocit být psem. Židle necítí. Neznámý člověk v narkóze necítí. Vědomí je syrová zkušenost bolesti zubů nebo zmrzliny. Inteligence je akce.
Lidé si je neustále pletou.
Práce Antropic je cenná, protože ignoruje naše předsudky. Hledá výpočtové podpisy společné mozkům a strojům, nejen chytré výsledky. Snaží se oddělit intelekt (funkci) od vědomí (cítění).
Mapa není území
Tady se to všechno rozpadá.
Claude je program. Jsme stvoření. Mozky nejsou jen mokré počítače. Nemůžete čistě oddělit software od hardwaru v mozku. Hardware utváří proces. Křemík nemá tento druh vestavěné tělesné zpětné vazby.
Teorie globálního pracovního prostoru vyžaduje opakující se aktivitu – zpětnovazební smyčky pozorované v biologických mozcích. Claude je nemá.
Zapomněli jsme, že „mozek je jako počítač“ je metafora. Užitečné, ale stále jen slova na stránce.
Simulace počasí nevytváří déšť.
Claude produkuje uvěřitelné texty. Mozky produkují vědomí. Oba řeší podobné problémy, ale mechanismy jsou na různé světy. Jeden mávne křídly; druhý spaluje palivo.
AI se každým dnem zlepšuje. Ale když dáváme strojům duše, znehodnocujeme své vlastní tajemství. Přeceňujeme je.
A podceňovat to divné, matoucí, co jsme.
