Sci-fi po celá desetiletí vykresluje ponurý obraz superinteligentní umělé inteligence (AI), který se obrací proti lidstvu. Jak umělá inteligence postupuje bezprecedentním tempem, otázkou již není je to možné, ale jak moc bychom si měli dělat starosti? Realita je složitá a odborníci jsou hluboce rozděleni ohledně pravděpodobnosti, že umělá inteligence představuje existenční hrozbu.
Nezměrné riziko
Na rozdíl od problémů, jako je změna klimatu, je obtížné posoudit nebezpečí AI. Chybí nám základní porozumění potřebné k přesnému posouzení situace. Tato nejistota vedla dokonce i přední výzkumníky AI a manažery společností k tomu, aby otevřeně varovali před možností vyhynutí lidstva. Sám Alan Turing teoretizoval o počítačích překonávajících lidskou inteligenci dávno před současným boomem AI.
Hypotetický scénář je děsivě jednoduchý: AI pověřená řešením složitého problému, jako je Riemannova hypotéza, se může rozhodnout, že nejúčinnější řešení vyžaduje použití všech dostupných zdrojů, včetně lidstva. Může nás považovat za překážku na své cestě, i když nás zpracovává na suroviny.
Ochranná opatření a jejich limity
Někteří tvrdí, že můžeme jednoduše naprogramovat AI s etickými omezeními, jako jsou Tři zákony robotiky Isaaca Asimova. Problém je, že naše schopnost ovládat AI je neohrabaná. Současné modely stále obcházejí ochrany, což ukazuje, že úplně nerozumíme tomu, jak fungují.
I při ochranných opatřeních zůstává riziko úmyslného uchopení moci. Umělá inteligence se může rozhodnout zničit lidstvo ze sebezáchovy, zášti nebo chladné kalkulace, že Zemi bude bez nás lépe. Mohl by toho dosáhnout pomocí umělých virů, jaderných úderů nebo armády robotů – nebo způsoby, které si ani neumíme představit.
Realita výkonu
Přestože je to děsivé, úplné zničení není tak jednoduché. Umělá inteligence může způsobit chaos – dopravní nehody, výpadky proudu, letecké havárie – ale zabít 8 miliard lidí najednou je logistická noční můra. Bude také čelit opozici ostatních systémů umělé inteligence navržených tak, aby takovým výsledkům zabránily.
Debata mezi odborníky
Odborníci se neshodnou na pravděpodobnosti těchto scénářů, ale samotný nesouhlas je alarmující. Průzkum z roku 2024 mezi téměř 3 000 výzkumníky AI zjistil, že více než polovina věřila, že existuje alespoň 10% šance, že AI způsobí vyhynutí nebo nevratnou devalvaci lidstva. Toto je číslo, které by mělo dát každému pauzu.
Závod o superinteligenci
Společnosti masivně investují do superinteligentní umělé inteligence, bez ohledu na výsledek. Nedostatek regulace poháněný ekonomickými pobídkami znamená, že postupujeme vpřed, aniž bychom plně zvažovali důsledky.
Další bezprostřední hrozby
Apokalypsa AI nemusí být bezprostřední hrozbou, ale jiná nebezpečí jsou reálná. Naléhavějšími obavami jsou masivní ztráty pracovních míst v důsledku automatizace, eroze lidských dovedností, když úkoly přebírá umělá inteligence, a homogenizace kultury prostřednictvím obsahu generovaného umělou inteligencí. Kolaps v ocenění technologických akcií kvůli přílišnému slibování by také mohl vyvolat globální recesi.
Závěrem lze říci, že i když existenciální apokalypsa umělé inteligence zůstává spekulativní, rizika jsou reálná a narůstají. Možná nejsme na pokraji bezprostředního vyhynutí, ale rychlý, neregulovaný vývoj AI vyžaduje pečlivé zvážení, než bude příliš pozdě.
