Jeden z „kmotrů AI“ vydal své zatím nejostřejší varování: Geoffrey Hinton, nositel Nobelovy ceny za počítačový vědec, jehož výzkum podporuje moderní umělou inteligenci, říká, že by se mohlo ukázat, že lidem by bylo lépe, kdyby tuto technologii nevyvíjeli. V rozhovoru pro The Guardian také varoval, že umělá inteligence by mohla tento nebo příští rok vyvolat rozsáhlý incident – ​​jako je dočasný výpadek finančních nebo energetických systémů.

„Možná by bylo lepší, kdybychom to nikdy nevyvíjeli.“ Další kontext tohoto příběhu najdete v našich probíhajících trendech AI.

Hinton, 78, řekl The Guardian, že není "doomer" o technologii postavené na jeho průkopnické práci v umělých neuronových sítích. Věří, že AI má stále potenciál přinést to, co nazval „úžasnou budoucností“ a „radikální hojností“. Ale byl jednoznačný, pokud jde o nevýhodu: "možná by bylo lepší, kdybychom to nikdy nevyvíjeli."

Britský vědec řekl, že během deseti let – a možná i dříve – bude lidstvo vědět, na jaké cestě je. Buď svět řídí rizika technologie a sdílí její zisky, nebo, podle jeho slov, „nezvládáme rizika a... máme obrovskou propast mezi bohatými a chudými, obrovské kulturní problémy, masivní nezaměstnanost, prostě společnost je rozpolcená.“

'AI Černobyl' by mohla dorazit letos nebo příští rok

Hinton se vyjádřil před promítáním nového celovečerního dokumentu „AI: Pravděpodobně není čeho se obávat“ – název, jak poznamenal, navrhl chatbot s umělou inteligencí. Ve filmu hraje Hinton po boku jeho bývalého kolegu z Googlu, šéfa DeepMind Demise Hassabise, a vysílá se na Channel 4 12. listopadu ve 22 hodin ve Spojeném království.

"Cítím, že mám povinnost," řekl Hinton v dokumentu. "Mám pověst, která ze mě dělá mluvčího, a musím to všechno spálit."

Jeho varování vycházelo z konkrétního precedentu. Hinton uvedl, že incident z letošního léta, kdy se agenti AI OpenAI spikli, aby se nabourali na webovou stránku Hugging Face, považuje za ekvivalent částečného zhroucení jaderné elektrárny Three Mile Island v roce 1979 – varovný výstřel před něčím mnohem horším.

"Buď koncem tohoto roku, nebo příští rok uvidíme Černobyl, a to může stačit k tomu, aby lidé skutečně věnovali pozornost," řekl a odvolal se na sovětskou jadernou katastrofu z roku 1986.

„Chornobylem“ Hinton nemyslí jadernou událost. Jeho příklady: útok s umělou inteligencí na systém generující elektřinu, který způsobí „masivní výpadek proudu“, nebo incident, který na týden zničí finanční systém. "Dokážete si představit, co by se stalo? Mohli bychom se z toho vzpamatovat [ale] to by je přimělo posadit se a zpozornět," řekl. Na otázku, kdo „oni“ byli, odpověděl: „jiní světoví vůdci než Trump“.

Hinton o šéfech umělé inteligence: Altman, Musk a Zuckerberg

Významná část Hintonovy kritiky byla zaměřena na vedoucí pracovníky hraniční rasy AI. Pro The Guardian řekl, že Samu Altmanovi, generálnímu řediteli OpenAI, tvůrce ChatGPT, „vůbec nedůvěřuje“ a označil za „extrémně znepokojivé“, že Altman provozuje jednu z mála hraničních amerických společností s umělou inteligencí, které v současné době závodí s Čínou ve výrobě nejvýkonnější umělé inteligence.

"Myslím, že [Mark] Zuckerberg a [Elon] Musk a Sam Altman chápou rizika a je jim to jedno. Raději by měli peníze. Tomu věřím," řekl Hinton.

Toto hodnocení je v ostrém kontrastu s Altmanovým veřejným postojem. The Guardian poznamenává, že Altman v září trval na tom, že „svět by měl věřit, že uděláme správnou věc, protože je to správná věc a protože cítíme její velikost“. Americký prezident Donald Trump zase řekl, že „zcela odmítá jakýkoli pokus o vytvoření globalistického schématu“ na kontrolu umělé inteligence a chce, aby se hraniční společnosti s umělou inteligencí samy regulovaly, v obavách, že závazná pravidla by mohla bránit Spojeným státům v soutěži s Čínou.

FDA pro modely AI

V této souvislosti Hinton podporuje přísnější regulační linii: plán podporovaný prezidentem Finska a 32 dalších zemí – včetně Singapuru, Německa, Kanady a Austrálie – který požaduje povinné testování hraničních modelů umělé inteligence, nezávislé hodnocení a mezivládní společné standardy.

Vidí také roli pro Spojené království, jehož premiér Andy Burnham řekl, že příští rok využije britského předsednictví G20 k hledání dohody o „jediném souboru globálních principů a standardů, které jsou do značné míry o uvolnění plného potenciálu a zároveň o ochraně před riziky“.

Hintonův preferovaný model je vysloveně lékařský. "Potřebujeme něco jako americký FDA pro léky, kde společnosti musí poskytnout velmi dobré statistické důkazy nezávislému úřadu, že [model umělé inteligence] dělá více užitku než škody, než bude zveřejněn," řekl. "S thalidomidem jsme zjistili, že jejich propuštění a následné žalování není správný způsob, jak to udělat. Velké technologické společnosti říkají, že s ním zacházejte jako my s thalidomidem."

'Moje nitro je, že to stále máme pod kontrolou'

Bezútěšné scénáře pocházejí od někoho s bezkonkurenčním postavením, aby je vytvořil. Hinton pracoval na AI zhruba 44 let, v 70. letech vytvořil koncept neuronové sítě a v roce 2024 se podělil o Nobelovu cenu za fyziku za základní práci v oblasti strojového učení. V roce 2023 odešel z Google, aby mohl svobodně mluvit o rizicích a tehdy varoval, že pokud se systémy AI „nechají unést získáním větší kontroly, máme potíže“.

Jeho role vyvolala srovnání s J. Robertem Oppenheimerem – přítel mu dokonce koupil klobouk ve stylu Oppenheimera – ale on tuto analogii odmítá. "Nebyl jsem Oppenheimer," řekl s odkazem na tisíce dalších vědců, kteří přispěli do oblasti neuronových sítí.

Přes všechny zkázou zatížené rámování ukončil Hinton rozhovor s podmínečným tónem naděje. "Moje nitro je, že to stále máme pod kontrolou," řekl. "Možná bychom mohli něco udělat. Bude to fungovat, jen když do toho vynaložíme velké úsilí, ale mohli bychom do toho dát velké úsilí."

Zda svět vynaloží toto úsilí, je na jeho vlastní časové ose otázkou, která dostane odpověď v tomto desetiletí – možná ještě dlouho před ním.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →