Geoffrey Hinton, laureát Nobelovy ceny široce známý jako „Kmotr AI“, vydal tento týden americkým zákonodárcům jedno ze svých dosud nejtvrdších varování: Kongres má zhruba rok na to, aby umělou inteligenci zavedl smysluplná ochranná opatření, než se technologie přesune mimo lidskou kontrolu. Britsko-kanadský počítačový vědec to řekl 16. září na brífinku Senátu za zavřenými dveřmi na Capitol Hill, podle NBC News.

"Možná rok, ale ne o moc déle než rok," řekl Hinton v místnosti zákonodárců podle zprávy NBC o schůzce. Brífink svolal senátor Bernie Sanders a podle četných zpráv ze zasedání na něm vystoupil také fyzik z MIT Max Tegmark, spoluzakladatel Institutu budoucnosti života, a výzkumník bezpečnosti AI Ajeya Cotra.

Jádro varování: AI Budování AI

Hintonův argument se soustředil spíše na konkrétní technický milník než na vzdálenou hypotézu. "AI nyní dosáhla bodu, kdy AI navrhuje lepší AI," řekl podle zpráv z brífinku. "Tomu se říká rekurzivní sebezdokonalování... vymkne se kontrole, pokud něco neuděláme."

Zákonodárcům také řekl, že expertní časové osy pro superinteligenci se za poslední desetiletí zhroutily. "Když se podíváte na předpovědi, kdy získáme superinteligenci, bývalo to možná 30 let, možná 50 let," řekl Hinton pro NBC News. "Pak se to zkrátilo na možná 10 let, možná 20 let. Nyní lidé říkají, že mnoho výzkumníků říká jen pár let."

Hinton, emeritní profesor na University of Toronto, který se podělil o Nobelovu cenu za fyziku za rok 2024 za základní práci na neuronových sítích, opustil Google v roce 2023 a od té doby se stal nejprominentnějším interním kritikem v oboru – varoval, že systémy, které pomáhal vytvořit, by mohly skončit přemýšlením a vytlačit jejich tvůrce.

Skepse k 'Kill Switch'

I když naléhal na rychlou regulaci, Hinton vyjádřil pochybnosti o jednom z nejvíce diskutovaných návrhů: o federálním mandátu, který by vládě umožnil vypnout nebezpečné systémy umělé inteligence. Zákonodárcům podle CNN řekl, že takový „zabíjet přepínač“ by z dlouhodobého hlediska neobstál.

Jeho skepse přistála ve stejný týden, kdy senátor Rand Paul zablokoval v Senátu rychlý návrh zákona o zabíjení AI pod vedením republikánů – epizoda, která ilustruje, jak daleko od schválení zbývá i minimální zákon o zábradlí. Senátor John Kennedy z Louisiany, který se zúčastnil části brífinku, řekl listu The Washington Sun, že se mu diskuse líbila, ale neviděl žádné známky toho, že by Senát jednal, a dodal, že očekává, že další krok přijde od Bílého domu a poukázal na zprávu, že ministr financí Scott Bessent prosazuje bezpečnostní rámec.

Výhled přes uličku nebyl o moc slunečnější. Senátor Rick Scott z Floridy v rozhovoru pro NewsNation řekl, že společnosti se musí regulovat samy: "Nebudeme dost chytří, abychom je regulovali. Nenecháme tady něco udělat," řekl, jak uvedl The Washington Sun.

Někteří demokraté tlačili opačným směrem. Zástupce Yassamin Ansari z Arizony, který se zúčastnil brífinku, napsal na X, že AI „může a bude i nadále přesahovat lidskou kontrolu“ a že „naše okno pro její regulaci rychle mizí. Musíme se HNED zastavit.“

Týden AI Safety Whiplash

Brífink završil bouřlivý úsek debaty o řízení AI. O několik dní dříve generální ředitel společnosti Anthropic Dario Amodei publikoval esej vyzývající hraniční laboratoře, aby urychlily vývoj, varující před riziky od ztráty kontroly až po bioterorismus – což je podle rozšířených zpráv postoj veřejně podporovaný jinými vedoucími laboratoří. Ve stejný den, kdy Hinton oslovil senátory, prominentní výzkumníci umělé inteligence včetně Andrewa Nga veřejně odmítli obavy z vyhynutí jako přehnané, čímž zdůraznili pole, které se na veřejnosti hádá samo se sebou.

Na Capitol Hill byla činnost hlučnější než výstup. Senátor Cory Booker vyzval prezidenta Trumpa, aby svolal zvláštní zasedání Kongresu o umělé inteligenci, zatímco dvoustranný výbor pro řešení problémů tento týden oznámil vytvoření nové pracovní skupiny pro umělou inteligenci a nové technologie. Žádná z nich dosud nevytvořila závazný federální zákon.

Proč na jednoročním rámování záleží

Varování od průkopníků umělé inteligence na základě termínů se stala rutinou, ale specifičnost Hintonovy časové osy – doručovaná přímo lidem s pravomocí vydávat zákony, v místnosti, která není pro vedoucí pracovníky v oboru – znamená posun v tónu. Předchozí varování výzkumníků obvykle předpokládala riziko v horizontu desetiletí; jednoleté okno znamená politické reakce navržené pro současný Kongres, nikoli pro budoucí.

Vyostřuje také politický problém. Jak ukazuje Hintonův vlastní skepticismus ohledně kill-switch a procedurální blok senátora Paula, ani mezi bezpečnostně smýšlejícími osobnostmi neexistuje shoda na tom, jak by intervence fungovaly. Hinton argumentoval, že mezinárodní situace – zejména konkurence s Čínou – činí jednostranná zpomalení politicky křehkými, což je napětí, které dosud zmařilo nejvážnější návrhy.

Co se stane potom, je podle Hintonových vlastních hodin otázkou měsíců. Zda brífink změní tento kalkul, závisí na Senátu, který se podle účtů vlastních členů v současnosti vůbec nehýbe.

Udržujte si náskok před AI

Politika umělé inteligence se rychle vyvíjí – stejně jako vše ostatní v této oblasti. Další nejnovější zprávy o AI, aktualizace předpisů a analýzy přečtěte si další zprávy o AI →.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →