Generální ředitel OpenAI Sam Altman bude příští týden osobně informovat Radu bezpečnosti OSN během každoročního setkání světových lídrů v New Yorku na Valném shromáždění OSN, uvedla v pátek agentura Reuters s odvoláním na mluvčího OpenAI.

Brífink se uskuteční na otevřeném zasedání Rady bezpečnosti o umělé inteligenci a mezinárodní bezpečnosti plánované na středu, kdy se 15členný orgán sejde během týdne Valného shromáždění na vysoké úrovni. Zasedání svolala Francie, která v září předsedá radě, a předsedat mu bude francouzský ministr pro Evropu a zahraniční věci Jean-Noël Barrot. For more context on this story, see our ongoing AI news.

"Sam Altman bude příští týden osobně informovat o otevřeném zasedání Rady bezpečnosti OSN," řekl mluvčí OpenAI agentuře Reuters.

Co se očekává, že Altman řekne

Podle agentury Reuters se očekává, že Altmanovy poznámky se zaměří na potřebu mezinárodní koordinace a sdílených bezpečnostních standardů a také na kroky, které OpenAI podniká, aby zajistila, že lidé na celém světě budou mít z AI prospěch.

Vzhled staví nejprominentnějšího světového představitele umělé inteligence před orgán pověřený udržováním mezinárodního míru a bezpečnosti v době, kdy vlády stále více chápou pokročilou umělou inteligenci nejen jako ekonomickou příležitost, ale jako technologii s přímými důsledky pro národní a mezinárodní bezpečnost.

Antropický může být také v místnosti

Diplomaté agentuře Reuters sdělili, že rovněž očekávají účast na schůzce na vysoké úrovni od společnosti Anthropic, ačkoli tato účast nebyla potvrzena. Antropic na žádost o komentář okamžitě nereagoval.

Jakékoli vystoupení společnosti Anthropic by mělo zvláštní ohlas vzhledem k tomu, že společnost v posledních měsících zaujala vysoce postavený postoj k riziku hraniční umělé inteligence, včetně jejích požadavků na koordinované zpomalení vývoje stále schopnějších systémů. Zasedání Rady bezpečnosti přichází jen několik týdnů poté, co několik vůdců odvětví umělé inteligence naléhalo na koordinované zpomalení a varovalo, že AI by se mohla brzy sama zlepšit a vymknout se lidské kontrole.

Francouzský případ naléhavosti

V koncepční poznámce, kterou rozeslala členům rady a kterou viděla agentura Reuters, Francie zdůraznila „naléhavost akce na podporu bezpečného a odpovědného vývoje umělé inteligence ve prospěch mezinárodního společenství jako celku“.

Poznámka citovala riziko zneužití umělé inteligence pro škodlivé účely a uvedla, že cílem setkání je umožnit účastníkům prezentovat svou analýzu rizik spojených se ztrátou kontroly nebo s využitím nejnovějších modelů umělé inteligence k vývoji, usnadnění a provádění akcí s dopadem na mezinárodní mír a bezpečnost.

Rada se vrací ke známému tématu

Rada bezpečnosti se AI již dříve zabývala. Poprvé se sešlo o rizicích umělé inteligence v roce 2023, kdy Čína varovala, že by se tato technologie neměla stát „uprchlým koněm“ a Spojené státy varovaly před jejím použitím k cenzuře nebo represi lidí. Středeční zasedání představuje významnou eskalaci této angažovanosti: na dřívějších schůzkách zazněla obecná varování, příští týden bude zahrnovat živou instruktáž generálního ředitele společnosti, jejíž produkty jsou středem rozmachu umělé inteligence.

Altman ze své strany varoval před pokročilými riziky AI již dávno před současnou vlnou komerčního úspěchu. V eseji z roku 2015 nazvaném „Inteligence strojů, část 1“ napsal, že „vývoj nadlidské strojové inteligence je pravděpodobně největší hrozbou pro další existenci lidstva“ – linie, která předcházela vzestupu OpenAI a která se nevyhnutelně znovu objeví, když osloví radu.

Proč na tom záleží

Symboliku briefingu je těžké přeceňovat. Výkonný představitel technologické společnosti, který oslovuje Radu bezpečnosti, signalizuje, jak daleko se AI posunula v mezinárodní bezpečnostní agendě vedle šíření jaderných zbraní a kybernetické války. Odráží to také posun v samotné debatě: po dvou letech, v nichž dominovaly spory o autorských právech, pracovních místech a dezinformacích, je svolávací moc OSN nasměrována přímo na hraniční riziko – ztrátu kontroly, zlomyslné použití a absenci sdílených mezinárodních standardů.

Co z toho vyplývá, je jiná otázka. Rada bezpečnosti nemá žádnou regulační pravomoc nad vývojem umělé inteligence a její usnesení o nově vznikajících technologiích byla historicky nezávazná. Setkání však dává vládám prostor k vytyčení pozic – a společnostem s umělou inteligencí nabízí publikum složené z ministrů zahraničí a hlav států, kterému se žádný produkt na trh nemůže rovnat. Vzhledem k tomu, že Francie tlačí na naléhavost a očekává se, že budou zastoupeny obě přední americké laboratoře pro umělou inteligenci, může středeční zasedání znamenat okamžik, kdy se řízení umělé inteligence stalo pevnou položkou na programu globální bezpečnostní diplomacie.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →