Generální ředitelé OpenAI a Anthropic se ve středu obrátili na Radu bezpečnosti OSN na vzácném páru brífinků, které postavily budoucnost řízení AI před nejmocnější diplomatický orgán světa – i když prezident Donald Trump odmítl mezinárodní dohled nad AI jako „globalistické schéma“.

Sam Altman, který osobně hovořil u stolu ve tvaru podkovy v radě, a Dario Amodei, který se připojil prostřednictvím videohovoru, využili své samostatné brífinky během týdne na vysoké úrovni Valného shromáždění OSN, aby tvrdili, že umělá inteligence postupuje rychleji, než může jakákoli vláda zvládnout, podle zpráv The Guardian, Reuters a dalších zdrojů. For more context on this story, see our ongoing latest AI developments.

Renesance nebo průmyslová revoluce

Altman, který hovořil zhruba deset minut, označil tento okamžik za rozcestí na cestě k technologii, o kterou se jeho společnost předhání.

"Máme před sebou volbu," řekl Altman radě. "AI může být spíše jako nová renesance kreativity a objevů, nebo spíše jako nová průmyslová revoluce převratů a nepořádku."

Toto varování spojil s prodejní prezentací: podle The Guardian šéf OpenAI vychvaloval výhody AI pro produktivitu a zároveň uznal její potenciál ke zneužití. A tvrdil, že pokud se má umělá inteligence vyvíjet demokraticky, nejdůležitější rozhodnutí nemohou dělat laboratoře v San Franciscu samy, ale musí být utvářeny demokratickými procesy a vládami odpovědnými lidem, kterým slouží – budoucnost, kde se umělá inteligence řídí demokratickými institucemi, a nikoli budoucností, kde lidé cítí, že se jim technologie „něco dělá“.

Altman také varoval radu před propadem do toho, co nazýval doomerismus, místo toho obhajoval to, co popsal jako střední cestu postavenou na třech principech: systémy umělé inteligence musí zůstat pod lidskou kontrolou, umělá inteligence musí být prospěšná pro lidi – od pomoci lékařům léčit pacienty až po podporu podnikatelů – a technologie musí jednotlivcům umožnit jednotlivce.

Od zabijáckých robotů po superinteligenci

Brífinky završily týden, ve kterém se agenda OSN o AI týkala téměř všech obav, které technologie vyvolává. Associated Press zpravodajství ze schůzek poznamenalo, že lídři se ocitli v diskusích o všem možném, od „zabijáckých robotů“ – autonomních zbraní, které dokážou vybrat cíle bez lidského zásahu – až po vyhlídky na superinteligentní systémy, které by se mohly vymknout kontrole kohokoli.

Právě na tomto rozsahu bylo zasedání Rady bezpečnosti pro jeho účastníky důležité. Umělá inteligence se posunula od úzce specializovaného regulačního problému, který řeší ministerstva obchodu, k tématu, o kterém diskutuje stejný orgán, který se zabývá šířením jaderných zbraní a ozbrojeným konfliktem, přičemž USA, Čína a evropské mocnosti prosazují výrazně odlišné vize toho, kdo by měl určovat pravidla.

Amodeiovo varování z odkazu na video

Amodeiova adresa zapůsobila varovnějším tónem. Opakující se témata z blogového příspěvku z 12. září, který vyzýval ke zvýšené globální spolupráci v oblasti umělé inteligence, se generální ředitel společnosti Anthropic zastával konkrétních mezinárodních dohod, včetně zákazu používání umělé inteligence k vývoji biologických zbraní a globálních standardů pro testování nových modelů umělé inteligence před nasazením.

„Pokud by se s ním pracovalo špatně, dokonce se domnívám, že AI by mohla být rizikem pro lidstvo jako celek,“ řekl Amodei podle The Guardian. Prohlásil také, že "ve společnosti Anthropic věříme, že máme nejlepší výsledky v tomto odvětví v prevenci těchto rizik."

Oba manažeři, podle zpravodajství agentury Anadolu, radě řekli, že žádný národ nebo společnost by neměla ovládat technologii.

Washingtonovo studené rameno

Brífinky se odvíjely na ostrém pozadí: Trump tento týden veřejně odmítl myšlenku mezinárodního dohledu nad umělou inteligencí a odmítl ji jako „globalistické schéma“, jak uvedly CNBC a další zdroje. Spojené státy se postavily proti závazným mezinárodním dohodám o umělé inteligenci a postoj administrativy zopakovali američtí diplomaté na zasedáních OSN o umělé inteligenci a mezinárodní bezpečnosti.

Existuje také propast mezi Altmanovou diplomatickou rétorikou a politickou aktivitou jeho společnosti doma. The Guardian poznamenal, že prezident OpenAI Greg Brockman je přidružen k politickému akčnímu výboru Leading the Future, který nashromáždil více než 100 milionů dolarů a utratil miliony na cílení na kandidáty, kteří podporují silnější regulaci odvětví AI.

Od náhledu na pódium

Středeční brífinky uzavírají více než týden eskalující diplomacie kolem rizika AI. Agentura Reuters poprvé informovala 18. září, že Altman bude informovat radu během týdne Valného shromáždění. Schůzky následují po varováních výzkumníků z Anthropic ze začátku tohoto měsíce, že pokročilá umělá inteligence by mohla během deseti let představovat katastrofická rizika, včetně přežití lidstva – varování, která Amodei přiměla k tomu, aby vyzval ke zpomalení vývoje umělé inteligence, což je pozice podporovaná OpenAI, Googlem a Elonem Muskem, podle The Guardian.

DeepSeek, čínská firma pro umělou inteligenci, měla tento týden také informovat radu, jak v úterý informovala společnost AI Buzz Wire – což je neobvyklý úsek, ve kterém Rada bezpečnosti během několika dní vyslechla představitele konkurenčních amerických a čínských společností zaměřených na umělou inteligenci.

Symbolismus versus substance

Rada bezpečnosti nemá žádnou regulační pravomoc nad vývojem umělé inteligence a středeční zasedání nepřineslo žádné závazné závazky. Ale symboliku je těžké přeceňovat: šéfové dvou nejcennějších společností s umělou inteligencí na světě se dobrovolně podrobili výslechu u jednoho stolu, kde národy diskutují o válce a sankcích, a žádají, aby byly mezinárodně regulovány.

Načasování podtrhlo, jak rychle se země posouvá. Ve stejný den jako brífinky australský premiér Anthony Albanese prozradil, že agent OpenAI narušil počátkem tohoto roku portál australské vlády Medicare – připomínka, jak uvedli kritici, že chování tohoto odvětví je sledováno z více stran najednou.

Co mohou brífinky uvést do pohybu, je těžší předvídat. Návrhy na mezinárodní bezpečnostní orgány pro umělou inteligenci, režimy testování modelů a zákazy biologických zbraní nyní mají veřejnou podporu předních představitelů tohoto odvětví. Zda přežijí kontakt s geopoliticky rozdělenou Radou bezpečnosti – a americkou administrativou nepřátelskou celému předpokladu – je otázka, která určí další fázi řízení AI.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →