Čínský startup DeepSeek s umělou inteligencí bude mezi společnostmi, které tento týden informují Radu bezpečnosti OSN o rizicích, která představuje umělá inteligence, řekly agentuře Reuters dva zdroje obeznámené s touto záležitostí, když se světoví lídři scházejí v New Yorku na výročním Valném shromáždění OSN.
15členná Rada bezpečnosti se má sejít 23. září, aby projednala AI a mezinárodní bezpečnost – týdny poté, co několik vůdců v oboru AI vyzvalo ke koordinovanému zpomalení vývoje stále výkonnějších systémů AI a varovali, že by se mohly brzy samy zlepšit a vymknout lidské kontrole. Další kontext k tomuto příběhu naleznete v našem probíhajícím [oboru AI] (https://aibuzzwire.news).
Kdo bude v místnosti
Generální ředitel OpenAI Sam Altman plánuje stručně schůzku, kde diplomaté očekávají účast i vysokých představitelů Anthropic, uvedla minulý týden agentura Reuters.
Na čínské straně byly DeepSeek a další čínské AI firmy, včetně Moonshot, vyzvány, aby učinily prohlášení, uvedl jeden ze zdrojů. Zakladatel DeepSeek Liang Wenfeng se neplánuje zúčastnit, varoval zdroj s tím, že plány zůstávají neměnné a mohou se na poslední chvíli změnit. DeepSeek a Moonshot okamžitě nereagovaly na žádosti o komentář.
Zasedání končí v týdnu, kdy je New York již přeplněný diplomacií AI, protože světoví lídři se scházejí na výroční Valné shromáždění OSN a kolem něj se množí vedlejší setkání. Toto načasování omezuje DeepSeek oběma způsoby: imprimatur rady signalizuje, že přední čínské laboratoře jsou nyní považovány za nepostradatelné hlasy o riziku hraniční umělé inteligence, přestože oficiální pozice Pekingu nadále odmítá rétoriku zpomalení vycházející ze Silicon Valley.
Neobvyklá sestava – nejprominentnější americký výkonný představitel AI sdílející agendu Rady bezpečnosti s nejznámější čínskou laboratoří s otevřenou váhou – dělá ze středečního zasedání nejzávažnější zasedání AI, které rada pořádala od doby, kdy se tímto tématem poprvé zabývala.
Od „Runaway Horse“ k Rogue AI
Rada bezpečnosti OSN, která je pověřena udržováním mezinárodního míru a bezpečnosti, se poprvé sešla o rizicích umělé inteligence v roce 2023. I tehdy byly viditelné linie chyb: Čína varovala, že by se technologie neměla stát „uteklým koněm“, zatímco Spojené státy varovaly před jejím použitím k cenzuře nebo represi lidí.
O tři roky později se debata přesunula od hypotetických ke zprávám o incidentech. Generální tajemník OSN Antonio Guterres minulý týden varoval světové vůdce, že rychle se rozvíjející umělá inteligence představuje rizika, která nelze ignorovat, čímž se dostal do rozporu s americkým prezidentem Donaldem Trumpem, který tvrdil, že stávající ochranná opatření jsou dostatečná a že Čína by měla prospěch z pochybností o vývoji umělé inteligence.
Pekingské veřejné mlčení o katastrofickém riziku
Jedno z nejostřejších postřehů ve zprávách agentury Reuters se týká toho, co čínští představitelé laboratoří neřekli. Na rozdíl od vedoucích amerických hraničních laboratoří, jako jsou OpenAI a Anthropic, vůdci předních čínských vývojářů modelů jen zřídka veřejně vyslovili možnost, že by stále schopnější systémy umělé inteligence mohly oklamat lidi, uniknout kontrole nebo způsobit katastrofální škody – a od té doby, co se debata v září ve Spojených státech zintenzivnila, o těchto rizicích do značné míry mlčí.
Čínská státní média ze své strany odmítla výzvy ke zpomalení vývoje umělé inteligence jako pramenící z „příručky studené války“ – snahy, jak říká Peking, zaměřené na zachování dominance Washingtonu v nejmodernějších technologiích a úplné vyloučení Pekingu z globálního systému řízení umělé inteligence.
Vystoupení DeepSeek na radě má proto dvojí význam: je to současně dosud nejviditelnější zapojení Pekingu do globální konverzace o riziku AI a test, zda se čínské laboratoře vůbec zapojí do rámování katastrofického rizika.
Rozhovory před Trumpem-Xi
Zasedání Rady bezpečnosti není osamocené. Vysocí američtí a čínští představitelé se dohodli na dalších rozhovorech o bezpečnosti AI, řekl americký ministr financí Scott Bessent 21. září po setkání před plánovanými jednáními Trumpa s čínským prezidentem Si Ťin-pchingem koncem tohoto týdne ve Washingtonu.
Toto pořadí – vrcholný summit ve Washingtonu probíhající souběžně s debatou Rady bezpečnosti v New Yorku – podtrhuje, jak důkladně se umělá inteligence posunula od souboru technické politiky do centra bilaterálních vztahů.
Na co se dívat
Nad středečním jednáním visí tři otázky. Zda Liang Wenfeng změní názor a zúčastní se. Ať už prohlášení DeepSeek zahrnuje rizika z balíčku karet – podvod, ztrátu kontroly – která zdůrazňují jeho američtí protějšky, nebo zůstává na bezpečnějším základě spravedlivého přístupu a práv na rozvoj. A zda rada dokáže vyprodukovat něco nad rámec známých pozic.
Záznamy rady o AI jsou slabé: první zasedání v roce 2023, varování generálního tajemníka tento měsíc a žádný závazný rámec. Ale jako jeviště pro vznikající spor mezi USA a Čínou o tom, kdo určuje pravidla pro hraniční umělou inteligenci – a čí obavy se berou vážně – má jen málo soupeřů.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
