Generální tajemník Organizace spojených národů António Guterres vydal tento týden jedno ze svých dosud nejsilnějších varování ohledně umělé inteligence, když prohlásil, že svět si „nemůže dovolit závod na dno v bezpečnosti umělé inteligence“, když se vlády připravují na shromáždění v New Yorku na týden na vysoké úrovni Valného shromáždění OSN. Když Guterres hovořil s novináři před každoročním setkáním světových vůdců, umístil uprchlou AI vedle klimatické krize a prohlubující se nerovnosti jako tři existenční hrozby, kterým planeta čelí.
Tyto poznámky, o kterých informovaly Reuters, UN News a výstupy po celém světě, přicházejí v nabitý okamžik: OSN prosazuje závaznou mezinárodní koordinaci v oblasti řízení umělé inteligence právě ve chvíli, kdy Washington signalizuje mírnější dotek, přičemž agentura Reuters poznamenala, že šéf OSN bil na poplach poté, co prezident Trump bagatelizoval potřebu přísnější regulace umělé inteligence.
"Éra hluboké nejistoty"
Během brífinku pro tisk šest dní před příjezdem lídrů do New Yorku Guterres řekl, že svět vstoupil do „éry hluboké nejistoty“. Uznal „obrovský potenciál“ umělé inteligence v oblastech, jako je zdravotnictví, vzdělávání a klimatická věda, ale varoval, že tato technologie postupuje rychleji, než lidské chápání jejích rizik.
"Svět si nemůže dovolit závody na dně v bezpečnosti umělé inteligence," řekl s tím, že samotná vnitrostátní pravidla nebudou stačit. "Vnitrostátní akce je nezbytná, ale celosvětová koordinace je nezbytná."
Generální tajemník také vyjádřil skepsi, že dobrovolné pauzy ve vývoji hraniční umělé inteligence mohou fungovat, když jsou izolované – omezené na hrstku zemí, neověřitelné nebo nerovnoměrně uplatněné. S narůstajícími obavami ze závodu ve zbrojení s umělou inteligencí mezi Spojenými státy a Čínou připustil, že geopolitické rozdíly ztěžují koordinaci, ne méně nezbytnou. „Pokud věříme, že vývoj umělé inteligence by se měl zpomalit, když se rizika stanou příliš velkými, potřebujeme více než dobré úmysly,“ řekl.
Nové zařízení pro řízení umělé inteligence OSN
Za rétorikou stojí architektura vládnutí, která se tiše formovala během posledních dvou let. Global Digital Compact, přijatý členskými státy OSN v roce 2024 jako součást Paktu pro budoucnost, požadoval dva nové mechanismy: vědecký orgán pro hodnocení rizik a příležitostí umělé inteligence a každoroční fórum, kde by vlády mohly sladit své přístupy. Valná hromada formálně ustanovila oba v srpnu 2025.
První, Nezávislý mezinárodní vědecký panel pro AI, vydal svou předběžnou zprávu 1. července. Došel k závěru, že schopnosti umělé inteligence se rychle rozvíjejí – zejména v uvažování, kódování a vědeckém výzkumu – a zároveň označují rizika včetně dezinformací, diskriminace, porušování soukromí, kybernetických útoků a forem „superinteligence“, které by se mohly stát obtížně kontrolovatelné.
Druhý, Globální dialog o řízení umělé inteligence, je navržen jako odpovědná strana dvojice: panel poskytuje důkazy a země se rozhodují, co s nimi udělají.
Guterres poukázal na panel jako na základ pro informované globální rozhodování a naléhal na vlády, aby vybudovaly mantinely, které „učiní AI bezpečnou, transparentní a odpovědnou, s lidskou důstojností ve středu“. Prosadil také dvě konkrétní iniciativy: AI Child Safety Pledge a Globální fond pro AI na pomoc rozvojovým zemím s budováním infrastruktury a kapacity AI.
Rozšiřující se transatlantické rozdělení
Zásah šéfa OSN přistává uprostřed viditelného rozkolu mezi regulačním tlakem Evropy a deregulačním obratem Washingtonu. Zatímco Evropská unie zavádí svůj zákon o AI a orgány OSN budují hodnotící mechanismy, administrativa USA kladla důraz na inovace a konkurenceschopnost a agentura Reuters uvedla, že prezident Trump bagatelizoval obavy z rizika AI, které Guterres a další představitelé nadále vyvolávají.
Na otázku, jak rychle by OSN mohla svolat summit, který povede k účinné regulaci, Guterres odpověděl, že se to nemůže uskutečnit během Valného shromáždění příští týden – ale mělo by přijít brzy, se „všemi na palubě“ z veřejného, soukromého, vědeckého a občanského sektoru.
Naléhavost v jeho tónu odráží řadu nedávných varování zevnitř samotného průmyslu. Začátkem tohoto měsíce bývalý výzkumník z Anthropic veřejně varoval, že pokročilá umělá inteligence může představovat existenční hrozbu pro lidstvo, a Guterresovy vlastní poznámky označily trajektorii této technologie za otázku, kterou mezinárodní společenství již nemůže odkládat.
Co se stane dál
Umělá inteligence se objeví na předním místě, až začne týden na vysoké úrovni Valného shromáždění, spolu s debatami o válkách v Gaze a na Ukrajině. Zda se vědecký panel OSN a globální dialog mohou vyvinout z talk shopů v mechanismy se skutečným vlivem na národní politiku, zůstává ústřední otevřenou otázkou – a otázkou, která otestuje, zda se multilaterální instituce mohou pohybovat rychlostí blízkou technologii, kterou se snaží řídit.
Prozatím je poselství generálního tajemníka světovým vůdcům jednoznačné: rizika jsou globální, řízení nikoli a okno k odstranění této mezery se zmenšuje.
_Zůstaňte napřed před křivkou. Sledujte globální boj o pravidla AI a největší příběhy umělé inteligence na AI Buzz Wire._
