FN:s generalsekreterare António Guterres utfärdade en av sina starkaste varningar hittills om artificiell intelligens denna vecka, och förklarade att världen "inte har råd med en kapplöpning till botten när det gäller AI-säkerhet" när regeringar förbereder sig för att samlas i New York för FN:s generalförsamlings högnivåvecka. Guterres pratade med reportrar inför världsledarnas årliga möte och placerade skenande AI vid sidan av klimatkrisen och fördjupad ojämlikhet som de tre existentiella hot som planeten står inför.
Kommentarerna, rapporterade av Reuters, FN-nyheter och butiker över hela världen, kommer i ett laddat ögonblick: FN driver på för bindande internationell samordning av AI-styrning precis som Washington signalerar en lättare touch, där Reuters noterar att FN-chefen slog larm efter att president Trump tonade ner behovet av striktare AI-reglering.
"En era av djup osäkerhet"
Guterres informerade pressen sex dagar innan ledarna anländer till New York och sa att världen hade gått in i "en era av djup osäkerhet". Han erkände AI:s "enorma potential" inom områden som hälsa, utbildning och klimatvetenskap, men varnade för att tekniken utvecklas snabbare än människans förståelse av dess risker.
"Världen har inte råd med en kapplöpning till botten när det gäller AI-säkerhet", sa han och hävdade att nationella regler ensamma inte kommer att räcka. "Nationella åtgärder är viktiga, men global samordning är oumbärlig."
Generalsekreteraren uttryckte också skepsis mot att frivilliga pauser i gränsöverskridande AI-utveckling kan fungera när de är isolerade - begränsade till en handfull länder, omöjliga att kontrollera eller ojämnt tillämpade. Med rädslan för en kapprustning av AI mellan USA och Kina, medgav han att geopolitiska klyftor gör samordningen svårare, inte mindre nödvändig. "Om vi tror att AI-utvecklingen bör sakta ner när riskerna blir för stora behöver vi mer än goda avsikter", sa han.
FN:s nya AI-styrningsmaskineri
Bakom retoriken sitter en förvaltningsarkitektur som tyst tagit form under de senaste två åren. Global Digital Compact, som antogs av FN:s medlemsländer 2024 som en del av Pact for the Future, efterlyste två nya mekanismer: ett vetenskapligt organ för att bedöma AI:s risker och möjligheter, och ett årligt forum där regeringar skulle kunna anpassa sina tillvägagångssätt. Generalförsamlingen inrättade formellt båda i augusti 2025.
Den första, Independent International Scientific Panel on AI, släppte sin preliminära rapport den 1 juli. Den drog slutsatsen att AI-kapaciteten går snabbt framåt – särskilt inom resonemang, kodning och vetenskaplig forskning – samtidigt som risker som desinformation, diskriminering, integritetsintrång, cyberattacker och former av "superintelligens" kan bli svåra att kontrollera.
Den andra, Global Dialogue on AI Governance, är utformad som svarssidan av paret: panelen tillhandahåller bevis och länder bestämmer vad de ska göra med det.
Guterres pekade på panelen som grunden för informerat globalt beslutsfattande och uppmanade regeringar att bygga skyddsräcken som "gör AI säker, transparent och ansvarsfull, med mänsklig värdighet i centrum." Han har också drivit två konkreta initiativ: ett AI Child Safety Pledge och en Global Fund for AI för att hjälpa utvecklingsländer att bygga upp AI-infrastruktur och kapacitet.
En växande transatlantisk splittring
FN-chefens ingripande landar mitt i en synlig splittring mellan Europas regulatoriska press och Washingtons avreglerande vändning. Medan Europeiska unionen implementerar sin AI-lag och FN-organ bygger utvärderingsmekanismer, har den amerikanska administrationen betonat innovation och konkurrenskraft, och Reuters rapporterade att president Trump har tonat ner AI-risker som Guterres och andra tjänstemän fortsätter att ta upp.
På frågan hur snabbt FN skulle kunna sammankalla ett toppmöte som leder till effektiv reglering, sa Guterres att det inte kunde ske under nästa veckas generalförsamling – men borde komma snart, med "alla ombord" från den offentliga, privata, vetenskapliga och civila samhällets sektorer.
Det brådskande i hans tonfall återspeglar en rad nya varningar inifrån branschen själv. Tidigare denna månad varnade en före detta forskare vid Anthropic offentligt för att avancerad AI kan utgöra ett existentiellt hot mot mänskligheten, och Guterres egna kommentarer inramade teknikens bana som en fråga som det internationella samfundet inte längre kan skjuta upp.
Vad händer härnäst
AI kommer att ha en framträdande plats när generalförsamlingens högnivåvecka drar igång, tillsammans med debatter om krigen i Gaza och Ukraina. Huruvida FN:s vetenskapliga panel och globala dialog kan utvecklas från pratbutiker till mekanismer med verkligt inflytande över nationell politik förblir den centrala öppna frågan - och en som kommer att testa om multilaterala institutioner kan röra sig med något i närheten av hastigheten på den teknik som de försöker styra.
För närvarande är generalsekreterarens budskap till världens ledare otvetydigt: riskerna är globala, styrningen är det inte, och fönstret för att stänga det gapet minskar.
_Håll dig före kurvan. Följ den globala kampen om AI-reglerna och de största berättelserna inom artificiell intelligens på AI Buzz Wire._
