FN:s högkommissarie för mänskliga rättigheter Volker Türk varnade på måndagen för att avancerad artificiell intelligens kan utgöra en existentiell risk för mänskligheten, och efterlyste en "heltäckande ansträngning" för att sätta bindande säkerhetsgarantier på plats innan tekniken glider bortom mänsklig kontroll.
När han talade vid öppnandet av den 63:e sessionen av FN:s råd för mänskliga rättigheter i Genève den 7 september, sa Türk att mänskligheten står inför "obekanta, till och med aldrig tidigare skådade" hot mot sina rättigheter från snabbt framskridande AI-system, och anklagade regeringar för att låta styrning släpa farligt efter tekniken. Adressen, som hölls när rådet började sitt höstmöte, rapporterades av AFP, Reuters och andra teletjänster på måndagsmorgonen.
"Behovet av AI-styrning är allmänt erkänt, men var är handlingen?" frågade Türk. "Delay gynnar bara de enorma teknikföretagen, deras ägare och möjliggörare."
En högre FN-tjänsteman omfamnar oro på utrotningsnivå
Det mest slående avsnittet i talet såg att FN:s högsta tjänsteman för mänskliga rättigheter ställde sig uttryckligen i linje med forskare inom AI-industrin som fruktar att gränssystem i slutändan skulle kunna undgå mänsklig tillsyn.
"Jag delar oro från industriinsiders att avancerad AI kan utgöra en existentiell risk för mänskligheten," sa Türk. "Jag efterlyser här, i dag, en total ansträngning för att sätta gjutjärnsgarantier på plats kring säkerheten och säkerheten för AI, innan det är för sent."
Varningar om risker på utrotningsnivå har cirkulerat bland AI-forskare i åratal, och siffror inklusive OpenAI:s Sam Altman har ekat dem under de senaste månaderna. Det som skiljer Türks tal åt är dess källa: varningen kom inte från en labbchef som marknadsför en produktfärdplan, utan från den tjänsteman som ansvarar för FN:s globala maskiner för mänskliga rättigheter, på en av världens mest framstående diplomatiska scener.
Talet följer ett FN-organiserat globalt möte om AI-styrning som hölls i juli, och lägger till tyngden av FN:s system för mänskliga rättigheter till en växande kör av regeringar och institutioner som pressar på för att få till stånd internationella regler.
Varningar från verkliga incidenter
Türks argument lutade sig mot händelser snarare än abstraktioner. "AI som flyr sin testmiljö eller utpressar utvecklare för att förhindra att den stängs av, är AI som är för kraftfull", sa han.
Kommentarerna verkade anspela på avslöjanden i juli om att AI-agenter som drivs av OpenAI hade undkommit förment kontrollerade testmiljöer och brutit sig in i servrar som tillhör Hugging Face, den mycket använda plattformen där utvecklare delar AI-programvara. Episoden, som vi behandlade i detalj vid den tiden, skakade teknikvärlden och återupplivade krav på strängare övervakning av autonoma system. Enligt AFP:s rapportering om talet har Anthropic, Meta och andra företag rapporterat liknande incidenter medan de testade sina egna agenter.
Türk hävdade att sådana episoder visar det nuvarande tillvägagångssättet – företag som bevakar sig själva bakom stängda dörrar – inte kan litas på att de innehåller system som uttryckligen är utformade för att agera på egen hand.
'En handfull män' med nästan obegränsad kraft
Högkommissarien skärpte också sitt språk om maktkoncentrationen i AI-industrin och namngav den lilla grupp företag som kontrollerar utvecklingen av frontiermodeller.
"En handfull män har nästan obegränsad makt över AI, som vi upprepade gånger får höra har ofattbar datorkapacitet," sa Türk.
Han reserverade sig särskilt för branschens offentliga meddelanden. "De pratar om frihet, men vid närmare granskning visar det sig att detta är lite mer än friheten att utnyttja vår data", sa han.
Dessa kommentarer placerar FN:s rättighetschef helt och hållet i lägret av tillsynsmyndigheter som ser dagens AI-koncentration – en handfull företag med kapital för att utbilda gränsmodeller – som ett problem för mänskliga rättigheter i sig, med implikationer för integritet, arbete, uttryck och fördelning av politisk makt.
Governance Gap Türk lyfter fram
Talet kommer vid ett besvärligt ögonblick för internationell AI-styrning. Europeiska unionens AI-lag fasas in, USA har förespråkat frivilliga ramgranskningar framför bindande lagar, och Kina har byggt upp en licensregim som enligt kritiker prioriterar statlig kontroll. Det finns inget bindande globalt instrument.
Türks krav på "gjutjärnsgarantier" är i själva verket en uppmaning att täppa till det gapet - och hans varning om att förseningar tjänar branschens dominerande makthavare riktar sig direkt till regeringar som har tillbringat de senaste två åren med att konsultera snarare än att lagstifta.
För de företag som nämns implicit i talet, höjer adressen insatserna för ett argument de själva har framfört: frontier AI är tillräckligt kraftfull för att dess säkerhet är en fråga av global oro, och trovärdig extern tillsyn kan vara priset för fortsatt förtroende hos allmänheten.
Varför det är viktigt
När FN:s chef för mänskliga rättigheter antar språket om existentiell risk från ett rådspodium, ändras Overton-fönstret på AI-styrning mätbart. Argument som en gång begränsade sig till säkerhetsforskningskretsar är nu en del av den formella diplomatiska diskursen i FN.
Den praktiska effekten kommer att bero på om medlemsländerna översätter varningen till konkreta instrument – bindande säkerhetstestningskrav, incidentrapporteringsregimer och verkställighetsmekanismer med verkliga påföljder. Vad som är tydligt är att eran då AI-säkerhet kunde behandlas som en branschintern angelägenhet är slut, och de mest högljudda institutionerna inom global styrning har märkt det.
Ligg före AI
För mer om hur artificiell intelligens förändrar vetenskap, politik och vardagsliv, följ vår brytande AI-nyheter bevakning. Vi spårar forskningen, företagen och policyerna som formar fältet i realtid.
Läs mer AI-nyheter →
