OpenAI:s vd Sam Altman kommer att informera FN:s säkerhetsråd personligen nästa vecka under den årliga sammankomsten av världsledare i New York för FN:s generalförsamling, rapporterade Reuters på fredagen, med hänvisning till en OpenAI-talesperson.

Genomgången kommer att äga rum vid ett öppet säkerhetsrådsmöte om artificiell intelligens och internationell säkerhet som är planerat till onsdag, då organet med 15 medlemmar sammanträder under generalförsamlingens högnivåvecka. Sessionen har sammankallats av Frankrike, som innehar rådets ordförandeskap i september, och kommer att ledas av Frankrikes Europa- och utrikesminister Jean-Noël Barrot. For more context on this story, see our ongoing more AI stories.

"Sam Altman kommer personligen att informera ett öppet möte i FN:s säkerhetsråd nästa vecka", säger en talesperson för OpenAI till Reuters.

Vad Altman förväntas säga

Enligt Reuters förväntas Altmans kommentarer fokusera på behovet av internationell samordning och delade säkerhetsstandarder, samt de steg OpenAI tar för att säkerställa att människor runt om i världen drar nytta av AI.

Framträdandet placerar världens mest framstående AI-chef framför den kropp som har till uppgift att upprätthålla internationell fred och säkerhet, i ett ögonblick då regeringar i allt högre grad framställer avancerad AI inte bara som en ekonomisk möjlighet utan som en teknik med direkta implikationer för nationell och internationell säkerhet.

Antropisk kan också vara i rummet

Diplomater sa till Reuters att de också förväntade sig en närvaro på hög nivå vid mötet från Anthropic, även om detta deltagande inte hade bekräftats. Anthropic svarade inte omedelbart på en begäran om kommentar.

Varje framträdande av Anthropic skulle ge särskild resonans med tanke på företagets högprofilerade hållning på gräns AI-risk under de senaste månaderna, inklusive dess krav på en samordnad avmattning i utvecklingen av alltmer kapabla system. Säkerhetsrådets möte kommer bara några veckor efter att flera AI-industriledare uppmanade till en samordnad avmattning och varnade för att AI snart kan förbättras av sig själv och glida bortom mänsklig kontroll.

Frankrikes brådskande fall

I en idénotis som cirkulerades till rådsmedlemmarna och sågs av Reuters, underströk Frankrike "det brådskande av åtgärder för att främja en säker och ansvarsfull utveckling av artificiell intelligens till förmån för det internationella samfundet som helhet."

Anteckningen citerade risken för missbruk av AI för skadliga syften och sade att mötet syftar till att låta deltagarna presentera sin analys av risker kopplade till förlust av kontroll, eller till användningen av de senaste AI-modellerna för att utveckla, underlätta och genomföra åtgärder med inverkan på internationell fred och säkerhet.

Ett råd som återvänder till ett bekant tema

Säkerhetsrådet har tagit upp AI tidigare. Den möttes för första gången om riskerna med artificiell intelligens 2023, när Kina varnade för att tekniken inte borde bli en "springhäst" och USA varnade för att den skulle användas för att censurera eller förtrycka människor. Onsdagens session representerar en betydande eskalering i det engagemanget: där tidigare möten hörde allmänna varningar, kommer nästa veckas att inkludera en livegenomgång från VD:n för företaget vars produkter står i centrum för AI-boomen.

Altman å sin sida har varnat för avancerade AI-risker sedan långt före den nuvarande vågen av kommersiella framgångar. I en essä från 2015 med titeln "Machine Intelligence, del 1", skrev han att "utvecklingen av övermänsklig maskinintelligens är förmodligen det största hotet mot mänsklighetens fortsatta existens" - en linje som föregår OpenAI:s uppgång och som oundvikligen kommer att återuppstå när han vänder sig till rådet.

Varför det är viktigt

Symboliken i genomgången är svår att överskatta. En chef för teknikföretaget som talar till säkerhetsrådet signalerar hur långt AI har flyttat upp på den internationella säkerhetsagendan, tillsammans med kärnvapenspridning och cyberkrigföring. Det återspeglar också en förändring i själva debatten: efter två år dominerade av argument om upphovsrätt, jobb och desinformation, pekas FN:s sammankallande makt rakt på gränsrisk - förlust av kontroll, skadlig användning och frånvaron av delade internationella standarder.

Vad det blir av det är en annan fråga. Säkerhetsrådet har ingen reglerande auktoritet över AI-utveckling, och dess resolutioner om framväxande teknologi har historiskt sett varit icke-bindande. Men mötet ger regeringar en scen att sätta ut positioner – och ger AI-företag en publik av utrikesministrar och statschefer som ingen produktlansering kan matcha. Med Frankrike som pressar på för brådskande och båda ledande amerikanska AI-labb förväntas vara representerade, kan onsdagens session mycket väl markera ögonblicket AI-styrning blev en fast punkt på agendan för global säkerhetsdiplomati.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →