Kinesiska AI-startupen DeepSeek kommer att vara bland de företag som informerar FN:s säkerhetsråd den här veckan om riskerna med artificiell intelligens, säger två källor som är bekanta med saken till Reuters, när världsledare samlas i New York för FN:s årliga generalförsamling.
Säkerhetsrådet med 15 medlemmar kommer att mötas den 23 september för att diskutera AI och internationell säkerhet - veckor efter att flera AI-industriledare krävde en samordnad avmattning av utvecklingen av allt kraftfullare AI-system och varnade för att de snart skulle kunna förbättras på egen hand och glida bortom mänsklig kontroll. För mer sammanhang om den här historien, se vår pågående AI-industribevakning.
Vem kommer att vara i rummet
OpenAI:s vd Sam Altman planerar att informera mötet, där diplomater också förväntar sig deltagande från seniora representanter för Anthropic, rapporterade Reuters förra veckan.
På den kinesiska sidan har DeepSeek och andra kinesiska AI-företag, inklusive Moonshot, bjudits in att göra uttalanden, sa en av källorna. DeepSeek-grundaren Liang Wenfeng planerar inte att delta, varnade källan och noterade att planerna förblir flytande och kan ändras i sista minuten. DeepSeek och Moonshot svarade inte omedelbart på förfrågningar om kommentarer.
Sessionen landar under en vecka när New York redan är full av AI-diplomati, när världsledare samlas till FN:s årliga generalförsamling och sidomöten förökar sig runt den. Den tajmingen skär åt båda hållen för DeepSeek: rådets imprimatur signalerar att Kinas ledande labb nu behandlas som oumbärliga röster om gräns-AI-risk, även när Pekings officiella ståndpunkt fortsätter att avvisa nedgångsretoriken som kommer från Silicon Valley.
Den ovanliga uppställningen – USA:s mest framstående AI-chef som delar en säkerhetsrådsagenda med Kinas mest kända öppenviktslabb – gör onsdagens session till det mest följdriktiga AI-möte som rådet har hållit sedan det först tog upp ämnet.
Från "Runaway Horse" till Rogue AI
FN:s säkerhetsråd, som har till uppgift att upprätthålla internationell fred och säkerhet, träffades för första gången om riskerna med AI 2023. Redan då var fellinjerna synliga: Kina varnade för att tekniken inte borde bli en "springhäst", medan USA varnade för att den användes för att censurera eller förtrycka människor.
Tre år senare har debatten skiftat från hypotetiska till incidentrapporter. FN:s generalsekreterare Antonio Guterres varnade förra veckan världsledare för att snabbt framskridande AI innebär risker som inte kan ignoreras, vilket ställer honom i strid med USA:s president Donald Trump, som har hävdat att befintliga skyddsåtgärder är tillräckliga och att Kina skulle tjäna på att tvivla på AI-utvecklingen.
Pekings offentliga tystnad om katastrofrisker
En av de mer spetsiga observationerna i Reuters-rapporten gäller vad kinesiska labbledare inte har sagt. Till skillnad från cheferna för amerikanska gränslaboratorier som OpenAI och Anthropic har ledarna för Kinas toppmodellutvecklare sällan offentligt uttryckt möjligheten att alltmer kapabla AI-system kan lura människor, undvika kontroll eller orsaka katastrofala skador – och de har i stort sett varit tysta om dessa risker sedan debatten intensifierades i USA.
Kinesiska statliga medier, å sin sida, har avfärdat kraven på en nedgång i AI-utvecklingen eftersom de härrör från en "kalla krigets spelbok" - ett försök, enligt Peking, som syftar till att bevara Washingtons dominans inom spjutspetsteknologi och helt utesluta Peking från det globala AI-styrsystemet.
DeepSeeks framträdande på rådet har därför en dubbel betydelse: det är samtidigt Pekings mest synliga engagemang hittills i det globala AI-risksamtalet och ett test av om kinesiska laboratorier överhuvudtaget kommer att engagera sig i inramningen av katastrofrisker.
Samtal inför Trump-Xi
Säkerhetsrådets session står inte ensam. Höga amerikanska och kinesiska tjänstemän gick med på att hålla ytterligare samtal om AI-säkerhet, sade USA:s finansminister Scott Bessent den 21 september, efter att ha träffats inför Trumps planerade samtal med Kinas president Xi Jinping senare denna vecka i Washington.
Denna sekvensering – ett toppmöte med hög insats i Washington som löper parallellt med en säkerhetsrådsdebatt i New York – understryker hur grundligt AI har flyttat från en teknisk policyfil till centrum för den bilaterala relationen.
Vad du ska titta på
Tre frågor hänger över onsdagens möte. Om Liang Wenfeng ändrar sig och närvarar. Huruvida DeepSeeks uttalande involverar riskerna med kortleken - bedrägeri, förlust av kontroll - som dess amerikanska motsvarigheter betonar, eller stannar på en säkrare mark för rättvis tillgång och utvecklingsrättigheter. Och om rådet kan ta fram något utöver bekanta positioner.
Rådets rekord på AI är tunt: ett första möte 2023, en generalsekreterares varning denna månad och ingen bindande ram. Men som ett stadium för det framväxande argumentet mellan USA och Kina om vem som sätter reglerna för gränsöverskridande AI – och vars rädsla tas på allvar – har den få konkurrenter.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
