Cheferna för OpenAI och Anthropic talade till FN:s säkerhetsråd på onsdagen, i ett par sällsynta genomgångar som placerade framtiden för AI-styrning inför världens mäktigaste diplomatiska organ – även när president Donald Trump avfärdade internationell AI-tillsyn som ett "globalistiskt system".
Sam Altman, som talade personligen vid rådets hästskoformade bord, och Dario Amodei, som anslöt sig via videosamtal, använde sina separata genomgångar under FN:s generalförsamlings högnivåvecka för att hävda att artificiell intelligens går snabbare fram än någon enskild regering kan hantera, enligt rapporter från The Guardian, Reuters och andra kanaler. For more context on this story, see our ongoing artificial intelligence updates.
En renässans eller en industriell revolution
Altman, som talade i ungefär tio minuter, inramade ögonblicket som en vägskäl för den teknik som hans företag tävlar om att bygga.
"Vi har ett val framför oss", sa Altman till rådet. "AI kan antingen vara mer som en ny renässans av kreativitet och upptäckter, eller mer som en ny industriell revolution av omvälvningar och oordning."
Han parade ihop den varningen med en försäljningsförklaring: OpenAI-chefen hyllade AI:s fördelar för produktiviteten samtidigt som han erkände dess potential för missbruk, enligt The Guardian. Och han hävdade att om AI ska utvecklas demokratiskt, kan de viktigaste besluten inte fattas av laboratorier i San Francisco enbart, utan måste formas genom demokratiska processer och av regeringar som är ansvariga inför de människor de tjänar - en framtid där AI styrs av demokratiska institutioner snarare än en där människor känner att tekniken är "något som görs mot dem."
Altman varnade också rådet för att sjunka in i det han kallade doomerism, istället för att förespråka vad han beskrev som en medelväg byggd på tre principer: AI-system måste förbli under mänsklig kontroll, AI måste gynna människor - från att hjälpa läkare att behandla patienter till att stimulera entreprenörer - och tekniken måste stärka människor individuellt.
Från mördarrobotar till superintelligens
Genomgångarna avslutade en vecka där FN:s agenda om AI sträckte sig över nästan all rädsla som tekniken framkallar. Associated Press-bevakning av mötena noterade att ledare fann sig diskutera allt från "mördarrobotar" - autonoma vapen som kunde välja mål utan mänsklig inblandning - till utsikterna för superintelligenta system som kunde glida bortom någons kontroll.
Det är just därför säkerhetsrådets session var viktig för deltagarna. AI har flyttat från en nischad regleringsfråga som hanteras av handelsministerier till ett ämne som diskuteras av samma organ som hanterar kärnvapenspridning och väpnade konflikter, med USA, Kina och europeiska makter som alla utvecklar skarpt olika visioner om vem som ska sätta reglerna.
Amodeis varning från en videolänk
Amodeis tilltal slog an en mer försiktig ton. Upprepade teman från ett blogginlägg den 12 september som efterlyste ökat globalt samarbete om AI, förespråkade den antropiska verkställande direktören för specifika internationella överenskommelser, inklusive ett förbud mot att använda AI för att utveckla biologiska vapen och globala standarder för att testa nya AI-modeller före utplacering.
"Om det hanteras dåligt tror jag till och med att AI kan vara en risk för mänskligheten som helhet", sa Amodei, enligt The Guardian. Han hävdade också att "på Anthropic tror vi att vi har det bästa resultatet i branschen för att förhindra dessa risker."
Båda cheferna, enligt Anadolu Agencys bevakning, sa till rådet att ingen enskild nation eller företag borde kontrollera tekniken.
Washingtons kalla axel
Genomgångarna utvecklades mot en spetsig bakgrund: Trump avvisade offentligt idén om internationell AI-tillsyn denna vecka, och avfärdade det som ett "globalistiskt system", som CNBC och andra butiker rapporterade. USA har motsatt sig bindande internationella AI-avtal, och administrationens ståndpunkt upprepades av amerikanska diplomater vid FN-möten om AI och internationell säkerhet.
Det finns också en klyfta mellan Altmans diplomatiska retorik och hans företags politiska verksamhet på hemmaplan. The Guardian noterade att OpenAI:s president Greg Brockman är ansluten till den politiska aktionskommittén Leading the Future, som har samlat på sig mer än 100 miljoner dollar och spenderat miljoner på att rikta in sig på kandidater som stödjer en starkare reglering av AI-branschen.
Från förhandsvisning till pallplats
Onsdagens genomgångar täcker mer än en veckas eskalerande diplomati kring AI-risk. Reuters rapporterade först den 18 september att Altman skulle informera rådet under generalförsamlingsveckan. Mötena följer varningar från antropiska forskare tidigare denna månad om att avancerad AI skulle kunna utgöra katastrofala risker, inklusive för mänsklighetens överlevnad, inom decenniet – varningar som fick Amodei att uppmana till en nedgång i AI-utvecklingen, en position som stöds av OpenAI, Google och Elon Musk, enligt The Guardian.
DeepSeek, det kinesiska AI-företaget, skulle också informera rådet den här veckan, som AI Buzz Wire rapporterade på tisdagen - en ovanlig sträcka där säkerhetsrådet har hört från ledarna för rivaliserande amerikanska och kinesiska AI-företag på några dagar.
Symbolik kontra substans
Säkerhetsrådet har ingen reglerande auktoritet över AI-utveckling, och onsdagens session gav inga bindande åtaganden. Men symboliken är svår att överskatta: cheferna för de två mest värdefulla AI-företagen på jorden underkastade sig frivilligt förhör vid samma bord där nationer debatterar krig och sanktioner och ber om att bli reglerade internationellt.
Tidpunkten underströk hur snabbt marken växlar. Samma dag som genomgångarna avslöjade Australiens premiärminister Anthony Albanese att en OpenAI-agent hade brutit mot en australisk regerings Medicare-portal tidigare i år - en påminnelse, sa kritiker, att branschens beteende granskas från flera håll samtidigt.
Vad genomgångarna kan sätta igång är svårare att förutse. Förslag till internationella AI-säkerhetsorgan, modelltestningsregimer och förbud mot biovapen har nu offentligt stöd av branschens ledare. Huruvida de överlever kontakten med ett geopolitiskt delat säkerhetsråd – och en amerikansk administration som är fientlig mot hela premissen – är frågan som kommer att definiera nästa fas av AI-styrning.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
