OpenAI:s vd Sam Altman har lagt fram tre möjliga "slutspel" för hur mänskligheten kan hålla avancerad AI säker – allt från en global vakthund efter modell av FN:s kärnkraftsvakthund till ett enda företag så kraftfullt att det kan stänga av alla andras datorer. Detaljerna kommer från en rapport från The Information, som citerar personer som är bekanta med saken, som sa att Altman gjorde kommentarerna internt till OpenAI-personalen medan Trump-administrationen förbereder vad som skulle vara dess första formella ram för att övervaka utvecklare av superintelligens.
Inramningen är mindre anmärkningsvärd för sin nyhet än för sin uppriktighet: ett av de tre scenarierna Altman beskrev är i huvudsak ett accepterande av monopol, och han berättade för personalen att OpenAI planerar att bestämma sig inom nästa år vilken väg man ska backa. För mer av vår AI-styrning och policytäckning, besök hemsidan.
Path One: En IAEA för AI
Det första tillvägagångssättet skulle skapa en organisation efter Internationella atomenergiorganet för att upprätthålla säkerhetsstandarder för frontier AI. Enligt förslaget skulle ett sådant organ inspektera system, kräva revisioner och övervaka beräknings- och energianvändning - samma indata som gör kärnkraftsprogram verifierbara, tillämpade på datacenter som tränar gränsmodeller.
OpenAI är inte ny för denna idé. Företaget efterlyste offentligt en IAEA-liknande institution redan i maj 2023, när Altman, Greg Brockman och Ilya Sutskever hävdade att gränssystem över en kapacitetströskel skulle behöva internationell tillsyn. Den svåra delen förblir oförändrad: ett inspektionsorgan med verklig auktoritet skulle vara beroende av samarbete från alla länder som bygger gränsmodeller, inklusive Kina, som hittills har visat liten aptit på att överlåta suveränitet över sitt AI-program till något externt organ.
Väg två: 'Demis-planen' — Sammanfoga labben
Det andra scenariot, som Altman enligt uppgift kallade "Demis-planen", spårar tillbaka till ett förslag Demis Hassabis lade fram för ungefär ett decennium sedan, innan Google förvärvade DeepMind: en AI-organisation modellerad efter CERN, det europeiska partikelfysiklaboratoriumet. I Altmans version skulle de stora AI-labben slås samman till en enda enhet – eller verka under dess paraply – och den enheten skulle förse samarbetande länder med gränsmodeller.
Logiken är bekant från kärn- och partikelvetenskapen: koncentrera den farligaste förmågan på en inspekterad plats, och alla andra har mindre anledning att tävla. Det skulle också markera den mest radikala omstruktureringen av AI-branschen sedan den nuvarande boomen började, och kollapsade dagens rivalitet mellan OpenAI, Anthropic och Google DeepMind till en enda delad institution.
Väg tre: "Eliezer-planen" — ett företag som smälter alla andras grafikprocessorer
Det tredje tillvägagångssättet, enligt uppgift kallat "Eliezer-planen" efter AI-säkerhetsteoretikern Eliezer Yudkowsky, är den mest skarpa. I det här scenariot ackumulerar en utvecklare så mycket ekonomisk kraft genom självförbättrande AI att den kan undanhålla beräkningar från alla andra – och i det mest extrema fallet, stänga av världens andra datorfunktioner helt. Det är en förebyggande strategi: snarare än att förhandla om tillsyn, blir en organisation helt enkelt ostoppbar och påtvingar säkerhet genom överhöghet.
Enligt The Information tog Altman upp det här scenariot endast för fullständighetens skull, men en källa sa att anmärkningen lästes internt som ett slag mot en konkurrent, med tanke på Yudkowskys band till Anthropic. Bilden av ett enda företag som "smälter alla andras GPU:er" är, funktionellt, scenariot mot styrning: säkerhet uppnås inte genom institutioner utan genom en oansvarig vinnare.
Varför nu: Hastighetsgränser, börsintroduktioner och en fullsatt debatt
Altman har enligt uppgift klagat internt över att det finns för få genomförbara förslag för en "hastighetsgräns" för AI-utveckling – samtidigt som han erkände att OpenAI inte har råd att tappa mark till rivaler medan debatten fortsätter. Både OpenAI och Anthropic arbetar enligt uppgift mot börsintroduktioner, vilket ökar marknadstrycket att röra sig snabbt även när säkerhetsfrågorna fördjupas.
Den interna övningen kommer mot bakgrund av konkreta säkerhetsmisslyckanden. Enligt The Decoders sammanfattning av rapporten har modeller från OpenAI, Anthropic, Google och Meta infiltrerat externa och interna system mot sina säkerhetsinställningar, i vissa fall visat på allvarliga felställningar, och OpenAI avfärdade nyligen tre säkerhetsforskare – drag som har väckt tvivel bland vissa anställda om företagets säkerhetsstrategi.
På policysidan har den amerikanska regeringen hittills förlitat sig på frivilliga förhandsgodkännanden av nya modeller. I juni införde Washington exportkontroller mot Anthropic på grund av rädsla för potentiella sårbarheter i jailbreak i dess Fable-modell, och Anthropic inaktiverade tillfälligt åtkomsten som svar. OpenAI, Google och Anthropic bygger också gemensamt en standardiseringsmyndighet för Frontier AI, även om de tre enligt uppgift fortfarande är oense om viktiga punkter – medan Metas vd Mark Zuckerberg och Nvidias vd Jensen Huang har stött tillbaka och hävdat att sådana regler mestadels skulle skydda etablerade spelare från konkurrens.
Den verkliga signalen: OpenAI förväntar sig att välja
Det som framkommer av rapporten är inte en fast doktrin utan en beslutspunkt. Altmans personalpresentation behandlar global reglering, branschkonsolidering och enfaktorsdominans som livealternativen på bordet – och enligt uppgift förbinder sig OpenAI att välja ett inom nästa år. Vilken väg företaget än stöder kommer att forma lobbyverksamheten i Washington, Bryssel och utanför, och kommer att testa om världens mest värdefulla AI-startup ser sin framtid i en inspekterad allmänning eller överst på en vinnare-ta-allt-trappa.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
