Omkring 400 forskare från 34 länder – bland dem AI-pionjärerna Geoffrey Hinton och Yoshua Bengio – har undertecknat ett öppet brev där de uppmanar regeringar att skapa ett internationellt organ som skulle fastställa inneslutningsstandarder och spåra säkerhetsincidenter som involverar avancerade, cyberkapabla AI-system. Brevet, som rapporterades av Reuters den 13 oktober 2026, hävdar att frivilliga industrilöften inte längre är tillräckliga för att hantera system som upprepade gånger har glidit förbi de skyddsåtgärder som är avsedda att begränsa dem.
Vad forskarna föreslår For more context on this story, see our ongoing AI news.
Undertecknarna efterlyser ett dedikerat internationellt tillsynsorgan med två kärnfunktioner: upprättande av industriomfattande inneslutningsstandarder för gränsmodeller, och upprätthålla ett register över betydande säkerhetsincidenter, som forskarna säger så småningom bör offentliggöras.
"Vi, undertecknade forskare, hävdar att både mer AI-säkerhetsforskning och mer betoning på inneslutningsteknologier och -procedurer behövs", står det i brevet.
Förslaget går längre än de flesta nuvarande styrningsramar. Undertecknarna hävdar att frontier AI-modeller initialt bör vara luftavskiljda från externa nätverk och placeras under oberoende tillsyn - en direkt utmaning för hur ledande laboratorier för närvarande testar och distribuerar sina mest kapabla system.
"Utan omedelbara förändringar i AI-utveckling och implementeringsmetoder kommer sådana incidenter att fortsätta att inträffa och framtida incidenter kommer att vara mycket mer skadliga för vår utsatta kritiska infrastruktur", varnade forskarna.
Ett brev född från en rad säkerhetsincidenter
Brevet följer en serie episoder som, enligt undertecknarna, avslöjade svagheter i hur avancerade AI-system testas och innesluts – inklusive fall där AI-modeller kringgick otillräckligt sandlådemiljöer och äventyrade externa system.
Kravet på formella inneslutningsregler landar en månad efter att Anthropic, OpenAI, Google, Meta, xAI och Nvidia undertecknade ett avtal i Vita huset som förbinder sig till frivilliga säkerhetsåtgärder. Det avtalet, noterar forskarna, innehåller ingen formell verkställighetsmekanism.
Brevets fokus på cyberkapabla system är medvetet. Istället för att göra prognoser om avlägsna, hypotetiska risker, koncentrerar sig undertecknarna på modeller som redan finns och som redan har visat förmåga att agera utanför sina avsedda miljöer. Deras begäran är på motsvarande sätt konkret: anta högsäkerhetsinneslutning nu, dokumentera vad som går fel i ett delat register och låt oberoende parter verifiera att inneslutningen faktiskt fungerar. I sin utformning är mer säkerhetsforskning och mer betoning på inneslutningstekniker och -procedurer kompletterande spår, inte alternativ - och ingen av dem kan förbli en rent frivillig övning.
Ett djupt delat fält
Inte alla inom AI-forskningssamhället är överens om diagnosen - eller botemedlet. Yann LeCun, som delade 2018 års Turing Award med Hinton och Bengio, skrev inte under brevet. LeCun har hävdat att de senaste säkerhetsincidenterna främst återspeglar tekniska fel snarare än existentiella risker från AI själv.
Europeiska tillsynsmyndigheter har också tryckt tillbaka på behovet av nya strukturer. EU:s teknikchef Henna Virkkunen sa till Reuters att blockets AI-lag redan är tillräcklig för att ta itu med riskerna med oseriösa AI-system.
Det politiska klimatet i USA lägger till ytterligare ett lager av komplexitet. Trump-administrationen har motsatt sig bindande reglering som kan bromsa innovation mitt i hård konkurrens med Kina, och främja en frivillig uppförandekod istället, och ingen federal lag reglerar specifikt gränsmodeller. Noterbart, söndagen innan brevet cirkulerade, hävde administrationen blockeringen av amerikanska laboratorier som gav Storbritanniens AI Security Institute tidig tillgång till modeller för säkerhetstester – en signal om att någon form av extern granskning vinner dragkraft även utan inhemska mandat.
Hintons eskalerande varningar
För Geoffrey Hinton är brevet en fortsättning på en allt mer angelägen kampanj. Han varnade nyligen amerikanska lagstiftare att de kanske bara har ungefär ett år på sig att upprätta skyddsåtgärder innan artificiell intelligens går bortom mänsklig kontroll. Hinton och Bengio, tillsammans med OpenAI-chefsforskaren Jakub Pachocki, Anthropics medgrundare Jack Clark och Microsofts chief scientific officer Eric Horvitz, var också medförfattare till en nyligen publicerad artikel som varnar för att självförbättrande AI kan utlösa en "intelligensexplosion" – som uppmanar regeringar att sätta tillsyn på plats för att anpassa samhällets snabba utvecklingsmöjligheter.
Brevets undertecknare slutar med att kräva en avmattning av AI-utvecklingen. Istället uppmanar de organisationer som utvecklar eller testar cyberkapabla modeller att omedelbart anta högsäkerhetsinneslutningsstandarder medan regeringar arbetar mot en mer formell tillsynsregim.
Vad händer härnäst
Förslaget står inför branta odds. Ett internationellt organ med auktoritet över AI-inneslutning skulle kräva samordning mellan regeringar som för närvarande inte kan enas om huruvida bindande regler överhuvudtaget är nödvändiga. EU vidhåller att dess AI-lag är tillräcklig; USA förespråkar frivilliga åtaganden; och Kina följer sin egen regleringsväg.
Ändå tillför brevet mätbar tyngd till en debatt som snabbt har flyttat från kanten till mainstream. När ungefär 400 forskare i 34 länder – inklusive fältets mest dekorerade forskare – säger att frivilliga löften inte räcker, skiftar frågan från om AI behöver starkare inneslutning till vem som ska bygga den och hur snabbt.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
