Personal på det lilla amerikanska regeringskontoret som ansvarar för att testa säkerheten hos frontier AI-modeller har nyligen ombetts att rapportera informellt till ett kontor i Vita huset, rapporterade Associated Press på lördagen, vilket väckte nya farhågor om oberoendet för landets främsta AI-säkerhetsutvärderare.
Kontoret, Center for Advancing Innovation and Standards for Super Intelligence – känt som CAISSI och inrymt inom handelsdepartementet – har också slutat publicera sin forskning, enligt AP. Rapporten landar mitt i den växande allmänhetens oro över en rad historier om utomkontrollerade AI-agenter, och den beskriver en vakthund som är underbemannad, ledarlös och allt tystare. For more context on this story, see our ongoing AI industry coverage.
Vad CAISSI gör — och vad AP hittade
CAISSI har i uppdrag att utvärdera säkerheten för nya AI-erbjudanden innan de når allmänheten, ett uppdrag som inkluderar att utvärdera hur väl frontiermodeller motstår missbruk för cyberattacker och andra allvarliga skador. Enligt AP ombads personalen på centret "nyligen" att rapportera informellt till ett kontor i Vita huset. Nyhetsbyrån citerade två tidigare regeringstjänstemän med kännedom om diskussionerna, som talade anonymt för att skydda nuvarande anställda. Vita huset svarade inte på specifika frågor om centret.
Verksamhetens omfattning är blygsam. AP rapporterar att CAISSI får cirka 10 miljoner dollar per år - ungefär en åttondel av vad dess motsvarighet i Storbritannien får, även om USA är där de flesta frontier-modeller byggs.
Det informella rapporteringsarrangemanget är bara den senaste störningen på centret. AP beskriver ett ledarskapsvakuum som sträcker sig månader tillbaka: en direktör anställdes i april och fick sparken inom några dagar, hans ersättare varade några månader innan han avgick, och chefen för moderinstitutet fungerar för närvarande som tillförordnad direktör. I praktiken betyder det att ingen med ett permanent mandat för närvarande försvarar centerns självständighet.
En vakthund som slutade publicera
Den mer följdändringen, enligt AP, är vad centern inte längre gör. I augusti frågade kongressen varför CAISSI hade slutat offentligt släppa rapporter om hur AI-system presterar på säkerhetstester. Testning före implementering fungerar som en offentlig kontroll av modellbyggare endast om resultaten är synliga utanför labbet - och för närvarande är de inte det.
Skiftet kom inte från ingenstans. I oktober avslöjade Reuters, med hänvisning till en rapport från The Information, att administrationen planerade att flytta tre höga CAISSI-tjänstemän till Vita huset. En tjänsteman i Vita huset sa till The Information vid den tiden att samordningsproblem med handeln visade behovet av att föra centrets ledarskap närmare beslutsfattandet inom AI. Enligt den rapporten skulle tjänstemännen svara till Michael Kratsios, som driver Office of Science and Technology Policy, och National Cyber Director Sean Cairncross. Handelssekreterare Howard Lutnick hade bjudit in de två att tillsammans leda centret ungefär sex månader tidigare.
Läst tillsammans antyder AP:s nya rapportering att planen kommer i praktiken - informellt och före alla formell omstrukturering.
Oavhängighetsbekymmer, i båda riktningarna
Kritiker som citeras av AP oroar sig för att beslut som rör cybersäkerhet och biovapenrisk kan politiseras, eller att fynden kan mjukas upp för att passa teknikindustrin. Amos Toh från Brennan Center for Justice sa till AP att sådana beslut är av enorma offentliga konsekvenser och bör förklaras offentligt. Caroline Siegel Singh från Federation of American Scientists beskrev centra som CAISSI som kraftfulla institutioner som drastiskt kan förbättra liv eller göra tvärtom.
Det finns ett motargument, och AP avfärdar det inte. Att utvärdera en modells förmåga att hjälpa till att skriva skadlig programvara är en nationell säkerhetsfråga, och en administration som vill ha insyn i vem som ser dessa resultat har ett försvarbart fall. Svårigheten är institutionell: en domare som svarar på en av lagens sponsorer är dåligt placerad för att kalla spelet rakt, och centern har slutat publicera de rapporter som annars skulle visa sitt oberoende.
Varför det är viktigt för byggare och köpare
För företag som bygger på frontiermodeller är den praktiska risk som identifierats i rapporteringen inte ett förbud – det är osäkerhet. Om utvärderingar förblir hemliga och inkluderas i exportkontroller och statlig upphandling, kan ett labb förlora ett kontrakt eller en marknad på grundval av ett fynd som det aldrig får se eller bestrida. Den risken skulle spridas genom leveranskedjan till nedströmsprodukter utan någon förvarning.
Två saker är värda att titta på härnäst. Den första är om förvaltningen utser en permanent chef för centret och vem som väljer ut dem. Den andra är huruvida kongressen, som redan har pressat centern över dess tystnad om publicerade rapporter, går för att skriva centrets oberoende i lag. Tills någondera händer, arbetar USA:s gränsöverskridande AI-säkerhetsdomare med en budget på 10 miljoner dollar, ingen permanent ledare och en rapporteringslinje som går mot Vita huset.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
