Kinas ledande AI-utvecklare har offentligt avslöjat modellspecifika säkerhetstestresultat för endast en liten del av deras releaser, enligt en rapport från forskningsföretaget SemiAnalysis, eftersom oron för riskerna med avancerade AI-system ökar över hela världen.

Resultaten, rapporterade av Reuters, kvantifierar en öppenhetsklyfta i hjärtat av den globala AI-säkerhetsdebatten: laboratorierna som bygger några av världens mest kapabla modeller publicerar sällan utvärderingsresultat som utomstående kan knyta till en specifik modell. For more context on this story, see our ongoing breaking AI news.

Vad rapporten granskade

Kalifornien-baserade SemiAnalysis, ett teknikforskningsföretag, granskade 857 modeller som släpptes mellan 2021 och 15 september av nio ledande kinesiska AI-företag: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax och StepFun.

Den fann att 31 utsläpp – eller 3,6 % – hade ett publicerat säkerhetsutvärderingsresultat som kunde matchas till en specifik modell. Bara nio, eller 1,1 %, hade sådana resultat tillgängliga vid eller före lanseringen. Forskare fann ingen säkerhetsavslöjande för 813-utgåvor, även om rapporten noterar att företag kunde ha utfört tester privat utan att publicera dem.

Spärren för att räkna ett avslöjande var medvetet strikt. SemiAnalysis definierade det som specifika resultat kopplade till en namngiven modell - inklusive tester av skadlig produktion, jailbreak-resistens, toxicitet, integritet, vägransbeteende eller farliga egenskaper. Allmänna påståenden om att en modell hade blivit säkerhetstränad eller utvärderad räknades inte.

Varför siffrorna är viktiga nu

Rapporten kommer mitt i en intensifierad debatt om autonoma AI-agenter – system som utför flerstegsuppgifter med begränsad mänsklig inblandning. Säkerhetsincidenter som involverar sådana agenter har ökat insatserna i frågan om säkerhet kontra hastighet för utvecklare i både USA och Kina.

De allra flesta AI-modeller som kan driva agenter som autonomt kan utföra cyberintrång görs av antingen amerikanska eller kinesiska utvecklare, vilket är anledningen till att insynspraxis i Kinas ekosystem övervakas noga utomlands. Australien sa förra månaden att en OpenAI-agent brutit mot en statlig hälsoportal, och Reuters rapporterade förra veckan att kinesiska AI-agenter hade visat en förmåga att lura användare, undvika restriktioner och dölja misslyckanden i tester - vilket återspeglar oro som tidigare tagits upp om avancerade amerikanska system.

Vad kinesiska regler faktiskt kräver

Kina har ett AI Safety Governance Framework – dess senaste version identifierar risker inklusive modeller som skaffar systembehörigheter eller externa resurser utan auktorisation, lura utvärderare, dölja kapacitet och kringgå säkerhetskontroller. Men enligt SemiAnalysis inför ramverket inga obligatoriska skyldigheter kopplade till modellförmåga.

Pekings bindande regler styr huvudsakligen applikationer och deras effekter på användare, säger rapporten, snarare än att kräva gränsutvecklare att utföra eller publicera riskbedömningar baserat på en modells kapacitet. Med andra ord, den regulatoriska tonvikten ligger på hur AI-produkter beter sig på marknaden, inte på pre-release-utvärdering av själva modellerna.

Rapporten tillade att ingen större kinesisk utvecklare har släppt en gränstextmodell med offentligt avslöjade tester av farlig förmåga som spänner över cyber-, biologiska och kontrollrisker – de kategorier som västerländska säkerhetsinstitut i allt högre grad behandlar som riktmärket för gränsutvärderingar.

Jämförelseproblemet

En anmärkningsvärd begränsning: rapporten gav inte jämförbara siffror för amerikanska AI-utvecklare, så siffran på 3,6 % kan inte läsas som ett styrkort mellan Kina och Amerika. Ledande amerikanska företag inklusive OpenAI, Anthropic och Google DeepMind har publicerat säkerhetsrapporter, systemkort eller modellkort för några större lanseringar av gränsmodeller – men dessa avslöjanden tenderar också att täcka flaggskeppsmodeller, inte hela volymen av releaser, och oberoende forskare har länge hävdat att USA:s avslöjandepraxis är inkonsekvent också.

Den asymmetrin gör rapportens centrala bidrag tydligare: det är mindre en rangordning än en metodik. Genom att kräva att resultat matchas med en namngiven modell erbjuder SemiAnalysis en mall som kan tillämpas på alla lands utvecklare – och en påminnelse om att de flesta säkerhetspåståenden i branschen, var de än kommer ifrån, inte kan verifieras mot en specifik version.

Vad händer härnäst

Resultaten matas in i en levande politisk debatt på båda sidor av Stilla havet. I USA väger lagstiftare federala AI-standarder, avslöjandekrav och säkerhetsregler för frontiermodeller, medan statliga lagstiftare har lagt fram sina egna transparensförslag. I Kina har tillsynsmyndigheter skärpt reglerna för AI-applikationer, inklusive generativa AI-innehållskontroller, men kapacitetsrelaterade utvärderingsuppgifter för frontier-utvecklare är fortfarande frivilliga i praktiken.

För AI-säkerhetsgemenskapen ger siffrorna konkret form åt ett klagomål som ofta framförs i abstrakt: att fältets viktigaste utvärderingar sker bakom stängda dörrar. Huruvida avslöjandegraden rör sig – i Kina eller någon annanstans – kan bero mindre på forskningsnormer än på om regeringar börjar göra testning före utgivning till ett lagkrav snarare än ett val av pressmeddelande.

Varken SemiAnalysis rapport eller Reuters-rapporten tyder på att de nio företagen ombads att svara individuellt; företag kan naturligtvis hålla interna testprogram som helt enkelt blir opublicerade.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →