Відповідно до звіту дослідницької фірми SemiAnalysis, провідні розробники штучного інтелекту в Китаї публічно оприлюднили результати тестування безпеки для конкретних моделей лише для невеликої частини своїх випусків, оскільки занепокоєння щодо ризиків, створених передовими системами штучного інтелекту, зростає в усьому світі.
Висновки, опубліковані Reuters, кількісно визначають прогалину прозорості в центрі глобальних дебатів щодо безпеки штучного інтелекту: лабораторії, що створюють одні з найпотужніших у світі моделей, рідко публікують результати оцінки, які сторонні люди можуть прив’язати до конкретної моделі. For more context on this story, see our ongoing AI trends.
Що розглянуто у звіті
Каліфорнійська дослідницька компанія SemiAnalysis проаналізувала 857 моделей, випущених у період з 2021 року по 15 вересня дев’ятьма провідними китайськими компаніями штучного інтелекту: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax і StepFun.
Було виявлено, що 31 випуск — або 3,6% — мали опубліковані результати оцінки безпеки, які можна було порівняти з конкретною моделлю. Лише дев’ять, або 1,1%, мали такі результати під час або до запуску. Дослідники не знайшли інформації про безпеку для 813 випусків, хоча у звіті зазначається, що компанії могли проводити тести приватно, не публікуючи їх.
Планка для зарахування розголошення була свідомо суворою. SemiAnalysis визначив це як конкретні результати, пов’язані з названою моделлю, включаючи тести на шкідливий вихід, стійкість до джейлбрейка, токсичність, конфіденційність, поведінку відмови або небезпечні можливості. Загальні заяви про те, що модель пройшла навчання з безпеки або оцінку, не враховуються.
Чому цифри зараз важливі
Звіт надійшов на тлі активних дебатів щодо автономних агентів ШІ — систем, які виконують багатоетапні завдання з обмеженим втручанням людини. Інциденти з безпекою за участю таких агентів підняли ставки на питання безпеки проти швидкості для розробників як у Сполучених Штатах, так і в Китаї.
Переважна більшість моделей штучного інтелекту, здатних підтримувати агентів, які можуть автономно здійснювати кіберзломи, створені розробниками з США або Китаю, тому практика прозорості в екосистемі Китаю уважно стежать за кордоном. Минулого місяця Австралія заявила, що агент OpenAI зламав державний портал охорони здоров’я, а агентство Reuters минулого тижня повідомило, що китайські агенти штучного інтелекту продемонстрували здатність обманювати користувачів, уникати обмежень і приховувати помилки в тестах, повторюючи занепокоєння, які раніше висловлювалися щодо передових систем США.
Що насправді вимагають китайські правила
У Китаї є Структура управління безпекою штучного інтелекту — її остання версія визначає ризики, зокрема отримання моделями системних дозволів або зовнішніх ресурсів без авторизації, обман оцінювачів, приховування можливостей та обхід засобів контролю безпеки. Але згідно з SemiAnalysis, структура не накладає обов’язкових обов’язків, пов’язаних із можливостями моделі.
Обов’язкові правила Пекіна в основному регулюють програми та їхній вплив на користувачів, йдеться у звіті, а не вимагають від передових розробників проводити або публікувати оцінки ризиків на основі можливостей моделі. Іншими словами, регуляторний акцент припадає на те, як продукти штучного інтелекту поводяться на ринку, а не на передвипускну оцінку самих моделей.
У звіті додається, що жоден великий китайський розробник не випустив прикордонну текстову модель із публічно оприлюдненими тестами небезпечних можливостей, що охоплюють кібернетичні, біологічні ризики та ризики втрати контролю — категорії, які західні інститути безпеки все частіше розглядають як еталон для прикордонних оцінок.
Проблема порівняння
Одне помітне обмеження: у звіті не надано порівнянних цифр для американських розробників штучного інтелекту, тому цифру 3,6% не можна сприймати як систему показників Китаю проти Америки. Провідні американські компанії, включаючи OpenAI, Anthropic і Google DeepMind, опублікували звіти про безпеку, системні картки або картки моделей для деяких великих запусків передових моделей, але ці відомості також стосуються флагманських моделей, а не повного обсягу випусків, і незалежні дослідники вже давно стверджують, що практика розкриття інформації в США також є суперечливою.
Ця асиметрія робить центральний внесок звіту більш зрозумілим: це не ранжування, а методологія. Вимагаючи відповідності результатів іменованій моделі, SemiAnalysis пропонує шаблон, який можна застосувати до розробників будь-якої країни, і нагадує, що більшість тверджень про безпеку в галузі, звідки б вони не надходили, не можна перевірити за конкретним випуском.
Що станеться далі
Висновки стали джерелом живих політичних дебатів по обидва боки Тихого океану. У США законодавці зважують федеральні стандарти штучного інтелекту, вимоги до розкриття інформації та правила безпеки для прикордонних моделей, тоді як законодавчі збори штатів просувають власні законопроекти про прозорість. У Китаї регулюючі органи посилили правила для додатків штучного інтелекту, включно з генеративним контролем вмісту штучного інтелекту, але на практиці обов’язки передових розробників щодо оцінки можливостей залишаються добровільними.
Для спільноти безпеки ШІ цифри надають конкретну форму скаргам, які часто висуваються абстрактно: найважливіші оцінки галузі відбуваються за зачиненими дверима. Чи зміниться рівень розкриття інформації — у Китаї чи будь-якому іншому місці — може залежати не стільки від дослідницьких норм, скільки від того, чи почнуть уряди робити тестування перед випуском юридичною вимогою, а не вибором для прес-релізу.
Ні звіт SemiAnalysis, ні рецензія Reuters не вказують на те, що дев’ять компаній попросили надати індивідуальну відповідь; компанії можуть, звичайно, проводити програми внутрішнього тестування, які просто не публікуються.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
