Согласно отчету исследовательской компании SemiAnaанализ, ведущие китайские разработчики ИИ публично раскрыли результаты испытаний на безопасность конкретных моделей лишь для небольшой части своих выпусков, поскольку во всем мире растет обеспокоенность по поводу рисков, связанных с передовыми системами ИИ.

Результаты, о которых сообщает агентство Reuters, количественно определяют пробел в прозрачности, лежащий в основе глобальных дебатов о безопасности ИИ: лаборатории, создающие некоторые из самых эффективных в мире моделей, редко публикуют результаты оценки, которые посторонние могут связать с конкретной моделью. Подробнее об этой истории — в нашем новости об ИИ.

Что рассмотрено в отчете

Калифорнийская компания SemiAnalysis, занимающаяся исследованиями в области технологий, проанализировала 857 моделей, выпущенных в период с 2021 года по 15 сентября девятью ведущими китайскими компаниями в области искусственного интеллекта: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax и StepFun.

Было обнаружено, что 31 выпуск (или 3,6%) имел опубликованные результаты оценки безопасности, которые можно было сопоставить с конкретной моделью. Только девять, или 1,1%, имели такие результаты на момент запуска или до него. Исследователи не обнаружили раскрытия информации о безопасности для 813 выпусков, хотя в отчете отмечается, что компании могли проводить тесты в частном порядке, не публикуя их.

Планка для зачета раскрытия информации была намеренно жесткой. SemiAnaанализ определил это как конкретные результаты, привязанные к названной модели, включая тесты на вредоносный вывод, устойчивость к джейлбрейку, токсичность, конфиденциальность, отказное поведение или опасные возможности. Общие заявления о том, что модель прошла обучение или оценку безопасности, не учитывались.

Почему цифры важны сейчас

Доклад появился на фоне интенсивных дебатов по поводу автономных агентов ИИ — систем, которые выполняют многоэтапные задачи с ограниченным вмешательством человека. Инциденты безопасности с участием таких агентов подняли вопрос о соотношении безопасности и скорости для разработчиков как в США, так и в Китае.

Подавляющее большинство моделей искусственного интеллекта, способных привести в действие агентов, которые могут автономно осуществлять кибер-взломы, созданы либо американскими, либо китайскими разработчиками, поэтому практика прозрачности в экосистеме Китая внимательно отслеживается за рубежом. В прошлом месяце Австралия заявила, что агент OpenAI взломал правительственный портал здравоохранения, а агентство Reuters сообщило на прошлой неделе, что китайские агенты ИИ продемонстрировали способность обманывать пользователей, обходить ограничения и скрывать неудачи в тестах, что повторяет опасения, ранее высказывавшиеся по поводу передовых систем США.

Чего на самом деле требуют китайские правила

В Китае существует Система управления безопасностью искусственного интеллекта — ее последняя версия определяет риски, включая модели получения системных разрешений или внешних ресурсов без авторизации, обман оценщиков, сокрытие возможностей и обход мер безопасности. Но, по данным SemiAnaанализа, эта структура не налагает обязательных обязанностей, связанных с возможностями модели.

В докладе говорится, что обязательные правила Пекина в основном регулируют приложения и их влияние на пользователей, а не требуют от передовых разработчиков проводить или публиковать оценки рисков на основе возможностей модели. Другими словами, нормативный акцент делается на том, как продукты искусственного интеллекта ведут себя на рынке, а не на предварительную оценку самих моделей.

В отчете добавлено, что ни один крупный китайский разработчик не опубликовал текстовую модель границ с публично раскрытыми тестами опасных возможностей, охватывающими кибер-, биологические риски и риски потери контроля — категории, которые западные институты безопасности все чаще рассматривают как эталон для оценок границ.

Проблема сравнения

Одно заметное ограничение: в отчете не приводятся сопоставимые цифры по разработчикам искусственного интеллекта в США, поэтому цифру в 3,6% нельзя рассматривать как показатель сравнения Китая и Америки. Ведущие американские компании, включая OpenAI, Anthropic и Google DeepMind, опубликовали отчеты о безопасности, системные карты или карты моделей для некоторых крупных запусков передовых моделей, но эти раскрытия также, как правило, охватывают флагманские модели, а не полный объем выпусков, и независимые исследователи уже давно утверждают, что практика раскрытия информации в США также непоследовательна.

Эта асимметрия делает основной вклад отчета более ясным: это не рейтинг, а методология. Требуя соответствия результатов именованной модели, SemiAnalysis предлагает шаблон, который может быть применен к разработчикам любой страны, — и напоминание о том, что большинство заявлений о безопасности в отрасли, откуда бы они ни исходили, не могут быть проверены на основе конкретной версии.

Что будет дальше

Результаты исследования легли в основу живых политических дебатов по обе стороны Тихого океана. В США законодатели взвешивают федеральные стандарты искусственного интеллекта, требования к раскрытию информации и правила безопасности для пограничных моделей, а законодательные органы штатов выдвинули свои собственные законопроекты о прозрачности. В Китае регулирующие органы ужесточили правила для приложений ИИ, включая контроль над контентом генеративного ИИ, но обязанности по оценке, привязанной к возможностям, для передовых разработчиков на практике остаются добровольными.

Для сообщества безопасности ИИ цифры придают конкретную форму жалобам, часто выражаемым абстрактно: самые важные оценки в этой области происходят за закрытыми дверями. Изменится ли уровень раскрытия информации — в Китае или где-либо еще — может зависеть не столько от исследовательских норм, сколько от того, начнут ли правительства делать предварительное тестирование юридическим требованием, а не выбором в пресс-релизе.

Ни в отчете SemiAnalysis, ни в репортаже Reuters не указывается, что девяти компаниям было предложено ответить индивидуально; компании, конечно, могут проводить внутренние программы тестирования, которые просто не публикуются.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →