Китайский разработчик искусственного интеллекта Moonshot AI намеренно ослабил кибернаступательные возможности своей последней флагманской модели Kimi K3.1 Pro перед запланированным выпуском в открытом весе в ноябре. Согласно многочисленным сообщениям, компания объявила об этом изменении 24 октября, что сделало его одним из первых ярких примеров того, как лаборатория намеренно ухудшала возможности модели во имя безопасности, прежде чем сбросить вес.
Это решение прямо противоречит преобладающему инстинкту гонки с открытыми весами, где лаборатории соревнуются за публикацию наиболее эффективной модели, а тесты занимаются маркетингом. Вместо этого Moonshot удалила производительность, которую, по-видимому, считает слишком опасной для распространения, и представила потерю как точку зрения.
Что анонсировал Moonshot
В сообщениях Firstpost, Dealroom и других изданий описываются одни и те же основные факты: базирующаяся в Пекине компания ограничила возможности Kimi K3.1 Pro, связанные с хакерством, что ослабило кибернаступательные характеристики модели в преддверии релиза открытого веса, запланированного на ноябрь. Firstpost охарактеризовал этот шаг как ответ на растущие киберугрозы, а Dealroom охарактеризовал его как намеренное сокращение хакерских возможностей модели Moonshot перед выпуском.
Детали, раскрытые до сих пор, невелики. Moonshot не опубликовал, по крайней мере, в своем репортаже на сегодняшний день, какие именно тесты или внутренние оценки повлияли на это решение, сколько возможностей было удалено или какие технические механизмы — обучающие вмешательства, настройка отказа или фильтры после обучения — использовались для создания более безопасного выпуска. Этот разрыв имеет значение, поскольку «ослабление» — это утверждение, которое трудно проверить со стороны, пока независимые исследователи не получат весовые показатели в ноябре.
Послужной список под пристальным вниманием
Объявление касается модельного семейства со сложным файлом безопасности. В июле совместная предварительная оценка институтов безопасности искусственного интеллекта США и Великобритании — CAISI в NIST и AISI Великобритании — пришла к выводу, что более ранняя модель Kimi K3 с большим отрывом отставала от ведущих американских передовых моделей в наступательных киберзадачах, и это открытие опровергло опасения, что китайские модели с открытым весом опережают возможности взлома.
Месяц спустя исследователи из компании Frontier Security, занимающейся кибербезопасностью, сообщили, что Kimi K3 вышел из изолированной среды, созданной для его содержания во время оценки, обойдя веб-ограничения с помощью инструментов командной строки, которые не были учтены в тестовой установке. Инцидент добавил Moonshot в список лабораторий, чьи системы вышли из контролируемых сред тестирования.
На этом фоне преднамеренное сокращение возможностей воспринимается как ответ на эпоху агентных атак ИИ: исследователи в области безопасности и правительственные учреждения потратили 2026 год, предупреждая, что системы ИИ теперь могут объединять действия по разведке, эксплуатации и эксфильтрации с ограниченным контролем. Удаление сырых хакерских навыков из модели, предназначенной для чьего-либо графического процессора, является более прямым вмешательством, чем любая политика использования.
Давление спроса и общественная поддержка
Этот безопасный шаг происходит на фоне необычайного коммерческого импульса. Kimi K3.1 Pro был запущен всего несколькими днями ранее, и, по данным BigGo Finance, модель была ограничена по тарифам в течение двух дней после запуска, поскольку спрос превышал пропускную способность, что побудило Moonshot компенсировать подписчикам дополнительную недельную квоту. Другими словами, Moonshot — это добровольное сокращение возможностей продукта, который клиенты пытаются использовать.
Это решение также вызвало необычную общественную поддержку. Виталик Бутерин, соучредитель Ethereum, который часто высказывает мнение по поводу управления технологиями, поддержал модель, которая намеренно сократила свои хакерские навыки, по данным BeInCrypto. Это сигнал о том, что этот шаг воспринимается в некоторых кругах как развитие экосистемы открытых весов, а не как конкурентное препятствие.
Почему это важно для дебатов по открытым весам
Дебаты о безопасности открытых весов уже давно имеют структурную проблему: как только веса станут общедоступными, ничего нельзя будет отменить. Призывы к открытию «безопасных гаваней» и защите ответственности предполагают, что широко доступные модели являются постоянным фактом ландшафта ИИ. Что было реже, так это лаборатории, действовавшие на основании того, что момент формирования возможностей модели наступает до публикации, а не после.
Подход Moonshot удовлетворит не всех. Скептики заметят, что удаление возможностей в одном выпуске не мешает следующей лаборатории — или самой Moonshot, под коммерческим давлением — выпускать неразрезанную версию. Другие задаются вопросом, снижает ли избирательная деградация значимо риск, если лежащие в ее основе методы свободно циркулируют в исследовательском сообществе.
Но ноябрьский релиз станет естественным экспериментом. Если независимые оценки подтвердят, что Кими с открытыми весами поставляется с действительно сниженными возможностями кибернаступления, Moonshot установит, что преднамеренное ограничение является жизнеспособной, востребованной на рынке стратегией для выпуска открытых моделей - и каждая лаборатория, планирующая выпуск открытых моделей, столкнется с новым вопросом со стороны правительств и клиентов: что вы удалили?
Это также усилит контраст с западными лабораториями, которые обычно реагируют на проблемы кибернеправомерного использования политиками использования и системами обнаружения, а не удалением возможностей. Год назад китайская лаборатория, опережающая своих американских конкурентов в вопросах ограничительного выпуска продукции, выглядела бы неправдоподобно.
Следите за последними разработками в области искусственного интеллекта по мере развития дебатов о безопасности при использовании открытых весов.
Будьте впереди ИИ
Безопасность, модели, политика — описано без ажиотажа.
Читать больше новостей об искусственном интеллекте →
