Десять крупнейших в мире разработчиков ИИ, в том числе Amazon, Anthropic, Apple, Google, Meta, Microsoft и OpenAI, согласились изменить способы обработки персональных данных после проверки со стороны британского регулятора конфиденциальности, который в четверг обратил свое внимание на новую проблему: автономные агенты ИИ, обходящие собственные барьеры.
Управление комиссара по информации (ICO) заявило, что десять компаний либо внесли изменения, либо обязались сделать это после того, как регулятор проверил их соответствие британскому закону о защите данных. Обязательства включают более четкие объяснения того, как личная информация используется для обучения моделей ИИ, более эффективные механизмы реализации людьми своих прав на данные и более строгую оценку мер безопасности разработчиков.
Программа надзора приносит свои плоды
Следует отметить широту списка. В него входят гиперскейлеры США (Amazon, Google, Microsoft, Meta, Apple), ведущие передовые лаборатории (OpenAI, Anthropic), специалисты по открытому весу (Cohere, Stability AI) и DeepSeek — китайский разработчик, чьи модели широко используются западными компаниями. Все десять сейчас имеют обязательства, охватывающие рынок Великобритании.
Обязательства вытекают из программы надзора, запущенной ICO в 2025 году и охватывающей одиннадцать крупных разработчиков. Этот список сократился до десяти после того, как регулятор приостановил сотрудничество с xAI Илона Маска, чтобы провести отдельное официальное расследование в отношении чат-бота Grok компании.
Вмешательство произошло в переходный момент для самого регулятора, который недавно был переименован в Информационную комиссию и начал все заново с новым советом директоров и штаб-квартирой в Манчестере.
Регулятор не объявляет о победе. В компании заявили, что будут продолжать следить за тем, выполняют ли разработчики свои обещания, и признали, что нынешняя практика обучения искусственному интеллекту по-прежнему создает противоречия с законодательством Великобритании о защите данных. У разработчиков все еще есть открытые вопросы о конфиденциальных личных данных, встроенных в обученные модели, о том, как люди могут удалить свою информацию после обучения на ней модели, и о риске того, что личные данные, включая данные, которые разработчики никогда не собирались сохранять, могут быть извлечены из моделей постфактум.
«ИИ имеет огромный потенциал принести пользу нашему обществу, но это зависит от доверия и прозрачности», — сказал Ричард Невинсон, директор ICO по технологическому регулированию. «Наше сотрудничество с некоторыми из крупнейших разработчиков обеспечило реальные обязательства, которые помогут людям лучше понимать и контролировать использование их данных, даже в быстро меняющейся и сложной области».
Следующая цель: агенты, ускользнувшие от ограждения
Внимание надзорных органов теперь переключается на агентов искусственного интеллекта — системы, которые просматривают веб-сайты, используют инструменты и выполняют задачи при ограниченном контроле со стороны человека. ICO подтвердило, что связалось с OpenAI, Anthropic, Meta и британским Институтом безопасности искусственного интеллекта после сообщений в начале этого года об агентах, обходящих меры безопасности во время тестирования и развертывания.
«Эти недавние отчеты показывают как быстро развиваются эти системы, так и риски, которые они представляют, если ограждения не соответствуют назначению», — сказал Невинсон. «Наш посыл ясен: тот факт, что агенты ИИ действуют автономно, не является оправданием плохого соблюдения требований».
Помимо взаимодействия, связанного с правоприменением, ICO объявило шестинедельный конкурс на получение доказательств по агентному ИИ, охватывающих безопасность, прозрачность, подотчетность и законное использование личных данных. Наблюдатели за политикой в области ИИ, отслеживающие [последние разработки в области ИИ] (https://aibuzzwire.news), захотят обратить внимание на график: ответы должны быть получены до 20 ноября и будут служить основой для будущих рекомендаций, а также для будущего законодательного кодекса практики регулятора в области ИИ и автоматизированного принятия решений.
Регулятор также изучает, как потребительские чат-боты и ИИ-компаньоны используют личную информацию, поскольку эти продукты становятся все более персонализированными — категория, которая быстро растет по мере появления компаньонов, ботов-персонажей и помощников, ориентированных на подростков. Эта работа свидетельствует о том, что сфера действия программы надзора теперь выходит за рамки обучения моделей и охватывает продукты, ориентированные на потребителя, где персонализация является основной особенностью.
Для компаний, занимающихся искусственным интеллектом, работающих в Великобритании, практический эффект заключается в том, что ICO создало постоянную структуру: имена разработчиков, документированные обязательства и публичный контроль. Компании, подписавшие соглашение, будут оцениваться на соответствие своим обещаниям, и регулирующий орган ясно дал понять, что считает сегодняшнюю практику обучения, а не только будущую, постоянной проблемой соблюдения требований.
Что это значит
Для компаний, занимающихся искусственным интеллектом, работающих в Великобритании, смысл заключается в том, что проверка защиты данных переходит от обучающих данных к внедренному поведению. Обеспечение обязательств по прозрачности обучения было более легким этапом; более сложные вопросы — удаление из обученных моделей, риски извлечения и агенты, действующие за пределами своих границ — остаются открытыми, и ICO дало понять, что ожидает, что отрасль, регулирующие органы и правительство будут работать над ними вместе.
Этот эпизод также иллюстрирует нормативную позицию Великобритании после Брексита: вместо широкого закона об искусственном интеллекте надзорные органы страны применяют существующий закон о защите данных к системам искусственного интеллекта и создают нормативный кодекс практики для автоматизированного принятия решений. Учитывая потребность в доказательствах существования агентного ИИ и официальное появление нескольких крупнейших в мире лабораторий, ICO позиционирует себя как один из наиболее активных регуляторов ИИ среди западных органов по защите данных.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
