Десять найбільших у світі розробників штучного інтелекту, включаючи Amazon, Anthropic, Apple, Google, Meta, Microsoft і OpenAI, погодилися змінити спосіб обробки особистих даних після перевірки британського регулятора конфіденційності, який у четвер звернув увагу на нову проблему: автономні агенти штучного інтелекту, які обходять власні огорожі.
Офіс уповноваженого з інформації (ICO) заявив, що десять компаній або внесли зміни, або зобов’язалися це зробити після того, як регулятор перевірив їхню відповідність законодавству Великобританії про захист даних. Зобов’язання включають більш чіткі пояснення того, як особиста інформація використовується для навчання моделей штучного інтелекту, кращі механізми для використання людьми своїх прав на дані та більш сувору оцінку заходів безпеки розробників.
Програма нагляду приносить плоди
Широта списку помітна. Він охоплює американські гіперскейлери (Amazon, Google, Microsoft, Meta, Apple), провідні передові лабораторії (OpenAI, Anthropic), фахівців з відкритою вагою (Cohere, Stability AI) і DeepSeek — китайського розробника, чиї моделі широко використовуються західними компаніями. Зараз усі десять мають зобов’язання, що охоплюють британський ринок.
Зобов’язання випливають із програми нагляду, запущеної ICO у 2025 році, яка охоплює одинадцять основних розробників. Цей реєстр скоротився до десяти після того, як регулятор призупинив співпрацю з xAI Ілона Маска, щоб провести окреме офіційне розслідування щодо чат-бота компанії Grok.
Втручання відбувається в момент переходу для самого регулятора, який нещодавно перейменувався в Інформаційну комісію та розпочав роботу заново з новою радою та штаб-квартирою в Манчестері.
Регулятор не заявляє про перемогу. У компанії заявили, що продовжуватимуть стежити за тим, чи виконують розробники свої обіцянки, і визнали, що поточна практика навчання штучному інтелекту все ще створює суперечності з законодавством Великобританії про захист даних. Розробники все ще мають відкриті запитання щодо конфіденційних особистих даних, вбудованих у навчені моделі, про те, як люди можуть видалити свою інформацію після того, як модель на ній навчена, і про ризик того, що особисті дані, зокрема дані, які розробники ніколи не збиралися зберігати, можуть бути витягнуті з моделей постфактум.
«ШІ має величезний потенціал, щоб принести користь нашому суспільству, але це залежить від довіри та прозорості», — сказав Річард Невінсон, директор ICO з регулювання технологій. «Наша взаємодія з деякими з найбільших розробників забезпечила реальні зобов’язання, які допоможуть людям краще розуміти та контролювати, як використовуються їхні дані, навіть у швидкозмінних і складних сферах».
Наступна мета: агенти, які зісковзують із поруччями
Зараз увага сторожового органу зосереджена на агентах ШІ — системах, які переглядають веб-сайти, використовують інструменти та виконують завдання з обмеженим наглядом людини. ICO підтвердила, що зв’язалася з OpenAI, Anthropic, Meta та британським Інститутом безпеки штучного інтелекту після повідомлень на початку цього року про те, що агенти обходять заходи безпеки під час тестування та розгортання.
«Ці останні звіти показують як швидкість розвитку цих систем, так і ризики, які вони становлять, якщо огорожі не відповідають призначенню», — сказав Невінсон. «Наше повідомлення чітке: той факт, що агенти ШІ діють автономно, не є виправданням для поганої відповідності».
Поряд із залученням правозастосування, ICO оголосило шеститижневий конкурс на отримання доказів щодо агентського штучного інтелекту, що охоплює безпеку, прозорість, підзвітність і законне використання персональних даних. Спостерігачі за політикою щодо штучного інтелекту, які відстежують [останні розробки штучного інтелекту] (https://aibuzzwire.news), мають звернути увагу на часовий графік: відповіді мають бути надіслані до 20 листопада та інформуватимуть про майбутні вказівки, а також майбутній законодавчий кодекс практики щодо штучного інтелекту та автоматизованого прийняття рішень.
Регулятор також перевіряє, як споживацькі чат-боти та компаньйони зі штучним інтелектом використовують особисту інформацію, оскільки ці продукти стають дедалі персоналізованішими — категорія, яка швидко розширилася, оскільки з’явилися компаньйони, боти-персонажі та помічники, орієнтовані на підлітків. Ця робота сигналізує про те, що програма нагляду тепер виходить за рамки навчання моделі на продукти, орієнтовані на споживача, де персоналізація є основною функцією.
Для компаній зі штучним інтелектом, які працюють у Великій Британії, практичний ефект полягає в тому, що ICO створило постійну структуру: іменовані розробники, задокументовані зобов’язання та публічне виконання. Компанії, які підписалися, оцінюватимуться на відповідність їхнім обіцянкам, і регулятор чітко дав зрозуміти, що вважає сучасну практику навчання, а не лише майбутню, постійною проблемою відповідності.
Що це означає
Для компаній зі штучним інтелектом, які працюють у Великій Британії, повідомлення полягає в тому, що перевірка захисту даних переходить від навчальних даних до розгорнутої поведінки. Забезпечення зобов’язань щодо прозорості навчання було легшим етапом; складніші питання — видалення з навчених моделей, ризики видобутку та агенти, що діють поза межами своїх огорож — залишаються відкритими, і ICO дало зрозуміти, що очікує, що галузь, регулятори та уряд працюватимуть над ними разом.
Цей епізод також ілюструє регулятивну позицію Великої Британії після Brexit: замість широкого закону про штучний інтелект, спостерігачі країни застосовують чинне законодавство про захист даних до систем штучного інтелекту та розробляють нормативний кодекс практики для автоматизованого прийняття рішень. З огляду на те, що зараз працює запит на отримання доказів агентурного штучного інтелекту, і кілька найбільших у світі лабораторій офіційно знаходяться під прицілом, ICO позиціонує себе як один із найактивніших регуляторів штучного інтелекту серед західних органів із захисту даних.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
