Dziesięciu największych na świecie twórców sztucznej inteligencji – w tym Amazon, Anthropic, Apple, Google, Meta, Microsoft i OpenAI – zgodziło się zmienić sposób przetwarzania danych osobowych po kontroli przeprowadzonej przez brytyjski organ ds. ochrony prywatności, który w czwartek zwrócił uwagę na nowy problem: autonomicznych agentów sztucznej inteligencji, którzy omijają własne bariery ochronne.
Biuro Komisarza ds. Informacji (ICO) stwierdziło, że dziesięć firm albo wprowadziło zmiany, albo zobowiązało się do ich wprowadzenia po sprawdzeniu przez organ regulacyjny ich zgodności z brytyjskim prawem o ochronie danych. Zobowiązania obejmują jaśniejsze wyjaśnienia dotyczące sposobu wykorzystywania danych osobowych do szkolenia modeli sztucznej inteligencji, lepsze mechanizmy umożliwiające ludziom korzystanie z praw do danych oraz bardziej rygorystyczne oceny zabezpieczeń stosowanych przez programistów.
Program nadzoru przynosi owoce
Szerokość listy jest godna uwagi. Obejmuje amerykańskie hiperskalowarki (Amazon, Google, Microsoft, Meta, Apple), wiodące laboratoria pionierskie (OpenAI, Anthropic), specjalistów od wagi otwartej (Cohere, Stability AI) oraz DeepSeek – chińskiego dewelopera, którego modele są szeroko wykorzystywane przez zachodnie firmy. Cała dziesiątka jest obecnie objęta zobowiązaniami obejmującymi rynek brytyjski.
Zobowiązania wynikają z programu nadzoru uruchomionego przez ICO w 2025 r., obejmującego jedenastu głównych deweloperów. Liczba ta spadła do dziesięciu po tym, jak organ regulacyjny przerwał współpracę z xAI Elona Muska w celu przeprowadzenia osobnego formalnego dochodzenia w sprawie chatbota Grok firmy.
Interwencja następuje w momencie przejściowym dla samego organu regulacyjnego, który niedawno zmienił nazwę na Komisja Informacyjna i zaczął od nowa z nowym zarządem i siedzibą w Manchesterze.
Organ regulacyjny nie ogłasza zwycięstwa. Stwierdził, że będzie na bieżąco monitorować, czy programiści wywiązują się ze swoich obietnic, i przyznał, że obecne praktyki szkoleniowe w zakresie sztucznej inteligencji nadal powodują tarcia z brytyjskim prawem o ochronie danych. Deweloperzy wciąż mają otwarte pytania dotyczące wrażliwych danych osobowych osadzonych w wyszkolonych modelach, sposobu, w jaki ludzie mogą usunąć swoje informacje po przeszkoleniu modelu na nim oraz ryzyka, że dane osobowe – w tym dane, których twórcy nigdy nie zamierzali zatrzymywać – mogą zostać wyodrębnione z modeli po fakcie.
„Sztuczna inteligencja ma ogromny potencjał, aby przynieść korzyści naszemu społeczeństwu, ale zależy to od zaufania i przejrzystości” – powiedział Richard Nevinson, dyrektor ICO ds. regulacji technologii. „Nasza współpraca z niektórymi największymi programistami zapewniła realne zobowiązania, które pomogą ludziom lepiej zrozumieć i kontrolować sposób wykorzystania ich danych, nawet w szybko zmieniającym się i złożonym obszarze”.
Następny cel: agenci, którzy wyślizgują się z barierek
Uwaga organu nadzoru przenosi się teraz na agentów AI – systemy przeglądające strony internetowe, korzystające z narzędzi i wykonujące zadania pod ograniczonym nadzorem człowieka. ICO potwierdziło, że skontaktowało się z OpenAI, Anthropic, Meta i brytyjskim AI Security Institute w związku z raportami z początku tego roku o agentach omijających zabezpieczenia podczas testowania i wdrażania.
„Te ostatnie raporty pokazują zarówno, jak szybko rozwijają się te systemy, jak i ryzyko, jakie stwarzają, jeśli poręcze nie będą odpowiednie do określonego celu” – powiedział Nevinson. „Nasz przekaz jest jasny: fakt, że agenci sztucznej inteligencji działają w sposób niezależny, nie jest usprawiedliwieniem dla słabego przestrzegania zasad”.
Oprócz działań związanych z egzekwowaniem prawa ICO ogłosiła sześciotygodniowe zaproszenie do zgłaszania dowodów dotyczących agentycznej sztucznej inteligencji, obejmujące bezpieczeństwo, przejrzystość, rozliczalność i zgodne z prawem wykorzystanie danych osobowych. Obserwatorzy polityki w zakresie sztucznej inteligencji śledzący najnowsze osiągnięcia w zakresie sztucznej inteligencji z pewnością zechcą zwrócić uwagę na harmonogram: odpowiedzi należy nadsyłać do 20 listopada i będą one stanowić podstawę do przyszłych wytycznych, a także nadchodzącego ustawowego kodeksu postępowania organu regulacyjnego dotyczącego sztucznej inteligencji i zautomatyzowanego podejmowania decyzji.
Organ regulacyjny bada również, w jaki sposób chatboty konsumenckie i towarzysze AI wykorzystują dane osobowe w miarę jak produkty te stają się coraz bardziej spersonalizowane – kategoria ta szybko się rozwinęła wraz z pojawieniem się towarzyszy, botów postaci i asystentów zorientowanych na nastolatków. Prace te sygnalizują, że zakres programu nadzoru wykracza obecnie poza modelowe szkolenia i obejmuje produkty skierowane do konsumentów, których podstawową cechą jest personalizacja.
W przypadku firm zajmujących się sztuczną inteligencją działających w Wielkiej Brytanii praktyczny efekt jest taki, że ICO stworzyło stałe ramy: wyznaczonych programistów, udokumentowane zobowiązania i publiczne monitorowanie. Firmy, które się zgłosiły, będą oceniane pod kątem złożonych obietnic, a organ regulacyjny jasno dał do zrozumienia, że dzisiejsze praktyki szkoleniowe – a nie tylko przyszłe – uważa za ciągły problem związany z przestrzeganiem przepisów.
Co to znaczy
Dla firm zajmujących się sztuczną inteligencją działających w Wielkiej Brytanii wiadomość jest taka, że kontrola ochrony danych przechodzi z danych szkoleniowych na wdrożone zachowania. Łatwiejszym etapem było zapewnienie zobowiązań w zakresie przejrzystości szkoleń; trudniejsze pytania – usunięcie z wytrenowanych modeli, ryzyko ekstrakcji i agenci działający poza ich barierami – pozostają otwarte, a ICO zasygnalizowała, że oczekuje, że przemysł, organy regulacyjne i rząd będą wspólnie nad nimi pracować.
Odcinek ilustruje także stanowisko regulacyjne Wielkiej Brytanii po brexicie: zamiast wprowadzać szeroką ustawę o sztucznej inteligencji, krajowe organy nadzoru stosują istniejące przepisy dotyczące ochrony danych w systemach sztucznej inteligencji i tworzą ustawowy kodeks postępowania w zakresie zautomatyzowanego podejmowania decyzji. Dzięki trwającemu zaproszeniu do składania wniosków w sprawie agentycznej sztucznej inteligencji i formalnym planowaniu kilku największych laboratoriów na świecie, ICO pozycjonuje się jako jeden z najaktywniejszych organów regulacyjnych w zakresie sztucznej inteligencji wśród zachodnich organów ochrony danych.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
