Deset největších světových vývojářů umělé inteligence – včetně Amazon, Anthropic, Apple, Google, Meta, Microsoft a OpenAI – souhlasilo se změnou způsobu nakládání s osobními údaji po kontrole britským regulátorem ochrany osobních údajů, který ve čtvrtek obrátil svou pozornost na nový problém: autonomní agenty umělé inteligence, kteří obcházejí své vlastní zábradlí.

Úřad komisaře pro informace (ICO) uvedl, že těchto deset společností buď provedlo změny, nebo se k tomu zavázalo poté, co regulátor prozkoumal jejich soulad s britským zákonem o ochraně údajů. Závazky zahrnují jasnější vysvětlení toho, jak jsou osobní údaje používány k trénování modelů umělé inteligence, lepší mechanismy pro lidi, aby mohli uplatňovat svá práva na data, a důslednější hodnocení záruk vývojářů.

Program dohledu přináší ovoce

Šíře seznamu je pozoruhodná. Zahrnuje americké hyperscalery (Amazon, Google, Microsoft, Meta, Apple), přední hraniční laboratoře (OpenAI, Anthropic), specialisty na otevřenou váhu (Cohere, Stability AI) a DeepSeek – čínského vývojáře, jehož modely široce využívají západní společnosti. Všemi deseti nyní platí závazky týkající se britského trhu.

Závazky vyplývají z programu dohledu, který ICO zahájila v roce 2025 a který zahrnuje jedenáct hlavních vývojářů. Tento seznam klesl na deset poté, co regulátor pozastavil spolupráci s xAI Elona Muska, aby mohl zahájit samostatné formální vyšetřování chatbota Groka společnosti.

Zásah přichází v okamžiku přechodu pro samotný regulátor, který se nedávno přejmenoval na Informační komisi a začal znovu s novým představenstvem a sídlem v Manchesteru.

Regulátor nevyhlašuje vítězství. Uvedla, že bude i nadále sledovat, zda vývojáři plní své sliby, a uznala, že současné praktiky školení AI stále vytvářejí třenice s britským zákonem o ochraně dat. Vývojáři mají stále otevřené otázky k zodpovězení citlivých osobních údajů vložených do trénovaných modelů, o tom, jak mohou lidé získat své informace, jakmile je model proškolen, a o riziku, že osobní údaje – včetně údajů, které vývojáři nikdy neměli v úmyslu uchovávat – lze následně z modelů extrahovat.

„AI má obrovský potenciál být přínosem pro naši společnost, ale to závisí na důvěře a transparentnosti,“ řekl Richard Nevinson, ředitel technologické regulace ICO. "Naše spolupráce s některými z největších vývojářů zajistila skutečné závazky, které lidem pomohou lépe porozumět a kontrolovat, jak jsou jejich data využívána, a to i v rychle se měnící a složité oblasti."

Další cíl: agenti, kteří sklouznou ze zábradlí

Pozornost hlídacího psa se nyní přesouvá k agentům AI – systémům, které procházejí webové stránky, používají nástroje a dokončují úkoly s omezeným lidským dohledem. ICO potvrdilo, že kontaktovalo OpenAI, Anthropic, Meta a britský AI Security Institute po zprávách z počátku tohoto roku o agentech, kteří obcházeli bezpečnostní opatření během testování a nasazení.

"Tyto nedávné zprávy ukazují, jak rychle se tyto systémy vyvíjejí, a také rizika, která představují, pokud zábradlí nevyhovuje danému účelu," řekl Nevinson. "Naše poselství je jasné: skutečnost, že agenti AI jednají autonomně, není omluvou pro špatné dodržování."

Kromě závazku souvisejícího s prosazováním ICO zahájilo šestitýdenní výzvu k předložení důkazů o agentní umělé inteligenci, která se týká bezpečnosti, transparentnosti, odpovědnosti a zákonného používání osobních údajů. Strážci zásad AI sledující nejnovější vývoj AI si budou chtít povšimnout časové osy: odpovědi mají být zaslány do 20. listopadu a budou informovat o budoucích pokynech a také o připravovaném zákonném kodexu regulátora o AI a automatizovaném rozhodování.

Regulátor také zkoumá, jak spotřebitelští chatboti a společníci AI používají osobní údaje, protože tyto produkty se stále více personalizují – kategorie, která se rychle rozrostla s tím, jak se objevili společníci, roboti na postavy a asistenti orientovaní na dospívající. Tato práce signalizuje, že rozsah dohledového programu nyní přesahuje modelové školení do produktů orientovaných na spotřebitele, kde je personalizace základní funkcí.

Pro společnosti s umělou inteligencí působící ve Spojeném království je praktickým efektem to, že ICO vytvořilo stálý rámec: jmenovaní vývojáři, zdokumentované závazky a veřejné sledování. Společnosti, které se přihlásily, budou posuzovány podle jejich slibů a regulátor dal jasně najevo, že považuje dnešní praktiky školení – nejen ty budoucí – za trvalý problém s dodržováním předpisů.

Co to znamená

Pro společnosti zabývající se umělou inteligencí působící ve Spojeném království je zpráva, že kontrola ochrany dat se přesouvá od školicích dat k nasazenému chování. Snazší fází bylo zajištění závazků týkajících se transparentnosti školení; těžší otázky – vymazání z trénovaných modelů, těžební rizika a agenti jednající mimo jejich mantinely – zůstávají otevřené a ICO signalizovalo, že očekává, že průmysl, regulační orgány a vláda na nich budou spolupracovat.

Tato epizoda také ilustruje regulační postoj Spojeného království po brexitu: spíše než široký zákon o AI, hlídací psi země uplatňují stávající zákon na ochranu údajů na systémy AI a vytvářejí zákonný kodex pro automatizované rozhodování. S výzvou k předložení důkazů o agentní umělé inteligenci, která nyní běží, a formálně v hledáčku několika největších světových laboratoří, se ICO staví jako jeden z nejaktivnějších regulátorů umělé inteligence mezi západními úřady pro ochranu dat.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →