Tien van 's werelds grootste AI-ontwikkelaars – waaronder Amazon, Anthropic, Apple, Google, Meta, Microsoft en OpenAI – zijn overeengekomen om de manier waarop zij met persoonlijke gegevens omgaan te veranderen na onderzoek door de Britse privacytoezichthouder, die donderdag zijn aandacht richtte op een nieuwe zorg: autonome AI-agenten die hun eigen vangrails omzeilen.

Het Information Commissioner's Office (ICO) zei dat de tien bedrijven wijzigingen hebben aangebracht of zich ertoe hebben verbonden dit te doen nadat de toezichthouder hun naleving van de Britse wetgeving inzake gegevensbescherming had onderzocht. De toezeggingen omvatten duidelijkere uitleg over hoe persoonlijke informatie wordt gebruikt om AI-modellen te trainen, betere mechanismen waarmee mensen hun datarechten kunnen uitoefenen, en strengere beoordelingen van de waarborgen van ontwikkelaars.

Een toezichtprogramma werpt vruchten af

De breedte van de lijst is opmerkelijk. Het omvat Amerikaanse hyperscalers (Amazon, Google, Microsoft, Meta, Apple), de toonaangevende grenslaboratoria (OpenAI, Anthropic), open-weight-specialisten (Cohere, Stability AI) en DeepSeek – een Chinese ontwikkelaar wiens modellen op grote schaal worden gebruikt door westerse bedrijven. Alle tien vallen nu onder verplichtingen die betrekking hebben op de Britse markt.

De toezeggingen vloeien voort uit een toezichtprogramma dat de ICO in 2025 lanceerde en betrekking had op elf grote ontwikkelaars. Dat rooster daalde naar tien nadat de toezichthouder zijn betrokkenheid bij xAI van Elon Musk had stopgezet om een ​​afzonderlijk formeel onderzoek naar de Grok-chatbot van het bedrijf voort te zetten.

De interventie komt op een moment van transitie voor de toezichthouder zelf, die onlangs de naam Information Commission heeft gekregen en opnieuw is begonnen met een nieuw bestuur en een hoofdkantoor in Manchester.

De toezichthouder kondigt geen overwinning aan. Het bedrijf zei dat het zal blijven monitoren of de ontwikkelaars hun beloften nakomen, en erkende dat de huidige AI-trainingspraktijken nog steeds wrijving veroorzaken met de Britse wetgeving inzake gegevensbescherming. Ontwikkelaars hebben nog steeds open vragen om te beantwoorden over gevoelige persoonlijke gegevens die zijn ingebed in getrainde modellen, over hoe mensen hun informatie kunnen laten verwijderen nadat een model erop is getraind, en over het risico dat persoonlijke gegevens – inclusief gegevensontwikkelaars die nooit de bedoeling hadden te behouden – achteraf uit modellen kunnen worden gehaald.

“AI heeft een enorm potentieel om onze samenleving ten goede te komen, maar dat hangt af van vertrouwen en transparantie”, zegt Richard Nevinson, directeur technologieregulering van de ICO. "Onze samenwerking met enkele van de grootste ontwikkelaars heeft tot echte toezeggingen geleid die mensen zullen helpen beter te begrijpen en te controleren hoe hun gegevens worden gebruikt, zelfs in een snel evoluerend en complex gebied."

Volgend doelwit: agenten die over hun vangrails glijden

De aandacht van de waakhond verschuift nu naar AI-agents: systemen die door websites bladeren, tools gebruiken en taken uitvoeren met beperkt menselijk toezicht. De ICO bevestigde dat het contact heeft opgenomen met OpenAI, Anthropic, Meta en het Britse AI Security Institute na berichten eerder dit jaar over agenten die tijdens het testen en inzetten de beveiliging omzeilden.

"Deze recente rapporten laten zien hoe snel deze systemen zich ontwikkelen, en welke risico's ze met zich meebrengen als de vangrails niet geschikt zijn voor hun doel," zei Nevinson. "Onze boodschap is duidelijk: het feit dat AI-agenten autonoom handelen, is geen excuus voor slechte naleving."

Naast de aan handhaving gerelateerde betrokkenheid heeft de ICO een zes weken durende oproep geopend voor bewijsmateriaal over agentische AI, die betrekking heeft op veiligheid, transparantie, verantwoording en het rechtmatige gebruik van persoonlijke gegevens. AI-beleidswaarnemers die de [laatste AI-ontwikkelingen] (https://aibuzzwire.news) volgen, zullen de tijdlijn willen noteren: de antwoorden moeten uiterlijk 20 november zijn en zullen toekomstige richtlijnen en de aanstaande wettelijke praktijkcode van de toezichthouder over AI en geautomatiseerde besluitvorming informeren.

De toezichthouder onderzoekt ook hoe consumentenchatbots en AI-metgezellen persoonlijke informatie gebruiken naarmate deze producten steeds persoonlijker worden – een categorie die snel is gegroeid naarmate metgezellen, karakterbots en op tieners gerichte assistenten zijn uitgerold. Dat werk geeft aan dat de reikwijdte van het toezichtprogramma nu verder reikt dan modeltraining en zich richt op op de consument gerichte producten waarbij personalisatie het kernkenmerk is.

Voor AI-bedrijven die in Groot-Brittannië actief zijn, is het praktische effect dat de ICO een permanent raamwerk heeft gecreëerd: benoemde ontwikkelaars, gedocumenteerde toezeggingen en publieke follow-up. Bedrijven die zich hebben aangemeld, zullen worden getoetst aan hun beloften, en de toezichthouder heeft duidelijk gemaakt dat zij de huidige trainingspraktijken – en niet alleen die van de toekomst – als een voortdurend nalevingsprobleem beschouwt.

Wat het betekent

Voor AI-bedrijven die in Groot-Brittannië actief zijn, is de boodschap dat het toezicht op gegevensbescherming zich verschuift van trainingsgegevens naar ingezet gedrag. Het veiligstellen van toezeggingen op het gebied van transparantie op het gebied van opleiding was de gemakkelijkere fase; de moeilijkere vragen – verwijdering uit getrainde modellen, extractierisico’s en agenten die buiten hun vangrails handelen – blijven open, en de ICO heeft aangegeven dat zij verwacht dat de industrie, toezichthouders en de overheid hieraan samen zullen werken.

De aflevering illustreert ook de Britse regelgevingspositie na de Brexit: in plaats van een brede AI-wet passen de waakhonden van het land de bestaande wetgeving inzake gegevensbescherming toe op AI-systemen en stellen ze een wettelijke praktijkcode op voor geautomatiseerde besluitvorming. Nu er een oproep tot bewijsmateriaal over agentische AI ​​loopt en een aantal van 's werelds grootste laboratoria formeel in het vizier zijn, positioneert de ICO zichzelf als een van de meest actieve AI-toezichthouders onder de westerse gegevensbeschermingsautoriteiten.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →