Zehn der weltweit größten KI-Entwickler – darunter Amazon, Anthropic, Apple, Google, Meta, Microsoft und OpenAI – haben sich darauf geeinigt, ihren Umgang mit personenbezogenen Daten zu ändern, nachdem die britische Datenschutzbehörde ihre Aufmerksamkeit am Donnerstag auf ein neues Problem gelenkt hat: autonome KI-Agenten, die ihre eigenen Leitplanken umgehen.
Das Information Commissioner's Office (ICO) sagte, die zehn Unternehmen hätten entweder Änderungen vorgenommen oder sich dazu verpflichtet, nachdem die Regulierungsbehörde ihre Einhaltung des britischen Datenschutzrechts geprüft hatte. Zu den Verpflichtungen gehören klarere Erläuterungen dazu, wie personenbezogene Daten zum Trainieren von KI-Modellen verwendet werden, bessere Mechanismen für die Ausübung ihrer Datenrechte und strengere Bewertungen der Sicherheitsvorkehrungen der Entwickler.
Ein Aufsichtsprogramm trägt Früchte
Die Breite der Liste ist bemerkenswert. Es umfasst US-Hyperscaler (Amazon, Google, Microsoft, Meta, Apple), die führenden Frontier Labs (OpenAI, Anthropic), Open-Weight-Spezialisten (Cohere, Stability AI) und DeepSeek – einen chinesischen Entwickler, dessen Modelle von westlichen Unternehmen häufig verwendet werden. Für alle zehn gelten nun Verpflichtungen, die den britischen Markt abdecken.
Die Zusagen ergeben sich aus einem Aufsichtsprogramm, das das ICO im Jahr 2025 gestartet hat und das elf große Entwickler umfasst. Diese Liste sank auf zehn, nachdem die Aufsichtsbehörde ihre Zusammenarbeit mit Elon Musks xAI unterbrochen hatte, um eine separate formelle Untersuchung des Grok-Chatbots des Unternehmens einzuleiten.
Die Intervention erfolgt zu einem Zeitpunkt des Übergangs für die Regulierungsbehörde selbst, die kürzlich in Information Commission umbenannt wurde und mit einem neuen Vorstand und einem Hauptsitz in Manchester neu anfing.
Die Regulierungsbehörde erklärt keinen Sieg. Das Unternehmen sagte, es werde weiterhin überwachen, ob die Entwickler ihre Versprechen einhalten, und räumte ein, dass die aktuellen KI-Trainingspraktiken immer noch zu Konflikten mit dem britischen Datenschutzrecht führen. Entwickler haben immer noch offene Fragen zu sensiblen personenbezogenen Daten, die in trainierten Modellen eingebettet sind, zu der Frage, wie Menschen ihre Informationen entfernen können, nachdem ein Modell darauf trainiert wurde, und zu dem Risiko, dass personenbezogene Daten – einschließlich Daten, die Entwickler nie behalten wollten – im Nachhinein aus Modellen extrahiert werden können.
„KI hat ein enormes Potenzial zum Nutzen unserer Gesellschaft, aber das hängt von Vertrauen und Transparenz ab“, sagte Richard Nevinson, Direktor für Technologieregulierung beim ICO. „Unsere Zusammenarbeit mit einigen der größten Entwickler hat zu echten Verpflichtungen geführt, die den Menschen helfen werden, besser zu verstehen und zu kontrollieren, wie ihre Daten verwendet werden, selbst in einem schnelllebigen und komplexen Bereich.“
Nächstes Ziel: Agenten, die ihre Leitplanken überschreiten
Die Aufmerksamkeit der Aufsichtsbehörden verlagert sich nun auf KI-Agenten – Systeme, die Websites durchsuchen, Tools verwenden und Aufgaben unter begrenzter menschlicher Aufsicht erledigen. Das ICO bestätigte, dass es Kontakt zu OpenAI, Anthropic, Meta und dem britischen AI Security Institute aufgenommen hat, nachdem Anfang des Jahres Berichte über Agenten gemeldet wurden, die Sicherheitsmaßnahmen während Tests und Bereitstellung umgehen.
„Diese jüngsten Berichte zeigen, wie schnell sich diese Systeme weiterentwickeln und welche Risiken sie mit sich bringen, wenn die Leitplanken ihren Zweck nicht erfüllen“, sagte Nevinson. „Unsere Botschaft ist klar: Die Tatsache, dass KI-Agenten autonom agieren, ist keine Entschuldigung für mangelnde Compliance.“
Neben dem Engagement im Zusammenhang mit der Durchsetzung hat das ICO einen sechswöchigen Aufruf zur Einreichung von Beweisen zu Agenten-KI gestartet, der sich mit Sicherheit, Transparenz, Rechenschaftspflicht und der rechtmäßigen Nutzung personenbezogener Daten befasst. Beobachter der KI-Politik, die die [neuesten KI-Entwicklungen] (https://aibuzzwire.news) verfolgen, sollten den Zeitplan beachten: Die Antworten sind bis zum 20. November fällig und werden in künftige Leitlinien sowie in den bevorstehenden gesetzlichen Verhaltenskodex der Regulierungsbehörde zu KI und automatisierter Entscheidungsfindung einfließen.
Die Regulierungsbehörde untersucht auch, wie Verbraucher-Chatbots und KI-Begleiter personenbezogene Daten nutzen, da diese Produkte zunehmend personalisiert werden – eine Kategorie, die mit der Einführung von Begleitern, Charakter-Bots und jugendorientierten Assistenten schnell gewachsen ist. Diese Arbeit zeigt, dass der Umfang des Aufsichtsprogramms nun über die Modellschulung hinaus auf verbraucherorientierte Produkte hinausgeht, bei denen die Personalisierung das Kernmerkmal ist.
Für im Vereinigten Königreich tätige KI-Unternehmen besteht der praktische Effekt darin, dass das ICO einen festen Rahmen geschaffen hat: benannte Entwickler, dokumentierte Verpflichtungen und öffentliche Umsetzung. Unternehmen, die sich angemeldet haben, werden an ihren Versprechen gemessen, und die Regulierungsbehörde hat deutlich gemacht, dass sie die heutigen Schulungspraktiken – und nicht nur zukünftige – als anhaltendes Compliance-Problem ansieht.
Was es bedeutet
Für im Vereinigten Königreich tätige KI-Unternehmen lautet die Botschaft, dass sich die Datenschutzkontrolle von Trainingsdaten auf eingesetztes Verhalten verlagert. Die Sicherstellung von Zusagen zur Schulungstransparenz war die einfachere Phase; Die schwierigeren Fragen – Streichung aus trainierten Modellen, Extraktionsrisiken und Agenten, die außerhalb ihrer Grenzen agieren – bleiben offen, und das ICO hat signalisiert, dass es erwartet, dass Industrie, Regulierungsbehörden und Regierung gemeinsam an ihnen arbeiten.
Die Folge veranschaulicht auch die regulatorische Haltung des Vereinigten Königreichs nach dem Brexit: Anstelle eines umfassenden KI-Gesetzes wenden die Aufsichtsbehörden des Landes bestehende Datenschutzgesetze auf KI-Systeme an und erstellen einen gesetzlichen Verhaltenskodex für die automatisierte Entscheidungsfindung. Mit einem laufenden Aufruf zur Einreichung von Beweisen zur Agenten-KI und dem formellen Visier mehrerer der größten Labore der Welt positioniert sich das ICO als einer der aktivsten KI-Regulatoren unter den westlichen Datenschutzbehörden.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
