OpenAI gab am Mittwoch bekannt, dass es Zero Data Retention (ZDR) für seine Frontier-Modelle anbietet, und stellte eine Vorschau auf ein neues System namens Private Safety Processing vor, das darauf ausgelegt ist, Missbrauch über mehrere Interaktionen hinweg zu erkennen, ohne dem Unternehmen Zugriff auf Kundeninhalte zu gewähren. Der Schritt stellt eine scharfe Grenze gegenüber der Konkurrenz dar: Axios berichtete, dass die Ankündigung erfolgt, da Anthropic nun von seinen Kunden verlangt, Datenprotokolle zuzulassen, und Firstpost wies auf den Kontrast zur Umstellung von Anthropic auf eine 30-tägige Datenaufbewahrung hin.

Das Timing ist nicht subtil. In seiner Ankündigung stellte OpenAI fest, dass „einige aktuelle Frontier-Modell-Implementierungen von Kunden verlangt haben, ihrem KI-Anbieter zu gestatten, sensible Inhalte zur Sicherheitsüberwachung aufzubewahren“ – Anforderungen, die nach Angaben des Unternehmens „im Widerspruch zu ihren Sicherheitsverpflichtungen oder Verpflichtungen gegenüber den Menschen stehen, denen sie dienen“. Das Unternehmen positioniert den Datenschutz als Wettbewerbswaffe im Wettbewerb um regulierte Unternehmenskunden. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.

Was Zero Data Retention verspricht

Im Rahmen des ZDR-Angebots erhalten berechtigte API-Kunden das, was OpenAI als „klares Versprechen“ beschreibt: OpenAI speichert keine Eingabeaufforderungen oder Musterantworten, nachdem eine Anfrage verarbeitet wurde. Kundeninhalte stehen den OpenAI-Mitarbeitern nicht zur Überprüfung zur Verfügung und Unternehmenskundendaten werden nicht zum Trainieren der OpenAI-Modelle verwendet, es sei denn, Kunden stimmen ausdrücklich zu.

Für Banken, Krankenhäuser und Anwaltskanzleien, die die Einführung von KI abwägen, adressieren diese Verpflichtungen den häufigsten Dealbreaker: das Risiko, dass sensibles Material, das durch die Systeme eines KI-Anbieters fließt, gespeichert, gelesen oder in zukünftige Modelle aufgenommen werden könnte. OpenAI weist darauf hin, dass die Organisationen, mit denen es zusammenarbeitet, „Finanzunterlagen, Gesundheitsdaten, vertrauliche Geschäftspläne und proprietäre Forschung“ verwalten.

Die Aufbewahrung des Sicherheitsproblems löste sich

Die Ankündigung räumt auch eine echte technische Spannung ein. Wie OpenAI selbst beschreibt, sind die schwerwiegendsten KI-Sicherheitsrisiken nicht immer in einer einzigen Interaktion sichtbar. Schädliche Absichten können nur deutlich werden, wenn mehrere Interaktionen zusammen betrachtet werden – wenn böswillige Akteure wiederholt Sicherheitsvorkehrungen prüfen, sich über Konten hinweg koordinieren, Bedrohungen als Routineforschung tarnen oder wenn ein KI-Agent weiter handelt, nachdem er aufgefordert wurde, damit aufzuhören.

Bestehende ZDR-kompatible Sicherheitssysteme werten jede Interaktion einzeln aus, wodurch musterbasierte Risiken durchschlüpfen. Anbieter, die mit der Anforderung einer Datenspeicherung reagierten, lösten ein Problem, indem sie ein anderes schufen und Kunden dazu zwangen, zwischen Sicherheitsüberwachung und ihren eigenen Datenschutzverpflichtungen zu wählen.

So funktioniert die private Sicherheitsverarbeitung

Die von OpenAI vorgeschlagene Lösung ist architektonischer Natur. Im Rahmen der privaten Sicherheitsverarbeitung verbleiben Kundeninhalte auf der vom Kunden kontrollierten Infrastruktur – oder werden, in einer noch in der Entwicklung befindlichen Option, auf der OpenAI-Infrastruktur gespeichert, die mit vom Kunden kontrollierten Schlüsseln verschlüsselt ist. Automatisierte Systeme analysieren dann Muster über verwandte Interaktionen hinweg und geben „begrenzte Sicherheitssignale“ – Hinweise auf potenziellen Missbrauch – zurück, ohne die zugrunde liegenden Aufforderungen oder Reaktionen dem OpenAI-Personal preiszugeben.

Kunden untersuchen Warnungen anhand der in ihren eigenen Systemen verfügbaren Informationen. Wenn sie gegen eine Durchsetzungsentscheidung Berufung einlegen, legitime Aktivitäten klären oder eine Untersuchung eines nachgewiesenen Missbrauchs unterstützen möchten, können sie relevante Informationen mit OpenAI teilen. Mit anderen Worten: Der Datenschutz wird zum Standard und die Offenlegung zur Option des Kunden.

Das System wird derzeit mit ersten Kunden getestet. OpenAI plant, mit der Einführung von Private Safety Processing zu beginnen und im September ein technisches Whitepaper zu veröffentlichen.

Unternehmensvertrauen als Markt

Der Ankündigung lag ein Kundenbericht bei, der sich wie ein Beschaffungsargument liest. „Die Einführung von KI in Unternehmen hängt ausschließlich von der Kontrolle der Daten durch den Kunden ab, ohne direkte oder abgeleitete Nutzung über den gewählten Dienst hinaus“, sagte Sunil Agrawal, Chief Information Security Officer bei Glean, dessen Zitat OpenAI neben dem Beitrag veröffentlichte. „Da Modelle immer leistungsfähiger werden, zeigt OpenAI, dass die Sicherheit verbessert werden kann, ohne den Datenschutz und die Kontrolle zu gefährden, die das Vertrauen des Unternehmens stärken.“

OpenAI formuliert die Vorschau als Reaktion auf die Nachfrage und sagt, es habe von Kunden „laut und deutlich gehört, dass sie Vorhersehbarkeit darüber benötigen, wie ihre Inhalte geschützt werden, wenn KI-Systeme leistungsfähiger werden.“ Das Unternehmen fügt hinzu, dass der Ansatz von Kunden „über Branchen, Regionen und Unternehmensgrößen hinweg“ gestaltet wird und dass die Kunden mit genügend Vorlaufzeit auf dem Laufenden gehalten werden, um Implementierungen rund um die Änderungen zu planen.

Die Debatte, die das auslösen wird

Sicherheitsforscher argumentieren seit langem, dass die Einsicht in Nutzungsmuster von entscheidender Bedeutung ist, um Missbrauch zu erkennen, bevor er Schaden anrichtet, und einige werden sich fragen, ob automatisierte, verschlüsselte Analysen mit der Erkennungsqualität menschlicher Überprüfung mithalten können. Befürworter des Datenschutzes werden unterdessen eine Architektur begrüßen, die den Zugriff auf Kundendaten als Kundenentscheidung und nicht als Vorrecht des Anbieters behandelt.

Klar ist, dass Data Governance vom juristischen Kleingedruckten in den Mittelpunkt des KI-Wettbewerbs gerückt ist. Da Frontier-Modelle in regulierten Branchen längere, autonomere Aufgaben übernehmen, wird die Frage, wer die Spuren sehen kann, die diese Systeme hinterlassen – der Kunde, der Anbieter oder niemand –, zu einer primären Achse, auf der KI-Geschäfte von Unternehmen gewonnen und verloren werden. OpenAI hat nun seine Antwort deutlich gemacht und seine Konkurrenten in die Lage versetzt, ihre Antwort zu verteidigen.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →