OpenAI heeft woensdag aangekondigd dat het Zero Data Retention (ZDR) aanbiedt voor zijn frontier-modellen en heeft een voorproefje gegeven van een nieuw systeem genaamd Private Safety Processing, ontworpen om misbruik bij meerdere interacties te detecteren zonder het bedrijf toegang te geven tot klantinhoud. Deze stap trekt een scherpe grens ten opzichte van de concurrentie: Axios meldde dat de aankondiging komt omdat Anthropic nu van klanten eist dat ze datalogs toestaan, en Firstpost merkte het contrast op met de overstap van Anthropic naar gegevensretentie van 30 dagen.

De timing is niet subtiel. In de aankondiging merkte OpenAI op dat “bij sommige recente implementaties van frontier-modellen klanten moesten toestaan ​​dat hun AI-provider gevoelige inhoud bewaart voor veiligheidsmonitoring” – vereisten die volgens het bedrijf “in strijd zijn met hun veiligheidsverplichtingen of toezeggingen jegens de mensen die zij bedienen.” Het bedrijf positioneert privacy als een concurrentiewapen in de strijd om gereguleerde zakelijke klanten. Voor meer context over dit verhaal, zie ons meer AI-verhalen.

Wat Zero Data Retention belooft

Onder het ZDR-aanbod krijgen in aanmerking komende API-klanten wat OpenAI omschrijft als "een duidelijke belofte": OpenAI bewaart geen aanwijzingen of modelantwoorden nadat een verzoek is verwerkt. Klantinhoud is niet ter beoordeling beschikbaar voor OpenAI-personeel en zakelijke klantgegevens worden niet gebruikt om de modellen van OpenAI te trainen, tenzij klanten zich daar expliciet voor aanmelden.

Voor banken, ziekenhuizen en advocatenkantoren die de adoptie van AI overwegen, pakken deze toezeggingen de meest voorkomende dealbreaker aan: het risico dat gevoelig materiaal dat door de systemen van een AI-aanbieder stroomt, kan worden opgeslagen, gelezen of opgenomen in toekomstige modellen. OpenAI merkt op dat de organisaties waarmee het samenwerkt omgaan met "financiële dossiers, gezondheidsgegevens, vertrouwelijke bedrijfsplannen en eigen onderzoek."

Het vasthouden van het veiligheidsprobleem was opgelost

De aankondiging geeft ook toe dat er sprake is van een echte technische spanning. Zoals OpenAI het zelf omschrijft, zijn de ernstigste AI-veiligheidsrisico’s niet altijd zichtbaar in één enkele interactie. Schadelijke bedoelingen kunnen alleen duidelijk worden als meerdere interacties samen worden bekeken – wanneer kwaadwillenden herhaaldelijk beveiligingsmaatregelen onderzoeken, tussen accounts coördineren, bedreigingen vermommen als routineonderzoek, of wanneer een AI-agent blijft optreden nadat hem is verteld te stoppen.

Bestaande ZDR-compatibele veiligheidssystemen evalueren elke interactie afzonderlijk, waardoor op patronen gebaseerde risico's doorsijpelen. Aanbieders die reageerden door retentie te eisen, losten het ene probleem op door een ander probleem te creëren, waardoor klanten moesten kiezen tussen veiligheidsmonitoring en hun eigen privacyverplichtingen.

Hoe privéveiligheidsverwerking werkt

De voorgestelde oplossing van OpenAI is architectonisch. Onder Private Safety Processing blijft de klantinhoud op de infrastructuur die de klant beheert – of, in een optie die nog in ontwikkeling is, wordt deze opgeslagen op de OpenAI-infrastructuur, versleuteld met sleutels die door de klant worden beheerd. Geautomatiseerde systemen analyseren vervolgens patronen in gerelateerde interacties en retourneren ‘beperkte veiligheidssignalen’ – vlaggen over mogelijk misbruik – zonder de onderliggende aanwijzingen of reacties bloot te leggen aan OpenAI-personeel.

Klanten onderzoeken waarschuwingen met behulp van informatie die beschikbaar is in hun eigen systemen. Als ze in beroep willen gaan tegen een handhavingsbesluit, legitieme activiteiten willen ophelderen of een onderzoek naar geverifieerd misbruik willen ondersteunen, kunnen ze ervoor kiezen relevante informatie met OpenAI te delen. Met andere woorden: privacy wordt de standaard en openbaarmaking de optie van de klant.

Het systeem wordt momenteel getest met vroege klanten. OpenAI zegt van plan te zijn Private Safety Processing uit te rollen en in september een technisch witboek te publiceren.

Enterprise-vertrouwen als markt

De aankondiging kwam met een getuigenis van een klant die leest als een aanbestedingsargument. "De adoptie van AI door bedrijven hangt uitsluitend af van de controle van de gegevens door de klant, zonder direct of afgeleid gebruik buiten de gekozen dienst", zegt Sunil Agrawal, Chief Information Security Officer bij Glean, wiens citaat OpenAI naast de post publiceerde. “Naarmate modellen capabeler worden, laat OpenAI zien dat de veiligheid vooruit kan gaan zonder de privacy en controle in gevaar te brengen die het vertrouwen van bedrijven in stand houden.”

OpenAI presenteert de preview als een reactie op de vraag en zegt dat het van klanten "luid en duidelijk heeft gehoord dat ze voorspelbaarheid nodig hebben over hoe hun inhoud zal worden beschermd naarmate AI-systemen capabeler worden." Het bedrijf voegt eraan toe dat de aanpak wordt gevormd door klanten "in verschillende sectoren, regio's en bedrijfsgroottes", en dat het klanten op de hoogte zal houden met voldoende doorlooptijd om implementaties rond de veranderingen te plannen.

Het debat dat dit zal veroorzaken

Veiligheidsonderzoekers hebben lang betoogd dat inzicht in gebruikspatronen essentieel is om misbruik op te sporen voordat het schade veroorzaakt, en sommigen zullen zich afvragen of geautomatiseerde, gecodeerde analyse de detectiekwaliteit van menselijke beoordeling kan evenaren. Voorstanders van privacy zullen intussen een architectuur verwelkomen die de toegang tot klantgegevens behandelt als een klantbeslissing en niet als een voorrecht van de aanbieder.

Wat duidelijk is, is dat data governance is verschoven van de juridische kleine lettertjes naar het centrum van de AI-concurrentie. Naarmate grensmodellen langere, meer autonome taken op zich nemen in gereguleerde sectoren, wordt de vraag wie de sporen mag zien die deze systemen achterlaten – de klant, de aanbieder of niemand – een primaire as waarop zakelijke AI-deals worden gewonnen en verloren. OpenAI heeft zijn antwoord nu expliciet gemaakt en zijn rivalen in de positie gebracht om die van hen te verdedigen.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →