OpenAI a annoncé mercredi qu'elle proposait la rétention de données zéro (ZDR) pour ses modèles frontières et a présenté en avant-première un nouveau système appelé Private Safety Processing, conçu pour détecter les utilisations abusives lors de plusieurs interactions sans donner à l'entreprise accès au contenu des clients. Cette décision trace une ligne nette par rapport aux concurrents : Axios a indiqué que l'annonce intervient alors qu'Anthropic exige désormais que ses clients autorisent l'enregistrement des données, et Firstpost a noté le contraste avec le passage d'Anthropic à une conservation des données de 30 jours.
Le timing n’est pas subtil. Dans son annonce, OpenAI a observé que "certains déploiements récents de modèles frontières ont obligé les clients à autoriser leur fournisseur d'IA à conserver du contenu sensible à des fins de surveillance de la sécurité" - des exigences qui, selon l'entreprise, "entrent en conflit avec leurs obligations de sécurité ou leurs engagements envers les personnes qu'elles servent". L’entreprise positionne la confidentialité comme une arme concurrentielle dans la course aux entreprises clientes réglementées. Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.
Ce que promet la rétention zéro des données
Dans le cadre de l'offre ZDR, les clients API éligibles obtiennent ce qu'OpenAI décrit comme « une promesse claire » : OpenAI ne conserve pas les invites ni les réponses modèles après le traitement d'une demande. Le contenu client n'est pas accessible au personnel d'OpenAI pour examen, et les données client de l'entreprise ne sont pas utilisées pour entraîner les modèles OpenAI, sauf si les clients l'acceptent explicitement.
Pour les banques, les hôpitaux et les cabinets d’avocats qui envisagent l’adoption de l’IA, ces engagements visent le problème le plus courant : le risque que les documents sensibles circulant dans les systèmes d’un fournisseur d’IA puissent être stockés, lus ou absorbés dans de futurs modèles. OpenAI note que les organisations avec lesquelles elle travaille gèrent « les dossiers financiers, les données de santé, les plans d'affaires confidentiels et les recherches exclusives ».
Le problème de sécurité que la rétention était en train de résoudre
L'annonce concède également une véritable tension technique. Comme le décrit OpenAI lui-même, les risques les plus graves pour la sécurité de l’IA ne sont pas toujours visibles lors d’une seule interaction. Les intentions nuisibles ne peuvent devenir évidentes que lorsque plusieurs interactions sont considérées ensemble – lorsque des acteurs malveillants examinent à plusieurs reprises les mesures de protection, se coordonnent entre les comptes, déguisent les menaces en recherches de routine ou lorsqu’un agent d’IA continue d’agir après avoir reçu l’ordre d’arrêter.
Les systèmes de sécurité existants compatibles ZDR évaluent chaque interaction individuellement, ce qui signifie que les risques basés sur des modèles passent à travers. Les fournisseurs qui ont répondu en exigeant la rétention ont résolu un problème en en créant un autre, obligeant les clients à choisir entre la surveillance de la sécurité et leurs propres obligations en matière de confidentialité.
Comment fonctionne le traitement de sécurité privée
La résolution proposée par OpenAI est architecturale. Dans le cadre du traitement de sécurité privé, le contenu du client reste sur l'infrastructure que le client contrôle – ou, dans une option encore en développement, est stocké sur l'infrastructure OpenAI cryptée avec des clés contrôlées par le client. Les systèmes automatisés analysent ensuite les modèles d'interactions associées et renvoient des « signaux de sécurité limités » (des indicateurs d'utilisation abusive potentielle) sans exposer les invites ou réponses sous-jacentes au personnel d'OpenAI.
Les clients étudient les alertes en utilisant les informations disponibles dans leurs propres systèmes. S’ils souhaitent faire appel d’une décision d’application, clarifier une activité légitime ou soutenir une enquête sur un abus vérifié, ils peuvent choisir de partager les informations pertinentes avec OpenAI. En d’autres termes, la confidentialité devient la valeur par défaut et la divulgation est l’option du client.
Le système est actuellement testé auprès des premiers clients. OpenAI annonce son intention de commencer à déployer Private Safety Processing et de publier un livre blanc technique en septembre.
La confiance des entreprises en tant que marché
L'annonce est accompagnée d'un témoignage client qui se lit comme un argument d'achat. "L'adoption de l'IA par l'entreprise dépend uniquement du contrôle des données par le client, sans utilisation directe ou dérivée au-delà du service choisi", a déclaré Sunil Agrawal, responsable de la sécurité de l'information chez Glean, dont la citation OpenAI a été publiée à côté du message. « À mesure que les modèles deviennent plus performants, OpenAI montre que la sécurité peut progresser sans compromettre la confidentialité et le contrôle qui soutiennent la confiance des entreprises. »
OpenAI présente l'aperçu comme une réponse à la demande, affirmant avoir entendu les clients « haut et fort dire qu'ils ont besoin de prévisibilité sur la façon dont leur contenu sera protégé à mesure que les systèmes d'IA deviennent plus performants ». La société ajoute que l'approche est façonnée par les clients « de tous les secteurs, régions et tailles d'entreprise » et qu'elle tiendra les clients informés avec suffisamment de temps pour planifier les déploiements en fonction des changements.
Le débat que cela va déclencher
Les chercheurs en sécurité soutiennent depuis longtemps que la visibilité sur les modèles d'utilisation est essentielle pour détecter les abus avant qu'ils ne causent des dommages, et certains se demanderont si l'analyse automatisée et cryptée peut égaler la qualité de détection de l'examen humain. Les défenseurs de la vie privée, quant à eux, accueilleront favorablement une architecture qui traite l'accès aux données des clients comme une décision du client plutôt que comme une prérogative du fournisseur.
Ce qui est clair, c’est que la gouvernance des données est passée du statut juridique au centre de la concurrence en matière d’IA. Alors que les modèles frontières assument des tâches plus longues et plus autonomes dans les secteurs réglementés, la question de savoir qui peut voir les traces que ces systèmes laissent derrière eux – le client, le fournisseur ou personne – devient un axe principal sur lequel les contrats d’IA d’entreprise sont gagnés et perdus. OpenAI a désormais explicité sa réponse et a mis ses rivaux en position de défendre la leur.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
