OpenAI anunció el miércoles que ofrece retención de datos cero (ZDR) para sus modelos de frontera y presentó una vista previa de un nuevo sistema llamado Procesamiento de seguridad privada, diseñado para detectar el uso indebido en múltiples interacciones sin darle a la empresa acceso al contenido del cliente. La medida traza una línea clara contra los competidores: Axios informó que el anuncio se produce cuando Anthropic ahora requiere que los clientes permitan registros de datos, y Firstpost notó el contraste con el cambio de Anthropic a la retención de datos por 30 días.
El momento no es sutil. En su anuncio, OpenAI observó que "algunas implementaciones recientes de modelos de frontera han requerido que los clientes permitan que su proveedor de IA conserve contenido confidencial para el monitoreo de seguridad", requisitos que, según la compañía, "entran en conflicto con sus obligaciones de seguridad o compromisos con las personas a las que sirven". La compañía está posicionando la privacidad como un arma competitiva en la competencia por clientes empresariales regulados. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
Lo que promete Zero Data Retention
Según la oferta ZDR, los clientes de API elegibles obtienen lo que OpenAI describe como "una promesa clara": OpenAI no retiene indicaciones ni respuestas modelo después de que se procesa una solicitud. El contenido del cliente no está disponible para que el personal de OpenAI lo revise, y los datos de los clientes empresariales no se utilizan para entrenar los modelos de OpenAI a menos que los clientes opten explícitamente por hacerlo.
Para los bancos, hospitales y firmas de abogados que evalúan la adopción de la IA, esos compromisos abordan el factor decisivo más común: el riesgo de que el material sensible que fluye a través de los sistemas de un proveedor de IA pueda almacenarse, leerse o absorberse en modelos futuros. OpenAI señala que las organizaciones con las que trabaja manejan "registros financieros, datos de salud, planes de negocios confidenciales e investigaciones patentadas".
Se estaba resolviendo el problema de seguridad de la retención.
El anuncio reconoce también una auténtica tensión técnica. Como lo describe el propio OpenAI, los riesgos de seguridad de la IA más graves no siempre son visibles en una sola interacción. Las intenciones dañinas solo pueden quedar claras cuando se ven múltiples interacciones juntas: cuando los malos actores investigan repetidamente las salvaguardas, coordinan entre cuentas, disfrazan las amenazas como una investigación de rutina o cuando un agente de IA sigue actuando después de que se le ha dicho que se detenga.
Los sistemas de seguridad existentes compatibles con ZDR evalúan cada interacción individualmente, lo que significa que los riesgos basados en patrones pasan desapercibidos. Los proveedores que respondieron exigiendo retención resolvieron un problema creando otro, obligando a los clientes a elegir entre el monitoreo de seguridad y sus propias obligaciones de privacidad.
Cómo funciona el procesamiento de seguridad privada
La resolución propuesta por OpenAI es arquitectónica. Según el procesamiento de seguridad privada, el contenido del cliente permanece en la infraestructura que el cliente controla o, en una opción aún en desarrollo, se almacena en la infraestructura OpenAI cifrada con claves controladas por el cliente. Luego, los sistemas automatizados analizan patrones en las interacciones relacionadas y devuelven "señales de seguridad limitadas" (indicadores sobre un posible uso indebido) sin exponer las indicaciones o respuestas subyacentes al personal de OpenAI.
Los clientes investigan las alertas utilizando la información disponible en sus propios sistemas. Si quieren apelar una decisión de cumplimiento, aclarar una actividad legítima o apoyar una investigación sobre un abuso verificado, pueden optar por compartir información relevante con OpenAI. En otras palabras, la privacidad se convierte en la opción predeterminada y la divulgación en la opción del cliente.
Actualmente, el sistema se está probando con los primeros clientes. OpenAI dice que planea comenzar a implementar el procesamiento de seguridad privada y publicar un documento técnico en septiembre.
La confianza empresarial como mercado
El anuncio llegó con el testimonio de un cliente que parece un argumento de adquisición. "La adopción de la IA empresarial depende únicamente del control de los datos por parte del cliente, sin ningún uso directo o derivado más allá del servicio elegido", dijo Sunil Agrawal, director de seguridad de la información de Glean, cuya cita OpenAI publicó junto con la publicación. "A medida que los modelos se vuelven más capaces, OpenAI muestra que la seguridad puede avanzar sin comprometer la privacidad y el control que sustentan la confianza empresarial".
OpenAI enmarca la vista previa como una respuesta a la demanda, diciendo que escuchó de los clientes "alto y claro que necesitan previsibilidad sobre cómo se protegerá su contenido a medida que los sistemas de IA se vuelvan más capaces". La compañía agrega que el enfoque está siendo moldeado por los clientes "de todas las industrias, regiones y tamaños de empresas" y que mantendrá a los clientes informados con tiempo suficiente para planificar implementaciones en torno a los cambios.
El debate que esto desencadenará
Los investigadores de seguridad han argumentado durante mucho tiempo que la visibilidad de los patrones de uso es esencial para detectar el uso indebido antes de que cause daño, y algunos se preguntarán si el análisis automatizado y cifrado puede igualar la calidad de detección de la revisión humana. Mientras tanto, los defensores de la privacidad darán la bienvenida a una arquitectura que trate el acceso a los datos de los clientes como una decisión del cliente en lugar de una prerrogativa del proveedor.
Lo que está claro es que la gobernanza de datos ha pasado de la letra pequeña legal al centro de la competencia de la IA. A medida que los modelos de frontera asumen tareas más largas y autónomas en industrias reguladas, la cuestión de quién puede ver los rastros que dejan esos sistemas (el cliente, el proveedor o nadie) se está convirtiendo en un eje principal en el que se ganan o se pierden los acuerdos empresariales de IA. OpenAI ahora ha hecho explícita su respuesta y ha puesto a sus rivales en la posición de defender la suya.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
