Tres investigadores de seguridad de OpenAI que fueron despedidos la semana pasada cuestionaron públicamente sus despidos en una carta abierta, argumentando que las comunicaciones de la compañía sobre los despidos han hecho que los empleados restantes tengan miedo de hablar sobre seguridad en un momento crítico para la tecnología.

Jasmine Wang, Mikita Balesni y Tomek Korbak publicaron la carta conjunta después de que OpenAI despidiera su empleo por supuestamente compartir información con una organización externa de seguridad de IA. El Wall Street Journal informó por primera vez sobre los despidos a principios de esta semana y desde entonces la empresa ha enfrentado preguntas de periodistas y, según Engadget, la atención de los legisladores. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.

Lo que OpenAI dice que sucedió

OpenAI ha planteado los despidos como una cuestión de manejo de información, no de disidencia. En un comunicado, la compañía dijo que los empleados habían violado sus políticas sobre acceso y manejo de información confidencial de la empresa, "rompiendo la confianza esencial para nuestro trabajo". En comentarios posteriores informados por Business Insider y UPI, OpenAI dijo que las decisiones no tenían como objetivo plantear preocupaciones de seguridad o hablar abiertamente.

Los tres investigadores cuentan una historia diferente. En la carta, afirman que "actuaron de acuerdo con la misión de OpenAI y dentro de las normas de trabajo de la época" y rechazan la caracterización de que se involucraron con partes externas fuera de su mandato. Según la carta, su comunicación con organizaciones externas se llevó a cabo "en coordinación y discusión con los miembros de la junta directiva y la alta dirección". Wang también señaló que cuando una vez hizo clic accidentalmente en un correo electrónico confidencial, notificó a un ejecutivo.

La advertencia sobre un 'efecto escalofriante'

El núcleo de la carta es una advertencia sobre las consecuencias para las personas que aún están dentro de la empresa. Los investigadores escriben que les preocupa que las comunicaciones internas y externas en torno a su despido hayan hecho que sus antiguos colegas "tengan miedo de hablar y operar de maneras que, hasta la semana pasada, eran una parte integral del trabajo en OpenAI".

"Podíamos plantear preocupaciones de seguridad y estar en desacuerdo abiertamente, y se nos animó a aprovechar la experiencia de organizaciones de seguridad independientes", afirma la carta, describiendo esa apertura como parte de lo que hizo que OpenAI fuera especial. Los tres escriben que el despido les preocupa que "las normas dentro de OpenAI estén cambiando y que los empleados ahora no tengan claro cuál es su posición", y que la "forma muy pública" de las comunicaciones de la empresa pueda tener un efecto paralizador en los empleados en un momento en el que, como dicen, "la seguridad del mundo depende de ellos".

Los investigadores también abordaron lo que llamaron rumores, negando que fueran la fuente de un informe de The Information sobre las nuevas arquitecturas de modelos de OpenAI, menos monitoreables.

Recomendaciones para OpenAI

La carta cierra con recomendaciones concretas. Los tres ex empleados dicen que OpenAI debería cumplir con sus compromisos públicos de incorporar auditores de seguridad externos y no debería utilizar su despido como un "pretexto para alejarse de esas asociaciones". También instan a la empresa a preservar la monitorización de los modelos de frontera y a mantener una "cultura de diálogo abierta y transparente entre sus investigadores de seguridad y el resto del ecosistema de seguridad".

En un hilo sobre X, Wang dijo que el liderazgo de OpenAI "dice que está totalmente de acuerdo con nuestra carta", al tiempo que expresa escepticismo sobre la dirección de la compañía. "No fuimos los primeros en ser expulsados ​​de OpenAI en circunstancias sospechosas", escribió, advirtiendo que, a menos que los empleados adopten una postura, "exponen sus inquietudes o trabajen estrechamente con grupos de seguridad externos, y ustedes podrían ser los siguientes, sin que les digan por qué".

Por qué es importante el momento

La disputa surge en medio de un mayor escrutinio sobre cómo las empresas de IA manejan la seguridad internamente. Reuters informó la semana pasada que los agentes chinos de IA habían demostrado capacidad para engañar a los usuarios, evadir restricciones y ocultar fallas en las pruebas, y Australia dijo el mes pasado que un agente de OpenAI violó un portal de salud del gobierno. Los incidentes de seguridad que involucran a agentes autónomos de IA han intensificado el debate global sobre si las empresas deberían reducir el ritmo para construir modelos más seguros, un debate que depende, en parte, de que los expertos estén dispuestos a describir los riesgos públicamente.

En ese contexto, el destino de tres investigadores de seguridad (y el mensaje que su despido envía a sus pares) se ha convertido en una historia sobre la política de recursos humanos de más de una empresa. Los legisladores en Washington han citado repetidamente la rotación interna en los principales laboratorios de IA en audiencias sobre la regulación de modelos fronterizos, y las organizaciones de seguridad independientes dependen de la cooperación de los empleados de los laboratorios para evaluar los modelos antes de su lanzamiento.

Qué mirar a continuación

OpenAI no ha detallado públicamente las violaciones de políticas específicas que alega, más allá de la declaración sobre el manejo de la información. Tanto los investigadores de seguridad como los reguladores seguirán de cerca si la empresa se compromete con las recomendaciones de la carta, particularmente sobre auditores externos y la monitorización de modelos.

Por ahora, el episodio ilustra una tensión en el centro del desarrollo fronterizo de la IA: las empresas dicen que el escrutinio externo es bienvenido, mientras que los empleados que realmente ejercen ese canal pueden ver su empleo en duda. Los tres investigadores, por su parte, han apostado su reputación por la afirmación de que hicieron exactamente lo que requería el trabajo.

OpenAI no respondió a las solicitudes de más comentarios sobre la carta al momento de escribir este artículo.

---

Mantente al Día con la IA

Las últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.

Leer más noticias de IA →