Las personas pagadas para entrenar los modelos de OpenAI están siendo despedidas por hacer su trabajo con la ayuda de la IA, según un informe de 404 Media basado en documentos internos y entrevistas con tres contratistas.
La ironía en el centro de la historia es aguda. Los investigadores de IA han advertido sobre el "colapso del modelo": la degradación que se produce cuando los modelos se entrenan cada vez más con texto generado por IA. Algunas de las personas contratadas para evitar ese resultado están utilizando respuestas generadas por IA para entrenar los modelos de OpenAI, y el aparato de revisión de la compañía los está persiguiendo activamente. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.
"Prácticamente lo único que hará que te echen"
Un contratista le dijo a 404 Media que ve trabajadores usando IA "todo el tiempo y que la gente es despedida todo el tiempo, es prácticamente lo único que hará que te echen lo antes posible". La persona agregó que "en un grupo de miles hay toneladas que han sido capturadas".
El informe se basa en la revelación anterior de 404 Media sobre el Proyecto Lily, un esfuerzo de OpenAI en el que cientos de contratistas leen mensajes y conversaciones reales de usuarios de ChatGPT (que pueden incluir información personal) y luego califican y critican las respuestas del modelo, incluida la verificación de que las respuestas no sean demasiado aduladoras o propensas a antropomorfizar el chatbot.
El nuevo informe se basa en documentos internos adicionales y entrevistas con tres contratistas que trabajan en proyectos de OpenAI. Según un documento interno, en estos proyectos pueden participar más de diez mil contratistas.
El libro de reglas: sin GPTZero, sin gramática, sin IA
Los documentos revisados por 404 Media no son ambiguos sobre el uso de herramientas. "No utilice herramientas de detección de IA, ni la IA usted mismo", dice un documento para contratistas que revisan el trabajo de otros contratistas. "No utilice GPTZero ni ninguna otra herramienta de detección de IA. No son confiables. Los revisores tampoco pueden usar IA, incluida la traducción gramatical y de IA".
El mismo documento insta a los revisores a permanecer en silencio sobre sus métodos: "No les diga a los evaluadores por qué sospecha de IA. Es más fácil para ellos ocultarse si saben lo que usted busca. Juzgue el patrón general, no una sola pista".
Los tres contratistas dijeron que los revisores reciben instrucciones de no utilizar IA en su trabajo, y dos dijeron que se ha despedido o despedido a personas por usarla. 404 Media concedió el anonimato a los contratistas porque no se les permitió hablar con la prensa.
Entonces, ¿qué delata a un trabajador? Según el informe, se pide a los revisores que busquen signos reveladores del uso de la IA: palabras repetitivas, puntuación al estilo de la IA (incluido, aparentemente, un uso excesivo del guión em) y trabajo terminado inusualmente rápido. En los canales de Slack donde los contratistas intercambian consejos, dijo un contratista, la gente publica con frecuencia ejemplos preguntando: "¿Es esto IA?".
Un contratista que admitió haber usado IA mientras ayudaba a entrenar los modelos de OpenAI compartió lo que presentó como su carta de despido. Dijo que su empleador había identificado problemas con la "autenticidad" de su trabajo.
"No soy una mala persona ni un mal trabajador. Sólo necesitaba un pequeño impulso y recurrí a la IA para que me ayudara, lo que finalmente me llevó a la ruina", dijo el contratista a 404 Media. "No sentí ninguna alegría por el trabajo ni por estar contribuyendo a la sociedad de ninguna manera".
El papel de Mercor y la cadena laboral de formación en IA
Dos de los contratistas trabajaron para Mercor, una empresa de capacitación en inteligencia artificial que contrata a los contratistas que revisan el material relacionado con ChatGPT. Un portavoz de Mercor dijo a 404 Media en un comunicado que sus expertos son contratados por su experiencia y juicio, que la compañía describió como esencial para el avance continuo de la IA, y que sus contratos prohíben estrictamente el uso de IA en el trabajo.
El acuerdo destaca la estructura laboral en capas detrás del desarrollo de la IA de frontera. Empresas como OpenAI dependen cada vez más de proveedores especializados, que a su vez reclutan grandes grupos de revisores independientes (miles por proyecto) para calificar los resultados de los modelos, señalar contenido dañino y mantener las respuestas fundamentadas. El control de calidad en esa cadena no lo aplica el software sino otros humanos que leen las indicaciones "al estilo de la IA".
Por qué existe la prohibición y por qué es difícil hacerla cumplir
El fundamento de la prohibición es sencillo: si los humanos que califican las respuestas de ChatGPT subcontratan sus juicios al propio ChatGPT, el ciclo de retroalimentación colapsa. Las calificaciones dejan de reflejar preferencias humanas genuinas, el colapso del modelo se acelera y los datos de evaluación que guían la capacitación se vuelven circulares. Según se informa, los propios documentos de OpenAI reconocen que las herramientas de detección de IA no son confiables, razón por la cual se les dice a los revisores que se basen en el criterio de patrones en lugar del software.
Pero imponer una regla de no IA en una fuerza laboral de miles de trabajadores independientes, contratados a través de intermediarios y pagados por tarea, crea sus propias presiones. Los contratistas dijeron a 404 Media que el uso de la IA es común incluso cuando los despidos son frecuentes, y el trabajador anónimo que compartió una carta de despido describió recurrir a la IA no por pereza sino como "un pequeño impulso" para el trabajo que encontraba triste.
El informe llega en medio de un debate más amplio sobre las condiciones laborales de la fuerza laboral invisible de la industria de la IA: los anotadores, calificadores y revisores cuyo trabajo sustenta cada modelo importante. También plantea preguntas incómodas para la economía en general: si las personas a las que se les paga para distinguir la escritura humana de la máquina tienen dificultades para hacerlo de manera confiable, y los detectores de IA siguen siendo poco confiables según la propia evaluación de OpenAI, los empleadores en todas partes se quedan vigilando un límite que es cada vez más difícil de ver.
Por ahora, la política dentro del proceso de formación de OpenAI es clara, al igual que la penalización. Se espera que los trabajadores que califican los resultados de uno de los sistemas de inteligencia artificial más capaces del mundo sean entera y verificablemente humanos, y aquellos que utilizan la herramienta que están calificando corren el riesgo de perder el trabajo.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
