OpenAI ha retirado tres de los 722 preprints de investigación que publicó en GitHub el 6 de octubre, informó Retraction Watch el 8 de octubre, después de que un error de signo invalidara un argumento central y, con él, dos resultados que dependían de esa construcción. La retirada se produjo menos de 24 horas después del lanzamiento masivo, que OpenAI había anunciado como un esfuerzo "para ampliar la frontera del conocimiento humano y permitir un mayor progreso en matemáticas".
Las preimpresiones describían el supuesto progreso realizado por un modelo interno de IA en 372 problemas sin resolver en geometría, informática, álgebra y otros campos. La medida generó un escrutinio inmediato por parte de las comunidades de investigación y, como cubrimos a principios de esta semana en nuestro informe sobre la [publicación inicial de los 722 manuscritos matemáticos] (https://aibuzzwire.news), la compañía enmarcó la caída como una demostración sin precedentes de lo que su modelo de frontera inédito puede producir. Siga lo último sobre esta historia en nuestra cobertura de últimos desarrollos de IA.
Un error de signo se produce en cascada a través de pruebas dependientes
El 7 de octubre, OpenAI anunció el retiro de tres manuscritos debido a un error de firma. Según el anuncio, el error invalidó un argumento en un manuscrito y la construcción utilizada por dos artículos dependientes. Cada documento retirado ahora lleva un aviso que explica "la brecha".
La compañía también dijo que revisó otros 14 manuscritos con correcciones de pruebas, declaraciones corregidas, hipótesis y dependencias más claras y una corrección a una cita obsoleta. Dan Roberts, líder de investigación de OpenAI, anunció los retiros en X y escribió que la compañía "continuará actualizando el repositorio con nuevas formalizaciones y con cualquier errata que observemos".
Un portavoz de OpenAI dijo a Retraction Watch que la compañía identificó los errores durante una auditoría y describió el proceso como iterativo "como ocurre con otros manuscritos de investigación". El portavoz añadió que OpenAI agradece el escrutinio y "trabajará para corregir [los errores] rápidamente y retirará los documentos si no se pueden encontrar soluciones".
En particular, un portavoz de OpenAI dijo que los colaboradores de la compañía en el Grupo Asesor en Matemáticas e Inteligencia Artificial (AGMAI) recomendaron publicar los resultados sin esperar a una "formalización completa", y que aproximadamente el 50% de los resultados se publicaron sin confirmar.
Matemáticos: soluciones rápidas, pérdida de confianza
Las reacciones de los investigadores matemáticos fueron mesuradas pero puntuales. Alex Townsend, profesor asociado de matemáticas en la Universidad de Cornell, dijo a Retraction Watch que un error en cascada en tres manuscritos no fue sorprendente y que sospecha que se encontrarán más errores. "Dado el escepticismo de la IA en la comunidad matemática, creo que OpenAI debería haber anunciado primero los manuscritos que fueron verificados Lean", dijo, refiriéndose al lenguaje de programación de código abierto que verifica mecánicamente las pruebas matemáticas. Un anuncio por separado podría haber invitado a la comunidad a ayudar a verificar el resto, argumentó.
Andrew Sutherland, científico investigador senior en el departamento de matemáticas del MIT, dijo que apreciaba que OpenAI actuara rápidamente después de encontrar los errores, y lo calificó como "lo más responsable". Pero enfatizó que muchos matemáticos siguen "descontentos con cómo se ha comportado OpenAI hasta este punto", señalando en particular el anuncio de la compañía el 8 de septiembre de que un sistema de IA había resuelto el problema de Navier-Stokes, una afirmación que un grupo de destacados investigadores criticó por apresurada, "no dejando tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas y citando trabajos previos relevantes de otros". Más de 8.000 investigadores han respaldado esas preocupaciones.
La Asociación para las Matemáticas Humanas fue más allá en una declaración publicada el 7 de octubre: "Los matemáticos no pidieron que se hiciera este trabajo. Publicar más de 700 archivos a la vez no es una demostración de erudición, sino una demostración de poder. Instamos a los matemáticos a que descontinuen su trabajo con OpenAI y regresen a una visión de la ciencia que centre la comprensión humana".
Qué significa esto para la ciencia generada por IA
El episodio se perfila como un caso de prueba inicial de cómo los laboratorios de IA deberían manejar la investigación generada por máquinas a escala. El enfoque de OpenAI (publicar rápidamente, auditar en público, retirar lo que falla) contrasta con el enfoque de verificación formal primero que muchos matemáticos prefieren, en el que los resultados se verifican en un asistente de prueba como Lean antes de cualquier anuncio.
Hay argumentos razonables de ambas partes. Esperar la formalización total podría retrasar los resultados útiles durante meses, y OpenAI dice que lo lanzó con la bendición de AGMAI. Pero el efecto cascada (un error de signo que elimina dos artículos dependientes) ilustra por qué la verificación antes de la publicación ha sido la norma en matemáticas, y por qué es probable que surjan más errores a medida que la comunidad trabaja en los aproximadamente 700 manuscritos restantes.
Por ahora, OpenAI dice que quiere aprender de los comentarios y seguirá el protocolo de AGMAI "lo mejor que podamos" en el futuro. Si eso es suficiente para reconstruir la credibilidad ante la comunidad matemática es otra cuestión. Como dijo Sutherland: "Creo que la comunidad matemática considerará positivamente los retiros y las correcciones, pero se necesitará mucho más que eso para recuperar la confianza que han perdido".
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
