Un grupo de 25 medallistas Fields (cada uno de los firmantes iniciales ganador del más alto honor en matemáticas) ha publicado una declaración formal advirtiendo que la carrera para exhibir la inteligencia artificial en los puntos de referencia matemáticos está dañando tanto a la ciencia de las matemáticas como a la comunidad que la sustenta. La declaración, titulada "Una grave desalineación de la IA en las matemáticas", se publicó el viernes y entre sus firmantes iniciales se encuentra Terence Tao, uno de los matemáticos más influyentes de su generación.
La declaración se publica en mathandai.org y en un día había reunido más de 1.300 patrocinadores adicionales de universidades e institutos de investigación de todo el mundo, según la lista pública de firmantes del sitio. Tao confirmó su participación en una publicación en su blog personal, escribiendo que estaba "orgulloso de estar entre la lista de 25 signatarios iniciales, todos medallistas Fields". Para cualquiera que siga los últimos desarrollos de IA, la intervención marca una de las críticas más agudas hasta ahora desde dentro de las matemáticas de élite sobre cómo los laboratorios de IA miden (y publicitan) las capacidades de sus modelos. Dominó la discusión en Hacker News el viernes y generó cientos de comentarios.
Lo que dice la Declaración
Los firmantes no discuten que los sistemas de IA se han vuelto notablemente capaces. "En los últimos meses, las capacidades matemáticas de los LLM han mejorado dramáticamente, hasta el punto de que pueden resolver importantes problemas pendientes en muchos campos de las matemáticas", afirma la declaración. La objeción es a lo que sucederá después: las empresas de IA utilizan esas soluciones como puntos de referencia competitivos, lo que, según los autores, es "perjudicial para la ciencia de las matemáticas y para la comunidad matemática".
La afirmación central es cruda: "Los objetivos de las empresas de IA y los objetivos de la comunidad matemática están gravemente desalineados".
La declaración sostiene que la resolución de problemas famosos ha servido tradicionalmente como señal de una nueva comprensión (el comienzo de un largo proceso comunitario de conversaciones, debates, simplificaciones y eventuales reseñas de libros de texto) en lugar de un fin en sí mismo. "Resolver problemas es sólo una herramienta y un sustituto para lograr el objetivo principal de comprensión y conocimiento conceptual", escriben los autores. "Olvidar esto en el mundo de la IA puede hacer que la herramienta vaya en contra del objetivo principal".
La frase más citada capta la preocupación: "la producción en masa, a un ritmo cada vez más rápido, de afirmaciones 'verdadero/falso' podría destruir un terreno fértil en lugar de dar vida a nuevas ideas".
Atribución, plagio y anuncios apresurados
Los firmantes también plantean una queja práctica. "A menudo estas soluciones se anuncian apresuradamente, sin dejar tiempo para un informe adecuado, el aislamiento de nuevos métodos e ideas y la cita de trabajos anteriores relevantes de otros", afirma la declaración. "Como en todas las profesiones creativas, esto plantea graves cuestiones de atribución y plagio".
Los autores advierten sobre un efecto de segundo orden: sin "matemáticos dispuestos que deban ocuparse de su desarrollo e integración en el canon matemático", las ideas concebidas por la IA nunca llegarían a desarrollarse completamente y "se perdería la crucial cadena de transmisión humana entre matemáticos".
Una muestra inusual de urgencia
El proceso en sí fue inusual. Tao reconoció en su blog que la declaración surgió de discusiones entre los firmantes "durante la última semana" y se disculpó por no llevar a cabo un proceso más consultivo. "Decidimos que la urgencia de la situación era tal que necesitábamos publicar una declaración lo antes posible", escribió.
La declaración sigue el modelo de la anterior declaración de Leiden y los organizadores invitan explícitamente a más firmas. Tao también señaló a los lectores la cobertura reciente de la declaración por parte de The Economist. Los 25 firmantes iniciales eran todos medallistas Fields, una señal deliberada: los investigadores de matemáticas más condecorados hablaban con una sola voz. La lista de respaldo más amplia ya incluye matemáticos del MIT, ETH Zurich, el Instituto Max Planck, Northwestern, NYU y docenas de otras instituciones.
Una advertencia más allá de las matemáticas
Si bien la afirmación tiene sus raíces en las matemáticas, los autores la formulan como un modelo para un problema mucho más amplio. "Estamos siendo testigos de una amenaza general al trabajo intelectual, con un desajuste entre el resultado del uso de la IA y su propósito inicial", se lee en la declaración.
El argumento resonará mucho más allá de los departamentos de matemáticas. En muchas profesiones, señalan los autores, los años de formación han servido tradicionalmente no sólo para producir respuestas finales sino también para desarrollar la comprensión y la capacidad de formular nuevas preguntas. A medida que los sistemas de IA se vuelven capaces de producir los resultados de dicho trabajo directamente, "estos objetivos dejan de alinearse". La declaración describe los problemas que enfrentan los matemáticos como "similares a los problemas que enfrentan otras profesiones científicas y creativas, e indican problemas que toda la humanidad podría enfrentar".
No es un rechazo a la IA
En particular, la declaración no es un llamado a detener el desarrollo de la IA. "La IA ofrece el potencial de mejorar y acelerar el estudio y la comprensión matemáticos genuinos", escriben los autores, aunque admiten que "las matemáticas como profesión tendrán que adaptarse".
La intervención aterriza en un momento cargado. Las afirmaciones de que los sistemas de IA han resuelto o logrado avances importantes en problemas abiertos famosos han aparecido repetidamente en los titulares, y a principios de este año una disputa separada sobre un reclamo de OpenAI relacionado con el problema de Navier-Stokes mostró cuán polémicos pueden llegar a ser tales anuncios. La declaración de los medallistas Fields es efectivamente la respuesta más importante de la comunidad matemática a esa dinámica: una solicitud para que los laboratorios de inteligencia artificial dejen de tratar problemas abiertos centenarios como entradas en las tablas de clasificación.
Queda por ver si las empresas de IA responden (consultando a los matemáticos antes de hacer anuncios, acreditando trabajos anteriores o repensando los puntos de referencia). Lo que ya está claro es que las personas que mejor conocen estos problemas ya no miran desde la barrera.
