OpenAI anunció el lunes un nuevo Grupo Asesor independiente sobre Matemáticas e Inteligencia Artificial, alojado en el Instituto de Estudios Avanzados (IAS) en Princeton, Nueva Jersey, y reveló que el mismo modelo interno detrás de su impugnado resultado de Navier-Stokes ha resuelto, según sus propios cálculos, más de 100 problemas abiertos adicionales en la mayoría de las áreas de las matemáticas.
El grupo está destinado a brindar a los matemáticos un canal formal hacia la investigación orientada a las matemáticas de la compañía en un momento en que la comunidad de investigación está abiertamente frustrada con la forma en que se publican esos resultados. "Este grupo servirá como puente hacia la comunidad matemática y el público en general, dando a los matemáticos una voz sobre cómo avanzamos", dijo OpenAI en su anuncio, citado por TechCrunch. Para más contexto sobre esta historia, consulta nuestra cobertura de la industria de IA.
Una respuesta a la reacción de Navier-Stokes
La creación del grupo asesor se produce tras la abrupta publicación de una supuesta solución al problema del Premio del Milenio Navier-Stokes, un resultado que sorprendió a los matemáticos tanto por su ambición como por el ritmo de su publicación. En la práctica, el nuevo grupo de OpenAI cumplirá principalmente una función de asesoramiento: evaluar la importancia de los nuevos resultados y coordinar su publicación, de modo que los supuestos avances lleguen con contexto y escrutinio de expertos en lugar de anuncios sorpresa.
El escrutinio no ha cesado. Scientific American publicó un artículo el lunes preguntando "¿OpenAI resolvió el problema equivocado de Navier-Stokes?" – un reflejo de cuánta incertidumbre aún rodea la afirmación, incluso entre los periodistas científicos que la siguen de cerca.
Muchos matemáticos destacados se han mostrado en desacuerdo con el ritmo frenético de las afirmaciones recientes en términos más generales. A principios de este mes, 25 matemáticos ganadores de la Medalla Fields firmaron una carta abierta argumentando que los laboratorios de IA están amenazando el trabajo intelectual de los matemáticos mientras compiten para superarse entre sí con soluciones a problemas famosos. La preocupación no es que los problemas se resuelvan, sino que una cultura centenaria de publicaciones cuidadosas y verificadas esté siendo aplastada por laboratorios que compiten por los titulares.
Poder de asesoramiento: con límites estrictos
La estructura del grupo intenta equilibrar la independencia con la clara intención de OpenAI de mantener el control de su agenda de investigación. Los miembros no recibirán pago. Pueden ofrecer asesoramiento no solicitado, hacer públicas sus opiniones y controlar su propia membresía, disposiciones que dan al organismo un cierto grado de independencia de la empresa que lo creó.
Pero el grupo no tiene poder para frenar nada. Como dice la publicación de OpenAI, "el grupo no será responsable de asesorarnos sobre cómo acelerar nuestro progreso interno en matemáticas".
El Instituto de Estudios Avanzados fue enfático en el mismo punto en su propio anuncio. "Aunque daremos consejos, no tenemos poder de decisión en ninguna empresa de IA, y la responsabilidad de las decisiones tomadas por cualquier empresa recaerá en esa empresa", dijo el instituto en un comunicado.
Esa división del trabajo (asesoramiento sin autoridad) es el compromiso que hizo posible la asociación. IAS consigue un asiento en la mesa de matemáticas; OpenAI mantiene el volante.
Nueve integrantes, poca coincidencia con los críticos
Nueve destacados matemáticos han sido nombrados miembros iniciales del grupo. En particular, solo uno de ellos, Camillo De Lellis de la IAS, también firmó la carta de los medallistas Fields a principios de este mes, una señal de que OpenAI no se ha limitado a reclutar a sus críticos más ruidosos en la sala.
Que eso importe depende de lo que haga el grupo con su plataforma. Sus miembros pueden estar en desacuerdo públicamente con la empresa y el diseño los invita a hacerlo. Un organismo asesor que nunca exprese su desacuerdo resolvería rápidamente la cuestión de su valor.
Por qué es importante
El anuncio es el último punto álgido en un debate sobre cómo los laboratorios de IA deberían manejar las afirmaciones científicas generadas por máquinas. Un modelo que pretende resolver un problema del Premio del Milenio es una afirmación extraordinaria, y la principal queja de la comunidad matemática es de procedimiento: resultados de esta magnitud merecen verificación y publicación mesurada, no anuncios en el ciclo de prensa.
La verificación es el verdadero cuello de botella. Una prueba que a un modelo le toma días producir puede tomar meses para que los expertos humanos la verifiquen, y las matemáticas no tienen una infraestructura de revisión por pares diseñada para esa asimetría. Ese es precisamente el problema que el mandato del grupo (evaluar la importancia y coordinar la liberación) pretende abordar, al menos en principio.
La medida de OpenAI reconoce esas críticas, pero no llega a conceder el control. El grupo puede otorgar legitimidad, coordinar cómo se presentan los resultados y brindar a los externos una plataforma pública, pero la empresa conserva plena autoridad sobre lo que persiguen sus modelos y con qué rapidez. La afirmación de más de 100 problemas resueltos ahora recae en un organismo que puede determinar cómo se anuncia, no si se hace.
Que los matemáticos traten al grupo asesor como una verificación significativa o como una hoja de parra dependerá de lo que suceda después: si la siguiente afirmación importante llega con el visto bueno del grupo y, lo que es más importante, con pruebas que la comunidad realmente puede verificar.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
