Google DeepMind ha lanzado un nuevo instituto dedicado a ampliar la conversación sobre la inteligencia artificial general, y sus ensayos inaugurales incluyen una propuesta concreta de Demis Hassabis para un organismo liderado por Estados Unidos que evaluaría modelos de IA de vanguardia antes de su implementación.
El Instituto DeepMind, lanzado el miércoles por Google y los investigadores de Google DeepMind, incluye al cofundador de DeepMind, Shane Legg, como su editor en jefe, junto con el ejecutivo de Google, James Manyika, y el presidente de Google DeepMind, Demis Hassabis, como directores, según TechCrunch. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
Espacio para estar en desacuerdo
El propósito declarado del instituto es sacar a la luz desacuerdos genuinos, incluso dentro del propio Google. "No siempre estarán de acuerdo y probablemente cambiarán de opinión a medida que salgan a la luz más datos e información en una frontera en rápido movimiento", se lee en el anuncio.
Su primera colección comprende cuatro ensayos que cubren políticas económicas para gestionar posibles alteraciones de la AGI, preservar el razonamiento de modelos legibles por humanos, principios para el florecimiento humano y un marco para evaluar modelos de IA de frontera.
Institucionalizar el desacuerdo abierto es una medida inusual para un laboratorio de IA corporativo, donde los mensajes públicos tienden a estar estrictamente controlados. Por diseño, el instituto ofrece a los investigadores de Google un lugar para argumentar posiciones que pueden entrar en conflicto con los intereses comerciales de la empresa (o con los de otros).
El ensayo sobre la transparencia: observe la 'profundidad serial opaca'
Uno de los cuatro ensayos, de los investigadores de seguridad de DeepMind, Rohin Shah y Anca Dragan, sostiene que la cada vez más pequeña ventana de transparencia de la IA (la capacidad de ver y comprobar el razonamiento paso a paso de un modelo) no es inevitable, incluso cuando las nuevas arquitecturas hacen que los modelos más potentes sean más difíciles de monitorear.
Los autores dicen que los desarrolladores y reguladores deberían enfrentar directamente las compensaciones en materia de seguridad. Concretamente, eso podría significar limitar lo que llaman "profundidad serial opaca" (la cantidad de cálculo secuencial que un modelo puede realizar sin producir un rastro de razonamiento legible) o exigir a los desarrolladores que demuestren que los sistemas menos transparentes siguen siendo tan monitoreables como los interpretables.
La propuesta es notable porque trata la pérdida de interpretabilidad como una elección de diseño y política en lugar de una consecuencia inevitable de la escala, abriendo la puerta a requisitos que podrían incluirse en la regulación.
La propuesta de Hassabis: un organismo de normalización fronterizo de EE. UU.
El ensayo más trascendental puede ser el de Hassabis. Propone un organismo fronterizo de estándares de IA liderado por Estados Unidos encargado de evaluar los modelos de IA más avanzados. Según el marco, los desarrolladores inicialmente enviarían modelos voluntariamente para su revisión hasta 30 días antes de su lanzamiento. Una vez que el sistema de evaluación haya demostrado su eficacia, pasar sus pruebas podría convertirse en un requisito para implementar modelos fronterizos en Estados Unidos.
El organismo comenzaría diseñando evaluaciones en consulta con empresas de inteligencia artificial, pero eventualmente desarrollaría evaluaciones independientes y no divulgadas (lo que el ensayo llama pruebas "retenidas") para evitar que los laboratorios adapten sus modelos a puntos de referencia conocidos, un modo de fracaso bien documentado de los regímenes de evaluación pública.
Hassabis también dejó la puerta abierta a una escalada: el marco podría "reforzarse si la gravedad de la situación lo exige", incluyendo potencialmente una desaceleración coordinada entre los desarrolladores de IA de frontera.
Por qué son importantes los otros dos ensayos
Los dos ensayos restantes –sobre políticas económicas para gestionar la disrupción de la AGI y sobre principios para el florecimiento humano– completan una colección que trata la AGI como un problema que afecta a toda la sociedad y no como uno puramente técnico. El desplazamiento económico ha sido durante mucho tiempo la preocupación pública más tangible en torno a la IA avanzada, y enmarcarlo junto con la política de evaluación y la interpretabilidad sugiere que el instituto quiere que los formuladores de políticas vean las piezas como una agenda en lugar de debates separados.
Esa amplitud es también una señal sobre el posicionamiento de Google. La empresa compite por clientes empresariales y contratos gubernamentales y al mismo tiempo sostiene que los sistemas fronterizos necesitan un escrutinio externo. Publicar la tensión, en lugar de suavizarla, es la premisa central del instituto.
De la preocupación a las propuestas concretas
Los ensayos llegan cuando el debate sobre seguridad en la industria pasa de declaraciones amplias de preocupación a mecanismos específicos: requisitos de divulgación, escrutinio externo y, si las salvaguardias se quedan atrás, desaceleraciones coordinadas. Ese cambio se aceleró esta semana cuando los líderes de la industria respaldaron elementos del llamado del CEO de Anthropic, Dario Amodei, para "acelerar" el desarrollo fronterizo de la IA, según TechCrunch.
El momento importa. Los gobiernos de ambos lados del Atlántico están sopesando cómo supervisar sistemas cuyas capacidades avanzan más rápido que la infraestructura de evaluación. Una propuesta que se origina dentro de un laboratorio líder en inteligencia artificial (y que incluye una revisión exhaustiva previa a su lanzamiento) brinda a los formuladores de políticas un modelo que la propia industria ha respaldado nominalmente, lo que históricamente ha sido un requisito previo para una regulación significativa de la IA.
Qué mirar
La independencia editorial del instituto respecto de Google será la primera prueba. Si los ensayos continúan incluyendo posiciones que van en contra de la hoja de ruta comercial de Google (como podría decirse que lo hace el ensayo sobre transparencia), el lugar podría convertirse en un contribuyente importante al debate sobre políticas AGI. Si se inclina hacia la mensajería corporativa, será un canal de relaciones públicas más en un campo abarrotado.
De cualquier manera, la sustancia ya está sobre la mesa: una de las figuras más poderosas de la IA está defendiendo públicamente requisitos de evaluación previa al lanzamiento, pruebas postergadas e incluso una desaceleración coordinada. La cuestión ya no es si los modelos de frontera deben evaluarse de forma independiente, sino quién realiza la evaluación y con qué cronograma.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
