El director ejecutivo de Google DeepMind, Demis Hassabis, ha propuesto la creación de un organismo de estándares independiente, liderado por Estados Unidos, inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA) para evaluar y regular los modelos de IA de frontera antes de su publicación pública, advirtiendo que la humanidad tiene una "ventana preciosa" para garantizar que la inteligencia artificial general se desarrolle de forma segura.

En un documento marco titulado "Un marco para la IA de frontera y el amanecer de una nueva era", publicado en X el martes por la mañana, Hassabis presentó una propuesta detallada sobre cómo Estados Unidos podría establecer una infraestructura regulatoria creíble para los sistemas de IA más poderosos. El plan exige una nueva organización que pruebe modelos de vanguardia y desarrolle mejores prácticas para su implementación, financiada por la industria de la IA pero operada independientemente de una sola empresa.

Para conocer las últimas noticias de última hora sobre IA y análisis de políticas en profundidad, AI Buzz Wire rastrea los desarrollos que dan forma a la industria.

Cómo funcionaría el organismo de normalización propuesto

Según la propuesta de Hassabis, los laboratorios de IA compartirían voluntariamente sus modelos de frontera con el organismo de normalización para su revisión hasta 30 días antes de su publicación. Esta evaluación previa al despliegue evaluaría los modelos de seguridad, protección y posibles riesgos de uso indebido. Una vez que el protocolo de evaluación demuestre ser eficaz y sólido, el marco prevé formalizar el proceso de modo que los modelos de frontera deban aprobarlo antes de implementarse en el mercado estadounidense.

La propuesta aborda directamente una brecha expuesta por recientes revisiones gubernamentales de los sistemas fronterizos de inteligencia artificial. A principios de este año, el gobierno de EE. UU. llevó a cabo revisiones de seguridad ad hoc del modelo Mythos de Anthropic y del modelo Sol de OpenAI antes de sus respectivos lanzamientos. Esas revisiones generaron importantes críticas por falta de profundidad técnica y por una toma de decisiones opaca sobre cuándo un modelo se consideraba lo suficientemente seguro para su despliegue público.

Según el marco de Hassabis, esas decisiones serían manejadas por una organización dedicada compuesta por expertos técnicos, respaldada por el gobierno de Estados Unidos pero aislada de la presión política. También se requeriría que los laboratorios trabajen con el organismo de estándares para abordar las vulnerabilidades críticas descubiertas después del lanzamiento.

Una 'ventana preciosa' antes de AGI

En entrevistas con Axios, CNBC y The Economist que acompañaron la publicación del marco, Hassabis enfatizó que el momento actual representa una oportunidad limitada para establecer mecanismos de gobernanza antes de que llegue la inteligencia artificial general. Describió este período como una "ventana preciosa", lo que implica que la ventana no permanecerá abierta indefinidamente.

Hassabis ha sido durante mucho tiempo un defensor de la gobernanza proactiva de la IA. Su marco llega en medio de un debate cada vez más intenso sobre si Estados Unidos debería crear un regulador formal de la IA y, de ser así, qué forma debería adoptar. El modelo FINRA es notable porque la organización autorreguladora de la industria financiera está financiada por firmas miembro pero opera bajo supervisión gubernamental, lo que le otorga tanto experiencia en la industria como responsabilidad pública.

Resistencia de la Administración Trump

La propuesta enfrenta importantes obstáculos políticos en contra. La Administración Trump ha manifestado un profundo escepticismo respecto de la creación de nuevos organismos reguladores de la inteligencia artificial. Sriram Krishnan, asesor de IA de la Casa Blanca y socio general de a16z, quien desde entonces dejó su cargo, descartó públicamente la idea de un regulador de IA dentro del poder ejecutivo, afirmando sin rodeos que "no habrá una FDA para la IA".

Esa postura ha puesto a los funcionarios de la administración en desacuerdo con algunos de los líderes más destacados de la industria. Si bien empresas como Anthropic y OpenAI han apoyado ampliamente las pruebas de seguridad previas al despliegue, el mecanismo y la autoridad para dichas pruebas siguen siendo controvertidos. La propuesta de Hassabis intenta enhebrar esta aguja posicionando al organismo de normalización como financiado por la industria y voluntario al principio, y la formalización sólo se producirá después de que el proceso demuestre su valor.

Aprovechar los esfuerzos existentes

El marco no empieza desde cero. Se basa en los compromisos voluntarios que varias empresas fronterizas de IA ya han asumido con respecto a las pruebas de seguridad y la formación de equipos rojos. También se basa en esfuerzos internacionales, incluido el Instituto de Seguridad de la IA del Reino Unido y el Proceso de IA de Hiroshima del G7, que han establecido marcos preliminares para evaluar modelos avanzados.

Sin embargo, la propuesta de Hassabis va más allá al exigir una organización permanente y con buenos recursos con el mandato de probar cada modelo de frontera antes de su lanzamiento, un nivel de escrutinio que ningún organismo actual ofrece. La analogía de FINRA sugiere una operación profesional a escala con cientos de expertos técnicos, no un pequeño panel asesor.

La propuesta también aborda el monitoreo posterior a la implementación, lo que requiere que los laboratorios trabajen con el organismo de estándares en las vulnerabilidades descubiertas después de que un modelo esté disponible públicamente. Esto refleja un creciente reconocimiento de que los riesgos de seguridad no terminan en el lanzamiento, como lo demuestran los casos de jailbreak y uso indebido que han surgido después de varios lanzamientos de modelos de alto perfil.

Respuesta de la industria y próximos pasos

El marco ha generado una atención significativa en toda la comunidad política de IA. Los partidarios argumentan que un régimen creíble de pruebas previas al despliegue podría generar confianza pública en los modelos de frontera y reducir el riesgo de un uso indebido catastrófico. Los críticos, incluidos algunos defensores del libre mercado, advierten que un requisito de prueba obligatorio podría afianzar a los grandes operadores al crear barreras regulatorias para las empresas más pequeñas y los desarrolladores de código abierto.

La propuesta de Hassabis no especifica qué modelos calificarían como "frontera", una cuestión de umbral que determinará el alcance de cualquier régimen regulatorio futuro. También deja abierta la forma en que el organismo de normalización manejaría las aplicaciones clasificadas o de doble uso, particularmente dadas las recientes preocupaciones sobre el uso de modelos de IA para descifrar sistemas clasificados en Estados Unidos.

El momento de la propuesta es deliberado. Dado que la AGI parece cada vez más plausible en los próximos años, Hassabis está insistiendo en que la infraestructura de gobernanza debe construirse ahora, no después de que surja una capacidad peligrosa. Queda por ver si Washington actuará según su llamado.

Manténgase por delante de la IA

Para obtener una cobertura completa de las políticas, regulaciones y desarrollos de la industria de IA, visite AI Buzz Wire.

Leer más noticias sobre IA →