El gobierno del Reino Unido ha anunciado la creación del Laboratorio de Bioseguridad de IA, descrito como la primera organización del mundo dedicada a la bioseguridad de IA, respaldada por £100 millones de libras de financiación gubernamental y hasta £200 millones en compromisos de OpenAI y Anthropic. La Oficina del Gabinete publicó los planes el viernes como parte de una Iniciativa Nacional de Bioseguridad de IA más amplia.

En conjunto, las promesas del gobierno y la industria aportan hasta £300 millones a una institución cuyo trabajo es garantizar que los mismos sistemas de inteligencia artificial que aceleran el descubrimiento de fármacos no reduzcan también las barreras para diseñar patógenos peligrosos.

Qué hará el laboratorio de bioseguridad de IA

Según el anuncio del gobierno, el laboratorio, abreviado AIBL, reunirá talentos de vanguardia en inteligencia artificial y ciencias biológicas para desarrollar capacidades técnicas prácticas que mejoren la capacidad del Reino Unido para comprender, prevenir, detectar y responder a amenazas biológicas. El programa de trabajo inicial se centra en dos prioridades: mejorar la detección temprana de amenazas biológicas emergentes y acelerar el desarrollo de vacunas, tratamientos y otras contramedidas médicas.

El laboratorio aprovechará la IA de vanguardia en asociación con los centros nacionales de bioseguridad del Reino Unido y la industria de las ciencias biológicas, con el objetivo declarado de permitir que el Reino Unido (y, según el gobierno, el mundo) responda más rápido a los brotes de enfermedades. Se basa en la Estrategia de Seguridad Biológica existente en el Reino Unido, que ha enmarcado la preparación para una pandemia y ha diseñado las amenazas como un continuo único de riesgo biológico desde 2023.

Por qué los gobiernos se están moviendo ahora

El anuncio de la Oficina del Gabinete es inusualmente directo sobre el problema del doble uso. Los avances en la IA, señala, están creando oportunidades sin precedentes para el descubrimiento científico y al mismo tiempo están cambiando el panorama de riesgos biológicos: la IA puede mejorar la comprensión de las enfermedades y el desarrollo de contramedidas, pero sistemas cada vez más capaces también podrían reducir las barreras a las actividades nocivas.

Esa preocupación pasó de lo hipotético a lo demostrado durante el año pasado. Las investigaciones ampliamente cubiertas en la prensa científica, incluidos estudios en los que modelos de IA diseñaron genomas viables similares a virus, han demostrado que la línea entre capacidades beneficiosas y peligrosas es más delgada de lo que alguna vez supuso la comunidad de bioseguridad. La respuesta del Reino Unido es institucionalizar el lado defensivo de esa ecuación antes de que madure el lado ofensivo.

OpenAI y Anthropic asumen compromisos

La característica más notable del anuncio es la estructura de financiación. Más allá de los 100 millones de libras de dinero público, el gobierno dice que OpenAI y Anthropic han comprometido hasta 200 millones de libras entre ellos. La ciudad A.M. El periódico informó que Google DeepMind también se encuentra entre los partidarios de la iniciativa de la industria, aunque el propio comunicado del gobierno nombra a OpenAI y Anthropic como las fuentes de los compromisos de la empresa.

Para los laboratorios, el acuerdo es una forma familiar de compromiso. Anthropic ha construido gran parte de su identidad comercial en torno a la investigación de seguridad, y OpenAI ha enfrentado críticas constantes de que su infraestructura de seguridad no ha seguido el ritmo de sus ambiciones de implementación. Destinar dinero y personal a una institución de bioseguridad respaldada por el gobierno brinda a ambas empresas una respuesta concreta y externamente creíble a la pregunta de a qué equivalen en la práctica sus compromisos de seguridad.

También amplía una relación de trabajo. El Reino Unido se ha posicionado como campo de pruebas para la supervisión de modelos fronterizos desde su Cumbre de Seguridad de IA de 2023, y ambas compañías ya someten sus modelos a una evaluación vinculada al gobierno antes de sus lanzamientos importantes. Una institución permanente con su propio presupuesto convierte esa cooperación ad hoc en infraestructura.

Un caso de prueba para la seguridad público-privada de la IA

El laboratorio será observado de cerca como modelo. Si AIBL demuestra que los gobiernos y las empresas fronterizas de IA pueden construir juntos capacidades operativas de bioseguridad, se pueden esperar instituciones similares en otras capitales, y esperar que los laboratorios fronterizos busquen acuerdos equivalentes dondequiera que sus modelos se implementen a escala. Si se convierte en un vehículo para blanquear los compromisos de relaciones públicas en comunicados de prensa, endurecerá el escepticismo sobre las promesas voluntarias de seguridad.

Mucho depende de los detalles que el anuncio deja abiertos: la dotación de personal del laboratorio, su acceso a modelos de frontera, su relación con los reguladores y cómo se compartirán sus capacidades de detección con los sistemas de salud pública. El gobierno dice que las asociaciones serán fundamentales para el trabajo del laboratorio y que su investigación fortalecerá la resiliencia ante una amplia gama de riesgos biológicos, incluidos aquellos permitidos por los avances en IA.

Lo que ya está claro es la dirección que tomarán las políticas. Los gobiernos ya no tratan la bioseguridad de la IA como una cuestión de investigación para los trabajos de los talleres; están financiando instituciones permanentes con presupuestos de nueve cifras y reclutando a la industria de la IA como socio pagador. El Reino Unido ha reivindicado su derecho a ejecutar el primero. Que otros países copien el modelo dependerá menos de la ciencia que de la confianza, y de si los primeros hallazgos de AIBL se publican de manera suficientemente abierta para que el resto del mundo pueda aprovecharlos.

Siga los últimos desarrollos en políticas de IA a medida que los gobiernos de todo el mundo responden a la frontera.

Manténgase por delante de la IA

Desde la regulación hasta los avances en investigación, hacemos un seguimiento de lo que importa.

Leer más noticias sobre IA →