Le gouvernement britannique a annoncé la création de l'AI Biosecurity Lab, décrit comme la première organisation mondiale dédiée à la biosécurité de l'IA, soutenu par 100 millions de livres sterling de financement gouvernemental et jusqu'à 200 millions de livres sterling d'engagements d'OpenAI et d'Anthropic. Le Cabinet Office a publié les plans vendredi dans le cadre d’une initiative nationale plus large sur la biosécurité de l’IA.

Ensemble, le gouvernement et l’industrie s’engagent à consacrer jusqu’à 300 millions de livres sterling à une institution dont le rôle est de garantir que les mêmes systèmes d’IA qui accélèrent la découverte de médicaments n’abaissent pas également les obstacles à la conception d’agents pathogènes dangereux.

Ce que fera le laboratoire de biosécurité de l'IA

Selon l'annonce du gouvernement, le laboratoire – en abrégé AIBL – rassemblera des talents de pointe en IA et en sciences biologiques pour développer des capacités techniques pratiques qui amélioreront la capacité du Royaume-Uni à comprendre, prévenir, détecter et répondre aux menaces biologiques. Le programme de travail initial se concentre sur deux priorités : améliorer la détection précoce des menaces biologiques émergentes et accélérer le développement de vaccins, de traitements et d'autres contre-mesures médicales.

Le laboratoire exploitera l'IA de pointe en partenariat avec les centres nationaux de biosécurité du Royaume-Uni et l'industrie des sciences de la vie, dans le but déclaré de permettre au Royaume-Uni – et, selon le gouvernement, au monde – de réagir plus rapidement aux épidémies. Il s'appuie sur la stratégie de sécurité biologique existante du Royaume-Uni, qui a défini la préparation à une pandémie et conçu les menaces comme un continuum unique de risque biologique depuis 2023.

Pourquoi les gouvernements bougent maintenant

L’annonce du Cabinet Office est inhabituellement directe sur le problème du double usage. Les progrès de l’IA, note-t-il, créent des opportunités de découverte scientifique sans précédent tout en modifiant simultanément le paysage des risques biologiques : l’IA peut améliorer la compréhension des maladies et le développement de contre-mesures, mais des systèmes de plus en plus performants pourraient également réduire les obstacles aux activités nocives.

Cette préoccupation est passée d’hypothétique à démontrée au cours de la dernière année. Des recherches largement couvertes par la presse scientifique – y compris des études dans lesquelles des modèles d’IA ont conçu des génomes viables semblables à des virus – ont montré que la frontière entre les capacités bénéfiques et dangereuses est plus mince que ne le pensait autrefois la communauté de la biosécurité. La réponse du Royaume-Uni consiste à institutionnaliser l’aspect défensif de cette équation avant que l’aspect offensif ne mûrisse.

OpenAI et Anthropic prennent des engagements

La caractéristique la plus notable de l’annonce est la structure de financement. Au-delà des 100 millions de livres sterling d’argent public, le gouvernement affirme qu’OpenAI et Anthropic se sont engagés à eux deux à hauteur de 200 millions de livres sterling. La Ville A.M. Le journal a rapporté que Google DeepMind fait également partie des soutiens industriels de l'initiative, bien que le propre communiqué du gouvernement désigne OpenAI et Anthropic comme les sources des engagements de l'entreprise.

Pour les laboratoires, cet arrangement est une forme d’engagement familière. Anthropic a construit une grande partie de son identité commerciale autour de la recherche sur la sécurité, et OpenAI a fait face à des critiques soutenues selon lesquelles son infrastructure de sécurité n'a pas suivi le rythme de ses ambitions de déploiement. En investissant de l’argent et du personnel dans une institution de biosécurité ancrée dans le gouvernement, les deux entreprises ont une réponse concrète et crédible à la question de savoir ce que représentent en pratique leurs engagements en matière de sécurité.

Cela prolonge également une relation de travail. Le Royaume-Uni s'est positionné comme un terrain d'essai pour la surveillance des modèles pionniers depuis son sommet sur la sécurité de l'IA de 2023, et les deux sociétés font déjà passer leurs modèles par une évaluation liée au gouvernement avant les versions majeures. Une institution permanente dotée de son propre budget transforme cette coopération ponctuelle en infrastructure.

Un cas de test pour la sécurité de l'IA public-privé

Le laboratoire sera surveillé de près comme modèle. Si l’AIBL démontre que les gouvernements et les sociétés d’IA de pointe peuvent construire ensemble des capacités opérationnelles de biosécurité, on peut s’attendre à des institutions similaires dans d’autres capitales – et on s’attend à ce que les laboratoires de pointe recherchent des arrangements équivalents partout où leurs modèles sont déployés à grande échelle. Si cela devient un moyen de blanchir les engagements de relations publiques dans les communiqués de presse, cela renforcera le scepticisme à l'égard des engagements volontaires en matière de sécurité.

Beaucoup dépend des détails que l'annonce laisse ouverts : le personnel du laboratoire, son accès aux modèles pionniers, ses relations avec les régulateurs et la manière dont ses capacités de détection seront partagées avec les systèmes de santé publique. Le gouvernement affirme que les partenariats seront au cœur du travail du laboratoire et que ses recherches renforceront la résilience à un large éventail de risques biologiques, y compris ceux rendus possibles par les progrès de l'IA.

Ce qui est déjà clair, c’est la direction que prendront les politiques. Les gouvernements ne traitent plus la biosécurité de l’IA comme une question de recherche dans les documents d’atelier ; ils financent des institutions permanentes avec des budgets à neuf chiffres et font de l’industrie de l’IA un partenaire financier. Le Royaume-Uni a revendiqué la direction du premier. La question de savoir si d'autres pays copient le modèle dépendra moins de la science que de la confiance – et de la question de savoir si les premières découvertes de l'AIBL seront publiées suffisamment ouvertement pour que le reste du monde puisse s'en inspirer.

Suivez les derniers développements politiques en matière d'IA alors que les gouvernements du monde entier réagissent à la frontière.

Gardez une longueur d'avance sur l'IA

De la réglementation aux avancées de la recherche, nous suivons ce qui compte.

Lire plus d'actualités sur l'IA →