Правительство Великобритании объявило о создании Лаборатории биобезопасности ИИ, которую называют первой в мире специализированной организацией по биобезопасности ИИ, при поддержке государственного финансирования в размере 100 миллионов фунтов стерлингов и обязательств на сумму до 200 миллионов фунтов стерлингов от OpenAI и Anthropic. Кабинет министров опубликовал планы в пятницу в рамках более широкой Национальной инициативы по биобезопасности ИИ.

В совокупности правительство и промышленность пообещали выделить до 300 миллионов фунтов стерлингов на учреждение, чья работа заключается в том, чтобы гарантировать, что те же системы искусственного интеллекта, которые ускоряют открытие лекарств, не снижают барьеры для разработки опасных патогенов.

Что будет делать лаборатория биобезопасности искусственного интеллекта

Согласно заявлению правительства, лаборатория, сокращенно AIBL, объединит передовые таланты в области искусственного интеллекта и биологических наук для разработки практических технических возможностей, которые улучшат способность Великобритании понимать, предотвращать, обнаруживать биологические угрозы и реагировать на них. Первоначальная рабочая программа сосредоточена на двух приоритетах: повышении раннего обнаружения возникающих биологических угроз и ускорении разработки вакцин, методов лечения и других медицинских контрмер.

Лаборатория будет использовать передовой искусственный интеллект в партнерстве с британскими национальными центрами биобезопасности и отраслью медико-биологических наук с заявленной целью дать возможность Великобритании – и, как утверждает правительство, всему миру – быстрее реагировать на вспышки заболеваний. Он основан на существующей Стратегии биологической безопасности Великобритании, в которой с 2023 года готовность к пандемиям и спланированные угрозы рассматриваются как единый континуум биологического риска.

Почему правительства действуют сейчас

В заявлении кабинета министров говорится о проблеме двойного назначения необычайно прямо. Достижения в области искусственного интеллекта, отмечается в докладе, создают беспрецедентные возможности для научных открытий и одновременно меняют ландшафт биологических рисков: искусственный интеллект может улучшить понимание болезней и разработку мер противодействия, но более мощные системы могут также снизить барьеры для вредной деятельности.

За последний год эта озабоченность перешла от гипотетической к очевидной. Исследования, широко освещаемые в научной прессе, в том числе исследования, в которых модели ИИ создавали жизнеспособные вирусоподобные геномы, показали, что грань между полезными и опасными возможностями тоньше, чем когда-то предполагало сообщество биобезопасности. Ответ Великобритании заключается в том, чтобы институционализировать оборонительную сторону этого уравнения до того, как созреет наступательная сторона.

OpenAI и Anthropic берут на себя обязательства

Наиболее примечательной особенностью объявления является структура финансирования. Правительство заявляет, что помимо 100 миллионов фунтов государственных денег OpenAI и Anthropic выделили на двоих до 200 миллионов фунтов стерлингов. Город А.М. Газета сообщила, что Google DeepMind также входит в число отраслевых сторонников этой инициативы, хотя в собственном сообщении правительства в качестве источников обязательств компании упоминаются OpenAI и Anthropic.

Для лабораторий такое соглашение является привычной формой взаимодействия. Anthropic построила большую часть своей коммерческой идентичности на исследованиях в области безопасности, а OpenAI сталкивается с постоянной критикой за то, что ее инфраструктура безопасности не поспевает за ее амбициями по развертыванию. Вложение денег и персонала в государственное учреждение биобезопасности дает обеим компаниям конкретный, заслуживающий доверия ответ на вопрос, к чему на практике сводятся их обязательства по обеспечению безопасности.

Это также расширяет рабочие отношения. Великобритания позиционирует себя как испытательный полигон для надзора за передовыми моделями после Саммита по безопасности искусственного интеллекта в 2023 году, и обе компании уже проводят свои модели через правительственную оценку перед выпуском крупных релизов. Постоянно действующее учреждение с собственным бюджетом превращает это специальное сотрудничество в инфраструктуру.

Тестовый пример государственно-частной безопасности искусственного интеллекта

За лабораторной работой будут внимательно следить как за шаблоном. Если AIBL продемонстрирует, что правительства и передовые компании, занимающиеся искусственным интеллектом, могут вместе создавать оперативные возможности биобезопасности, ожидайте, что аналогичные учреждения появятся в других столицах, а также ожидайте, что передовые лаборатории будут искать эквивалентные механизмы везде, где их модели развернуты в большом масштабе. Если это станет средством отмывания PR-обязательств в пресс-релизах, это усилит скептицизм в отношении добровольных обещаний безопасности.

Многое зависит от деталей, которые объявление оставляет открытыми: укомплектованность лабораторией, ее доступ к передовым моделям, ее отношения с регулирующими органами и то, как ее возможности обнаружения будут переданы системам общественного здравоохранения. Правительство заявляет, что партнерские отношения будут играть центральную роль в работе лаборатории, и что ее исследования повысят устойчивость к широкому спектру биологических рисков, в том числе к тем, которые становятся возможными благодаря достижениям в области искусственного интеллекта.

Что уже ясно, так это направление политического движения. Правительства больше не рассматривают биобезопасность ИИ как исследовательский вопрос для семинаров; они финансируют постоянные учреждения с девятизначными бюджетами и привлекают индустрию искусственного интеллекта в качестве платящего партнера. Великобритания заявила о своих правах на запуск первого проекта. Скопируют ли другие страны эту модель, будет зависеть не столько от науки, сколько от доверия, а также от того, будут ли ранние результаты AIBL опубликованы достаточно открыто, чтобы остальной мир мог на них опираться.

Следите за последними развитиями политики в области искусственного интеллекта, пока правительства всего мира реагируют на эту проблему.

Будьте впереди ИИ

От регулирования до прорывных исследований — мы отслеживаем то, что важно.

Читать больше новостей об искусственном интеллекте →