Уряд Великої Британії оголосив про створення Лабораторії біозахисту штучного інтелекту, яка називається першою у світі спеціалізованою організацією біозахисту штучного інтелекту, за підтримки 100 мільйонів фунтів стерлінгів державного фінансування та до 200 мільйонів фунтів стерлінгів у вигляді зобов’язань від OpenAI і Anthropic. Кабінет міністрів оприлюднив плани в п’ятницю в рамках ширшої Національної ініціативи біозахисту ШІ.

Разом уряд і галузь зобов’язалися виділити до 300 мільйонів фунтів стерлінгів на установу, завдання якої полягає в тому, щоб переконатися, що ті самі системи ШІ, які прискорюють відкриття ліків, не знижують бар’єрів для створення небезпечних патогенів.

Що робитиме лабораторія біозахисту ШІ

Згідно з заявою уряду, лабораторія — скорочено AIBL — об’єднає передові спеціалісти зі штучного інтелекту та біологічних наук для розробки практичних технічних можливостей, які покращать здатність Великобританії розуміти, запобігати, виявляти та реагувати на біологічні загрози. Початкова робоча програма зосереджена на двох пріоритетах: посилення раннього виявлення нових біологічних загроз і прискорення розробки вакцин, методів лікування та інших медичних заходів протидії.

Лабораторія використовуватиме передовий штучний інтелект у партнерстві з національними центрами біозахисту Великої Британії та галуззю наук про життя з метою надання Великобританії — і, як стверджує уряд, світу — можливості швидше реагувати на спалахи захворювань. Він базується на існуючій Стратегії біологічної безпеки Великобританії, яка з 2023 року розглядає готовність до пандемії та створені загрози як єдиний континуум біологічного ризику.

Чому уряди рухаються зараз

Офіс Кабінету міністрів надзвичайно відвертий щодо проблеми подвійного використання. Досягнення ШІ, як зазначається, створюють безпрецедентні можливості для наукових відкриттів, одночасно змінюючи ландшафт біологічних ризиків: ШІ може покращити розуміння хвороб і розробку контрзаходів, але дедалі ефективніші системи можуть також знизити бар’єри для шкідливої ​​діяльності.

За останній рік це занепокоєння перейшло від гіпотетичного до демонстрованого. Дослідження, які широко висвітлювалися в науковій пресі, включно з дослідженнями, під час яких моделі штучного інтелекту проектували життєздатні вірусоподібні геноми, показали, що межа між корисними та небезпечними можливостями є тоншою, ніж колись припускала спільнота біозахисту. Відповідь Великої Британії полягає в тому, щоб інституціоналізувати оборонну сторону цього рівняння до того, як наступальна сторона дозріє.

Зобов'язання OpenAI і Anthropic Take On

Найбільш помітною особливістю оголошення є структура фінансування. Окрім 100 мільйонів фунтів стерлінгів державних коштів, уряд каже, що OpenAI і Anthropic виділили між собою до 200 мільйонів фунтів стерлінгів. Місто А.М. Газета повідомила, що Google DeepMind також є одним із тих, хто підтримує цю ініціативу в галузі, хоча у власному випуску уряду в якості джерел зобов’язань компанії вказано OpenAI і Anthropic.

Для лабораторій угода є звичною формою залучення. Anthropic побудував більшу частину своєї комерційної ідентичності навколо досліджень безпеки, і OpenAI зіткнувся з постійною критикою, що її інфраструктура безпеки не встигає за амбіціями розгортання. Вкладення грошей і персоналу в урядову інституцію біозахисту дає обом компаніям конкретну, зовнішню достовірну відповідь на питання про те, що на практиці означають їхні зобов’язання щодо безпеки.

Це також продовжує робочі відносини. Велика Британія позиціонує себе як випробувальний полігон для нагляду за передовими моделями після проведення Саміту з безпеки штучного інтелекту у 2023 році, і обидві компанії вже проводять оцінку своїх моделей, пов’язану з урядом, перед основними випусками. Постійна установа з власним бюджетом перетворює цю спеціальну співпрацю в інфраструктуру.

Тестовий приклад для безпеки державного та приватного ШІ

За лабораторією уважно спостерігатимуть як за шаблоном. Якщо AIBL продемонструє, що уряди та передові компанії штучного інтелекту можуть спільно створювати оперативні можливості біозахисту, очікуйте, що подібні установи будуть в інших столицях — і очікуйте, що прикордонні лабораторії шукатимуть еквівалентні домовленості, де б їхні моделі розгорталися в масштабі. Якщо це стане засобом відмивання піар-зобов’язань у прес-релізах, це посилить скептицизм щодо добровільних обіцянок безпеки.

Багато залежить від деталей, які залишаються відкритими в оголошенні: персонал лабораторії, її доступ до передових моделей, її зв’язок із регуляторами та те, як її можливості виявлення будуть розподілені з системами охорони здоров’я. Уряд каже, що партнерство буде центральним у роботі лабораторії, і що її дослідження посилять стійкість до широкого спектру біологічних ризиків, у тому числі тих, які викликані прогресом у ШІ.

Що вже зрозуміло, так це напрямок руху політики. Уряди більше не розглядають біозахист ШІ як дослідницьке питання для семінарських робіт; вони фінансують постійні установи з дев’ятизначними бюджетами та проектують індустрію штучного інтелекту як платіжного партнера. Велика Британія заявила про свої права на проведення першого. Те, чи скопіюють цю модель інші країни, залежатиме не стільки від науки, а від довіри — і від того, чи будуть ранні висновки AIBL опубліковані достатньо відкрито, щоб решта світу могла на них спиратися.

Слідкуйте за останніми [розвитками політики AI] (https://aibuzzwire.news), коли уряди всього світу реагують на передові.

Будьте попереду ШІ

Від регулювання до наукових проривів, ми відстежуємо те, що має значення.

Читати більше новин AI →