Wielka Brytania uruchamia pierwsze na świecie laboratorium bezpieczeństwa biologicznego sztucznej inteligencji za kwotę 100 milionów funtów i wsparcie ze strony OpenAI i Anthropic

Rząd Wielkiej Brytanii ogłosił utworzenie AI Biosecurity Lab, określanego jako pierwsza na świecie organizacja zajmująca się bezpieczeństwem biologicznym AI, wspierana przez fundusze rządowe o wartości 100 milionów funtów i zobowiązania o wartości do 200 milionów funtów ze strony OpenAI i Anthropic. Biuro Rady Ministrów opublikowało plany w piątek w ramach szerszej krajowej inicjatywy na rzecz bezpieczeństwa biologicznego sztucznej inteligencji.

Łącznie rząd i przemysł zobowiązały się przeznaczyć do 300 milionów funtów na instytucję, której zadaniem jest dopilnowanie, aby te same systemy sztucznej inteligencji przyspieszające odkrywanie leków nie obniżyły również barier w projektowaniu niebezpiecznych patogenów.

Co zrobi laboratorium bezpieczeństwa biologicznego AI

Zgodnie z zapowiedzią rządu laboratorium – w skrócie AIBL – zgromadzi pionierskie talenty w zakresie sztucznej inteligencji i nauk biologicznych w celu opracowania praktycznych możliwości technicznych, które poprawią zdolność Wielkiej Brytanii do rozumienia zagrożeń biologicznych, zapobiegania im, wykrywania ich i reagowania na nie. Początkowy program prac koncentruje się na dwóch priorytetach: usprawnieniu wczesnego wykrywania pojawiających się zagrożeń biologicznych oraz przyspieszeniu opracowywania szczepionek, metod leczenia i innych medycznych środków zapobiegawczych.

Laboratorium będzie wykorzystywać pionierską sztuczną inteligencję we współpracy z brytyjskimi krajowymi ośrodkami bezpieczeństwa biologicznego i branżą nauk przyrodniczych, a wyznaczonym celem będzie umożliwienie Wielkiej Brytanii – i – jak twierdzi rząd – światu – szybszego reagowania na epidemie chorób. Opiera się ono na istniejącej brytyjskiej strategii bezpieczeństwa biologicznego, która od 2023 r. określiła gotowość na wypadek pandemii i stworzyła zagrożenia jako jedno kontinuum ryzyka biologicznego.

Dlaczego rządy podejmują działania teraz

Oświadczenie Gabinetu Rady Ministrów niezwykle bezpośrednio odnosi się do problemu podwójnego zastosowania. Zauważa, że ​​postępy w dziedzinie sztucznej inteligencji stwarzają bezprecedensowe możliwości odkryć naukowych, jednocześnie zmieniając krajobraz zagrożeń biologicznych: sztuczna inteligencja może poprawić zrozumienie chorób i opracować środki zaradcze, ale coraz wydajniejsze systemy mogą również obniżyć bariery dla szkodliwej działalności.

Obawy te zmieniły się z hipotetycznych na wykazane w ciągu ostatniego roku. Badania szeroko omawiane w prasie naukowej – w tym badania, w których modele sztucznej inteligencji projektowały żywotne genomy wirusopodobne – wykazały, że granica między korzystnymi i niebezpiecznymi możliwościami jest cieńsza, niż kiedyś zakładała społeczność zajmująca się bezpieczeństwem biologicznym. Odpowiedzią Wielkiej Brytanii jest zinstytucjonalizowanie defensywnej strony tego równania, zanim dojrzeje strona ofensywna.

OpenAI i Anthropic podejmują zobowiązania

Najbardziej godną uwagi cechą ogłoszenia jest struktura finansowania. Rząd twierdzi, że poza kwotą 100 milionów funtów ze środków publicznych OpenAI i Anthropic przekazały między sobą do 200 milionów funtów. Miasto A.M. gazeta podała, że ​​Google DeepMind również należy do branżowych zwolenników tej inicjatywy, chociaż w komunikacie rządu jako źródła zobowiązań firmy wymieniane są OpenAI i Anthropic.

Dla laboratoriów taka aranżacja jest znaną formą zaangażowania. Anthropic zbudowało znaczną część swojej tożsamości komercyjnej na badaniach nad bezpieczeństwem, a OpenAI spotkało się z ciągłą krytyką, że jej infrastruktura bezpieczeństwa nie nadąża za ambicjami wdrożeniowymi. Umieszczenie pieniędzy i personelu w instytucji zajmującej się bezpieczeństwem biologicznym za pośrednictwem rządu daje obu firmom konkretną, zewnętrznie wiarygodną odpowiedź na pytanie, jakie znaczenie mają w praktyce ich zobowiązania w zakresie bezpieczeństwa.

Przedłuża także stosunek pracy. Od czasu szczytu dotyczącego bezpieczeństwa sztucznej inteligencji w 2023 r. Wielka Brytania stała się poligonem doświadczalnym w zakresie nadzoru nad modelami pionierskimi, a obie firmy poddają już swoje modele ocenie prowadzonej przez rząd przed wprowadzeniem ich na rynek. Stała instytucja z własnym budżetem zamienia tę doraźną współpracę w infrastrukturę.

Przypadek testowy dotyczący bezpieczeństwa publiczno-prywatnej sztucznej inteligencji

Laboratorium będzie uważnie obserwowane jako szablon. Jeśli AIBL wykaże, że rządy i pionierskie firmy zajmujące się sztuczną inteligencją mogą wspólnie budować operacyjne zdolności w zakresie bezpieczeństwa biologicznego, można spodziewać się podobnych instytucji w innych stolicach i oczekiwać, że laboratoria graniczne będą szukać równoważnych rozwiązań wszędzie tam, gdzie ich modele zostaną wdrożone na dużą skalę. Jeśli stanie się narzędziem prania zobowiązań PR w komunikatach prasowych, wzmocni sceptycyzm wobec dobrowolnych deklaracji w sprawie bezpieczeństwa.

Wiele zależy od szczegółów, które ogłoszenie pozostawia otwarte: personelu laboratorium, dostępu do modeli pionierskich, relacji z organami regulacyjnymi oraz sposobu udostępniania jego możliwości wykrywania systemom zdrowia publicznego. Rząd twierdzi, że partnerstwa będą miały kluczowe znaczenie w pracy laboratorium, a prowadzone przez niego badania wzmocnią odporność na szeroki zakres zagrożeń biologicznych, w tym tych, które umożliwiają postęp w sztucznej inteligencji.

Wiadomo już, w jakim kierunku podąża polityka. Rządy nie traktują już bezpieczeństwa biologicznego sztucznej inteligencji jako zagadnienia badawczego do artykułów warsztatowych; finansują stałe instytucje z dziewięciocyfrowymi budżetami i rekrutują branżę sztucznej inteligencji jako partnera płatniczego. Wielka Brytania zgłosiła swoje roszczenia do prowadzenia pierwszego z nich. To, czy inne kraje skopiują ten model, będzie zależeć nie tyle od nauki, ile od zaufania – i od tego, czy wczesne ustalenia AIBL zostaną opublikowane na tyle otwarcie, aby reszta świata mogła na nich bazować.

Śledź najnowsze rozwój polityki w zakresie sztucznej inteligencji, gdy rządy na całym świecie reagują na granicę.

Wyprzedź sztuczną inteligencję

Od regulacji po przełomowe osiągnięcia badawcze – śledzimy to, co ważne.

Przeczytaj więcej aktualności o sztucznej inteligencji →