Spojené království spouští světovou první laboratoř biologické bezpečnosti umělé inteligence se 100 miliony liber a podporou OpenAI a Anthropic

Vláda Spojeného království oznámila vytvoření laboratoře AI Biosecurity Lab, popisované jako první na světě specializovaná organizace pro biologickou bezpečnost AI, podporovaná vládním financováním ve výši 100 milionů GBP a závazky OpenAI a Anthropic ve výši až 200 milionů GBP. Úřad vlády zveřejnil plány v pátek jako součást širší Národní iniciativy pro biologickou bezpečnost AI.

Dohromady, vláda a průmysl slibují až 300 milionů liber za instituci, jejímž úkolem je zajistit, aby stejné systémy umělé inteligence urychlující objevování léků také nesnižovaly bariéry pro vytváření nebezpečných patogenů.

Co udělá laboratoř biologické bezpečnosti AI

Podle vládního oznámení bude laboratoř – zkráceně AIBL – spojovat talenty hraniční umělé inteligence a biologické vědy za účelem rozvoje praktických technických schopností, které zlepší schopnost Spojeného království porozumět biologickým hrozbám, předcházet jim, detekovat je a reagovat na ně. Počáteční pracovní program se zaměřuje na dvě priority: zlepšení včasné detekce vznikajících biologických hrozeb a urychlení vývoje vakcín, léčby a dalších lékařských protiopatření.

Laboratoř bude využívat hraniční umělou inteligenci ve spolupráci s britskými národními centry biologické bezpečnosti a průmyslem biologických věd, s uvedeným cílem umožnit Spojenému království – a vláda tvrdí, že světu – rychleji reagovat na propuknutí onemocnění. Staví na stávající strategii biologické bezpečnosti Spojeného království, která od roku 2023 formulovala připravenost na pandemii a zkonstruované hrozby jako jediné kontinuum biologického rizika.

Proč se vlády nyní stěhují

Oznámení Úřadu vlády je neobvykle přímé o problému dvojího užití. Poznamenává, že pokroky v AI vytvářejí bezprecedentní příležitosti pro vědecké objevy a zároveň mění prostředí biologických rizik: AI může zlepšit porozumění nemocem a bránit rozvoji, ale stále schopnější systémy by také mohly snížit překážky škodlivé činnosti.

Tato obava se za poslední rok přesunula z hypotetické do demonstrované. Výzkum široce pokrytý vědeckým tiskem – včetně studií, ve kterých modely umělé inteligence navrhovaly životaschopné genomy podobné virům – ukázaly, že hranice mezi prospěšnými a nebezpečnými schopnostmi je tenčí, než komunita biologické bezpečnosti kdysi předpokládala. Odpovědí Spojeného království je institucionalizovat obrannou stránku této rovnice, než ta útočná dozraje.

OpenAI a antropické závazky

Nejpozoruhodnějším rysem oznámení je struktura financování. Kromě 100 milionů liber z veřejných peněz vláda tvrdí, že OpenAI a Anthropic se mezi sebou zavázaly až 200 milionů liber. Město A.M. noviny uvedly, že Google DeepMind je také mezi průmyslovými podporovateli iniciativy, ačkoli vládní vydání uvádí OpenAI a Anthropic jako zdroje závazků společnosti.

Pro laboratoře je uspořádání známou formou zapojení. Anthropic vybudoval velkou část své komerční identity na bezpečnostním výzkumu a OpenAI čelila soustavné kritice, že její bezpečnostní infrastruktura nedrží krok s jejími ambicemi v oblasti nasazení. Vložení peněz a zaměstnanců do vládou ukotvené instituce biologické bezpečnosti dává oběma společnostem konkrétní, navenek věrohodnou odpověď na otázku, jaké jsou jejich bezpečnostní závazky v praxi.

Rozšiřuje také pracovní vztah. Velká Británie se od svého AI Safety Summit v roce 2023 umístila jako testovací prostor pro dohled nad hraničními modely a obě společnosti již své modely provádějí hodnocením navázaným na vládu, než budou zveřejněny. Stálá instituce s vlastním rozpočtem přeměňuje tuto ad hoc spolupráci na infrastrukturu.

Testovací případ pro bezpečnost veřejného a soukromého sektoru AI

Laboratoř bude bedlivě sledována jako šablona. Pokud AIBL prokáže, že vlády a hraniční společnosti s umělou inteligencí mohou společně budovat operační schopnosti biologické bezpečnosti, očekávejte podobné instituce v jiných hlavních městech – a očekávejte, že hraniční laboratoře budou hledat ekvivalentní opatření, ať jsou jejich modely nasazeny ve velkém měřítku. Pokud se stane nástrojem pro praní závazků PR do tiskových zpráv, přitvrdí to skepticismus ohledně dobrovolných bezpečnostních závazků.

Hodně záleží na detailech, které oznámení nechává otevřené: personální obsazení laboratoře, její přístup k hraničním modelům, její vztah k regulátorům a jak budou její detekční schopnosti sdíleny se systémy veřejného zdravotnictví. Vláda tvrdí, že partnerství bude ústředním bodem práce laboratoře a že její výzkum posílí odolnost vůči široké škále biologických rizik, včetně těch, která umožňují pokroky v AI.

Co je již jasné, je směr politického cestování. Vlády již nepovažují biologickou bezpečnost AI za výzkumnou otázku pro workshopy; financují stálé instituce s devítimístnými rozpočty a navrhují odvětví umělé inteligence jako platícího partnera. Spojené království vsadilo na řízení prvního z nich. Zda ostatní země kopírují tento model, bude záviset méně na vědě než na důvěře – a na tom, zda jsou raná zjištění AIBL zveřejněna dostatečně otevřeně, aby na nich zbytek světa mohl stavět.

Sledujte nejnovější vývoj zásad AI, jak vlády po celém světě reagují na hranice.

Udržujte si náskok před AI

Od regulace po průlomové objevy ve výzkumu sledujeme, na čem záleží.

Přečtěte si další zprávy o AI →