Guvernul Regatului Unit a anunțat crearea Laboratorului de biosecuritate AI, descris ca fiind prima organizație dedicată de biosecuritate AI din lume, susținută de 100 de milioane de lire sterline din finanțare guvernamentală și până la 200 de milioane de lire sterline în angajamente de la OpenAI și Anthropic. Biroul Cabinetului a publicat vineri planurile ca parte a unei Inițiative Naționale de Biosecuritate AI mai ample.
Luate împreună, guvernul și industria se angajează să pună până la 300 de milioane de lire sterline în spatele unei instituții a cărei sarcină este să se asigure că aceleași sisteme AI care accelerează descoperirea medicamentelor nu reduc, de asemenea, barierele în calea ingineriei agenților patogeni periculoși.
Ce va face laboratorul de biosecuritate AI
Potrivit anunțului guvernului, laboratorul – abreviat AIBL – va reuni AI de frontieră și talentul în știința biologică pentru a dezvolta capacități tehnice practice care îmbunătățesc capacitatea Regatului Unit de a înțelege, preveni, detecta și răspunde amenințărilor biologice. Programul de lucru inițial se concentrează pe două priorități: îmbunătățirea detectării timpurii a amenințărilor biologice emergente și accelerarea dezvoltării vaccinurilor, tratamentelor și a altor contramăsuri medicale.
Laboratorul va valorifica IA de frontieră în parteneriat cu centrele naționale de biosecuritate din Marea Britanie și industria științelor vieții, cu scopul declarat de a permite Regatului Unit – și, susține guvernul, lumii – să răspundă mai rapid la focarele de boli. Se bazează pe Strategia de securitate biologică existentă a Regatului Unit, care a încadrat pregătirea pentru pandemie și a creat amenințările ca un continuum unic de risc biologic din 2023.
De ce guvernele se mișcă acum
Anunțul Biroului Cabinetului este neobișnuit de direct cu privire la problema cu dublă utilizare. Progresele în inteligența artificială, notează acesta, creează oportunități fără precedent pentru descoperirea științifică, schimbând simultan peisajul riscului biologic: inteligența artificială poate îmbunătăți înțelegerea bolii și dezvoltarea contramăsurilor, dar sistemele din ce în ce mai capabile ar putea, de asemenea, să reducă barierele în calea activității dăunătoare.
Această îngrijorare a trecut de la ipotetic la demonstrat în ultimul an. Cercetările acoperite pe scară largă în presa științifică – inclusiv studii în care modelele AI au proiectat genom viabile asemănător virusului – au arătat că linia dintre capabilitățile benefice și periculoase este mai subțire decât a presupus comunitatea de biosecuritate. Răspunsul Regatului Unit este să instituționalizeze partea defensivă a acelei ecuații înainte ca partea ofensivă să se maturizeze.
OpenAI și antropic asumarea angajamentelor
Cea mai notabilă caracteristică a anunțului este structura de finanțare. Dincolo de cele 100 de milioane de lire sterline din bani publici, guvernul spune că OpenAI și Anthropic s-au angajat până la 200 de milioane de lire sterline între ele. Orașul A.M. ziarul a raportat că Google DeepMind este, de asemenea, printre susținătorii din industrie ai inițiativei, deși propria lansare a guvernului numește OpenAI și Anthropic drept surse ale angajamentelor companiei.
Pentru laboratoare, aranjamentul este o formă familiară de implicare. Anthropic și-a construit o mare parte din identitatea comercială în jurul cercetării în materie de siguranță, iar OpenAI s-a confruntat cu critici susținute că infrastructura sa de siguranță nu a ținut pasul cu ambițiile sale de implementare. Punerea de bani și personal într-o instituție de biosecuritate ancorată de guvern oferă ambelor companii un răspuns concret, credibil din exterior, la întrebarea cu privire la ce înseamnă în practică angajamentele lor în materie de siguranță.
De asemenea, extinde o relație de lucru. Regatul Unit s-a poziționat drept teren de testare pentru supravegherea modelelor de frontieră de la summitul său AI Safety Summit din 2023, iar ambele companii își direcționează deja modelele prin evaluarea legată de guvern înainte de lansările majore. O instituție permanentă cu buget propriu transformă această cooperare ad-hoc în infrastructură.
Un caz de testare pentru siguranța AI public-privat
Laboratorul va fi urmărit îndeaproape ca un șablon. Dacă AIBL demonstrează că guvernele și companiile de IA de frontieră pot construi împreună capacități operaționale de biosecuritate, așteptați-vă ca instituții similare din alte capitale - și așteptați-vă ca laboratoarele de frontieră să caute aranjamente echivalente oriunde modelele lor sunt implementate la scară. Dacă va deveni un vehicul pentru spălarea angajamentelor de PR în comunicate de presă, va întări scepticismul cu privire la angajamentele voluntare de siguranță.
Depinde mult de detaliile pe care anunțul le lasă deschis: personalul laboratorului, accesul acestuia la modele de frontieră, relația sa cu autoritățile de reglementare și modul în care capacitățile sale de detectare vor fi partajate cu sistemele de sănătate publică. Guvernul spune că parteneriatele vor fi esențiale pentru activitatea laboratorului și că cercetările sale vor consolida rezistența la o gamă largă de riscuri biologice, inclusiv cele permise de progresele în IA.
Ceea ce este deja clar este direcția deplasării politicii. Guvernele nu mai tratează biosecuritatea IA ca pe o întrebare de cercetare pentru lucrările de lucru; ei finanțează instituții permanente cu bugete de nouă cifre și elaborează industria AI ca partener plătitor. Marea Britanie și-a exprimat pretenția de a conduce primul. Dacă alte țări copiază modelul va depinde mai puțin de știință decât de încredere - și de dacă descoperirile timpurii ale AIBL sunt publicate suficient de deschis pentru ca restul lumii să se bazeze pe ele.
Urmăriți cele mai recente evoluții ale politicii AI în timp ce guvernele din întreaga lume răspund la frontieră.
Rămâi înaintea AI
De la reglementări la descoperiri în cercetare, urmărim ceea ce contează.
Citiți mai multe știri AI →
