Personalul micului birou al guvernului american responsabil cu testarea siguranței modelelor de IA de frontieră a fost rugat recent să raporteze informal la un birou de la Casa Albă, a raportat sâmbătă Associated Press, stârnind noi îngrijorări cu privire la independența celui mai important evaluator al siguranței AI al țării.
Biroul, Centrul pentru Advancing Innovation and Standards for Super Intelligence – cunoscut sub numele de CAISSI și găzduit în cadrul Departamentului de Comerț – a încetat, de asemenea, să-și publice cercetările, potrivit AP. Raportul ajunge pe fondul anxietății crescânde a publicului față de un șir de povești despre agenți AI scăpați de sub control și descrie un câine de pază care nu are personal, fără lideri și din ce în ce mai tăcut. For more context on this story, see our ongoing more AI stories.
Ce face CAISSI - și ce a găsit AP
CAISSI este însărcinat cu evaluarea siguranței noilor oferte de inteligență artificială înainte de a ajunge la public, un mandat care include evaluarea cât de bine rezistă modelele de frontieră utilizării abuzive pentru atacuri cibernetice și alte daune grave. Potrivit AP, personalului centrului i sa cerut „recent” să se prezinte informal la un birou al Casei Albe. Agenția de presă a citat doi foști oficiali guvernamentali cunoscători de discuții, care au vorbit anonim pentru a proteja actualii angajați. Casa Albă nu a răspuns la întrebări specifice despre centru.
Amploarea operațiunii este modestă. AP raportează că CAISSI primește aproximativ 10 milioane de dolari pe an - aproximativ o opteme din ceea ce primește omologul său din Regatul Unit, chiar dacă Statele Unite sunt locul unde sunt construite cele mai multe modele de frontieră.
Aranjamentul informal de raportare este doar cea mai recentă întrerupere a centrului. AP descrie un vid de conducere care se întinde pe câteva luni: un director a fost angajat în aprilie și concediat în câteva zile, înlocuitorul său a durat câteva luni înainte de a demisiona, iar șeful institutului-mamă este în prezent director interimar. În practică, asta înseamnă că nimeni cu un mandat permanent nu apără în prezent independența centrului.
Un câine de pază care a oprit publicarea
Schimbarea mai importantă, potrivit AP, este ceea ce centrul nu mai face. În august, Congresul a întrebat de ce CAISSI a încetat să mai publice rapoarte despre modul în care sistemele AI se comportă la testele de siguranță. Testarea înainte de implementare funcționează ca o verificare publică a constructorilor de modele numai dacă rezultatele sale sunt vizibile în afara laboratorului - și, deocamdată, nu sunt.
Schimbarea nu a venit din senin. În octombrie, Reuters, citând un raport de la The Information, a dezvăluit că administrația plănuia să mute trei oficiali înalți CAISSI la Casa Albă. Un oficial de la Casa Albă a declarat la acea vreme pentru The Information că problemele de coordonare cu Comerțul au arătat necesitatea de a aduce conducerea centrului mai aproape de luarea deciziilor AI. Potrivit acelui raport, oficialii ar răspunde lui Michael Kratsios, care conduce Biroul pentru Politică în Știință și Tehnologie, și directorului național cibernetic, Sean Cairncross. Secretarul pentru Comerț Howard Lutnick i-a invitat pe cei doi să co-gestioneze centrul cu aproximativ șase luni mai devreme.
Citite împreună, noile rapoarte ale AP sugerează că planul ajunge în practică - în mod informal și înainte de orice restructurare oficială.
Preocupări de independență, în ambele direcții
Criticii citați de AP se îngrijorează că deciziile care vizează securitatea cibernetică și riscul armelor biologice ar putea fi politizate sau că rezultatele ar putea fi atenuate pentru a se potrivi industriei tehnologice. Amos Toh de la Centrul Brennan pentru Justiție a declarat AP că astfel de decizii au o imensă consecință publică și ar trebui explicate în public. Caroline Siegel Singh de la Federația Oamenilor de Știință Americani a descris centre precum CAISSI ca fiind instituții puternice care pot îmbunătăți drastic viețile sau pot face opusul.
Există un contraargument, iar AP nu îl respinge. Evaluarea capacității unui model de a ajuta la scrierea de programe malware este o problemă de securitate națională, iar o administrație care dorește vizibilitate asupra cine vede acele rezultate are un caz susținut. Dificultatea este instituțională: un arbitru care răspunde unuia dintre sponsorii echipelor este prost poziționat pentru a spune jocul drept, iar centrul a încetat să mai publice rapoartele care altfel i-ar demonstra independența.
De ce contează pentru constructori și cumpărători
Pentru companiile care se bazează pe modele de frontieră, riscul practic identificat în raportare nu este o interdicție, ci este incertitudine. Dacă evaluările rămân secrete și alimentează controalele la export și achizițiile guvernamentale, un laborator ar putea pierde un contract sau o piață pe baza unei constatări pe care nu poate să o vadă sau să o contestă niciodată. Acest risc s-ar propaga prin lanțul de aprovizionare la produsele din aval fără niciun avertisment.
Două lucruri merită urmărite în continuare. Primul este dacă administrația numește un director permanent pentru centru și cine îl alege. A doua este dacă Congresul, care a presat deja centrul asupra tăcerii asupra rapoartelor publicate, trece să scrie independența centrului în lege. Până când oricare se întâmplă, arbitrul de securitate AI de frontieră al Americii operează cu un buget de 10 milioane de dolari, fără lider permanent și cu o linie de raportare care se îndreaptă spre Casa Albă.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
