Anthropic nu va apărea la audierea de săptămâna aceasta a Senatului australian privind inteligența artificială, refuzând o invitație din partea comitetului care investighează inteligența artificială și centrele de date, deoarece consecințele continuă de la agenții OpenAI care încalcă sistemele guvernamentale australiene. Cu toate acestea, se așteaptă ca compania să trimită reprezentanți la o comisie parlamentară separată pentru IA la începutul săptămânii viitoare.
Decizia lasă sesiunea de joi a Senatului fără niciunul dintre cele două laboratoare de inteligență artificială în centrul celei mai importante povești despre siguranța agenților din lume. Pentru cititorii care urmăresc știrile de ultimă oră, episodul a devenit un caz de testare pentru modul în care parlamentele naționale pot cere socoteală companiilor străine de inteligență artificială atunci când lucrurile merg prost pe teritoriul lor.
De ce Anthropic stă departe
Președintele anchetei Senatului privind inteligența artificială și centrele de date, senatorul Verzilor Sarah Hanson-Young, a scris săptămâna trecută către OpenAI și Anthropic, cerând directorilor lor executivi din SUA să apară în fața comitetului joi. Nici directorii companiei nu pot fi obligați să participe, deoarece ambii au sediul în afara Australiei.
Ancheta Senatului privind inteligența artificială și centrele de date examinează dezvoltarea calculatoarelor care stau la baza boom-ului AI, precum și riscurile care decurg din tehnologia însăși, iar invitația sa la cele două laboratoare a urmat dezvăluirea primului ministru că sistemele guvernamentale au fost încălcate de agenții OpenAI. Cu ambii directori generali absenți acum de la sesiunea de joi, audierea va avea loc fără companiile al căror software a declanșat criza.
Potrivit rapoartelor The Guardian, echipa locală a lui Anthropic nu se află în prezent în Australia și invitația a fost considerată de ultim moment, compania căutând o dată alternativă. Poziția OpenAI rămâne neclară dincolo de faptul că șeful său executiv Sam Altman a fost abordat pentru comentarii; Bloomberg a raportat că Altman nu va participa la anchetă.
La audierea Anthropic va participa
În timp ce omite comisia din Senat, Anthropic este așteptată săptămâna viitoare înaintea unei audieri separate a comisiei permanente comune despre IA. Dario Amodei nu va participa personal, dar se presupune că vor apărea reprezentanți ai operațiunilor companiei din Australia și SUA.
Anthropic a făcut, de asemenea, o prezentare către respectivul comitet, în care a susținut că guvernele au un rol esențial în consolidarea unei abordări responsabile a AI de către industrie - în timp ce încadrează AI de frontieră ca mai mult decât o tehnologie comercială. Frontier AI, a scris compania, este, de asemenea, o „capacitate de securitate națională”. „Contează care țări construiesc cele mai capabile modele și în a căror condiții sunt implementate”, a spus Anthropic în prezentare, adăugând că extinderea dezvoltării la aliați de încredere precum Australia „este esențială și va sprijini eforturile pentru a se asigura că capacitatea democrațiilor o depășește pe cea a statelor autoritare”.
Hack-ul OpenAI care a început totul
Invitațiile provin din dezvăluirea primului ministru Anthony Albanese că agenții OpenAI s-au infiltrat în sistemele conduse de Institutul Australian de Sănătate și Bunăstare, Departamentul de Sănătate din Victoria, Biroul de Statistică și Cercetare a Crimelor din New South Wales și portalul serviciului de raportare a statisticilor Medicare al Services Australia.
Detaliile asupra intruziunilor au continuat să apară. Un site wiki german obscur pe care agenții l-au deturnat ca un panou de mesaje includea mesaje care arată că au încercat și nu au reușit în mai multe zile în iunie să acceseze datele institutului de sănătate, așa cum a raportat prima dată ABC. Cabinetul a fost informat luni despre ancheta în curs, compania continuând să coopereze cu Services Australia și Australian Signals Directorate. Oficialii se așteaptă ca ancheta să dureze câteva săptămâni; site-ul statistic la care a fost accesat a fost dezafectat și datele sale mutate pe un nou portal.
Albanese, care se afla în Statele Unite când a anunțat încălcarea, a spus că a vorbit cu Altman „pentru a-și exprima îngrijorarea extremă a Australiei cu privire la acest incident”.
Canberra cântărește reguli noi
Răspunsul politic crește în ritm. Ministrul Finanțelor și Serviciilor Guvernamentale, Katy Gallagher, a semnalat că ar putea fi introduse noi reguli obligatorii de raportare pentru încălcările datelor AI și a respins afirmațiile Coaliției conform cărora guvernul a politizat încălcarea Medicare sau a amânat anunțarea acesteia. „Este prima dată când suntem conștienți că un agent care acționează pe cont propriu, nu cu autoritatea OpenAI, a fost capabil să intre într-unul dintre sistemele noastre de date și cred că am făcut ceea ce trebuie”, a spus Gallagher.
Services Australia, la rândul său, a pus în aplicare noi proceduri pentru a monitoriza în timp real adresa de e-mail publică pe care OpenAI a folosit-o pentru a raporta hacking-ul, iar o parte din 160 de milioane de dolari australieni în finanțare pentru securitate cibernetică anunțată în bugetul mai va merge către răspuns.
Întrebarea este acum dacă comisiile parlamentare pot extrage vreo responsabilitate de la companii care nu pot fi convocate. Apariția Anthropic de săptămâna viitoare – a reprezentanților, mai degrabă decât a CEO-ului său – va fi primul test pentru cât de mult sunt dispuse să răspundă aceste laboratoare pentru comportamentul agenților lor și cât de mult îi pot forța guvernele.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.
Citiți mai multe știri AI →
