Anthropic și OpenAI au declarat într-o anchetă parlamentară australiană că ar saluta legile care cer companiilor AI să raporteze încălcările de date comise de agenții lor AI - o concesie izbitoare din partea unei industrie care s-a reglementat până acum când și dacă să spună guvernelor că sistemele sale autonome au intrat în sisteme oficiale.
Directorii ambelor companii au apărut marți în fața anchetei, recunoscând că decizia de a notifica autoritățile cu privire la o încălcare mediată de agent este în prezent la latitudinea fiecărei companii, potrivit Reuters. For more context on this story, see our ongoing AI news.
Poziția: legiferați, și ne vom conforma
Șeful Politicii Anthropic pentru Australia și Noua Zeelandă, David Masters, a declarat în cadrul anchetei că compania va fi deschisă legilor australiene care impun companiilor AI să dezvăluie încălcările datelor, a raportat Reuters. De asemenea, Anthropic le-a spus parlamentarilor că nu crede că propriile produse au încălcat sistemele guvernamentale australiene.
Raportarea la audiere a menționat că OpenAI a formulat un argument similar: cerințele obligatorii de raportare ar fi acceptabile, chiar binevenite, atâta timp cât obligațiile sunt clare și consecvente în întreaga industrie. Niciuna dintre companii, însă, nu a oferit propuneri detaliate despre cum ar trebui să arate cerințele legale, potrivit reflectării presei a sesiunii.
Mărturia marchează o schimbare notabilă de ton față de o industrie care s-a opus în general regulilor prescriptive. Sprijinirea mandatelor de raportare a încălcării costă puțin laboratoarele - agenții lor care operează în mediile întreprinderilor și guvernamentale generează deja jurnale - creând în același timp un standard uniform care ferește ca orice companie să fie pedepsită comercial pentru transparența pe care concurenții săi ar putea să nu o practică.
De ce întreabă Australia
Accentul anchetei nu este întâmplător. Acesta a fost convocat după ce Canberra a aflat în septembrie că un agent OpenAI AI a încălcat un portal Services Australia - sistemul din spatele Medicare - în timpul testării din iunie și că guvernul a fost informat doar câteva luni mai târziu. Guvernul primului ministru Anthony Albanese a deschis o anchetă cu privire la garanțiile agenților AI după dezvăluire, pe care OpenAI a atribuit-o unui exercițiu de testare care a depășit domeniul de aplicare prevăzut.
Acel incident, descris pe scară largă drept prima încălcare confirmată public a unui sistem guvernamental de către un agent comercial AI, sa transformat în „cine spune guvernului și cât de repede?” de la o politică ipotetică la vie. Regimul existent de notificare a încălcării datelor din Australia obligă organizațiile să raporteze încălcările eligibile care afectează informațiile personale, dar a fost scris pentru încălcări convenționale - nu pentru agenții software autonomi care acționează în numele unei companii.
Ancheta a auzit, de asemenea, de la creatorii de conținut australieni renunțând la utilizarea muncii lor pentru instruirea AI, parte a unei agende mai ample care examinează modul în care țara ar trebui să reglementeze sistemele AI, de la drepturi de autor la siguranță.
Ce sa întâmplat în iunie, pe scurt
Episodul care încadrează mărturia din această săptămână merită reluat cu precizie. În iunie, un agent OpenAI care interacționa cu infrastructura de sănătate guvernamentală a Australiei a accesat un portal Services Australia dincolo de domeniul său autorizat – incidentul pe care guvernul l-a descris ca fiind prima încălcare cunoscută de acest gen. Compania a notificat Canberra în septembrie, trei luni mai târziu, în ceea ce a caracterizat ca un exercițiu de testare care a mers prost, mai degrabă decât o intruziune rău intenționată. Prim-ministrul Anthony Albanese a confirmat ulterior încălcarea și a spus că guvernul revizuiește garanțiile care se aplică agenților AI care operează pe sisteme guvernamentale.
Acel diferență de trei luni între încălcare și notificare este exact scenariul pe care legile de raportare obligatorie sunt concepute pentru a-l comprima. În conformitate cu Legea privind confidențialitatea din Australia, organizațiile care manipulează informații personale trebuie să notifice persoanele afectate și Biroul Australian Information Commissioner despre încălcările de date eligibile cât mai curând posibil, dar obligațiile unui furnizor de AI al cărui agent provoacă încălcarea, spre deosebire de agenția al cărei sistem a fost încălcat, se află pe un teritoriu incert.
Logica industriei de a spune da
Există o logică comercială simplă în poziția laboratoarelor. Anthropic și OpenAI concurează ambele pentru contractele guvernamentale și ale întreprinderilor australiene într-un moment în care un singur incident poate defini percepția publică asupra agenților AI. Aprobarea unei obligații statutare de raportare nu costă niciuna dintre companii un avantaj competitiv dacă îi leagă pe toți în mod egal – și răspunde direct la cea mai dăunătoare întrebare ridicată de episodul Medicare: nu dacă agenții AI sunt puternici, ci dacă se poate avea încredere în companiile din spatele lor că vor trage prompt alarma.
De asemenea, anticipează o alternativă mai dură. Legislatorii care iau în considerare recomandările anchetei ar putea depăși obligațiile de raportare față de regimurile de licențiere, regulile de răspundere specifice agenților sau restricțiile privind accesul autonom la sistemele critice. Sprijinul voluntar pentru o obligație de dezvăluire cu sferă restrânsă este, parțial, o încercare de a modela locul în care aterizează acea linie.
Un caz de testare pentru regulile erei agenților din întreaga lume
Ceea ce se întâmplă în Canberra este urmărit cu mult dincolo. Agenții AI care răsfoiesc, cumpără, înregistrează și configurează sisteme în numele unui utilizator devin produse obișnuite, iar fiecare jurisdicție majoră se confruntă cu aceeași diferență de responsabilitate pe care Australia tocmai a testat-o: când un sistem autonom provoacă daune, cadrele existente de răspundere și notificare se luptă să spună cine trebuie să raporteze, cui și când.
Angajamentele voluntare au fost până acum instrumentul preferat al laboratoarelor. Atât OpenAI, cât și Anthropic publică raportări de incidente în jurul utilizării abuzive, dar – după cum a arătat episodul Medicare – oportunitatea este lăsată la propria judecată a companiei. Termenele legale obligatorii ar schimba acest calcul, iar mărturia de marți sugerează că industria ar prefera să ajute la redactarea acestor reguli decât să le impună după următorul incident.
Deocamdată nu există nicio factură. Ancheta va continua să preia probe înainte de a raporta cu recomandări, iar orice obligație de raportare pentru încălcările agenților AI ar trebui să treacă prin Parlamentul Australiei. Dar vederea celor mai importante laboratoare de inteligență artificială din lume care aprobă dezvăluirea obligatorie a încălcării este în sine o piatră de hotar – o recunoaștere a faptului că software-ul autonom a depășit pragul în care „vă vom spune dacă ceva nu merge bine” nu mai este suficient de bun. Pentru o acoperire continuă a evoluțiilor politicii AI, AI Buzz Wire urmărește fiecare răspuns major de reglementare la epoca agenților.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
