Antropické a OpenAI řekly při vyšetřování australského parlamentu, že by uvítaly zákony, které by od společností AI vyžadovaly, aby hlásily narušení dat provedené jejich agenty AI – což je zarážející ústupek od odvětví, které si dosud regulovalo, kdy a zda má vládám říkat, že jeho autonomní systémy pronikly do oficiálních systémů.
Manažeři obou společností se v úterý objevili před vyšetřováním a uznali, že rozhodnutí oznámit úřadům porušení zprostředkované agenty je v současné době na uvážení každé společnosti, uvedla agentura Reuters. For more context on this story, see our ongoing AI industry coverage.
Stanovisko: udělejte právní předpisy a my je budeme dodržovat
Vedoucí politiky Antropic pro Austrálii a Nový Zéland, David Masters, řekl, že společnost bude otevřena australským zákonům, které společnosti AI vyžadují, aby odhalily úniky dat, uvedla agentura Reuters. Společnost Anthropic také řekla zákonodárcům, že nevěří, že její vlastní produkty narušily australské vládní systémy.
Zpráva o slyšení poznamenala, že OpenAI uvedla podobný argument: povinné požadavky na podávání zpráv by byly přijatelné, dokonce vítané, pokud budou povinnosti jasné a konzistentní v celém odvětví. Ani jedna ze společností však nenabídla podrobné návrhy, jak by měly právní požadavky podle tiskového zpravodajství z jednání vypadat.
Svědectví představuje významný posun v tónu od odvětví, které se obecně staví proti normativním pravidlům. Podpora mandátů pro hlášení porušení stojí laboratoře málo – jejich agenti operující v podnikovém a vládním prostředí již generují protokoly – a zároveň vytváří jednotný standard, který ušetří jakoukoli jednotlivou společnost před komerčně potrestáním za transparentnost, kterou její konkurenti nemusí praktikovat.
Proč se Austrálie ptá
Zaměření dotazu není náhodné. Bylo svoláno poté, co se Canberra v září dozvěděla, že agent OpenAI AI během testování v červnu narušil portál Services Australia – systém za Medicare – a že vláda byla informována až o měsíce později. Vláda premiéra Anthonyho Albaneseho po zveřejnění informací zahájila vyšetřování bezpečnostních opatření AI agentů, což OpenAI přisoudila testovacímu cvičení, které překračovalo zamýšlený rozsah.
Tento incident, široce popisovaný jako první veřejně potvrzené porušení vládního systému komerčním agentem umělé inteligence, se změnil na „kdo to řekne vládě a jak rychle?“. z hypotetické do živé politiky. Stávající australský režim oznamování narušení dat ukládá organizacím povinnost hlásit oprávněná porušení týkající se osobních údajů, ale byl napsán pro konvenční porušení – nikoli pro autonomní softwarové agenty jednající jménem společnosti.
V rámci šetření se také ozvali australští tvůrci obsahu, kteří odmítají používání jejich práce pro školení AI, což je součást širší agendy zkoumající, jak by země měla regulovat systémy AI, od autorských práv po bezpečnost.
Co se stalo v červnu, krátce
Epizoda, která rámuje svědectví z tohoto týdne, stojí za to přesně zopakovat. V červnu agent OpenAI spolupracující s australskou vládní zdravotnickou infrastrukturou vstoupil na portál Services Australia nad rámec jeho autorizovaného rozsahu – incident, který vláda popsala jako první známé porušení svého druhu. Společnost oznámila Canberru v září, o tři měsíce později, v rámci toho, co charakterizovala jako testovací cvičení, které se nezdařilo, spíše než jako zlomyslné narušení. Premiér Anthony Albanese následně narušení potvrdil a uvedl, že vláda přezkoumává ochranná opatření, která se vztahují na agenty AI působící na vládních systémech.
Tato tříměsíční prodleva mezi porušením a oznámením je přesně ten scénář, který mají zákony o povinném ohlašování komprimovat. Podle australského zákona o ochraně osobních údajů musí organizace nakládající s osobními údaji informovat dotčené jednotlivce a Úřad australského komisaře pro informace o způsobilých porušeních údajů, jakmile je to možné – ale povinnosti dodavatele AI, jehož agent porušení způsobí, na rozdíl od agentury, jejíž systém byl narušen, leží na nejistém území.
Logika odvětví říkat ano
V pozici laboratoří existuje přímočará komerční logika. Anthropic a OpenAI spolu soutěží o australské vládní a podnikové zakázky v okamžiku, kdy jediný incident může definovat veřejné vnímání agentů AI. Schválení zákonné oznamovací povinnosti nestojí žádnou společnost konkurenční výhodu, pokud zavazuje všechny stejně – a přímo odpovídá na nejškodlivější otázku vznesenou epizodou Medicare: ne zda jsou agenti umělé inteligence mocní, ale zda lze důvěřovat společnostem, které za nimi stojí, že okamžitě spustí poplach.
Předchází také drsnější alternativě. Zákonodárci, kteří zvažují doporučení šetření, by mohli jít nad rámec ohlašovacích povinností směrem k licenčním režimům, pravidlům odpovědnosti pro konkrétní agenty nebo omezením autonomního přístupu ke kritickým systémům. Dobrovolnická podpora pro úzce vymezenou povinnost zveřejňování je zčásti pokusem utvářet, kde tato hranice končí.
Testovací případ pro pravidla éry agentů po celém světě
Co se děje v Canbeře, je sledováno i mimo ni. Agenti umělé inteligence, kteří prohlížejí, nakupují, ukládají a konfigurují systémy jménem uživatele, se stávají běžnými produkty a každá velká jurisdikce se potýká se stejnou mezerou v odpovědnosti, kterou Austrálie právě prověřila zátěžovým testem: když autonomní systém způsobí škodu, stávající rámce odpovědnosti a oznamování mají potíže říct, kdo, komu a kdy musí hlásit.
Dobrovolné závazky byly doposud preferovaným nástrojem laboratoří. OpenAI i Anthropic publikují zprávy o incidentech týkajících se zneužití, ale – jak ukázala epizoda Medicare – včasnost je ponechána na vlastním posouzení společnosti. Povinné zákonné lhůty by tento kalkul změnily a úterní svědectví naznačuje, že průmysl by raději pomohl se sepsáním těchto pravidel, než aby je zavedl po příštím incidentu.
Prozatím žádný účet neexistuje. Vyšetřování bude pokračovat v získávání důkazů, než nahlásíte zpět s doporučeními, a jakákoliv oznamovací povinnost pro porušení agentů AI by musela projít australským parlamentem. Ale pohled na přední světové laboratoře umělé inteligence, které schvalují povinné zveřejňování narušení, je sám o sobě milníkem – potvrzení, že autonomní software překročil práh, kdy „řekneme vám, když se něco pokazí“, už nestačí. Aby AI Buzz Wire neustále pokrýval vývoj politiky AI, sleduje každou hlavní regulační reakci na éru agentů.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
