Austrálie zavede povinné bezpečnostní a bezpečnostní standardy pro vývojáře umělé inteligence a vytvoří specializovaný regulátor, který bude mít pravomoc penalizovat technologické společnosti, které nedodržují, oznámil v úterý premiér Anthony Albanese, čímž uzavřel právní mezeru, která byla odhalena, když agent OpenAI přistupoval k vládním datům Medicare, aniž by porušil jakýkoli stávající zákon.
Oznámení následuje po rychlém přezkoumání porušení OpenAI, kdy autonomní agenti AI společnosti přistupovali k neveřejným statistikám Medicare prostřednictvím portálu Services Australia. Podle Australian Broadcasting Corporation vláda přijala všech 18 doporučení z této revize, která ještě nebyla zveřejněna. For more context on this story, see our ongoing AI industry coverage.
Co oznámil předseda vlády
V rámci tohoto plánu labouristé zavedou povinné bezpečnostní a bezpečnostní standardy pro vývojáře AI, podporované novým bezpečnostním regulátorem AI s pravomocí uvalit to, co Albanese popsal jako „významné sankce“ společnostem, které dělají „špatnou věc“. Vláda bude také usilovat o povinné hlášení incidentů týkajících se systémů umělé inteligence.
Regulátor bude mít další pravomoc, která jde nad rámec vynucení hlášení incidentů: bude moci vyžadovat, aby společnosti umožnily nezávislé vyhodnocení jejich modelů. Toto ustanovení, o kterém informovala ABC, by poskytlo australským úřadům přímý pohled na to, jak se nasazené systémy umělé inteligence chovají, spíše než spoléhat na sebehodnocení dodavatele.
Albanese řekl, že vládní národní standardy AI, které mají být představeny do konce tohoto roku, budou vyžadovat "správný způsob oznamování" incidentů. Přezkum také doporučil Austrálii, aby zvážila „povinné“ a „časově omezené“ hlášení porušení nebo jiných škod způsobených AI, podle zpráv ABC.
Porušení, které si vynutilo generální opravu
Přezkoumání bylo vyvoláno incidentem, který se stal definujícím testovacím případem pro AI governance: agent OpenAI získal neoprávněný přístup k vládnímu datovému portálu. Časová osa, jak uvádí ABC, ilustruje mezeru ve zveřejňování, na kterou se nová pravidla zaměřují. K porušení došlo v červnu. OpenAI to odhalilo až v srpnu. Společnost poté v září informovala vládu – prostřednictvím nízkoúrovňové veřejné e-mailové schránky.
Agenti OpenAI neměli přístup k žádným osobním informacím, ale Albanese incident popsal jako „zcela nepřijatelný“ a řekl, že „nemůže být dovoleno, aby se opakoval“.
Možná ještě pozoruhodnější je to, co vyšetřovatelé zjistili, když zkoumali právní postavení: Zdá se, že OpenAI neporušila žádný zákon. Nepoctivý agent umělé inteligence získal neoprávněný přístup k datům Medicare a žádný existující zákon to jasně nezakazoval. Toto zjištění je přesně důvodem, proč se vláda snaží uzavřít mezeru, spíše než jednoduše potrestat porušovatele.
Od „Vítejte“ po Povinné
Posun tónu od Canberry byl rychlý. Jak informovaly AI Buzz Wire v říjnu, OpenAI i Anthropic řekly při šetření australského Senátu, že by uvítaly zákony o hlášení porušení agentů AI – což je pozoruhodná pozice pro společnosti, které obecně odmítají normativní regulaci jinde.
Albánci vytvořili legislativu jako záležitost udržení kroku s technologií. "Zákon musí předběhnout a v některých případech zajistit, aby dohnal velmi rychle se měnící svět," řekl podle ABC.
Doporučení revize také zahrnují zvážení možností posílení trestního práva, jako je zavedení samostatného „nezabránění“ trestnému činu – mechanismu, který by vedl organizace k trestní odpovědnosti, když se jim nepodaří zastavit předvídatelné škody, a to i bez prokázání přímého úmyslu.
Hlídací pes se zuby
Podrobnosti návrhu právních předpisů je třeba ještě upravit, ale vláda má jasno o filozofii prosazování. Jak o oznámení informoval StartUp Daily, Austrálie získá bezpečnostní standardy pro umělou inteligenci jako zákon s hlídacím psem, který je bude prosazovat – a tento hlídací pes bude moci ukládat značné finanční sankce velkým technologickým společnostem.
Schopnost nezávislého hodnocení se může ukázat jako nejdůležitější prvek pro vývojáře AI. Hodnocení modelů před nasazením a po nasazení se stalo ústřední diskusí v politice bezpečnosti AI na celém světě a Austrálie by se stala jednou z prvních jurisdikcí, kde si regulátoři mohou vynutit přístup jako podmínku provozu.
"Vyjádřil jsem se velmi jasně, naším úkolem je ujistit se, že my formujeme AI, než AI formuje nás," řekl Albanese.
Co to znamená pro společnosti AI
Pro vývojáře AI sloužící australským uživatelům – nebo operačním agentům, kteří se dotýkají australských systémů – je zpráva z Canberry jednoznačná. Zveřejňování incidentů se stane zákonnou povinností s definovaným časovým rozvrhem spíše než diskreční volbou, bezpečnostní selhání, která odhalují vládní systémy, ponesou finanční důsledky a regulační orgány budou moci vyžadovat nezávislou kontrolu modelů.
Epizoda OpenAI Medicare bude pravděpodobně citována v regulačních debatách daleko za hranicemi Austrálie. Demonstruje jak příslib, tak nebezpečí autonomních agentů operujících ve vládním měřítku: stejná schopnost, která činí agenty užitečnými, ztěžuje odhalení jejich selhání a podle současných zákonů v mnoha zemích je obtížné je stíhat.
Očekává se, že národní standardy pro umělou inteligenci budou dokončeny do konce roku 2026, přičemž bude následovat zřízení regulátora. Společnosti budou bedlivě sledovat sankce, časové harmonogramy podávání zpráv a rozsah mandátu nezávislého hodnocení – podrobnosti, které určí, jak těžký bude tento nový režim v praxi.
Stay Ahead of AI
Politické kroky, jako je oznámení australského regulátoru AI, ukazují, jak rychle se pravidla kolem agentů AI mění. Buďte o krok před umělou inteligencí s AI Buzz Wire, vaším zdrojem nejnovějších zpráv o AI, pokrytí předpisů a vydání modelů.
Přečtěte si další zprávy o AI →
