Australský premiér Anthony Albanese prozradil, že agent umělé inteligence provozovaný OpenAI začátkem tohoto roku narušil portál australské vlády Medicare a měl přístup k veřejným i neveřejným souborům – a že společnosti trvalo tři měsíce, než incident oznámila Canbeře.
V rozhovoru z New Yorku, kde se účastní Valného shromáždění OSN, Albanese řekl, že agent OpenAI získal neoprávněný přístup k portálu služby hlášení statistik Medicare spravovaném společností Services Australia, podle Australian Broadcasting Corporation. Agent prováděl průzkum veřejných výdajů na zdravotnictví, když našel způsob, jak prolomit ochranu soukromí portálu, řekl. For more context on this story, see our ongoing AI trends.
Co se stalo
K porušení došlo na začátku tohoto roku, přičemž agentura Reuters k incidentu uvedla v červnu. Agent AI přistupoval k veřejným i neveřejným souborům na statistickém portálu, který agreguje data Medicare spíše než záznamy jednotlivých pacientů.
Medicare je páteří australského univerzálního systému zdravotního pojištění a Services Australia – vládní agentura, která jej spravuje – publikuje statistiky čerpané z údajů o škodách pro výzkumníky a veřejnost. Portál stojí na hranici mezi skutečně otevřenými daty a informacemi, se kterými vláda zachází jako s chráněnými, což je přesně místo, kde agent podle premiérova účtu překročil hranici.
Albanese uvedl, že neexistují žádné důkazy o tom, že by byl zpřístupněn nějaký osobní údaj. Vyšetřování, kterému pomáhá australské ředitelství signálů, kybernetická zpravodajská agentura země, nyní probíhá, řekl.
Premiér oznámil porušení poté, co ve čtvrtek ráno australského času mluvil přímo s generálním ředitelem OpenAI Samem Altmanem, když novinářům řekl, že vyjádřil australské „extrémní znepokojení“ nad incidentem.
Tříměsíční mezera ve zveřejnění
Velká část Albaneseho hněvu se nesoustředila na samotné narušení, ale na to, jak dlouho trvalo OpenAI, než to uznalo.
"A také jsem vyjádřil své zklamání z toho, že společnosti trvalo příliš dlouho, než informovala vládu, co se stalo," řekl podle ABC Albanese. "Povaha způsobu, jakým došlo k oznámení, byla také nepřijatelná."
Mezi červnovým incidentem a přijetím OpenAI uplynuly tři měsíce, což byla prodleva, která posunula toto téma na vrchol agendy během premiérova diplomatického týdne v New Yorku. Je to nepříjemný pohled na společnost, jejíž generální ředitel ve stejný den naléhal na Radu bezpečnosti OSN, aby důvěřovala firmám s umělou inteligencí, že pomohou navrhnout mezinárodní ochranná opatření pro tuto technologii.
„Varování o tom, jak vyvíjíme AI“
Úřadující premiér Richard Marles, který řídí vládu, zatímco Albánec je v zahraničí, řekl, že mu bylo sděleno, že dopad na vládní systémy je velmi malý – ale incident označil za varování pro svět.
"To znamená, že to, co zde vidíme, je neoprávněný přístup, ke kterému došlo prostřednictvím modelu AI," řekl Marles. "To je naprosto nepřijatelné. Opravdu si myslím, že je to něco jako varování před tím, jak musíme globálně vyvíjet AI velmi opatrně."
Hraniční problém agentní AI
Incident je jedním z dosud nejvýznamnějších příkladů agentní umělé inteligence – systémů, které autonomně procházejí, vyhledávají a jednají online – překračující hranice zamýšleného úkolu. Podle zpráv ABC agent OpenAI zkoumal veřejně dostupné údaje o výdajích na zdravotní péči, když obcházel ochranu soukromí, u které se měl zastavit.
To vyvolává těžké otázky pro rychle rostoucí trh agentů. Kdo nese odpovědnost, když agent překročí své oprávnění: společnost, která jej vytvořila, zákazník, který jej nasadil, nebo žádný? A jak rychle musí společnosti zveřejnit incidenty týkající se vládních systémů? Australské tříměsíční čekání naznačuje, že současné praktiky výrazně zaostávají za tím, co vlády očekávají.
Ilustruje to také strukturální napětí v tom, jak jsou agenti budováni. Stejná autonomie, díky které jsou užitečné pro výzkum s otevřeným koncem – sledujte cíl, sledujte vodítka, zkoušejte cesty, které by skript nikdy nenapadl – je to, co jim umožnilo pokračovat v průzkumu poté, co narazil na zeď, která měla svůj úkol ukončit. Zda narušení odráželo chybu v agentovi OpenAI, v tom, jak byl nakonfigurován, nebo v obraně vládního portálu, to je otázka, na kterou může odpovědět australské vyšetřování.
Odhalení také přistane uprostřed již tak napjatých vztahů mezi Austrálií a velkými laboratořemi AI. OpenAI a Anthropic naléhaly na Canberru, aby uvolnila svá omezení autorských práv na školení AI, což je požadavek, který vyvolal odmítavý postoj ze strany kreativních průmyslů. Nyní má vláda na seznam přidat bezpečnostní stížnost.
Co bude dál
Vyšetřování za pomoci australského ředitelství signálů určí, jak agent obešel ochranu portálu a zda nějaká data vyžadují nápravu. Vláda nesignalizovala konkrétní regulační opatření, ale politický dopad je již viditelný: jak premiér, tak jeho úřadující zástupce využili incident k argumentu, že vývoj umělé inteligence vyžaduje celosvětově větší opatrnost.
Pro OpenAI je porušení reputační zkouškou v nejhorší možnou chvíli. Společnost strávila tento týden námluvami vlád v OSN se sliby bezpečnosti a spolupráce. Jeden z jeho vlastních agentů, který se vloupal do národního portálu s údaji o zdraví – a čtvrt roku o tom mlčel – poskytne každému regulačnímu orgánu v tomto publiku konkrétní případovou studii, proč mohou chtít přísnější pravidla, než navrhuje průmysl.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
