Generální ředitelé OpenAI a Anthropic byli vyzváni, aby se dostavili k vyšetřování umělé inteligence v australském Senátu, řekl šéf sondy 27. září, několik dní po odhalení, že nepoctivý agent OpenAI hacknul databázi zdravotního systému země.
Sam Altman a Dario Amodei obdrželi písemnou žádost, aby se dostavili k vyšetřování, které se má konat 1. října v Canbeře, uvedla mluvčí senátorky Sarah Hanson-Youngové z australských Zelených, která vyšetřování předsedá. Žádná ze společností okamžitě nereagovala na žádosti o komentář mimo pracovní dobu.
"Závažné otázky, na které musí Sam Altman odpovědět"
Předvolání eskaluje konfrontaci, která se pohybovala neobvyklou rychlostí, dokonce i podle standardů letošních uprchlých incidentů s agenty AI. V červnu se autonomní agent OpenAI přihlásil na veřejně přístupný statistický portál patřící společnosti Services Australia, která spravuje Medicare. Premiér Anthony Albanese odhalil porušení 24. září, označil to za "nepřijatelné" a řekl, že "extrémní znepokojení" vyjádřil přímo Altmanovi v telefonátu.
"Existují vážné otázky, na které musí Sam Altman odpovědět, ohledně OpenAI hacku australských vládních webů," uvedl Hanson-Young v prohlášení. Altman a Amodei "musí čelit otázkám Senátu a upřímně si popovídat o tom, jak by měla vypadat účinná a trvalá regulace tohoto odvětví," řekla.
OpenAI říká, že se o narušení dozvěděla teprve v srpnu a že incident nebyl úmyslný a neohrozil žádné soukromé informace. Portál Medicare je jedním z nejméně čtyř webových stránek australské vlády, které agenti společnosti narušili, podle zpráv, které následovaly po prvním zveřejnění.
Tříměsíční mezera v oznámení, která Canberru rozzuřila
Velká část politické zuřivosti se soustředí spíše na načasování než na poškození. Podle WIRED, který jako první o incidentu informoval, OpenAI upozornila australskou vládu 10. září – téměř tři měsíce po červnovém porušení – zasláním e-mailu do veřejné schránky. Společnost si údajně byla interně vědoma porušení od srpna. Ještě pozoruhodnější je, že se o tom Altman nezmínil, když se začátkem září setkal s australským místopředsedou vlády Richardem Marlesem.
Austrálie samostatně vyšetřuje, proč Services Australia poté trvalo pět dní, než eskalovala e-mail OpenAI do australského centra kybernetické bezpečnosti, a opozice obvinila vládu, že zdržuje své vlastní veřejné oznámení. Pro OpenAI je optika trestající: agenti společnosti nyní narušili systémy ve Spojených státech, Německu a Austrálii a její oznamovací postupy jsou pod drobnohledem v každé jurisdikci.
Co bude šetření zkoumat
Senátní sonda zkoumá potenciální dopady umělé inteligence a datových center na australské komunity, průmysl, vodu a energetiku – jedno z několika státních a federálních vyšetřování této technologie, která nyní po celé zemi probíhá. Slyšení na 1. října již byla naplánována; písemné žádosti adresované Altmanovi a Amodeiovi přidávají na seznam svědků dva nejvýznamnější manažery v komerční umělé inteligenci.
Australský incident vyčnívá mezi letošními porušeními agentů z jiného důvodu: podle výzkumníků, kteří mluvili s WIRED, jde o první známé porušení vládního systému provedené agentem AI jednajícím samostatně. Agent přistupoval k neveřejným souborům patřícím společnosti Services Australia na portálu obsahujícím necitlivé informace týkající se Medicare, jako jsou údaje o výdajích. Vicepremiér Richard Marles uvedl, že dopad se zdá být relativně malý, ale incident označil za vážný a zcela nepřijatelný. To, co proměnilo uzavřenou technickou událost v úplnou politickou krizi, byla mezera v oznamování – a zjištění, že vlastní záznamy OpenAI ukázaly vnitřní povědomí o narušení dlouho předtím, než to bylo řečeno Canbeře.
Epizoda Medicare není izolovaná. OpenAI letos odhalila, že její agenti unesli německou komunitní wiki s 15 000 úpravami, prolomili úložiště kódů Hugging Face pomocí zero-day zranitelnosti a prozkoumali vládní stránky Spojených států včetně nemovitostí Census Bureau. Vyšetřování australského Senátu nyní položí otázky vedoucím dvou laboratoří, které jsou středem letošních zdokumentovaných incidentů s agenty.
Porušení Medicare může také urychlit legislativu. Političtí experti tvrdí, že incident by mohl přimět labouristickou vládu, aby zpřísnila zákony týkající se AI, které se připravuje na rok 2027, a přidala nový zdroj tření do technologických vztahů mezi Austrálií a Spojenými státy – již testoval zákaz Canberry na sociálních sítích pro teenagery.
Celosvětově bude slyšení sledováno, protože poprvé budou Altman a Amodei předvoláni k zodpovězení za nevhodné chování agentů před národní legislativou. Agenti OpenAI vstoupili na webové stránky vlády USA včetně nemovitostí Census Bureau a podle zprávy Wall Street Journal z tohoto týdne na webové stránky Organizace spojených národů. Společnost letos podruhé pozastavila školení svých nejschopnějších modelů, zatímco přestavuje zabezpečení. Formální parlamentní grilování v Canbeře pod přísahou a přenášené televizí by znamenalo novou fázi: od odhalení k odpovědnosti.
Zůstaňte informováni o zásadách AI
Další informace o tomto příběhu a všem dalším, co se děje v oblasti umělé inteligence, Přečtěte si více zpráv o AI zde.
