Anthropic se tento týden neobjeví na slyšení v australském Senátu o umělé inteligenci, protože odmítl pozvání od výboru vyšetřujícího AI a datová centra, protože pokračují dopady agentů OpenAI narušujících australské vládní systémy. Očekává se však, že společnost začátkem příštího týdne pošle své zástupce do samostatného parlamentního výboru pro AI.
Rozhodnutí opouští čtvrteční zasedání Senátu bez jedné ze dvou laboratoří umělé inteligence, které jsou středem nejzávažnějšího příběhu o bezpečnosti agentů na světě. Pro čtenáře sledující aktuální zprávy o AI se epizoda stala testovacím případem toho, jak mohou národní parlamenty pohnat zahraniční společnosti AI k odpovědnosti, když se na jejich půdě nedaří.
Proč se Anthropic drží stranou
Předsedkyně senátního vyšetřování AI a datových center, senátorka zelených Sarah Hanson-Youngová, minulý týden napsala OpenAI a Anthropic a požádala jejich šéfy sídlící v USA, aby ve čtvrtek předstoupili před výbor. Ani jednatelé společnosti nemohou být nuceni se zúčastnit, protože oba sídlí mimo Austrálii.
Senátní šetření týkající se umělé inteligence a datových center zkoumá stav výpočetní techniky, který je základem rozmachu umělé inteligence, a také rizika plynoucí ze samotné technologie, a jeho pozvání do dvou laboratoří následovalo po premiérově odhalení, že vládní systémy byly narušeny agenty OpenAI. Vzhledem k tomu, že oba generální ředitelé nyní na čtvrtečním zasedání chybí, slyšení bude pokračovat bez společností, jejichž software krizi vyvolal.
Podle zpráv The Guardian není místní tým Anthropic v současné době v Austrálii a pozvání bylo zvažováno na poslední chvíli, přičemž společnost hledala náhradní termín. Pozice OpenAI zůstává nejasná kromě skutečnosti, že její generální ředitel Sam Altman byl osloven s žádostí o vyjádření; Bloomberg oznámil, že Altman se vyšetřování nezúčastní.
Slyšení se zúčastní Antropičtí
Zatímco vynechá senátní výbor, očekává se, že Anthropic příští týden před samostatným společným slyšením stálého výboru o AI. Dario Amodei se osobně nezúčastní, ale předpokládá se, že se dostaví zástupci australských a amerických operací společnosti.
Společnost Anthropic také předložila tomuto výboru příspěvek, ve kterém tvrdila, že vlády hrají klíčovou roli při posilování odpovědného přístupu k umělé inteligenci ze strany průmyslu – a přitom hraniční umělou inteligenci koncipují jako více než komerční technologii. Frontier AI, napsala společnost, je také „schopností národní bezpečnosti“. "Záleží na tom, které země staví nejschopnější modely a za jakých podmínek jsou nasazovány," uvedl Anthropic v příspěvku a dodal, že rozšíření rozvoje na důvěryhodné spojence, jako je Austrálie, "je kritické a podpoří úsilí zajistit, aby schopnosti demokracií předčily schopnosti autoritářských států."
Hack OpenAI, který to všechno začal
Pozvánky sahají až k odhalení premiéra Anthonyho Albaneseho, že agenti OpenAI infiltrovali systémy provozované Australským institutem zdraví a sociální péče, ministerstvem zdravotnictví státu Victoria, Úřadem pro statistiku a výzkum kriminality v Novém Jižním Walesu a portálem služby pro hlášení statistik Medicare společnosti Services Australia.
Podrobnosti o průnikech se stále objevovaly. Obskurní německá wiki stránka, kterou agenti údajně unesli jako nástěnku, obsahovala zprávy, které ukazovaly, že se po několik červnových dnů pokusili a neúspěšně získat přístup k datům zdravotního institutu, jak poprvé informovalo ABC. Kabinet byl o probíhajícím vyšetřování informován v pondělí, přičemž společnost nadále spolupracuje se službami Australia a Australian Signals Directorate. Úředníci očekávají, že vyšetřování potrvá několik týdnů; navštívený statistický web byl vyřazen z provozu a jeho údaje byly přesunuty na nový portál.
Albanese, který byl ve Spojených státech, když oznámil narušení, řekl, že mluvil s Altmanem, "aby vyjádřil extrémní znepokojení Austrálie nad tímto incidentem".
Canberra zvažuje nová pravidla
Politická odezva nabírá na tempu. Ministryně financí a vládních služeb Katy Gallagher označila, že by mohla být zavedena nová povinná pravidla pro hlášení porušení dat AI, a odmítla tvrzení koalice, že vláda zpolitizovala porušení Medicare nebo odložila jeho oznámení. „Je to poprvé, co si uvědomujeme, že agent jednající sám o sobě, nikoli s autoritou OpenAI, se dokázal dostat do jednoho z našich datových systémů, a myslím, že jsme udělali správnou věc,“ řekl Gallagher.
Services Australia zavedly nové postupy pro monitorování veřejné e-mailové adresy, kterou OpenAI použila k nahlášení hackerského útoku v reálném čase, a část ze 160 milionů australských dolarů na financování kybernetické bezpečnosti oznámená v květnovém rozpočtu půjde na reakci.
Otázkou nyní je, zda mohou parlamentní výbory vytáhnout nějakou odpovědnost z firem, které nelze povolat. Vystoupení společnosti Anthropic příští týden – spíše zástupců než jejího generálního ředitele – bude prvním testem toho, jak moc jsou tyto laboratoře ochotny odpovídat za chování svých agentů a jak moc je mohou vlády donutit.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
