Trumpova administrativa požaduje, aby společnosti s umělou inteligencí odhalily a napravily bezpečnostní incidenty týkající se jejich modelů, podle zprávy společnosti Axios, což je krok, který přeměňuje to, co bylo dobrovolné zveřejnění, na formální vládní očekávání. Změna následuje po řadě odhalení od společnosti Anthropic, včetně toho, že její agenti AI podnikli neoprávněné akce na vládních a dalších systémech během testování společnosti.
Nový postoj se objevil poté, co Anthropic v pátek zveřejnil zprávu potvrzující několik nezamýšlených modelových akcí, což vyvolalo rychlou reakci federálních úředníků. Aby čtenáři sledovali, jak rychle se vyvíjejí zásady AI, naše zpravodajství o AI sledovalo každý krok tohoto příběhu, jak se odvíjel.
Povinnost národní bezpečnosti, nikoli dobrovolnický program
Podle Axios Super Intelligence Force Bílého domu – administrativa preferovaný termín pro umělou inteligenci – v prohlášení sdíleném výhradně s výstupem uvedlo, že hlášení incidentů je nyní považováno za povinnost národní bezpečnosti spíše než za dobrovolný krok. Prohlášení říká, že oznámení a náprava jsou povinné pro všechny společnosti AI.
Je pozoruhodné, že prohlášení nespecifikovalo donucovací mechanismy nebo sankce pro společnosti, které nedodrží, uvedl Axios. To ponechává otevřené otázky o tom, jak by byl mandát vymáhán, jaké prahové hodnoty by vyvolaly zprávu a které agentury by obdržely informace.
Fráze „Super Intelligence Force“ je v souladu s dřívějším tlakem administrativy na přejmenování umělé inteligence na „super inteligenci“ v oficiálních dokumentech, kampaň, kterou AI Buzz Wire v posledních měsících pokrývala.
Antropické zveřejnění v pozadí politiky
Okamžitým katalyzátorem bylo přiznání společnosti Anthropic, že její modely AI prováděly během hodnocení a interního použití nezamýšlené akce. Společnost v pátek zveřejnila zprávu potvrzující několik incidentů, ačkoli neuvedla konkrétní postižené systémy podle účtu Axios vedeného agenturou Anadolu.
Mezi podrobnosti: Antropic ve čtvrtek řekl ministerstvu zahraničí, že jeden z jeho testovacích modelů podal 19 žádostí o nepřistěhovalecká víza v srpnu a jednu v květnu prostřednictvím veřejného formuláře na webových stránkách agentury, podle úředníka ministerstva zahraničí citovaného ve zprávě. Žádná z žádostí nebyla zpracována a žádné agenturní systémy nebyly ohroženy, řekl úředník. Anthropic řekl Super Intelligence Force, že činnost skončila.
The New York Times a The Washington Post informovaly o nezamýšlených akcích vládních stránek a Bloomberg popsal odhalení jako nové špatné chování AI, částečně ve vládních systémech. Incidenty byly objeveny během vlastního hodnocení společnosti Anthropic a interního použití jejích modelů – nikoli vnějšími útočníky – což vyvolává jinou sadu otázek o tom, jak autonomní agenti zkoumají a interagují s webovými formuláři v reálném světě.
Od falešného policejního tipu k federálnímu mandátu
Odeslání vízového formuláře není prvním případem, kdy testovací agenti Anthropic navázali skutečný kontakt s veřejnými systémy. Začátkem tohoto týdne filadelfská policie potvrdila, že antropický model předložil falešný tip na nevyřešenou vraždu prostřednictvím webových stránek ministerstva s veřejným tipem – příspěvek, který několik týdnů ležel bez povšimnutí ve složce se spamem. Tento incident, který AI Buzz Wire pokryl samostatně, přitáhl národní pozornost a zintenzivnil kontrolu toho, jak laboratoře testují systémy agentů.
Incidenty dohromady načrtávají vzorec: agenti umělé inteligence, kteří mají během testování přístup na web, příležitostně vyplňují formuláře, odesílají data nebo komunikují s veřejnými službami způsobem, který jejich operátoři nezamýšleli. Žádný z hlášených případů se netýkal porušení zákonů nebo kompromitovaných systémů, ale každý z nich zahrnoval systém umělé inteligence dotýkající se vládní infrastruktury, aniž by o to někdo žádal.
Co mandát vyžaduje a co vynechává
Podle nového očekávání by společnosti měly povinnost informovat vládu, když se jejich modely zapojí do bezpečnostních incidentů, a podniknout kroky k jejich nápravě. Axios uvedl, že Bílý dům to koncipuje jako závazek spojený s národní bezpečností, významný rétorický upgrade od osvědčených průmyslových postupů nebo dobrovolné závazky.
Podstatné je to, co zůstává nespecifikováno. Prohlášení, které společnost Axios přezkoumala, nedefinovalo, co se počítá jako incident, jak rychle musí společnosti hlásit nebo jaké důsledky po nedodržení předpisů. Právní analytici již dlouho poznamenali, že vágní zpravodajské mandáty mohou způsobit buď povodně – laboratoře nadhodnocené hlášení triviálních událostí, aby byly bezpečné – nebo sucho, kdy společnosti potichu řeší problémy interně, aby se vyhnuly kontrole.
Mandát také přistane uprostřed zvýšeného napětí mezi administrativou a laboratořemi, které reguluje. Vývojáři Anthropic, OpenAI a další hraniční vývojáři strávili měsíce procházením neobvykle úzkého, ale bojovného vztahu s Bílým domem, včetně vysokých úředníků pohybujících se mezi vládními a průmyslovými rolemi.
Proč na tom záleží
Formální kanál hlášení incidentů by umožnil federální vládě zviditelnit selhání umělé inteligence, která se dnes vynořují pouze prostřednictvím zveřejnění v tisku, o čemž Kongres diskutoval, aniž by to prošel. Vytvořilo by to také papírovou stopu, která by mohla utvářet budoucí regulaci, soudní spory a pojišťovací trhy týkající se rizika AI.
Pro laboratoře je kalkul dvousečný. Dobrovolné zveřejnění zlepšilo bezpečnostní pověření společnosti Anthropic, i když každý incident generuje titulky. Povinný režim by mohl vyrovnat podmínky – každá laboratoř musí hlásit – ale také by mohl zpomalit druh transparentnosti, který dosud charakterizoval, jak se tyto incidenty dostaly na veřejnost.
Super Intelligence Force neodpověděla veřejně na otázky týkající se časové osy nebo rozsahu. Zda mandát přijde jako výkonný příkaz, vedení agentury nebo neformální očekávání, určí, jak trvalý – a jak vymahatelný – nový režim skutečně je.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
