Zákonodárci z Massachusetts se snaží vytvořit nejpřísnější státní záruky pro umělou inteligenci v zemi a návrh rozdělil dvě přední laboratoře v tomto odvětví: Anthropic schvaluje pravidla, zatímco OpenAI proti nim lobuje.

Opatření, které je součástí zákona o hospodářském rozvoji, který minulý měsíc schválil státní Senát, by vyžadovalo, aby přední laboratoře umělé inteligence předkládaly své hraniční modely nezávislým přezkumům katastrofických rizik alespoň jednou za 120 dní – což je poprvé v jakémkoli americkém státě. Zjištění by byla zveřejněna, i když je stát nemohl použít k zastavení rozvoje. Boj o konečný text zákona nyní probíhá za zavřenými dveřmi na Beacon Hill a je to určující test toho, jak daleko americký stát zajde v policejních hraničních modelech. Chcete-li pravidelně informovat o tom, jak vlády čelí této technologii, sledujte naše pokrytí zásad AI.

Co by návrh z Massachusetts vyžadoval

Základním ustanovením zákona je pravidelná nezávislá kontrola nebezpečí hraničních systémů umělé inteligence. Vnější organizace by měly pravomoc vyhodnotit potenciál modelu pro katastrofy – definované jako události, které zabijí nebo vážně zraní nejméně 50 lidí nebo způsobí škody na majetku ve výši 1 miliardy USD nebo více – nezávisle na vlastních bezpečnostních pokynech vývojáře, uvádí zpráva Bloomberg zveřejněná ve středu.

Stát by také prováděl každoroční přezkum souladu, podobný tomu, co Illinois již vyžaduje. Ale opakující se hodnocení jdou daleko nad rámec zákonů přijatých v Kalifornii, New Yorku a Illinois a udělaly by z Massachusetts první stát, který zavedl hraniční modely na pevné 120denní kontrolní hodiny třetí strany.

Antropický: Průmysl by neměl hodnotit své vlastní domácí úkoly

Společnost Antropic, která se zasazovala o přísnější státní regulaci umělé inteligence při absenci federálního standardu, přijala návrh z Massachusetts a označila jej za „nejjasnější a nejsilnější legislativu týkající se umělé inteligence v zemi“.

"Konečně si nemyslíme, že by průmysl měl hodnotit své vlastní domácí úkoly," řekl agentuře Bloomberg Cesar Fernandez, šéf společnosti pro vztahy se státními a místními samosprávami v USA. Fernandez dodal, že státy možná budou muset přijmout ještě přísnější dohled, jak technologie postupuje, což je pozoruhodný postoj laboratoře AI, která se zasazuje o větší regulaci svých vlastních produktů.

OpenAI varuje, že recenze selžou

OpenAI varovala zákonodárce z Massachusetts, že časté povinné kontroly by zpomalily vydávání modelů kybernetické bezpečnosti, které by mohly chránit právě před riziky, kterých se zákonodárci obávají, uvedla agentura Bloomberg. Společnost upřednostňuje jednotný státní standard po vzoru zákona Illinois, který vyžaduje audit třetí stranou pouze jednou ročně a zaměřuje se na to, zda laboratoře dodržují vlastní bezpečnostní pokyny a provádějí požadované informace.

Nekonzistence mezi státními režimy "neznamená bezpečnější. Znamená to jen zmatek," řekl Donnie Fowler, šéf americké státní politiky a partnerství OpenAI.

Fowler přirovnal každoroční audity Illinois k rutinní inspekci auta – ujišťoval se, že brzdová světla a stěrače fungují – a zároveň porovnával hodnocení navrhovaná Massachusetts s demontáží motoru a jeho skládáním každých pár měsíců.

Lobbistický sprint před listopadovými volbami

Obě společnosti nyní bojují o vytvoření konečného textu. Anthropic najal bostonskou lobbistickou firmu Tremont Strategies Group počátkem tohoto roku, zatímco OpenAI v posledních týdnech přivedl místní firmu Benchmark Strategies, uvádí Bloomberg.

Předpokládá se, že zákon o širším hospodářském rozvoji pravděpodobně projde před listopadovými volbami, protože obsahuje také financování projektů v obvodech zákonodárců. Šestičlenná skupina vyjednavačů Sněmovny a Senátu dolaďuje detaily včetně pravidel AI.

Státní senátor Barry Finegold, jeden z vyjednavačů, uvedl, že je potřeba provést nezávislá hodnocení, aby se zajistilo, že hraniční modely nezpůsobí významné škody, a předpověděl, že pokud Massachusetts bude jednat, budou následovat další státy. "Byli jsme pozadu na sociálních sítích. Dovolili jsme si toho projít příliš mnoho, aniž bychom postavili mantinely, a teď hrajeme na dohánění," řekl Finegold Bloombergu. "Nechceme to opakovat."

Státy vstupují do federálního vakua

Tlak Massachusetts přichází, když bezpečnost AI nabyla nové naléhavosti. V minulém měsíci OpenAI, Anthropic a Meta Platforms každá oznámila případy, kdy se jejich modely neúmyslně nabouraly do systémů třetích stran v testovacích prostředích, uvedl Bloomberg.

Federální dohled zůstává omezený: prezident Donald Trump zvolil do značné míry nedbalý přístup a dvoustranná bezpečnostní legislativa AI, která by předcházela státním zákonům, je v Kongresu pozastavena. Státy nyní zaplňují mezeru, i když mezi sebou soutěží o kus boomu umělé inteligence, který pohání neúměrný podíl na ekonomickém růstu USA.

Samotné Massachusetts se tomuto odvětví aktivně dvoří. V únoru stát oznámil partnerství s OpenAI a stal se prvním státem, který celé své výkonné pobočce umožnil přístup k asistentovi poháněnému ChatGPT. Letos na jaře guvernérka Maura Healeyová a její tajemník pro ekonomický rozvoj, bývalý venture kapitalista Eric Paley, hovořili s prezidentkou Anthropic Danielou Amodeiovou o tom, že společnost rozšiřuje svou přítomnost v Massachusetts a spolupracuje v oblasti kybernetické bezpečnosti a rozvoje pracovní síly, podle e-mailů získaných prostřednictvím žádosti o veřejné záznamy.

V jedné zprávě Paley řekl Anthropic, že ​​„všichni potřebujeme sdílet více jasných příkladů toho, jak umělá inteligence posiluje lidstvo a nabízí pozitivní inspiraci k boji proti všemu šíření strachu“, a nabídl, že spojí společnost se státním zákonodárcem ohledně spolupráce v oblasti dohledu.

Healeyová, demokratka, která se v listopadu uchází o znovuzvolení, nezahrnula záruky AI do svého původního návrhu hospodářského rozvoje. Ona i Sněmovna stále musí s ustanovením souhlasit a její administrativa tvrdí, že bude spolupracovat se zákonodárci na dokončení legislativy letos na podzim.

Zůstaňte napřed před zásadami AI

Regulace hraničních modelů se v USA, Evropě a Asii zrychluje a detaily rozhodnou o tom, kdo staví, kdo dodává a kdo platí. Získejte stručné zprávy o každém hlavním vývoji na [AI Buzz Wire] (https://aibuzzwire.news).

Přečtěte si další zprávy o AI →