Bezpečnostní varování od antropických výzkumníků, která tento týden dominovala diskursu o AI, nyní ve Washingtonu přinesla něco konkrétního: legislativní tlak. Agentura Reuters ve čtvrtek uvedla, že američtí zákonodárci požadují nová pravidla pro umělou inteligenci v reakci na prohlášení výzkumníků, zatímco zástupkyně Massachusetts Lori Trahan použila čtvrteční ranní rozhovor, aby podrobně popsala svůj zákon o hranicích, zákon, který by poprvé uvalil závazné povinnosti pro vývojáře umělé umělé inteligence.

Když mluvil o ranní edici WBUR, Trahan řekl, že reakce na Capitol Hill na události tohoto týdne se nepodobají ničemu, co viděla od doby, kdy začala pracovat na regulaci AI na začátku tohoto roku. Chcete-li se denně informovat o změnách v politice umělé inteligence ve Washingtonu, Bruselu i mimo něj, sledujte AI Buzz Wire, váš zdroj nejnovějších zpráv o umělé inteligenci a aktualizací předpisů.

Co by udělal Hraniční zákon

Trahan, který je spoluautorem dvoustranného návrhu zákona, jej popsal jako soubor „pravidel silničního provozu“ pro hrstku společností, jejichž modely by mohly způsobit katastrofální škody. Hraniční zákon by podle kongresmanky nařizoval čtyři věci: požadavky na transparentnost pro vývojáře hraniční umělé inteligence, hlášení incidentů, nezávislé ověřování tvrzení o bezpečnosti modelu a to, co nazvala vládní tlačítko pauzy, pokud model představuje bezprostřední riziko katastrofy.

"Na základní úrovni musíme na hraniční laboratoře umístit zábradlí," řekl Trahan a označil tato opatření za "stolové sázky", zatímco Kongres vypracuje politiku pro mnoho dalších sektorů, kterých se AI dotkne.

„Systém cti“: Trahanův případ pro závazná pravidla

Jádrem Trahanova argumentu je, že v současnosti nic nesvazuje vývojáře nejvýkonnějších systémů umělé inteligence. "Dnes jedinou věcí, kterou máme, je systém cti," řekla. "Nejvýkonnější technologie v historii lidstva je regulována jejími vývojáři."

Přiznala skepsi mezi kolegy a řekla, že někteří považují varování týdne za vzbuzující strach nebo příliš extrémní. Rychlý posun v náladě v komoře ale popsala: "Můj telefon nepřestal zvonit od chvíle, kdy Jacob Coxon zapískal. Myslím, že moji kolegové jsou vyděšení. Ozývají se od svých voličů, kteří chtějí, abychom jednali... Tento týden právě narazil na bod zlomu."

Zejména řekla, že tlak není omezen na jednu stranu. "Nejsou to jen demokraté," řekl Trahan s tím, že "Republikáni MAGA včera vyzvali k bipartistické akci. Země se skutečně posunula."

Varování, která to začala

Legislativní kvas přímo navazuje na prohlášení dvou antropických badatelů. Jacob Coxon v úterý ze společnosti odešel a na sociálních sítích napsal, že Anthropic „závodí přímo k sebezdokonalování superinteligence a hazardu s našimi životy“. Kolega antropický výzkumník Evan Hubinger ho veřejně podpořil a napsal: "Jacob má pravdu... Opravdu vážně věříme, že umělá inteligence by mohla zabít všechny lidi! Osobně si myslím, že je to > 10 % během příští dekády."

Příběh během týdne metastázoval. The Hill oznámil, že zákonodárci po varováních bijí na poplach ohledně nebezpečí AI, BBC a CBS se zabývaly Hubingerovým odhadem pravděpodobnosti a NBC News ve čtvrtek informovaly o tom, že dva výzkumníci AI opouštějí Anthropic a Google kvůli obavám o bezpečnost, citujíc jednoho, který řekl, že „v místnosti nejsou žádní dospělí“. Agentura Reuters ve čtvrtek uvedla, že zákonodárci nyní požadují nová pravidla, a také se objevily zprávy, že OpenAI hledala americká pravidla upravující výkonné modely umělé inteligence.

Od varování k souboru faktur

To, co se tento týden liší od předchozích bezpečnostních kontroverzí, je rychlost reakce politiky. Vlastní odhalení Anthropic tento týden – zpráva o hrozbách podrobně popisující narušené kampaně proti zneužití, včetně možných pokusů využít Clauda k vývoji biologických zbraní – dala varováním důkazní páteř, kterou předchozí debata postrádala, a zdá se, že zákonodárci se hýbou, dokud tento okamžik trvá.

Cesta vpřed pro legislativu AI

Vyhlídky na hraniční zákon zůstávají nejisté. Kongres se roky snažil schválit komplexní legislativu AI a jakýkoli návrh zákona, který by se dotkl povinného ověřování nebo federálního úřadu pro pozastavení, by čelil intenzivnímu lobbování ze strany laboratoří, které by reguloval, spolu s bojem o jurisdikci mezi výbory. Na okraj, státy nečekají: Guvernér Kalifornie Gavin Newsom tento týden podle Los Angeles Times podepsal sadu zákonů o bezpečnosti umělé inteligence, čímž udržuje tlak na federální rámec, který předchází spleti státních pravidel.

Dynamika se prozatím obrátila. Poprvé na tomto kongresu lidé vytvářející hraniční modely veřejně požadují omezení pro svůj vlastní průmysl – a zákonodárci je navrhují.

Zda toto sladění přinese zákon nebo jen titulky, bude záležet na nadcházejících měsících. Tento týden však ukázal něco, co laboratoře ani jejich kritici nemohou ignorovat: bezpečnost umělé inteligence se přesunula ze seminární místnosti do počítání bičů a členové sčítající hlasy říkají, že jejich voliči jsou konečně těmi, kdo je žádají, aby jednali.

AI Buzz Wire bude i nadále sledovat hraniční zákon, jak se pohybuje v Kongresu.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →