Jacob Coxon, bývalý antropický výzkumník, který minulý měsíc rezignoval s veřejným varováním, že společnosti s umělou inteligencí „hazardují s našimi životy“, vypovídá v pondělí na slyšení městské rady v New Yorku o bezpečnosti umělé inteligence a umístil ho do stejné místnosti jako zástupce průmyslu, který opustil.

Agentura Bloomberg 4. října oznámila, že se Coxon zúčastní slyšení, které svolala předsedkyně rady Julie Menin a běží jako Výbor celku – což znamená, že se ho účastní všech 51 členů rady, nikoli jediný podvýbor. Očekává se, že na stejném zasedání vystoupí zástupci společností Anthropic, OpenAI, Google a Meta. Další kontext k tomuto příběhu naleznete v našem probíhajícím nejnovějším vývoji AI.

Kdo je Jacob Coxon?

Coxon odstoupil z Anthropic počátkem září 2026. Ve svém veřejném prohlášení o odchodu charakterizoval společnosti AI jako „hazardování s našimi životy“ a varoval, že tato technologie může během desetiletí představovat katastrofické riziko. Podle Crypto Briefing bylo prohlášení zhlédnuto více než 173 miliónů krát a jeho rezignace je připisována za podporu úsilí o slyšení v radě.

Ve svých starostech není sám. Evan Hubinger, další antropický výzkumník, veřejně odhadl více než 10procentní pravděpodobnost, že by pokročilá umělá inteligence mohla být pro lidstvo smrtelná do deseti let – což je signál, jak tvrdí obhájci bezpečnosti, jak široce se takové názory nyní zastávají v hraničních laboratořích.

Coxonovo vyprávění vyvolalo odpor. Skeptici zpochybnili jeho spojení s firmou pro styk s veřejností spojenou s obhajobou bezpečnosti AI, tvrdí, že vyvrátil.

První pro americké zákonodárce

Slyšení je popsáno ve zprávách o zasedání jako první, kdy si zákonodárný orgán USA vynutil přísežné svědectví konkrétně o bezpečnosti umělé inteligence. Newyorská městská rada zaslala dopisy s pozváním generálních ředitelů čtyř hlavních společností zabývajících se umělou inteligencí – Daria Amodeie z Anthropic, Sama Altmana z OpenAI, Sundara Pichaie z Google a Marka Zuckerberga z Meta – k účasti.

Ne každá společnost reagovala tak, jak rada doufala. Podle Crypto Briefing bylo jedné společnosti s umělou inteligencí doručeno předvolání 30. září 2026 nebo kolem něj poté, co byly zahájeny právní kroky kvůli nesplnění požadavku rady.

Účty na stole

Zákonodárci plánují zasedání využít ke zvážení několika navrhovaných opatření, z nichž tři vynikají:

  • Ověření třetí stranou systémů AI používaných městem, které by před nasazením v komunálních službách vyžadovalo nezávislé ověření.
  • Pobídky pro oznamovatele popsané v návrzích jako celonárodní, určené k odměňování zasvěcenců, kteří označují nebezpečné praktiky v laboratořích AI.
  • Soukromé právo žaloby, které by jednotlivcům umožnilo žalovat za škody způsobené systémy AI.

Kterýkoli z těchto tří by z New Yorku udělal jeden z nejagresivnějších místních regulátorů umělé inteligence ve Spojených státech. Vzhledem k tomu, že se návrhy zaměřují na systémy používané městem a společnostmi v něm působícími, mohly by jejich účinky zasáhnout daleko za hranice pěti městských částí.

Místní pravidla ve federálním vakuu

Slyšení přichází v okamžiku konkurenčních regulačních proudů ve Washingtonu. Prezident Trump nedávno jmenoval ředitele National Intelligence Jaye Claytona svým „carem AI“, který vede novou pracovní skupinu „Super Intelligence Force“ se 120 dny na předložení zprávy o rizicích a dohledu AI – rámec, který se přiklání spíše k urychlení vývoje než k jeho omezování.

Do tohoto vakua se přesunuly státy a města. Zasedání v New Yorku otestuje, jak daleko mohou samosprávy zajít při stanovování bezpečnostních očekávání pro technologii postavenou daleko od radnice a zda se hlavní laboratoře v tomto odvětví zapojí s místními zákonodárci nebo se jim postaví na odpor.

Proč na svědectví záleží

Slyšení, jako je toto, mají tendenci méně záležet na tom, co se říká v místnosti, a více na tom, co následuje. Čestné svědectví vytváří veřejný záznam, který může ukotvit budoucí legislativu, a přítomnost všech čtyř hlavních společností s umělou inteligencí – plus kritik ve stylu whistleblowerů – dává zákonodárcům vzácné srovnání slibů a varování vedle sebe.

Pro průmysl AI je zasedání připomínkou toho, že kontrola se již neomezuje na Kongres nebo zahraniční hlavní města. Městské rady nyní navrhují vlastní pravidla AI a svolávají lidi, kteří vytvářejí systémy, aby je pod přísahou bránili.

Na co se ve svědectví dívat

V průběhu relace stojí za to sledovat několik vláken. Za prvé, jak zástupci společnosti charakterizují své vlastní bezpečnostní praktiky, když mluví pod přísahou, přičemž ve stejném panelu má vystoupit bývalý zasvěcený člověk. Zadruhé, zda návrh pobídek pro oznamovatele čerpá podporu z obou stran uličky – odráží federální snahy o formalizaci kanálů pro informování laboratoří AI, což je oblast, kde několik společností na hranicích již zveřejnilo dobrovolné zásady.

Zatřetí, soukromoprávní právo žaloby bude pravděpodobně nejspornějším prvkem. Mechanismus, který umožňuje jednotlivcům žalovat za škody způsobené umělou inteligencí, by přesunul skutečnou právní expozici na modelové poskytovatele a od průmyslových lobbistů lze očekávat, že s tím budou bojovat mnohem tvrději než požadavky na audit nebo zveřejnění.

Slyšení také vytváří přímý kontrast v regulační filozofii. Nová washingtonská pracovní skupina pro umělou inteligenci pod vedením Jaye Claytona je postavena na urychlení vývoje a konsolidaci federální koordinace, zatímco návrhy města New York se přiklánějí k ověřování, hlášení zasvěcených osob a soudním sporům jako pojistkám vymáhání. Pokud účty postoupí, město by se mohlo stát testovacím případem toho, kolik nařízení AI mohou subfederální vlády zavést v současném politickém klimatu.

AI Buzz Wire bude pokračovat ve sledování výsledku slyšení a osudu tří navrhovaných zákonů.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →