Jacob Coxon, den före detta antropiska forskaren som avgick förra månaden med en offentlig varning om att AI-företag "spelar med våra liv", vittnar på måndagen vid en utfrågning i New York City Council om artificiell intelligens säkerhet, och placerar honom i samma rum som representanter från branschen han lämnade.

Bloomberg rapporterade den 4 oktober att Coxon skulle dyka upp vid utfrågningen, som kallades av rådets talman Julie Menin och körs som en helhetskommitté – vilket innebär att alla 51 rådsmedlemmar deltar snarare än en enda underkommitté. Representanter från Anthropic, OpenAI, Google och Meta förväntas dyka upp vid samma session. För mer sammanhang om den här historien, se vår pågående senaste AI-utvecklingen.

Vem är Jacob Coxon?

Coxon sa upp sig från Anthropic i början av september 2026. I sitt offentliga uttalande om avgång karakteriserade han AI-företag som "spelande med våra liv" och varnade för att tekniken skulle kunna utgöra en katastrofal risk inom decenniet. Enligt Crypto Briefing har uttalandet setts mer än 173 miljoner gånger, och hans avgång krediteras för att ha drivit på för rådets utfrågning.

Han är inte ensam om sin oro. Evan Hubinger, en annan antropisk forskare, har offentligt uppskattat en sannolikhet på mer än 10 procent att avancerad AI kan vara dödlig för mänskligheten inom tio år - en signal, hävdar säkerhetsförespråkare, om hur brett sådana åsikter nu finns i frontier labs.

Coxons berättelse har dragit tillbaka. Skeptiker har ifrågasatt hans koppling till ett PR-företag kopplat till AI-säkerhetsförespråkande, påståenden han har motbevisat.

En första för amerikanska lagstiftare

Utfrågningen beskrivs i rapporteringen om sessionen som första gången ett amerikanskt lagstiftande organ har tvingat fram ett edsvurit vittnesmål specifikt om AI-säkerhet. New Yorks kommunfullmäktige skickade brev där de bjöd in cheferna för de fyra stora AI-företagen - Dario Amodei från Anthropic, Sam Altman från OpenAI, Sundar Pichai från Google och Mark Zuckerberg från Meta - att delta.

Inte alla företag reagerade som rådet hoppades. Enligt Crypto Briefing delgavs ett AI-företag en stämning den 30 september 2026 eller runt den 30 september 2026, efter att rättsliga åtgärder inletts på grund av bristande efterlevnad av rådets begäran.

Räkningarna på bordet

Lagstiftare planerar att använda sessionen för att väga flera föreslagna åtgärder, varav tre sticker ut:

  • Tredjepartsvalidering av AI-system som används av staden, vilket skulle kräva oberoende verifiering innan implementering i kommunala tjänster.
  • Whistleblower-incitament beskrivs i förslagen som nationsledande, utformade för att belöna insiders som flaggar för farliga metoder i AI-labb.
  • En privat rätt till talan som skulle ge individer möjlighet att stämma för skador orsakade av AI-system.

Vilken som helst av de tre skulle göra New York till en av de mest aggressiva lokala tillsynsmyndigheterna för artificiell intelligens i USA. Eftersom förslagen är inriktade på system som används av staden och företag som verkar inom den, kan deras effekter nå långt utanför de fem stadsdelarna.

Lokala regler i ett federalt vakuum

Utfrågningen kommer vid ett ögonblick av konkurrerande regleringsströmmar i Washington. President Trump utnämnde nyligen Director of National Intelligence Jay Clayton till sin "AI-tsar", som leder en ny "Super Intelligence Force"-arbetsgrupp med 120 dagar för att leverera en rapport om AI-risker och tillsyn – ett ramverk som har lutat åt att accelerera utvecklingen snarare än att begränsa den.

In i det vakuumet har stater och städer rört sig. New Yorks session kommer att testa hur långt kommunala myndigheter kan gå för att ställa säkerhetsförväntningar för teknik som byggs långt från stadshuset, och om branschens stora labb kommer att samarbeta med lokala lagstiftare eller motstå dem.

Varför vittnesbördet är viktigt

Utfrågningar som denna tenderar att spela mindre roll för vad som sägs i rummet och mer för vad som följer. Svurna vittnesmål skapar ett offentligt register som kan förankra framtida lagstiftning, och närvaron av alla fyra stora AI-företag – plus en kritiker i whistleblower-stil – ger lagstiftare en sällsynt sida vid sida jämförelse av löften och varningar.

För AI-industrin är sessionen en påminnelse om att granskning inte längre är begränsad till kongressen eller utländska huvudstäder. Kommunfullmäktige utarbetar nu sina egna AI-regler, och de kallar folket som bygger systemen för att försvara dem under ed.

Vad du ska titta på i vittnesbördet

Flera trådar är värda att följa under sessionen. För det första, hur företagsrepresentanterna karakteriserar sina egna säkerhetsrutiner när de talar under ed, med en högljudd före detta insider planerad att dyka upp i samma panel. För det andra, huruvida förslaget till incitament för whistleblower får stöd från båda sidor av gången — det återspeglar federala ansträngningar för att formalisera kanaler för AI-labbets whistleblowing, ett område där flera gränsföretag redan har publicerat frivilliga policyer.

För det tredje torde den privata rätten till talan vara den mest omtvistade delen. En mekanism som låter individer stämma över AI-orsakade skador skulle flytta verklig juridisk exponering till modellleverantörer, och industrilobbyister kan förväntas bekämpa det mycket hårdare än revisions- eller avslöjandekrav.

Utfrågningen skapar också en direkt kontrast i regleringsfilosofin. Washingtons nya AI-arbetsgrupp under Jay Clayton är uppbyggd kring att påskynda utvecklingen och konsolidera den federala samordningen, medan New York Citys förslag lutar mot verifiering, insiderrapportering och rättstvister som en bakstopp på efterlevnaden. Om räkningarna går framåt kan staden bli ett testfall för hur mycket AI-reglering subfederala regeringar kan införa i det nuvarande politiska klimatet.

AI Buzz Wire kommer att fortsätta spåra utfrågningens resultat och ödet för de tre föreslagna lagförslagen.

---

Stay ahead of AI

Få de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.

Läs mer AI-nyheter →