Jacob Coxon, de voormalige antropische onderzoeker die vorige maand ontslag nam met een publieke waarschuwing dat AI-bedrijven ‘met onze levens gokken’, getuigt maandag tijdens een hoorzitting van de gemeenteraad van New York over de veiligheid van kunstmatige intelligentie, waardoor hij in dezelfde kamer wordt geplaatst als vertegenwoordigers van de industrie die hij heeft verlaten.

Bloomberg meldde op 4 oktober dat Coxon zou verschijnen op de hoorzitting, die werd bijeengeroepen door raadsvoorzitter Julie Menin en die optreedt als een Comité van het Geheel – wat betekent dat alle 51 raadsleden deelnemen in plaats van een enkele subcommissie. Vertegenwoordigers van Anthropic, OpenAI, Google en Meta zullen naar verwachting op dezelfde sessie verschijnen. Voor meer context over dit verhaal, zie onze voortdurende nieuwste AI-ontwikkelingen.

Wie is Jacob Coxon?

Coxon nam begin september 2026 ontslag bij Anthropic. In zijn publieke vertrekverklaring typeerde hij AI-bedrijven als "gokken met onze levens" en waarschuwde hij dat de technologie binnen tien jaar een catastrofaal risico zou kunnen vormen. Volgens Crypto Briefing is de verklaring meer dan 173 miljoen keer bekeken en wordt zijn ontslag toegeschreven aan het stimuleren van de raadshoorzitting.

Hij staat niet alleen met zijn zorgen. Evan Hubinger, een andere antropische onderzoeker, heeft publiekelijk een waarschijnlijkheid van meer dan 10 procent geschat dat geavanceerde AI binnen tien jaar dodelijk zou kunnen zijn voor de mensheid – een signaal, zo beweren veiligheidsvoorstanders, van hoe wijdverspreid dergelijke opvattingen nu worden gehouden in grenslaboratoria.

Het verhaal van Coxon heeft tot weerstand geleid. Sceptici hebben zijn associatie met een PR-bedrijf dat betrokken is bij de belangenbehartiging van AI-veiligheid in twijfel getrokken, en beweert dat hij heeft weerlegd.

Een primeur voor Amerikaanse wetgevers

In de verslaggeving over de sessie wordt de hoorzitting beschreven als de eerste keer dat een Amerikaans wetgevend orgaan een beëdigde getuigenis heeft afgedwongen, specifiek over de veiligheid van AI. De gemeenteraad van New York stuurde brieven waarin de CEO’s van de vier grote AI-bedrijven – Dario Amodei van Anthropic, Sam Altman van OpenAI, Sundar Pichai van Google en Mark Zuckerberg van Meta – werden uitgenodigd om aanwezig te zijn.

Niet elk bedrijf reageerde zoals de gemeente had gehoopt. Volgens Crypto Briefing kreeg één AI-bedrijf op of rond 30 september 2026 een dagvaarding, nadat er juridische stappen waren ondernomen wegens niet-naleving van het verzoek van de gemeente.

De rekeningen op tafel

Wetgevers zijn van plan de zitting te gebruiken om verschillende voorgestelde maatregelen af te wegen, waarvan er drie in het oog springen:

  • Validatie door derden van AI-systemen die door de stad worden gebruikt, waarvoor onafhankelijke verificatie vereist is voordat ze bij gemeentelijke diensten kunnen worden ingezet.
  • Incentives voor klokkenluiders die in de voorstellen worden beschreven als toonaangevend voor het land, bedoeld om insiders te belonen die gevaarlijke praktijken in AI-laboratoria signaleren.
  • Een particulier actierecht dat individuen de mogelijkheid zou geven om een ​​proces aan te spannen voor schade veroorzaakt door AI-systemen.

Elk van deze drie zou van New York City een van de meest agressieve lokale toezichthouders op het gebied van kunstmatige intelligentie in de Verenigde Staten maken. Omdat de voorstellen zich richten op systemen die worden gebruikt door de stad en de bedrijven die daarin actief zijn, kunnen de effecten ervan veel verder reiken dan de vijf stadsdelen.

Lokale regels in een federaal vacuüm

De hoorzitting komt op een moment van concurrerende regelgevingsstromingen in Washington. President Trump heeft onlangs Jay Clayton, directeur van de Nationale Inlichtingendienst, benoemd tot zijn ‘AI-tsaar’, die leiding geeft aan een nieuwe ‘Super Intelligence Force’-taskforce die 120 dagen de tijd heeft om een ​​rapport op te stellen over de risico’s en het toezicht op AI – een raamwerk dat neigt naar het versnellen van de ontwikkeling in plaats van deze te beperken.

In dat vacuüm zijn staten en steden terechtgekomen. Tijdens de sessie in New York zal worden getest hoe ver gemeentelijke overheden kunnen gaan bij het stellen van veiligheidsverwachtingen voor technologie die ver van het stadhuis is gebouwd, en of de grote laboratoria van de industrie zich zullen engageren met lokale wetgevers of zich daartegen zullen verzetten.

Waarom het getuigenis ertoe doet

Hoorzittingen als deze zijn doorgaans minder belangrijk voor wat er in de zaal wordt gezegd, en meer voor wat volgt. Beëdigde getuigenissen creëren een openbaar verslag dat toekomstige wetgeving kan verankeren, en de aanwezigheid van alle vier de grote AI-bedrijven – plus een criticus in klokkenluidersstijl – geeft wetgevers een zeldzame zij-aan-zij vergelijking van beloften en waarschuwingen.

Voor de AI-industrie herinnert de sessie eraan dat de controle niet langer beperkt blijft tot het Congres of buitenlandse hoofdsteden. Gemeenteraden stellen nu hun eigen AI-regels op en roepen de mensen die de systemen bouwen op om deze onder ede te verdedigen.

Wat je in de getuigenis moet bekijken

Verschillende onderwerpen zijn de moeite waard om te volgen naarmate de sessie vordert. Ten eerste, hoe de bedrijfsvertegenwoordigers hun eigen veiligheidspraktijken karakteriseren wanneer ze onder ede spreken, waarbij een vocale voormalige insider in hetzelfde panel zal verschijnen. Ten tweede: of het voorstel voor een stimulering van klokkenluiders steun krijgt van beide kanten van het gangpad – het weerspiegelt de federale inspanningen om klokkenluiderskanalen in AI-laboratoria te formaliseren, een gebied waarop verschillende grensbedrijven al vrijwillig beleid hebben gepubliceerd.

In de derde plaats is het particuliere recht op actie waarschijnlijk het meest omstreden element. Een mechanisme waarmee individuen een rechtszaak kunnen aanspannen wegens door AI veroorzaakte schade zou de echte juridische blootstelling verschuiven naar modelaanbieders, en van lobbyisten uit de sector kan worden verwacht dat ze er veel harder tegen zullen vechten dan audit- of openbaarmakingsvereisten.

De hoorzitting zorgt ook voor een direct contrast in de regelgevingsfilosofie. De nieuwe AI-taskforce van Washington onder leiding van Jay Clayton is opgebouwd rond het versnellen van de ontwikkeling en het consolideren van de federale coördinatie, terwijl de voorstellen van New York City neigen naar verificatie, insider-rapportage en rechtszaken als handhavingssteun. Als de wetsvoorstellen vooruitgaan, zou de stad een testcase kunnen worden voor hoeveel AI-regulering subfederale overheden kunnen opleggen in het huidige politieke klimaat.

AI Buzz Wire zal de uitkomst van de hoorzitting en het lot van de drie voorgestelde wetsvoorstellen blijven volgen.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →