Jacob Coxon, der ehemalige Anthropic-Forscher, der letzten Monat mit der öffentlichen Warnung zurücktrat, dass KI-Unternehmen „mit unserem Leben spielen“, sagt am Montag bei einer Anhörung des New Yorker Stadtrats zum Thema Sicherheit künstlicher Intelligenz aus und stellt ihn damit in denselben Raum wie Vertreter der Branche, die er verlassen hat.

Bloomberg berichtete am 4. Oktober, dass Coxon bei der Anhörung erscheinen würde, die von Ratssprecherin Julie Menin einberufen wurde und als Gesamtausschuss fungiert – das heißt, dass alle 51 Ratsmitglieder und nicht nur ein einziger Unterausschuss teilnehmen. Es wird erwartet, dass Vertreter von Anthropic, OpenAI, Google und Meta in derselben Sitzung erscheinen. Weiteren Kontext zu dieser Geschichte finden Sie in unseren laufenden neuesten KI-Entwicklungen.

Wer ist Jacob Coxon?

Coxon trat Anfang September 2026 von Anthropic zurück. In seiner öffentlichen Abschiedserklärung bezeichnete er KI-Unternehmen als „Spiele mit unserem Leben“ und warnte davor, dass die Technologie innerhalb des Jahrzehnts ein katastrophales Risiko darstellen könnte. Laut Crypto Briefing wurde die Erklärung mehr als 173 Millionen Mal aufgerufen, und seinem Rücktritt wird zugeschrieben, dass er den Vorstoß für die Ratsanhörung angeheizt hat.

Er ist mit seinen Sorgen nicht allein. Evan Hubinger, ein weiterer Anthropic-Forscher, hat öffentlich eine Wahrscheinlichkeit von mehr als 10 Prozent geschätzt, dass fortschrittliche KI innerhalb von zehn Jahren für die Menschheit tödlich sein könnte – ein Zeichen dafür, wie Sicherheitsbefürworter argumentieren, wie weit solche Ansichten mittlerweile in Grenzlaboren vertreten sind.

Coxons Erzählung stieß auf Widerstand. Skeptiker haben seine Verbindung mit einer PR-Firma in Frage gestellt, die sich für die Sicherheit von KI einsetzt, Behauptungen, die er widerlegt hat.

Eine Premiere für US-Gesetzgeber

In der Berichterstattung über die Sitzung wird die Anhörung als das erste Mal beschrieben, dass ein US-Gesetzgeber eine eidesstattliche Aussage speziell zum Thema KI-Sicherheit erzwingt. Der New Yorker Stadtrat hat die Geschäftsführer der vier großen KI-Unternehmen – Dario Amodei von Anthropic, Sam Altman von OpenAI, Sundar Pichai von Google und Mark Zuckerberg von Meta – in Briefen zur Teilnahme eingeladen.

Nicht jedes Unternehmen reagierte so, wie der Rat es sich erhofft hatte. Laut Crypto Briefing wurde einem KI-Unternehmen am oder um den 30. September 2026 eine Vorladung zugestellt, nachdem rechtliche Schritte wegen Nichteinhaltung der Aufforderung des Rates eingeleitet worden waren.

Die Rechnungen auf dem Tisch

Die Abgeordneten wollen die Sitzung nutzen, um mehrere vorgeschlagene Maßnahmen abzuwägen, von denen drei besonders hervorstechen:

  • Validierung durch Dritte der von der Stadt verwendeten KI-Systeme, die vor dem Einsatz in kommunalen Diensten eine unabhängige Überprüfung erfordern würde.
  • Anreize für Whistleblower, die in den Vorschlägen als landesweit führend beschrieben werden, sollen Insider belohnen, die gefährliche Praktiken in KI-Laboren melden.
  • Ein privates Klagerecht, das Einzelpersonen die Möglichkeit geben würde, durch KI-Systeme verursachte Schäden einzuklagen.

Jeder dieser drei Punkte würde New York City zu einer der aggressivsten lokalen Regulierungsbehörden für künstliche Intelligenz in den Vereinigten Staaten machen. Da die Vorschläge auf Systeme abzielen, die von der Stadt und den dort tätigen Unternehmen genutzt werden, könnten ihre Auswirkungen weit über die fünf Bezirke hinausreichen.

Lokale Regeln im föderalen Vakuum

Die Anhörung findet zu einem Zeitpunkt statt, an dem in Washington konkurrierende Regulierungsströmungen herrschen. Präsident Trump ernannte kürzlich den Direktor des Nationalen Geheimdienstes, Jay Clayton, zu seinem „KI-Zaren“, der eine neue „Super Intelligence Force“-Task Force leitet, die 120 Tage Zeit hat, einen Bericht über KI-Risiken und -Überwachung vorzulegen – ein Rahmen, der darauf abzielt, die Entwicklung zu beschleunigen, anstatt sie einzuschränken.

In dieses Vakuum sind Staaten und Städte vorgedrungen. Bei der Sitzung in New York wird getestet, wie weit Kommunalverwaltungen gehen können, wenn es darum geht, Sicherheitserwartungen für Technologie festzulegen, die weit vom Rathaus entfernt gebaut wird, und ob die großen Labore der Branche mit den örtlichen Gesetzgebern zusammenarbeiten oder sich ihnen widersetzen.

Warum das Zeugnis wichtig ist

Anhörungen wie diese sind in der Regel weniger wichtig für das, was im Raum gesagt wird, als vielmehr für das, was folgt. Eine eidesstattliche Aussage schafft ein öffentliches Protokoll, das zukünftige Gesetze verankern kann, und die Präsenz aller vier großen KI-Unternehmen – plus eines Whistleblower-Kritikers – ermöglicht den Gesetzgebern einen seltenen direkten Vergleich von Versprechungen und Warnungen.

Für die KI-Branche ist die Sitzung eine Erinnerung daran, dass die Kontrolle nicht länger auf den Kongress oder ausländische Hauptstädte beschränkt ist. Stadträte entwerfen jetzt eigene KI-Regeln und rufen die Leute, die die Systeme bauen, dazu auf, sie unter Eid zu verteidigen.

Was Sie im Zeugnis beachten sollten

Es lohnt sich, im Verlauf der Sitzung mehreren Threads zu folgen. Erstens, wie die Unternehmensvertreter ihre eigenen Sicherheitspraktiken charakterisieren, wenn sie unter Eid sprechen, wobei ein lautstarker ehemaliger Insider im selben Gremium auftreten soll. Zweitens, ob der Whistleblower-Anreizvorschlag auf beiden Seiten Unterstützung findet – er spiegelt die Bemühungen des Bundes wider, Whistleblower-Kanäle im KI-Labor zu formalisieren, ein Bereich, in dem mehrere Grenzunternehmen bereits freiwillige Richtlinien veröffentlicht haben.

Drittens dürfte das private Klagerecht das umstrittenste Element sein. Ein Mechanismus, der es Einzelpersonen ermöglicht, wegen KI-bedingter Schäden zu klagen, würde die tatsächliche rechtliche Belastung auf Modellanbieter verlagern, und es ist zu erwarten, dass Branchenlobbyisten weitaus härter dagegen ankämpfen als Prüfungs- oder Offenlegungspflichten.

Die Anhörung stellt auch einen direkten Kontrast in der Regulierungsphilosophie dar. Washingtons neue KI-Task Force unter Jay Clayton konzentriert sich auf die Beschleunigung der Entwicklung und die Konsolidierung der Bundeskoordination, während die Vorschläge von New York City auf Verifizierung, Insiderberichterstattung und Rechtsstreitigkeiten als Rückhalt bei der Durchsetzung abzielen. Wenn die Gesetzesentwürfe voranschreiten, könnte die Stadt zum Testfall dafür werden, wie viel KI-Regulierung subföderale Regierungen im aktuellen politischen Klima durchsetzen können.

AI Buzz Wire wird das Ergebnis der Anhörung und das Schicksal der drei vorgeschlagenen Gesetzentwürfe weiterhin verfolgen.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →