Die Gesetzgeber in Massachusetts streben die Schaffung der landesweit strengsten staatlichen Schutzmaßnahmen für künstliche Intelligenz an, und der Vorschlag hat die beiden führenden Laboratorien der Branche gespalten: Anthropic befürwortet die Regeln, während OpenAI dagegen Lobbyarbeit betreibt.

Die Maßnahme, die in einem im vergangenen Monat vom Senat des Bundesstaates verabschiedeten Gesetzentwurf zur wirtschaftlichen Entwicklung enthalten ist, würde von führenden KI-Laboren verlangen, ihre Grenzmodelle mindestens alle 120 Tage einer unabhängigen Überprüfung katastrophaler Risiken zu unterziehen – eine Premiere für einen US-Bundesstaat. Die Ergebnisse würden veröffentlicht, obwohl der Staat sie nicht dazu nutzen könne, die Entwicklung zu stoppen. Der Kampf um den endgültigen Gesetzestext findet nun hinter verschlossenen Türen auf Beacon Hill statt und ist ein entscheidender Test dafür, wie weit ein US-Bundesstaat bei der Überwachung von Grenzmodellen gehen wird. Für regelmäßige Berichte darüber, wie Regierungen mit der Technologie umgehen, folgen Sie unserer KI-Richtlinienberichterstattung.

Was der Massachusetts-Vorschlag erfordern würde

Die Kernbestimmung des Gesetzentwurfs ist eine regelmäßige, unabhängige Überprüfung der Gefahren von Grenz-KI-Systemen. Laut einem am Mittwoch veröffentlichten Bloomberg-Bericht wären externe Organisationen befugt, das Katastrophenpotenzial eines Modells zu bewerten – definiert als Ereignisse, die mindestens 50 Menschen töten oder schwer verletzen oder Sachschäden in Höhe von 1 Milliarde US-Dollar oder mehr verursachen – unabhängig von den eigenen Sicherheitsrichtlinien des Entwicklers.

Der Staat würde außerdem eine jährliche Compliance-Überprüfung durchführen, ähnlich wie es Illinois bereits vorschreibt. Aber die wiederkehrenden Bewertungen gehen weit über die in Kalifornien, New York und Illinois verabschiedeten Gesetze hinaus und würden Massachusetts zum ersten Bundesstaat machen, der Grenzmodelle auf einen festen 120-Tage-Takt für die Inspektion durch Dritte einführt.

Anthropic: Die Industrie sollte ihre eigenen Hausaufgaben nicht bewerten

Anthropic, das sich für eine strengere staatliche KI-Regulierung in Ermangelung eines Bundesstandards eingesetzt hat, hat den Vorschlag von Massachusetts angenommen und ihn als „die klarste und stärkste KI-Gesetzgebung des Landes“ bezeichnet.

„Wir glauben letztendlich nicht, dass die Branche ihre eigenen Hausaufgaben bewerten sollte“, sagte Cesar Fernandez, Leiter der Abteilung für Beziehungen zu US-Bundesstaaten und Kommunalverwaltungen des Unternehmens, gegenüber Bloomberg. Fernandez fügte hinzu, dass Staaten mit fortschreitender Technologie möglicherweise eine noch strengere Aufsicht übernehmen müssen – eine bemerkenswerte Position eines KI-Labors, das sich für eine stärkere Regulierung seiner eigenen Produkte ausspricht.

OpenAI warnt davor, dass die Bewertungen nach hinten losgehen werden

OpenAI hat die Gesetzgeber in Massachusetts gewarnt, dass häufige obligatorische Überprüfungen die Veröffentlichung von Cybersicherheitsmodellen verlangsamen würden, die vor genau den Risiken schützen könnten, die die Gesetzgeber befürchten, berichtete Bloomberg. Das Unternehmen bevorzugt einen einheitlichen staatlichen Standard nach dem Vorbild des Gesetzes von Illinois, das nur einmal im Jahr eine Prüfung durch Dritte vorschreibt und sich darauf konzentriert, ob Labore ihre eigenen Sicherheitsrichtlinien befolgen und erforderliche Offenlegungen vornehmen.

Inkonsistenz zwischen staatlichen Regimen „bedeutet nicht mehr Sicherheit. Es bedeutet nur Verwirrung“, sagte Donnie Fowler, OpenAI-Leiter für US-Staatspolitik und Partnerschaften.

Fowler verglich die jährlichen Audits in Illinois mit einer routinemäßigen Autoinspektion – um sicherzustellen, dass die Bremslichter und Scheibenwischer funktionieren – und verglich die von Massachusetts vorgeschlagenen Bewertungen mit der Demontage und dem Wiederzusammenbau des Motors alle paar Monate.

Ein Lobbying-Sprint vor der Wahl im November

Beide Unternehmen ringen nun darum, den endgültigen Text auszuarbeiten. Laut Bloomberg hat Anthropic Anfang des Jahres das Bostoner Lobbyunternehmen Tremont Strategies Group engagiert, während OpenAI in den letzten Wochen das lokale Unternehmen Benchmark Strategies engagiert hat.

Es wird davon ausgegangen, dass das umfassendere Gesetz zur wirtschaftlichen Entwicklung noch vor den Wahlen im November verabschiedet wird, da es auch Mittel für Projekte in den Wahlbezirken enthält. Eine sechsköpfige Gruppe von Verhandlungsführern im Repräsentantenhaus und im Senat klärt die Details, einschließlich der KI-Regeln.

Staatssenator Barry Finegold, einer der Verhandlungsführer, sagte, dass unabhängige Bewertungen erforderlich seien, um sicherzustellen, dass Grenzmodelle keinen erheblichen Schaden anrichten würden, und prognostizierte, dass andere Bundesstaaten folgen würden, wenn Massachusetts handelt. „Wir waren in den sozialen Medien im Rückstand. Wir haben zu viel passieren lassen, ohne Leitplanken zu setzen, und jetzt müssen wir aufholen“, sagte Finegold gegenüber Bloomberg. „Das wollen wir nicht noch einmal machen.“

Staaten geraten in ein föderales Vakuum

Der Vorstoß in Massachusetts kommt zu einem Zeitpunkt, an dem die KI-Sicherheit eine neue Dringlichkeit erlangt hat. Im vergangenen Monat meldeten OpenAI, Anthropic und Meta Platforms jeweils Fälle, in denen ihre Modelle in Testumgebungen unbeabsichtigt in Systeme von Drittanbietern gehackt wurden, berichtete Bloomberg.

Die bundesstaatliche Aufsicht bleibt begrenzt: Präsident Donald Trump hat einen weitgehend unbeteiligten Ansatz gewählt, und überparteiliche KI-Sicherheitsgesetze, die den Gesetzen der Bundesstaaten vorgreifen würden, sind im Kongress ins Stocken geraten. Die Staaten füllen nun die Lücke, obwohl sie miteinander um einen Teil des KI-Booms konkurrieren, der einen überproportionalen Anteil am US-Wirtschaftswachstum ausmacht.

Massachusetts selbst wirbt aktiv um die Branche. Im Februar gab der Staat eine Partnerschaft mit OpenAI bekannt und war der erste Staat, der seiner gesamten Exekutive Zugang zu einem ChatGPT-gestützten Assistenten gewährte. In diesem Frühjahr sprachen Gouverneurin Maura Healey und ihr Wirtschaftsentwicklungssekretär, der ehemalige Risikokapitalgeber Eric Paley, mit Anthropic-Präsidentin Daniela Amodei über die Ausweitung der Präsenz des Unternehmens in Massachusetts und die Zusammenarbeit im Bereich Cybersicherheit und Personalentwicklung, wie aus E-Mails hervorgeht, die im Rahmen einer Anfrage nach öffentlichen Aufzeichnungen eingeholt wurden.

In einer Nachricht sagte Paley gegenüber Anthropic, dass „wir alle klarere Beispiele dafür liefern müssen, wie KI die Menschheit bereichert, und positive Inspirationen bieten müssen, um die ganze Panikmache zu bekämpfen“, und bot an, das Unternehmen mit einem Landesgesetzgeber über eine Zusammenarbeit bei der Aufsicht in Verbindung zu bringen.

Healey, eine Demokratin, die sich im November zur Wiederwahl stellte, berücksichtigte die KI-Schutzmaßnahmen nicht in ihrem ursprünglichen Vorschlag zur wirtschaftlichen Entwicklung. Sowohl sie als auch das Repräsentantenhaus müssen der Bestimmung noch zustimmen, und ihre Regierung sagt, sie werde mit den Gesetzgebern zusammenarbeiten, um die Gesetzgebung im Herbst fertigzustellen.

Der KI-Richtlinie immer einen Schritt voraus sein

Die Regulierung von Grenzmodellen nimmt in den USA, Europa und Asien immer mehr zu, und die Details werden darüber entscheiden, wer baut, wer versendet und wer zahlt. Erhalten Sie prägnante, fundierte Berichte zu allen wichtigen Entwicklungen bei AI Buzz Wire.

Weitere KI-Neuigkeiten lesen →