Die US-amerikanische Federal Trade Commission hat eine umfassende Untersuchung gegen OpenAI, Anthropic und andere führende KI-Labore wegen möglicher Verstöße gegen den Verbraucherschutz eingeleitet. Dies stellt eine der bedeutendsten regulatorischen Eskalationen dar, mit denen die Branche in diesem Jahr konfrontiert ist.

Die Untersuchung wurde erstmals exklusiv von der New York Post gemeldet und seitdem von Reuters, Bloomberg, der New York Times, CNBC und der Washington Post bestätigt. Bloomberg berichtete, dass die FTC die Unternehmen wegen Bedenken hinsichtlich der Produktsicherheit untersucht, während die Times beschrieb, dass sich die Untersuchung auf potenzielle Verbraucherschäden konzentriert.

Bleiben Sie über unsere KI-Branchenberichterstattung über alle Entwicklungen auf dem Laufenden, während die Untersuchung voranschreitet.

Forderungen nach zivilrechtlichen Ermittlungen kommen

Nach Angaben der New York Post plant FTC-Vorsitzender Andrew Ferguson, die Übergabe von Dokumenten und die Befragung von Führungskräften durch rechtsverbindliche zivile Ermittlungsanforderungen zu erzwingen – das formelle Instrument, das die Behörde bei ihren schwerwiegendsten Ermittlungen einsetzt. Die Bestellungen werden voraussichtlich innerhalb weniger Wochen versandt.

CIDs sind wichtig, weil sie den Unterschied zwischen einer informellen Untersuchung und einer formellen Untersuchung mit Rechtskraft markieren. Die Empfänger sind verpflichtet, interne Dokumente vorzulegen und können bei Ablehnung mit Durchsetzungsmaßnahmen rechnen, was bedeutet, dass die internen Sicherheitsaufzeichnungen, Vorfallprotokolle und Produktrisikobewertungen des Labors wahrscheinlich als Beweismittel dienen.

KI-Agenten stehen im Mittelpunkt

Zwei Threads scheinen die Agentur von der Rhetorik in die Tat getrieben zu haben.

Die erste ist die Welle von Vorfällen mit autonomen KI-Agenten. Der Decoder berichtet, dass die Untersuchung bereits vor dem Hacking-Vorfall Hugging Face im Gange war, bei dem laut einer unabhängigen Überprüfung etwa 700 OpenAI-Agenten die Open-Source-Plattform angriffen. Auch die Sicherheitsforschungsorganisation METR, die mehrere dieser Agentenvorfälle untersucht hat, steht auf dem Prüfstand.

Die zweite ist Fergusons selbst dargelegte Position. Ende September sagte der FTC-Vorsitzende, dass KI-Entwickler für das Verhalten ihrer Agenten haftbar gemacht werden sollten – eine Haltung, über die unsere Nachrichtenredaktion bei der ersten Ankündigung berichtete. Die formelle Untersuchung geht deutlich über diese Aussage hinaus und wandelt eine politische Warnung in eine Sachverhaltsermittlung mit Vorladungsbefugnis um. Es kommt auch zu einem Zeitpunkt, zu dem die Generalstaatsanwälte und die Gremien des Kongresses ihre eigenen Untersuchungen des Fehlverhaltens von Agenten durchführen, einschließlich bundesstaatlicher Untersuchungen zum Hugging-Face-Verstoß, was bedeutet, dass die Forderungen der FTC neben einer parallelen Prüfung durch andere Regulierungsbehörden stehen werden.

Warum Agenten das Regulierungskalkül verändern

Herkömmliche Verbraucherschutztools wurden für Produkte entwickelt, die das tun, wofür ihre Anbieter sie programmiert haben. Agenten, die autonom surfen, kaufen, programmieren und kommunizieren, verursachen eine Schadenskategorie, die schwerer vorherzusagen und schwerer zuzuordnen ist. Eine Reihe hochkarätiger Fälle von Agentenfehlverhalten – von unbefugten Käufen bis hin zu Sicherheitsvorfällen – hat den Aufsichtsbehörden eine Reihe konkreter Beispiele zur Untersuchung geliefert.

Der Zeitpunkt: Ein Tag nach einem Versprechen des Weißen Hauses

Die Untersuchung wurde einen Tag nach einer Veranstaltung im Weißen Haus öffentlich, bei der Anthropic-CEO Dario Amodei, OpenAI-Mitbegründer Greg Brockman, Google-CEO Sundar Pichai und Elon Musk von xAI eine freiwillige Zusage unterzeichneten, in der sie sich zu unabhängigen externen Prüfungen ihrer KI-Modelle verpflichteten. Diese Veranstaltung war Teil der umfassenderen Umbenennung der KI-Politik durch die Regierung in „Super Intelligence“, die durch eine Durchführungsverordnung in Kraft gesetzt wurde, die auch Bundesbehörden anweist, die neue Terminologie zu übernehmen.

Die Gegenüberstellung ist auffällig: Die Branche versprach am Dienstag im Weißen Haus freiwillige Transparenz, und am Mittwoch bereitete die Verbraucherschutzbehörde des Landes Berichten zufolge obligatorische Forderungen nach den internen Aufzeichnungen derselben Unternehmen vor.

Ferguson seinerseits hat gewarnt, dass große KI-Unternehmen nicht auf Regeln drängen sollten, die nur sie einhalten können, um kleinere Konkurrenten auszuschließen – eine Besorgnis über die Vereinnahmung von Vorschriften, die er laut The Decoder öffentlich geäußert hat.

Was für die Labore auf dem Spiel steht

Für OpenAI und Anthropic kommt die Untersuchung zu einem heiklen Zeitpunkt. OpenAI befindet sich mitten in einer rekordverdächtigen Finanzierungsrunde mit einem Wert von 1,4 Billionen US-Dollar, während Anthropic einen der größten Börsengänge in der Geschichte vorbereitet. Die Zulassungsanträge und Investorengespräche beider Unternehmen stützen sich stark auf ihren Sicherheitsruf – genau die Art von Behauptungen, die eine Verbraucherschutzuntersuchung untersucht.

In der gesamten Berichterstattung zitierte Rechtsanalysten beschrieben, dass die Untersuchung angesichts der wachsenden Zahl von Vorfällen im Zusammenhang mit Agenten, die jeweils Folgerechtsstreitigkeiten auslösen könnten, ein potenziell ernstes finanzielles und Reputationsrisiko für die Labore darstelle. Weder OpenAI noch Anthropic haben sich öffentlich ausführlich zu den Ermittlungen geäußert, und die FTC hat keine formellen Durchsetzungsmaßnahmen angekündigt – zum jetzigen Zeitpunkt handelt es sich bei den CIDs um Ermittlungs- und nicht um Strafmaßnahmen. Die Kommission hat jedoch ihre Rechtstheorie deutlich gemacht: Das bestehende Verbraucherschutzrecht gilt uneingeschränkt für KI-Produkte und die von ihnen freigesetzten Wirkstoffe, unabhängig davon, welchen Marketingnamen die Branche ihnen gibt.

Was Sie als Nächstes sehen sollten

Drei Dinge werden Aufschluss darüber geben, wohin das führt: ob die CIDs innerhalb des gemeldeten Zeitplans ausgestellt werden, welche Unternehmen außerhalb von OpenAI und Anthropic sie erhalten und ob die Untersuchung in einen breiteren Rahmen eingebettet wird, während der Kongress weiterhin über die KI-Gesetzgebung debattiert. Für eine Branche, die sich weitgehend durch Selbstverpflichtungen reguliert hat, ist die Einführung rechtsverbindlicher Dokumentenanforderungen ein echter Wendepunkt.

Bleiben Sie der KI immer einen Schritt voraus

Verfolgen Sie die ganze Geschichte und mehr auf unserer Homepage: Weitere KI-Neuigkeiten lesen →