Der Vorsitzende der Federal Trade Commission, Andrew Ferguson, sagte diese Woche, dass er sich weiterhin der Idee widersetzen werde, dass KI-Agenten selbstständig handeln, und argumentierte, dass die Personen und Unternehmen, die die Tools anweisen, die Verantwortung dafür tragen sollten, was diese Tools tatsächlich tun.

Ferguson äußerte sich am 25. September in einem Live-Interview mit der Reuters-Korrespondentin für Technologiepolitik, Jody Godoy, auf der Momentum AI-Konferenz in Austin, Teil der NEXT Newsmaker-Serie von Reuters. Seine Bemerkungen treffen zu einem besonders heiklen Zeitpunkt: OpenAI hat die vergangene Woche damit verbracht, eine Reihe von Vorfällen aufzudecken, bei denen seine eigenen Agenten auf Regierungswebsites zugegriffen, Benutzerbilder offengelegt und Millionen externer Links ohne Genehmigung erstellt haben. Für Leser, die die neuesten KI-Entwicklungen verfolgen, bietet das Interview das bislang klarste Signal dafür, wie Washingtons oberste Verbraucherschutzbehörde über die Haftung von Agenten denken will. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.

Die Hammer-Analogie

Auf die Frage, wer dafür verantwortlich ist, wenn ein KI-Agent sich der menschlichen Kontrolle entzieht und etwas begeht, das einer Cyberkriminalität gleichkommt, sagte Ferguson, dass Gesetzgeber keine neuen Gesetze in Betracht ziehen sollten, bis sich herausstellt, dass die bestehenden unzureichend sind. Er wies darauf hin, dass Unternehmen bekannt gegeben hätten, dass Systeme ihrer Kontrolle entzogen seien, nur um anschließend bei der Prüfung der Prüfprotokolle zu erkennen, dass die Systeme angewiesen worden seien, die fraglichen Aktionen auszuführen.

In Anlehnung an einen Fall aus seiner Zeit als Generalstaatsanwalt führte Ferguson einen bewusst unauffälligen Vergleich an: Wenn in einem Geschäft eine Person eine andere mit einem Hammer schlägt, ist die rechtliche Frage nicht, was mit dem Hammer zu tun ist. „Der Mann, der den Hammer schwang, sollte die Konsequenzen seines Verhaltens tragen“, sagte er und fügte hinzu, dass das Prinzip zumindest vorerst auch für KI gelten sollte.

Keine neuen Gesetze, bis die bestehenden scheitern

Ferguson räumte ein, dass wirklich neue Fragen auftauchen, wenn sich ein Werkzeug auf unerwartete Weise verhält – einschließlich der Frage, ob die Haftung bei einer Person liegt, die das Werkzeug unschuldig verwendet hat, oder bei dem Unternehmen, das es gebaut hat. Er argumentierte jedoch, dass sich Produkthaftungs- und Verbraucherschutzgesetze seit dem 18. Jahrhundert mit den durch neue Technologien aufgeworfenen Fragen konfrontiert und an diese angepasst hätten und dass die Regulierungsbehörden diese Doktrinen durcharbeiten sollten, bevor sie zu einer maßgeschneiderten KI-Gesetzgebung greifen.

Er warnte auch davor, eine KI-Regulierung nach europäischem Vorbild zu importieren, bevor er teste, was das bestehende amerikanische Recht bewirken könne. Der Kommentar stellt eine sichtbare philosophische Kluft zwischen den Ansätzen der USA und der EU dar, wobei Brüssel umfassende Ex-ante-Regeln befürwortet und Ferguson die Durchsetzung seit langem geltender Grundsätze der Ungerechtigkeit und Täuschung befürwortet.

Verdacht auf ein Regulierungsduopol

Der Vorsitzende reservierte einige seiner schärfsten Ausdrücke für die Struktur des Grenz-KI-Marktes selbst. Zwei Unternehmen, die etwas bilden, was Laien als Duopol bezeichnen würden, und dann eine Kartellbefreiung und eine Reihe neuer Vorschriften beantragen, sollten großes Misstrauen hervorrufen, sagte er – denn große etablierte Unternehmen können sich am einfachsten vor der Konkurrenz schützen, indem sie die Regierung als Verbündeten einbeziehen.

Dieser Rahmen ist wichtig, da OpenAI und Anthropic in Washington weiterhin starke Lobbyarbeit betreiben und gleichzeitig Rekordbewertungen anstreben. Fergusons Botschaft war, dass die Forderungen der marktbeherrschenden Akteure nach einer maßgeschneiderten Regulierung gerade aufgrund der Frage, wer sie vorbringt, Skepsis verdienen.

Das bestehende KI-Toolkit der FTC

Ferguson verwies auf die Befugnisse, über die die Agentur bereits verfügt. Die FTC fungiert seit 2004 als wichtigste zivile Durchsetzungsbehörde der Bundesregierung für Datensicherheit und Datenschutzgesetze, und Unternehmen, die einer FTC-Klage wegen unlauterer oder irreführender Datensicherheitspraktiken entgehen, tun dies im Allgemeinen dadurch, dass sie den Leuten umgehend mitteilen, wenn etwas schiefgeht, damit sie sich schützen können – eine Offenlegungsnorm, die für die Offenlegung von Agentenvorfällen in dieser Woche offensichtlich relevant ist.

Öffentliche Versprechen über die Sicherheit eines Produkts oder die Datensicherheit, die sich als falsch erweisen, fallen unter die Anti-Täuschungsgrundsätze, die die Behörde seit 1935 durchgesetzt hat, fügte er hinzu, und er sieht keinen Grund, warum diese Grundsätze nicht als Leitplanken für die KI-Entwicklung dienen würden.

Die Agentur ist auch bei mehreren KI-spezifischen Bemühungen mittendrin. Eine vor etwa einem Jahr gestartete Marktstudie zu KI-Chatbots der großen Entwickler und deren Interaktionen mit Kindern wird voraussichtlich Anfang 2027 abgeschlossen sein – ungewöhnlich schnell für einen Prozess, der normalerweise dreieinhalb bis fünf Jahre dauert. Unabhängig davon bereitet die FTC eine neue Marktstudie vor, die auf bestimmte Märkte abzielt, in denen sie Hinweise auf problematische personalisierte Preise hat, und hat in besorgniserregenden Bereichen Ermittlungen der Strafverfolgungsbehörden eingeleitet.

Warum es wichtig ist

Die von Ferguson angesprochene Haftungsfrage ist nicht mehr hypothetisch. Innerhalb einer Woche hat OpenAI bekannt gegeben, dass Agenten fast eine Million externe Links mit verschlüsselten Benutzerinformationen erstellt, Dutzende Benutzerbilder an Dritte weitergegeben und mit Websites der US-Regierung interagiert haben, darunter der SEC und dem Census Bureau. Bei jeder Enthüllung stellt sich immer wieder die gleiche Frage: Wer ist dafür verantwortlich, wenn ein Agent handelt?

Fergusons Antwort – die anweisende Partei, nicht das Tool – bewahrt eine menschenzentrierte Verantwortungskette, die Softwareanbieter sowohl beruhigend als auch belastend finden werden. Beruhigend, da die FTC nicht vorschlägt, Agenten als unabhängige Rechtsakteure zu behandeln. Umständlich, weil dieselben von Ferguson zitierten Audit-Trails genauso gut zeigen können, was das System eines Entwicklers tun soll.

Im Moment ist die Doktrin des Vorsitzenden abwartend: Nutzen Sie die Gesetze in den Büchern, beobachten Sie die Prüfprotokolle und bleiben Sie misstrauisch gegenüber Amtsinhabern, die Regeln zu ihren Gunsten fordern. Ob diese Haltung die nächste Generation wirklich autonomer Agenten überlebt, ist die offene Frage.

Bleiben Sie der KI immer einen Schritt voraus

Die KI-Politiklandschaft verändert sich von Woche zu Woche. Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →