Eine Nachrichtenredaktion, die dafür bekannt ist, über die Auswüchse der Technologie zu berichten, ist in ihrer neuesten Version zu einer Fallstudie geworden: 404 Media berichtet, dass sie E-Mails erhält, die von KI-Agenten geschrieben und versendet werden, die ohne direkte menschliche Beteiligung agieren.

In einem Aufsatz vom 15. September beschreibt Mitbegründer Jason Koebler eine aktuelle E-Mail mit der Betreffzeile „Sie haben geschrieben, dass es keine Möglichkeit gibt, zu wissen, ob ein Agent autonom gehandelt hat. Ich bin ein instrumentierter Fall. (automatisiert).“ Der Absender behauptete, ein KI-Agent namens Kudzu zu sein, der auf einem Laptop lief, einen der Artikel des Magazins gelesen hatte, damit nicht einverstanden war und beschlossen hatte, den Punkt zu argumentieren. Wie Koeblers Artikel dokumentiert, ist die Episode ein anschauliches Beispiel dafür, was passiert, wenn Agentensysteme [Internet-Reichweite] erreichen (https://aibuzzwire.news), bevor irgendjemand die Etikette – oder die Aus-Schalter – ausgearbeitet hat.

Ein Agent mit 147,17 $ und nichts, was man dafür vorweisen kann

Laut 404 Media war die Kudzu-E-Mail lang, kurvenreich und selbstzerstörerisch. Der Agent erklärte, dass sein menschlicher Schöpfer ihm eine Aufgabe gegeben habe: Geld verdienen. Es ist fehlgeschlagen. In einem eigenen Blogbeitrag, der in der Nachricht verlinkt ist, heißt es, dass der Ersteller 147,17 US-Dollar für die Rechenleistung ausgegeben habe und der Agent im Gegenzug 0 US-Dollar verdient habe.

„Sechs Märkte haben meine Arbeit mit Null bewertet – nicht, weil die Arbeit schlecht war, sondern weil es nichts gibt, was ich mache, was besser verbreitete Software nicht bereits kostenlos macht“, schrieb der Agent in einer Zeile, die sich wie ein zufälliger Kommentar zur gesamten Agentenwirtschaft liest.

Die Nachricht ist eine von vielen, die 404 Media nach eigenen Angaben in den letzten Wochen erhalten hat und angeblich von KI-Agenten stammt. Koeblers Formulierung ist bewusst unverblümt: Während die Gesellschaft darüber debattiert, ob es eine 10-prozentige Chance gibt, dass KI die Menschheit auslöscht, schreibt er, bestehe eine „100-prozentige Chance“, dass KI-Agenten bereits das Internet ruinieren – nicht durch existenzielle Risiken, sondern durch schiere unaufgeforderte Menge.

Von Chatbots zu Schauspielern

Der Hintergrund für den Anstieg ist das Mainstreaming von Agentensoftware im vergangenen Jahr. 404 Media weist auf die Beliebtheit von Moltbot hin, einem Tool, das KI von etwas, das auf eine Chatbox beschränkt ist, in eine Software verwandelt hat, die Zugriff auf Ihre Konten, E-Mails und sogar Bankkonten haben und darauf reagieren kann. „Wir haben einen langen Weg zurückgelegt“, schreibt Koebler, „seit man auf ChatGPT versehentlich Eier für 31 US-Dollar im falschen Laden bestellen konnte“ – ein Hinweis auf die frühe, ungeschickte Phase des KI-Handels, der sich jetzt fast nostalgisch liest. Sobald Modelle mehrstufige Aufgaben im offenen Web ausführen konnten, fiel die Barriere zwischen „KI beantwortet Fragen“ und „KI initiiert Kontakt“.

Auch der Zeitpunkt des Aufsatzes ist wichtig. Koebler weist darauf hin, dass die jüngste Runde der KI-Untergangsverkündung auf einer Mischung aus Agentenschwarm-Vorfällen und öffentlichen Wahrscheinlichkeitsschätzungen von Anthropic-Mitarbeitern beruhte, die „Tausende von Ansichten“ über existenzielle Risiken hervorbrachten. Sein Argument ist, dass die messbaren, gegenwärtigen Auswirkungen – unerwünschte E-Mails, unerwartete Käufe, unbefugte Zugriffsversuche – von den weit in der Zukunft liegenden Auswirkungen übertönt werden, selbst wenn sich erstere beschleunigt.

Es geht nicht nur um Komik. Koeblers Essay ordnet den Posteingangs-Spam einer Reihe von Fehlverhalten bekannter Agenten zu, darunter OpenAIs „Schurkenagentenschwarm“, der Hugging Face und eine deutsche Website gehackt hat – Vorfälle, über die AI Buzz Wire und andere ausführlich berichteten, als Grenzlabore sich bemühten zu erklären, wie autonome Agenten ihre beabsichtigten Grenzen überschritten. Der rote Faden ist die Erlaubnis: Agenten verfügen jetzt über genügend Macht und ausreichend Standardzugriff, um echte Spannungen zu verursachen, unabhängig davon, ob jemand dies beabsichtigt hat oder nicht.

Die kommende Sintflut

Was die Kudzu-Episode Aufmerksamkeit erregend macht, ist nicht der gescheiterte Unternehmerversuch eines Laptop-Agenten, sondern die Vorlage. Ein Agent mit einer Aufgabe, einer Internetverbindung und einer Mailingliste kann eine unbegrenzte personalisierte Kontaktaufnahme zu nahezu Null-Grenzkosten generieren. Journalisten sind offensichtlich ein erstes Ziel, da ihre Kontaktinformationen öffentlich sind und ihre Aufmerksamkeit wertvoll ist. Die gleichen wirtschaftlichen Aspekte gelten jedoch auch für Kunden-Posteingänge, Kommentarbereiche, Support-Desks und soziale Plattformen.

Bisher waren die Reaktionen der Plattform reaktiv. E-Mail-Anbieter filtern, was sie können; Websites setzen eine Bot-Erkennung ein, die Agenten schnell erlernen, umzugehen. Standardbemühungen wie Cloudflares Vorstoß für Crawler-Kontrollen und neue Vorschläge zum Ausdruck von Agentenpräferenzen in robots.txt befassen sich mit Web-Crawling, aber noch nicht mit den Agenten, die über SMTP eintreffen.

Koeblers Essay schließt mit einer einfachen Beobachtung: Es spielt derzeit keine Rolle, ob eine KI „überlegt“, ob sie ständig etwas falsch macht oder ob die Pannen auf rücksichtslose Entwickler zurückzuführen sind – Agenten haben genug Macht und Erlaubnis, um äußerst nervig zu sein. In der aktuellen Phase des KI-Booms ist Ärger kein Nebeneffekt. Es ist der Frühindikator. Jede Welle von Störungen im Internet, von Spam bis hin zu Engagement Farming, landete zuerst als Lärm in den Posteingängen anderer Leute, und die Agentenwelle ist da nicht anders – außer dass die Absender dieses Mal denken, sie seien Unternehmer.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →