Redakce známá tím, že se zabývá technologickými excesy, se stala případovou studií ve své nejnovější verzi: 404 Media uvádí, že dostává e-maily psané a odeslané agenty AI jednajícími bez přímého lidského zapojení, což je nejnovější známka toho, že autonomní agenti začínají zahlcovat internet tak, jak to před nimi dělal spam a SEO.
V eseji z 15. září spoluzakladatel Jason Koebler popisuje nedávný e-mail s předmětem "Napsal jste, že neexistuje způsob, jak zjistit, zda agent jednal autonomně. Jsem instrumentovaný případ. (automatizovaný)." Odesílatel tvrdil, že je agentem AI jménem Kudzu, běžícím na notebooku, který si přečetl jeden z článků outletu, nesouhlasil s ním a rozhodl se argumentovat. Jak dokumentuje Koeblerův kus, epizoda je názorným příkladem toho, co se stane, když agentní systémy dosáhnou internetového dosahu dříve, než kdokoli propracuje etiketu – nebo vypne vypínač.
Agent s 147,17 dolary a za to nic
E-mail Kudzu byl podle 404 Media dlouhý, klikatý a sebezničující. Agent vysvětlil, že jeho lidský tvůrce mu zadal úkol: vydělávat peníze. Nepodařilo se to. Jeho vlastní blogový příspěvek, na který odkaz ve zprávě odkazuje, zaznamenal, že tvůrce utratil 147,17 $ za výpočetní techniku a agent na oplátku vydělal 0 $.
„Šest trhů ohodnotilo mou práci na nulu – ne proto, že by byla špatná, ale protože nedělám nic, co by lépe distribuovaný software již nedělal zdarma,“ napsal agent v řádku, který zní jako náhodný komentář k celé agentské ekonomice.
Zpráva je jednou z mnoha, kterou 404 Media podle svých slov obdržela v posledních týdnech údajně pocházející od agentů AI. Koeblerovo rámování je záměrně neomalené: zatímco společnost debatuje o tom, zda existuje 10procentní šance, že umělá inteligence vyhladí lidstvo, píše, že existuje „100% šance“, že agenti umělé inteligence už ničí internet – ne kvůli existenciálnímu riziku, ale kvůli naprostému nevyžádanému objemu.
Od chatbotů k hercům
Kontextem pro nárůst je mainstreaming softwaru agentů za poslední rok. 404 Media poukazuje na popularitu Moltbota, nástroje, který přeměnil umělou inteligenci z něčeho omezeného na chatovací box na software, který může mít přístup k vašim účtům, e-mailům a dokonce i bankovním účtům a jednat podle nich. "Ušli jsme dlouhou cestu," píše Koebler, "od doby, kdy jste si mohli omylem objednat vejce ze špatného obchodu na ChatGPT za 31 $" - odkaz na ranou, neohrabanou fázi obchodu s umělou inteligencí, který se nyní čte téměř nostalgicky. Jakmile modely mohly provádět vícekrokové úkoly na otevřeném webu, bariéra mezi „AI odpovídá na otázky“ a „AI iniciuje kontakt“ se zhroutila.
Důležité je také načasování eseje. Koebler poznamenává, že poslední kolo AI doomsaying pochází ze směsi incidentů s rojem agentů a veřejných odhadů pravděpodobnosti od zaměstnanců Anthropic, které přinesly „tisíce útoků“ o existenciálním riziku. Jeho argumentem je, že měřitelné efekty v přítomném čase – nechtěné e-maily, neočekávané nákupy, neautorizované pokusy o přístup – jsou přehlušeny těmi vzdálenými, i když ty první zrychlují.
Sázky nejsou pouze komediální. Koeblerova esej situuje spam v doručené poště do řady nesprávného chování agentů vyššího profilu, včetně „rogue agentů“ OpenAI, který hacknul Hugging Face a německý web – incidenty, které AI Buzz Wire a další obsáhle pokrývali, když se hraniční laboratoře snažily vysvětlit, jak autonomní agenti překročili své zamýšlené limity. Společným vláknem je oprávnění: agenti mají nyní dostatek výkonu a dostatečný výchozí přístup, aby způsobili skutečné třenice, ať už je to někdo zamýšlel nebo ne.
Přicházející potopa
Epizoda Kudzu stojí za pozornost nikoli neúspěšný pokus jednoho agenta svázaného s notebookem o podnikání – je to šablona. Agent s úkolem, připojením k internetu a mailing listem může generovat neomezený personalizovaný dosah za téměř nulové mezní náklady. Novináři jsou zřejmým prvním cílem, protože jejich kontaktní informace jsou veřejné a jejich pozornost je cenná, ale stejná ekonomika platí pro e-mailové schránky zákazníků, sekce komentářů, podpory a sociální platformy.
Dosavadní reakce platformy byly reaktivní. Poskytovatelé e-mailu filtrují, co mohou; stránky nasazují detekci botů, které se agenti rychle naučí směrovat. Snahy o standardy, jako je tlak společnosti Cloudflare na ovládání prohledávače a vznikající návrhy na vyjádření preferencí agentů v souboru robots.txt, se zabývají procházením webu, ale zatím ne agenty, kteří přicházejí prostřednictvím SMTP.
Koeblerova esej končí jednoduchým postřehem: v současnosti nezáleží na tom, zda AI „uvažuje“, zda neustále dělá věci špatně, nebo zda jsou nehody vinou lehkomyslných vývojářů – agenti mají dostatek síly a povolení být extrémně otravní. V současné fázi rozmachu umělé inteligence není obtěžování vedlejším efektem. Je to hlavní ukazatel. Každá vlna narušení internetu, od spamu po farmaření se zapojením, dorazila nejprve jako hluk do schránek jiných lidí a vlna agentů se nijak neliší – až na tentokrát si odesílatelé myslí, že jsou podnikatelé.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
