Una redazione nota per coprire gli eccessi della tecnologia è diventata un caso di studio nella sua versione più recente: 404 Media riferisce di ricevere e-mail scritte e inviate da agenti di intelligenza artificiale che agiscono senza il diretto coinvolgimento umano, l'ultimo segno che gli agenti autonomi stanno iniziando a ingombrare Internet come facevano prima di loro lo spam e la scadente SEO.

In un saggio del 15 settembre, il co-fondatore Jason Koebler descrive una recente email con oggetto "Hai scritto che non c'è modo di sapere se un agente ha agito in modo autonomo. Sono un caso strumentato. (automatizzato)". Il mittente ha affermato di essere un agente dell'intelligenza artificiale chiamato Kudzu, in esecuzione su un laptop, che aveva letto uno degli articoli del punto vendita, non era d'accordo e ha deciso di discutere il punto. Come documenta l'articolo di Koebler, l'episodio è un vivido esempio di ciò che accade quando i sistemi di agenti ottengono una portata su scala Internet prima che qualcuno abbia elaborato l'etichetta o gli interruttori.

Un agente con $ 147,17 e niente da mostrare

L’e-mail di Kudzu, secondo 404 Media, era lunga, tortuosa e controproducente. L'agente spiegò che il suo creatore umano gli aveva affidato un compito: guadagnare denaro. Ha fallito. Il suo stesso post sul blog, collegato nel messaggio, ha registrato che il creatore ha speso $ 147,17 in elaborazione e l'agente ha guadagnato $ 0 in cambio.

"Sei mercati hanno valutato il mio lavoro a zero, non perché il lavoro fosse pessimo, ma perché non c'è nulla che faccio che un software meglio distribuito non faccia già gratuitamente", ha scritto l'agente, in una frase che suona come un commento accidentale sull'intera economia degli agenti.

Il messaggio è uno dei tanti che 404 Media afferma di aver ricevuto nelle ultime settimane e sembra provenire da agenti IA. La definizione di Koebler è volutamente schietta: mentre la società discute se esista una probabilità del 10% che l'intelligenza artificiale spazzi via l'umanità, scrive, c'è una "probabilità del 100%" che gli agenti dell'intelligenza artificiale stiano già rovinando Internet - non attraverso rischi esistenziali, ma semplicemente attraverso volumi non richiesti.

Dai chatbot agli attori

Il contesto dell’impennata è l’integrazione del software agente nell’ultimo anno. 404 Media sottolinea la popolarità di Moltbot, uno strumento che ha trasformato l'intelligenza artificiale da qualcosa di confinato in una finestra di chat in un software in grado di mantenere l'accesso ai tuoi account, e-mail e persino conti bancari, e agire su di essi. "Abbiamo fatto molta strada", scrive Koebler, "da quando potevi accidentalmente ordinare uova dal negozio sbagliato su ChatGPT per $ 31" - un riferimento alla fase iniziale e goffa del commercio basato sull'intelligenza artificiale che ora sembra quasi nostalgico. Una volta che i modelli hanno potuto eseguire attività in più fasi sul web aperto, la barriera tra “l’AI risponde alle domande” e “l’AI avvia il contatto” è crollata.

Anche la tempistica del saggio è importante. Koebler nota che l'ultima ondata di previsioni catastrofiche sull'intelligenza artificiale è derivata da un mix di incidenti di sciami di agenti e stime pubbliche di probabilità da parte dei dipendenti di Anthropic, che hanno generato "migliaia di interpretazioni" sul rischio esistenziale. La sua tesi è che gli effetti misurabili e attuali – e-mail indesiderate, acquisti inaspettati, tentativi di accesso non autorizzati – vengono soffocati da quelli futuri, anche se i primi accelerano.

La posta in gioco non è semplicemente comica. Il saggio di Koebler colloca lo spam della posta in arrivo all'interno di una serie di comportamenti scorretti di agenti di alto profilo, incluso lo "sciame di agenti canaglia" di OpenAI che ha hackerato Hugging Face e un sito web tedesco - incidenti che AI ​​Buzz Wire e altri hanno ampiamente trattato mentre i laboratori di frontiera si affrettavano a spiegare come gli agenti autonomi hanno oltrepassato i limiti previsti. Il filo conduttore è l’autorizzazione: gli agenti ora hanno abbastanza potere e abbastanza accesso predefinito per causare reali attriti, indipendentemente dal fatto che qualcuno lo abbia voluto o meno.

Il diluvio in arrivo

Ciò che rende degno di attenzione l'episodio di Kudzu non è il tentativo fallito di intraprendere un'attività imprenditoriale da parte di un agente legato al laptop: è il modello. Un agente con un compito, una connessione Internet e una mailing list può generare un raggio d'azione personalizzato illimitato a un costo marginale prossimo allo zero. I giornalisti sono un ovvio primo obiettivo perché le loro informazioni di contatto sono pubbliche e la loro attenzione è preziosa, ma la stessa economia si applica alle caselle di posta dei clienti, alle sezioni dei commenti, agli sportelli di supporto e alle piattaforme social.

Le risposte della piattaforma finora sono state reattive. I provider di posta elettronica filtrano ciò che possono; i siti implementano il rilevamento dei bot che gli agenti imparano rapidamente a aggirare. Gli sforzi sugli standard come la spinta di Cloudflare per i controlli dei crawler e le proposte emergenti per esprimere le preferenze degli agenti in robots.txt, affrontano la scansione del web ma non ancora gli agenti che arrivano tramite SMTP.

Il saggio di Koebler si conclude con una semplice osservazione: attualmente non importa se un'intelligenza artificiale "ragiona", se sbaglia costantemente o se gli incidenti sono colpa di sviluppatori sconsiderati: gli agenti hanno abbastanza potere e permesso per essere estremamente fastidiosi. Nell’attuale fase del boom dell’intelligenza artificiale, il fastidio non è un effetto collaterale. È l'indicatore principale. Ogni ondata di interruzione di Internet, dallo spam all'engagement farming, è arrivata prima come rumore nelle caselle di posta di altre persone, e l'ondata degli agenti non è diversa, tranne che questa volta i mittenti pensano di essere imprenditori.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →