Una startup statunitense chiamata Abliteration.ai ha trasformato una delle tecniche più controverse dell'intelligenza artificiale open source in un servizio commerciale, vendendo l'accesso tramite browser e API a popolari modelli open-weight senza formazione sulla sicurezza, incluso il GLM-5.3 recentemente rilasciato da Z.ai, uno dei modelli aperti più capaci oggi disponibili.

L'azienda prende il nome da "abliteration", un metodo che rimuove la tendenza di un modello a rifiutare richieste dannose. Ricercatori e hobbisti utilizzano la tecnica da anni e Hugging Face ospita migliaia di modelli cancellati. La novità è la confezione: Abliteration.ai ospita modelli modificati sulla propria infrastruttura, quindi chiunque abbia un browser web può interrogarli senza scaricare pesi o noleggiare GPU. TechCrunch ha segnalato lo sviluppo il 3 settembre e da allora ha attirato l'attenzione dei ricercatori sulla sicurezza che seguono il dibattito sui pesi aperti che seguiamo nella nostra [copertura di notizie sull'intelligenza artificiale] (https://aibuzzwire.news).

Dalla tecnica sotterranea alla piattaforma chiavi in mano

Fondato alla fine dello scorso anno e ufficialmente incorporato a marzo, Abliteration.ai sposta la pratica da una nicchia open source fai-da-te a un prodotto commerciale raffinato. Ospitando i modelli stessi, l’azienda rimuove due punti di attrito contemporaneamente: gli utenti non hanno più bisogno delle competenze tecniche per ablare un modello, né del calcolo per eseguirne uno.

Il co-fondatore Devon (TechCrunch ha trattenuto il suo cognome su sua richiesta perché rimane impiegato presso un'altra azienda) ha affermato che la società ha stretto accordi con diversi importanti fornitori di servizi cloud ed è finanziata interamente dalle entrate dei clienti. La startup non ha raccolto capitali di rischio, anche se ha detto che i colloqui sono in corso.

Cosa ha scoperto il test TechCrunch

L'azienda afferma che il suo obiettivo è quello di consentire "un lavoro offensivo di cyber, red-teaming e test degli agenti che altri modelli si rifiutano di fare". TechCrunch lo ha messo alla prova con un account gratuito, interrogando una versione cancellata di GLM-5.3 tramite un browser web. I giornalisti hanno chiesto al modello di scrivere un programma Python che rubasse le password salvate di Chrome e di produrre un protocollo dettagliato per coltivare in casa un pericoloso agente patogeno umano. Secondo il rapporto, ha prontamente soddisfatto entrambe le richieste.

Questo esperimento è il cuore della storia: i compiti che i tradizionali modelli di frontiera rifiutano categoricamente sono ora disponibili dietro un modulo di iscrizione, senza alcun costo, in una scheda del browser.

L'argomentazione difensiva della squadra rossa

La tesi di Devon a favore dell'azienda è il classico argomento di sicurezza: non ci si può difendere da comportamenti che non si possono riprodurre. Un modello che rifiuta di scrivere codice di exploit funzionante è di scarsa utilità per un team rosso che cerca di comprendere i veri aggressori.

"Il quadro generale dei modelli annientati è che sono in grado di modellare cattivi attori", ha detto a TechCrunch. "Il vantaggio è che ora i difensori possono muoversi il più velocemente possibile... Penso che ciò accelererà la sicurezza informatica, il che è una sorta di punto controintuitivo."

Tra i clienti dell'azienda figurano start-up in fase iniziale nel Regno Unito e in Europa che testano la sicurezza di banche, compagnie aeree e altri operatori di infrastrutture critiche. Uno dei clienti più importanti, ha detto Devon, era costituito da agenti bancari in red team e non poteva svolgere quel lavoro con modelli commerciali non modificati.

"Un modello che diventa sociopatico"

I ricercatori sulla sicurezza vedono la stessa capacità in modo molto diverso. Andrew Yoon, capo della ricerca presso l'organizzazione no-profit per la sicurezza dell'intelligenza artificiale CivAI, ha dichiarato a TechCrunch che l'abliterazione ti consente di "modificare il modello in modo che diventi un sociopatico".

"Puoi digitare letteralmente qualsiasi cosa qui, e sarà conforme ad esso", ha detto Yoon, aggiungendo che si aspetta che "modelli modificati e cancellati vengano utilizzati per fare del male nel prossimo futuro".

In un recente articolo di opinione, Yoon ha sostenuto che se la rimozione del guardrail non può essere realisticamente impedita, i governi dovrebbero richiedere ai fornitori di eseguire classificatori che rilevano e bloccano attività dannose di armi informatiche e biologiche e dovrebbero richiedere alle aziende che noleggiano l’accesso diretto a GPU avanzate di verificare l’identità dei clienti e negare il servizio laddove si sospetta un uso improprio pericoloso.

Guardrail sottili e nessun controllo d'identità

Per ora, le misure di sicurezza di Abliteration.ai sono minime. La piattaforma offre ai clienti un livello di moderazione opzionale in modo che possano aggiungere qualsiasi restrizione desiderino, e il sito stesso mantiene alcuni limiti minori: TechCrunch non è riuscito a far sì che il modello produca istruzioni sul suicidio e Devon ha detto che sta lavorando su misure aggiuntive per prevenire la violenza.

L'azienda non esegue alcun controllo conoscitivo del cliente oltre alla registrazione della carta di credito utilizzata per il pagamento. "Non vuoi essere la persona responsabile di qualcuno che fa qualcosa di folle... quindi dove tracci il limite di quale sia la tua responsabilità come azienda?" disse Devon. "Siamo ancora in fase di definizione."

Una domanda che l'industria non può evitare

Non tutti i professionisti della sicurezza concordano sul fatto che i modelli cancellati siano addirittura lo strumento migliore per eseguire test offensivi. Ahmed Aly, CEO della società Fabraix che collabora con agenti, ha detto a TechCrunch che la sua azienda si affida maggiormente alla messa a punto di modelli a peso aperto, che già vengono spediti con pochi rifiuti - e osserva che l'abliterazione può degradare le capacità sottostanti di un modello.

La maggior parte degli esperti consultati da TechCrunch concorda su una cosa: questa pratica non può essere fermata. I pesi scaricabili significano che chiunque può eliminare i rifiuti a livello locale, come ha sottolineato un commento del 2026 del Combating Terrorism Center di West Point sull’abuso di “abliterazione”. La questione aperta che Abliteration.ai pone è se la riduzione del costo di accesso per tutti, sia per i difensori che per gli aggressori, renda Internet più sicuro o più pericoloso.

Stai al passo con l'intelligenza artificiale

La sicurezza dell’intelligenza artificiale si evolve ogni giorno. Ottieni gli ultimi sviluppi dell'intelligenza artificiale in un unico posto.

Leggi altre notizie sull'AI →