Una startup statunitense ha intentato una causa contro l'unità Koi Security di Palo Alto Networks dopo che un rapporto di intelligence sulle minacce allucinato dall'intelligenza artificiale ha falsamente collegato la società allo spionaggio cinese: una falsa accusa che secondo il querelante ha distrutto il suo traffico e la sua reputazione dall'oggi al domani, secondo un rapporto di The Register e Inc.com pubblicato il 2-3 luglio.

Il caso sta emergendo come un test fondamentale sulla responsabilità legale dell’intelligence generata dall’intelligenza artificiale e solleva domande scomode sull’affidabilità dei rapporti di sicurezza automatizzati. È l'ultimo di una serie di incidenti documentati in ultimi sviluppi dell'intelligenza artificiale in cui gli errori algoritmici portano conseguenze nel mondo reale.

Cosa è successo

Secondo The Register, la causa sostiene che un rapporto prodotto da Koi Security - un'operazione di intelligence sulle minacce sotto l'egida di Palo Alto Networks - ha utilizzato l'intelligenza artificiale per generare una valutazione delle minacce che collegava erroneamente la startup all'attività di hacking legata allo stato cinese.

Inc.com ha riferito che le conseguenze sono state rapide e gravi: dopo la diffusione della falsa notizia, il traffico web della startup "è scomparso". La pubblicazione descriveva come un’allucinazione dell’intelligenza artificiale – un’affermazione sicura ma del tutto inventata – abbia effettivamente inserito nella lista nera un’azienda statunitense legittima associandola a una delle accuse più dannose nel mondo della sicurezza informatica.

La startup sta ora facendo causa per ottenere il risarcimento dei danni e per imporre una correzione, sostenendo che il rapporto generato dall’intelligenza artificiale è stato pubblicato senza un’adeguata verifica umana.

Il pericolo delle allucinazioni legate all'intelligenza artificiale nella sicurezza

Le allucinazioni dell’intelligenza artificiale – casi in cui i modelli linguistici generano con sicurezza false informazioni – sono un fenomeno ben documentato. Ma quando si verificano nel contesto dell’intelligence sulle minacce, la posta in gioco è notevolmente più alta rispetto a quella di un chatbot che dà una risposta sbagliata.

Le false accuse hanno conseguenze reali

Essere legati allo spionaggio cinese non è un errore da poco. Nel settore della sicurezza informatica, un’associazione di questo tipo può innescare un deplatforming immediato, la perdita di clienti, l’interruzione dei rapporti commerciali e danni duraturi alla reputazione. I team di sicurezza utilizzano abitualmente feed di intelligence sulle minacce per prendere decisioni di blocco, il che significa che una singola voce falsa può effettivamente cancellare un'azienda da Internet, esattamente ciò che il querelante sostiene sia accaduto.

Automazione senza verifica

Il nocciolo della controversia è se Koi Security si sia affidata all’intelligenza artificiale per produrre la propria valutazione delle minacce senza una sufficiente revisione umana. Se il rapporto fosse generato o sostanzialmente arricchito dall’intelligenza artificiale, il caso potrebbe stabilire un importante precedente sull’obbligo di verificare i risultati dell’intelligenza artificiale prima di pubblicarli come informazioni fattuali.

Perché questo caso è importante

La causa porta implicazioni che vanno ben oltre le due parti coinvolte:

Un precedente per la responsabilità dell'IA

Poiché gli strumenti di intelligenza artificiale sono sempre più integrati nei processi decisionali ad alto rischio – dalle assunzioni alle forze dell’ordine alla sicurezza informatica – i tribunali dovranno determinare chi è responsabile quando tali sistemi sbagliano. Questo caso potrebbe aiutare a definire gli standard legali per i contenuti generati dall’intelligenza artificiale che causano danni.

Pressione sul settore dell'intelligence sulle minacce

Il settore della sicurezza informatica ha adottato l’intelligenza artificiale per elaborare l’enorme volume di dati sulle minacce generati quotidianamente. Ma la causa Koi Security potrebbe costringere le aziende a riconsiderare quanto si affidano all’analisi automatizzata e a investire maggiormente nella verifica umana prima di pubblicare rapporti che possono distruggere le aziende.

Un avvertimento sulla diffamazione da parte dell'algoritmo

Il caso evidenzia un rischio relativamente nuovo: la diffamazione commessa non da un autore umano, ma da un sistema di intelligenza artificiale. La legge tradizionale sulla diffamazione è stata costruita attorno all’intento e alla paternità umana. Quando una macchina fabbrica un’accusa dannosa, il quadro giuridico per l’assegnazione della responsabilità diventa oscuro – e questa causa può aiutare a chiarirlo.

Palo Alto Networks e la risposta

Palo Alto Networks, un gigante della sicurezza informatica valutato decine di miliardi, ha acquisito o gestisce Koi Security come parte delle sue più ampie capacità di intelligence sulle minacce. La società non ha dettagliato pubblicamente il ruolo svolto dall’intelligenza artificiale nel rapporto contestato. L’esito della causa potrebbe dipendere dal fatto che il tribunale ritenga che fossero in atto ragionevoli procedure di verifica e se queste siano state seguite.

Il modello più ampio

Questo incidente non è isolato. In tutti i settori, i sistemi di intelligenza artificiale hanno fabbricato citazioni legali, inventato notizie e generato false affermazioni di ricerca. Ciò che rende notevole il caso Koi Security è la gravità del danno presumibilmente causato e il fatto che coinvolge un’importante società di sicurezza informatica la cui attività si basa sull’accuratezza della sua intelligence.

Man mano che i contenuti generati dall’intelligenza artificiale proliferano, il confine tra un’utile intuizione automatizzata e una dannosa falsificazione si assottiglia. Per la startup senza nome al centro di questo caso, quel limite è stato superato con risultati devastanti.

---

Stai al passo con l'intelligenza artificiale

Leggi altre notizie sull'AI → Fonti: The Register, Inc.com. Report compilato il 3 luglio 2026.

Come funziona l'intelligenza artificiale sulle minacce

Le moderne piattaforme di intelligence sulle minacce ingeriscono enormi volumi di dati (log di rete, firme di malware, registrazioni di domini e report open source) e utilizzano sempre più l’apprendimento automatico per identificare modelli e generare valutazioni. La promessa è l’efficienza: l’intelligenza artificiale può elaborare molti più dati rispetto agli analisti umani, facendo emergere minacce che altrimenti potrebbero passare inosservate.

Ma il caso Koi Security mette in luce il rovescio della medaglia. Quando i sistemi di intelligenza artificiale sono addestrati a rilevare modelli, possono anche rilevare modelli che in realtà non esistono. Una startup che condivide l’infrastruttura con un’entità segnalata, utilizza software simile o opera in un settore adiacente potrebbe essere trascinata in una falsa associazione da un algoritmo troppo entusiasta.

Il problema è aggravato dalla velocità e dalla portata dei feed automatizzati delle minacce. Una volta che una segnalazione falsa entra nell'ecosistema, può essere replicata su decine di piattaforme di sicurezza, firewall e blocklist, rendendo la correzione estremamente difficile anche dopo il riconoscimento dell'errore originale.

Il costo di un falso positivo

Il rapporto di Inc.com ha evidenziato il costo umano ed economico del presunto errore. Secondo quanto riferito, la startup ha visto il suo traffico evaporare quasi immediatamente dopo la diffusione del falso rapporto: un'interruzione improvvisa che avrebbe minacciato qualsiasi attività commerciale online. Al di là delle perdite di entrate, la macchia sulla reputazione derivante dall’essere associati all’hacking statale cinese è difficile da quantificare e potrebbe persistere molto tempo dopo qualsiasi risoluzione legale.

Per le piccole aziende senza le risorse per combattere un gigante della sicurezza informatica, un singolo falso rapporto di intelligence può essere esistenziale. La causa potrebbe attirare l’attenzione sullo squilibrio di potere tra i grandi fornitori di intelligence sulle minacce e le aziende più piccole che appaiono nei loro rapporti.

Guardando avanti

È probabile che il caso venga seguito da vicino da tutto il settore della sicurezza informatica. Se il querelante dovesse prevalere, ciò potrebbe innescare un’ondata di contenziosi simili e costringere i fornitori di intelligence sulle minacce a rivedere i loro processi di segnalazione assistiti dall’intelligenza artificiale. Anche se il caso si risolvesse, avrebbe già innescato un dibattito sulla necessità di trasparenza, verifica e responsabilità nell’intelligence sulla sicurezza generata dall’intelligenza artificiale.

Più in generale, la causa è un ammonimento per qualsiasi settore che utilizzi l’intelligenza artificiale per prendere decisioni consequenziali su persone e organizzazioni. La capacità della tecnologia di generare conclusioni apparentemente sicure è una caratteristica, non un bug, ma quando tali conclusioni sono sbagliate, il danno può essere devastante e difficile da riparare.