Notion ha rivelato che un incidente di sicurezza presso il suo fornitore di intelligenza artificiale Fireworks AI potrebbe aver esposto le trascrizioni delle chat di Notion AI di alcuni clienti, in un evento che ha interessato meno dell'1% degli spazi di lavoro di Notion. In un avviso pubblicato nel suo centro assistenza, la società di produttività ha affermato che le trascrizioni esposte erano "non attribuibili" - non etichettate con chi le aveva scritte o da quale spazio di lavoro provenivano - e non contenevano risultati di chiamate di strumenti, il che significa che nessuna informazione nei dati collegava le singole chat a un utente, spazio di lavoro o azienda specifico.
La divulgazione è l’ultima svolta in una violazione che Fireworks AI, una delle piattaforme di inferenza AI indipendenti più utilizzate, ha monitorato nei bollettini pubblici sulla sicurezza dall’ottobre 2026 – e offre uno sguardo raro e dettagliato su come si svolge effettivamente un attacco all’infrastruttura AI. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Cosa ha confermato l'intelligenza artificiale di Fireworks
Fireworks AI ha pubblicato il suo bollettino sulla sicurezza originale il 9 ottobre 2026, avvisando le forze dell'ordine e ingaggiando l'Unità 42 di Palo Alto Networks per condurre analisi forensi. In quella fase, la società ha affermato che era noto che erano stati accessibili solo i segreti archiviati in Fireworks e utilizzati nei lavori di valutazione.
Il quadro si è ampliato notevolmente nel bollettino di follow-up, aggiornato l’ultima volta il 9 novembre. Fireworks afferma di aver successivamente scoperto impatti su informazioni su account e fatturazione e, per un insieme limitato di account, su segreti, set di dati e modelli incompleti. L'azienda attribuisce l'attacco a un gruppo di criminali informatici motivato finanziariamente impegnato in "LLMJacking": rubare l'accesso a modelli linguistici di grandi dimensioni in modo che i token possano essere rivenduti attraverso gateway di routing illeciti. Questo commercio è diventato così importante che Google Threat Intelligence Group e Mandiant hanno pubblicato un post congiunto sul blog sull'ascesa di LLMJacking il 2 novembre.
L’incidente si è intensificato anche attraverso una catena di approvvigionamento propria. Secondo Fireworks, un fornitore di servizi cloud di terze parti che ospitava le sue macchine di ricerca e sviluppo ha subito un incidente di sicurezza il 23 ottobre. Il giorno successivo, una terza parte non autorizzata ha utilizzato quel punto d'appoggio per raggiungere le macchine di sviluppo di Fireworks ed eseguire un carico di lavoro non autorizzato, causando un ulteriore impatto sui dati dei clienti. Fireworks afferma di aver rilevato l'attività lo stesso giorno e di aver adottato misure correttive e che al 25 ottobre non ha rilevato ulteriori prove di un accesso non autorizzato riuscito alla piattaforma utilizzata dai clienti.
Le categorie di dati che il sistema interno interessato potrebbe esporre, secondo Fireworks: metadati delle risorse come identificatori e descrizioni; informazioni di fatturazione, inclusi indirizzi di fatturazione, cronologia delle fatture e dei pagamenti e saldi dei conti, con numeri di carte di pagamento non archiviati da Fireworks e pertanto non interessati; e, per alcuni clienti, pesi dei modelli e set di dati.
Come Notion è rimasto intrappolato nel raggio dell'esplosione
Notion ha utilizzato Fireworks per due cose: lavori di classificazione che alimentano una funzionalità chiamata Insights, che aiuta i clienti a comprendere il proprio utilizzo dell'intelligenza artificiale, e come fornitore di inferenza generale che fornisce modelli open-weight all'interno del prodotto.
L'azienda afferma di essere venuta a conoscenza di potenziali incidenti da parte di Fireworks all'inizio di questo mese e di aver interrotto tutte le connessioni ai sistemi Fireworks come precauzione. Il 6 novembre, Fireworks ha notificato a Notion che soggetti malintenzionati potrebbero aver avuto accesso ai dati dei clienti; due giorni dopo, l'8 novembre, Fireworks ha confermato il set di dati, che l'analisi di Notion ha mostrato includere le trascrizioni non attribuibili della chat di Notion AI utilizzate per la funzione Insights.
Notion ha disabilitato la funzione Insights mentre indaga e non fornisce più modelli open-weight tramite Fireworks. Nessun altro dato dello spazio di lavoro sarà interessato, secondo l'avviso.
Cosa dovrebbero fare gli utenti interessati
Notion afferma di aver contattato i proprietari di ogni spazio di lavoro interessato e che i clienti che non hanno ricevuto notizie dall'azienda non sono interessati e non devono intraprendere alcuna azione. I proprietari dello spazio di lavoro possono rivedere i dati interessati all'interno di Notion tramite il menu di aiuto della barra laterale, utilizzando l'app desktop o il browser Web: lo strumento di revisione non è accessibile sui dispositivi mobili.
I proprietari del piano Enterprise ottengono di più: un CSV dei dati interessati dell'area di lavoro, oltre a una versione annotata con metadati che identificano quale utente è stato associato a ciascuna trascrizione della chat. Notion sottolinea che le annotazioni aggiunte non facevano parte dei dati esposti: sono state prodotte in seguito per aiutare le organizzazioni interessate a eseguire la propria analisi di impatto.
Perché questo incidente è importante oltre ogni nozione
L’episodio è un caso di studio sul rischio della catena di approvvigionamento dell’IA. Le aziende incorporano sempre più fornitori di inferenza di terze parti – fornitori che eseguono modelli open-weight o specializzati per loro conto – nei prodotti di consumo, e una violazione a livello di infrastruttura può esporre silenziosamente dati di interazione con i clienti che la società stessa del prodotto non ha mai archiviato.
Si tratta anche di una dimostrazione di alto profilo del modello LLMJacking segnalato da Google Threat Intelligence e Mandiant: aggressori che monetizzano l'infrastruttura IA rubata rivendendo l'accesso al modello tramite gateway ombra, anziché trattenere i dati a scopo di riscatto secondo il modello classico. Mentre le aziende trasferiscono i carichi di lavoro su piattaforme di inferenza AI, la sicurezza di tali piattaforme – e dei fornitori di servizi cloud dietro di esse – sta diventando un rischio aziendale di primo ordine, non una nota a piè di pagina.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
