Společnost Notion odhalila, že bezpečnostní incident u jejího dodavatele AI Fireworks AI mohl odhalit přepisy chatu některých zákazníků Notion AI v případě, že ovlivnil méně než 1 % pracovních prostorů Notion. V oznámení zveřejněném ve svém centru nápovědy společnost zabývající se produktivitou uvedla, že vystavené přepisy jsou „nepřiřaditelné“ – nejsou označeny tím, kdo je napsal nebo z jakého pracovního prostoru pocházejí – a neobsahují žádné výsledky volání nástroje, což znamená, že žádné informace v datech nesvazují jednotlivé chaty zpět ke konkrétnímu uživateli, pracovnímu prostoru nebo společnosti.
Zveřejnění je nejnovějším obratem v porušení, které Fireworks AI, jedna z nejrozšířenějších nezávislých inferenčních platforem AI, sleduje ve veřejných bezpečnostních bulletinech od října 2026 – a nabízí vzácný podrobný pohled na to, jak se útok na infrastrukturu AI skutečně vyvíjí. For more context on this story, see our ongoing AI industry coverage.
Co Fireworks AI potvrdila
Fireworks AI zveřejnila svůj původní bezpečnostní bulletin 9. října 2026, v němž upozornila orgány činné v trestním řízení a pověřila jednotku 42 Palo Alto Networks, aby provedla forenzní analýzu. V této fázi společnost uvedla, že bylo známo, že byla zpřístupněna pouze tajemství uložená ve Fireworks používaná ve vyhodnocovacích úlohách.
Obrázek se značně rozšířil v navazujícím bulletinu, naposledy aktualizovaném 9. listopadu. Fireworks říká, že následně objevil dopady na informace o účtech a fakturaci a – pro omezený soubor účtů – na tajemství, datové sady a neúplné modely. Společnost připisuje útok finančně motivované kyberzločinecké skupině zabývající se „LLMJacking“: krádeží přístupu k velkým jazykovým modelům, aby mohly být tokeny dále prodávány prostřednictvím nelegálních směrovacích bran. Tento obchod vzrostl natolik, že Google Threat Intelligence Group a Mandiant 2. listopadu zveřejnily společný blogový příspěvek o vzestupu LLMJacking.
Incident také eskaloval prostřednictvím vlastního dodavatelského řetězce. Podle Fireworks utrpěl poskytovatel cloudu třetí strany, který hostuje jeho výzkumné a vývojové stroje, vlastní bezpečnostní incident 23. října. Následujícího dne neoprávněná třetí strana využila tohoto prostoru k tomu, aby dosáhla na vývojová zařízení Fireworks a spustila neoprávněné pracovní zatížení, což způsobilo další dopad na zákaznická data. Fireworks uvádí, že aktivitu detekoval týž den a přijal nápravná opatření a že k 25. říjnu nezjistil další důkazy o úspěšném neoprávněném přístupu na platformu, kterou zákazníci používají.
Kategorie dat, které by mohl dotčený interní systém vystavit podle Fireworks: metadata zdrojů, jako jsou identifikátory a popisy; fakturační údaje včetně fakturačních adres, historie faktur a plateb a zůstatků na účtech – s čísly platebních karet, která Fireworks neukládá, a proto nejsou ovlivněna; a pro určité zákazníky modelové váhy a datové sady.
Jak byl Notion zachycen v rádiusu výbuchu
Notion používal Fireworks ke dvěma věcem: klasifikačním úlohám napájejícím funkci nazvanou Insights, která pomáhá zákazníkům porozumět jejich vlastnímu využití AI, a jako poskytovatel obecných odvození obsluhující modely s otevřenou váhou uvnitř produktu.
Společnost tvrdí, že se o potenciálních incidentech z Fireworks dozvěděla začátkem tohoto měsíce a preventivně uzavřela všechna připojení k systémům Fireworks. 6. listopadu Fireworks upozornil Notion, že k zákaznickým datům mohli přistupovat zlomyslní aktéři; o dva dny později, 8. listopadu, Fireworks potvrdil datovou sadu, která podle analýzy Notion obsahovala nepřiřaditelné přepisy chatu Notion AI používané pro funkci Insights.
Společnost Notion zakázala funkci Insights během vyšetřování a již neposkytuje modely s otevřenou váhou prostřednictvím Fireworks. Podle oznámení nejsou ovlivněna žádná další data pracovního prostoru.
Co by měli postižení uživatelé dělat
Společnost Notion tvrdí, že kontaktovala vlastníky všech dotčených pracovních prostorů a že zákazníci, kteří o společnosti neslyšeli, nejsou dotčeni a nemusejí podnikat žádné kroky. Vlastníci pracovního prostoru mohou zkontrolovat dotčená data v Notion prostřednictvím nabídky nápovědy na bočním panelu pomocí aplikace pro stolní počítače nebo webového prohlížeče – nástroj pro kontrolu není na mobilu dostupný.
Vlastníci podnikových plánů získají více: CSV dotčených dat pracovního prostoru a navíc komentovanou verzi s metadaty identifikujícími, který uživatel byl přidružen ke každému přepisu chatu. Notion zdůrazňuje, že tyto přidané anotace nebyly součástí vystavených dat – byly vytvořeny později, aby pomohly postiženým organizacím provádět vlastní analýzu dopadu.
Proč na tomto incidentu záleží mimo Pojem
Tato epizoda je případovou studií rizika dodavatelského řetězce umělé inteligence. Společnosti stále více začleňují poskytovatele odvození od třetích stran – dodavatele, kteří jejich jménem provozují otevřené nebo specializované modely – do spotřebitelských produktů a porušení na vrstvě infrastruktury může tiše odhalit data o interakci se zákazníky, která samotná produktová společnost nikdy neuložila.
Jedná se také o významnou ukázku vzoru LLMJacking, který Google Threat Intelligence a Mandiant označili: útočníci, kteří zpeněžují ukradenou infrastrukturu AI přeprodejem přístupu k modelu prostřednictvím stínových bran, místo aby uchovávali data za výkupné v klasickém vzoru. S tím, jak podniky nalévají pracovní zátěž na inferenční platformy AI, se zabezpečení těchto platforem – a poskytovatelů cloudu za nimi – stává prvořadým podnikovým rizikem, nikoli poznámkou pod čarou.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
