Fireworks AI, стартап по выводам, поддерживаемый Nvidia, уведомил клиентов, что ранее раскрытый инцидент безопасности был значительно шире, чем сообщалось первоначально: злоумышленники получили доступ к учетной записи и платежной информации, а для ограниченного набора учетных записей, секретов, наборов данных и неполных весов моделей, согласно обновленному бюллетеню по безопасности, опубликованному на его сайте 9 ноября. Bloomberg и Forbes сообщили об этом в понедельник, а Forbes описал кибератаку как раскрытие данных клиентов и моделей искусственного интеллекта.
Компания впервые сообщила об инциденте 9 октября, когда заявила, что был получен доступ только к секретам, хранящимся в Fireworks и используемым в оценочных работах. Новое обновление существенно расширяет эту оценку и связывает вторжение с финансово мотивированной группой киберпреступников, преследующей то, что в отрасли называют «LLMJacking» — кражу доступа к большим языковым моделям и перепродажу токенов незаконным шлюзам маршрутизации. Для компаний, отслеживающих [новости безопасности индустрии искусственного интеллекта] (https://aibuzzwire.news), этот случай становится эталонным инцидентом для нового класса атак на инфраструктуру искусственного интеллекта.
Как разворачивалось второе нарушение
Согласно бюллетеню, 23 октября у стороннего облачного провайдера, на котором размещались машины Fireworks для исследований и разработок, произошел собственный инцидент с безопасностью. На следующий день несанкционированная сторона использовала эту точку опоры для доступа к машинам разработки Fireworks и выполнила несанкционированную рабочую нагрузку, что привело к дополнительному воздействию на данные клиентов. Fireworks сообщает, что обнаружила эту активность в тот же день и приняла меры по устранению, а также что по состоянию на 25 октября не обнаружила дальнейших доказательств успешного несанкционированного доступа к платформе, которую используют клиенты.
Компания сотрудничает с подразделением 42 Palo Alto Networks, которое проводит судебно-медицинскую экспертизу, и заявила, что уведомила правоохранительные органы после первоначального инцидента. Google Threat Intelligence Group и Mandiant опубликовали 2 ноября сообщение в блоге, в котором документируется рост LLMJacking, его мотивы и использованные методы — контекст, на который Fireworks ссылается в своем собственном раскрытии.
Какие данные были взяты
Согласно бюллетеню, затронутое внутреннее приложение раскрывает несколько категорий информации:
- Метаданные ресурса, включая идентификаторы ресурсов Fireworks, отображаемые имена, описания и время создания.
- Платежные данные, включая адреса выставления счетов и доставки, историю счетов и платежей, остатки на счетах и использование кредита.
- Веса моделей и наборы данных: для некоторых клиентов был доступен подмножество неполных весов моделей и наборов данных.
В Fireworks заявили, что номера платежных карт не хранятся в ее системах и не были затронуты. Компания также заявила, что не обнаружила никакого влияния на свои основные службы Inference, Training SDK и Nexus, которые по умолчанию работают с нулевым сохранением данных — это означает, что никакие данные обучения клиентов или данные вывода не хранятся в неактивном состоянии. Компания заявила, что напрямую уведомляет клиентов, чьи данные были затронуты, с подробной информацией о влиянии и рекомендуемыми ответными действиями.
Сдерживание и открытые вопросы
В рамках своего ответа Fireworks, работая с Unit 42, заявляет, что отозвала и заменила учетные данные и сервисные учетные записи, удалила ненужные повышенные привилегии, ограничила сетевые пути и изолировала затронутые системы, ограничила доступ к системам хранения данных и анализа, а также усилила ведение журналов и мониторинг. Он также отключил самостоятельную загрузку и загрузку наборов данных, используемые пакетным выводом и обучением на основе наборов данных, пока расследование продолжается.
Два важных вопроса остаются открытыми. Во-первых, какая часть «неполных весов моделей» на самом деле пригодна для использования — частичные или незавершенные веса, украденные из обучающего конвейера, все равно могут раскрыть конкурентную информацию о разрабатываемых моделях клиентов, и Fireworks не сообщила, какие клиенты и сколько из них были затронуты. Во-вторых, какие обязательства налагаются на клиентов, чьи собственные наборы данных были раскрыты. Компания заявляет, что расследование продолжается и может раскрыть дополнительную информацию.
Почему LLMJacking растёт
Атаки LLMJacking нацелены на облачные службы искусственного интеллекта для сбора доступа к полезной модели, а не к традиционным данным. Украденные учетные данные или токены затем перепродаются через шлюзы теневой маршрутизации, которые предлагают доступ к коммерческим моделям по сниженной цене. Группа Threat Intelligence Group компании Google и компания Mandiant посвятили отчет от 2 ноября этой тенденции, которую исследователи безопасности отслеживают в течение примерно двух лет, поскольку внедрение хостингового вывода на предприятиях резко возросло.
Раскрытие информации Fireworks — один из первых подтвержденных случаев, когда злоумышленники, похоже, объединили эту схему с кражей артефактов модели клиента у поставщика инфраструктуры искусственного интеллекта. Это происходит на фоне более широкой волны инцидентов безопасности в экосистеме искусственного интеллекта и усиливает давление на поставщиков логических выводов, чтобы продемонстрировать, что мультитенантные платформы могут изолировать рабочие нагрузки клиентов. Стартапы, оценивающие поставщиков логических выводов, вероятно, будут задавать более сложные вопросы об изоляции арендаторов, гигиене учетных данных и зависимостях от сторонних облаков — именно этот путь используется здесь.
Fireworks заявляет, что круглосуточно следит за своими системами и будет публиковать дальнейшие обновления по мере продвижения расследования. Клиентам, у которых есть проблемы, предлагается ответить на электронные письма с уведомлениями о происшествиях или связаться с адресом уведомления о безопасности компании.
Этот инцидент также показывает, как развиваются нормы раскрытия информации для компаний, занимающихся искусственным интеллектом. Fireworks опубликовала свой первый бюллетень через несколько дней после первоначального вторжения в начале октября, а затем дважды вносила в него поправки, поскольку судебно-медицинская экспертиза расширила картину — команды по безопасности распознают эту последовательность по недавним взломам корпоративного программного обеспечения, но это остается редкостью среди поставщиков инфраструктуры искусственного интеллекта, многие из которых никогда не занимались публичными инцидентами. Решение отключить функции самообслуживания набора данных, оставив при этом основной продукт вывода работающим, предполагает, что воздействие было сосредоточено на вспомогательных системах, а не на самом пути обслуживания клиентов.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
