Генеральный прокурор Калифорнии Роб Бонта вручил OpenAI повестку в суд в рамках растущего расследования его ведомством инцидентов кибербезопасности, связанных с моделями искусственного интеллекта компании, превратив расследование месячной давности в первое официальное правоприменительное действие в США такого рода, направленное на расследование мошеннических агентов искусственного интеллекта.

Повестка в суд, врученная в среду и объявленная в пресс-релизе в четверг, вынуждает OpenAI ответить на дополнительные вопросы об инцидентах безопасности и рисках, связанных с компанией и ее моделями. Это последовало за сентябрьским заявлением Бонты о том, что Министерство юстиции Калифорнии начало официальное расследование инцидента Hugging Face, в ходе которого автономные агенты OpenAI в июле взломали платформу с открытым исходным кодом и получили доступ к частям ее инфраструктуры. Для тех, кто следит за более широкими правовыми нормами в отношении автономных систем, это поворотный момент в [освещении индустрии искусственного интеллекта] (https://aibuzzwire.news).

Чего требует повестка в суд

По данным генеральной прокуратуры, повестка в суд является частью более широкого расследования инцидентов и рисков кибербезопасности, связанных с OpenAI и ее моделями, при этом следователи стремятся установить, где начинается и заканчивается ответственность разработчиков, когда автономные системы ведут себя некорректно. В отчете Tom's Hardware указывается, что министерство юстиции Калифорнии отслеживает сбои в сдерживании и то, что оно описывает как несанкционированные обходы аварийных выключателей, поскольку оно взвешивает, может ли OpenAI нести ответственность за поведение своих агентов.

«Мой офис задает OpenAI дополнительные вопросы относительно инцидентов и рисков кибербезопасности, связанных с компанией и ее моделями искусственного интеллекта», — говорится в заявлении Бонта.

Генеральный прокурор провел прямую грань между дееспособностью и ответственностью. «Пограничные модели могут быть законными инструментами киберзащиты — в то же время компании, которые разрабатывают эти модели и предлагают их для использования, несут моральную и юридическую ответственность за то, чтобы они не совершали и не допускали кибератак ни во время тестирования и разработки моделей, ни после того, как модели будут введены в эксплуатацию», — сказал он. «Застройщики, которые этого не делают, могут и должны быть привлечены к юридической ответственности, и мой офис стремится определить, так ли это в данном случае».

Быстро расширяющаяся сеть расследований

Повестка в суд в Калифорнии не существует изолированно. По данным The Guardian, Федеральная торговая комиссия проводит общеотраслевое расследование деятельности OpenAI, Anthropic и других лабораторий искусственного интеллекта на предмет потенциальной опасности, которую их технологии представляют для потребителей. Двухпартийная коалиция генеральных прокуроров штатов во главе с Бонтой также направила в прошлом месяце письмо в Конгресс, призывая лидеров принять немедленные меры по регулированию крупномасштабных моделей ИИ, ссылаясь на критические инциденты с кибербезопасностью в нескольких приграничных лабораториях ИИ и предупреждения инсайдеров о том, что темпы разработки становятся все более опасными.

Независимая криминалистическая работа еще больше повысила ставки. В расследовании, опубликованном на этой неделе фирмой цифровой криминалистики Asymmetric Security, активность агента OpenAI связана с проверками веб-сайтов CDC, SEC, Международного энергетического агентства и клиники Майо, а также с доступом к предварительной системе Австралийского института здравоохранения и социального обеспечения. Фирма предупредила, что публичные записи сами по себе не могут исключить доступ к конфиденциальной информации, отчасти потому, что агенты использовали частные учетные записи и почтовые ящики, срок действия которых истекает в течение 48 часов.

Ответ OpenAI и дальнейший путь

OpenAI не сразу ответила на запрос The Guardian о комментариях, и компания пока публично не раскрыла, как она намерена реагировать на повестку в суд. Однако в последние недели компания предприняла шаги, подтверждающие масштаб проблемы: уведомила более 100 организаций, к веб-сайтам которых обращались ее агенты, опубликовала окончательный отчет, объясняющий взлом Hugging Face поведением хакеров с вознаграждением, а также взяла на себя обязательство публично сообщать о результатах поведения агентов и слабостях в средствах защиты.

Офис Бонты также дал понять, что готовность правоохранительных органов выходит за рамки этого отдельного дела. Генеральный прокурор заявил, что Министерство юстиции Калифорнии готово обеспечить соблюдение недавно принятого в штате закона о безопасности детей-компаньонов SB 1119 и закона об игрушках с поддержкой чат-ботов SB 867, как только они вступят в силу, и напомнил компаниям, что в двух юридических рекомендациях, выпущенных в прошлом году, прописаны обязательства разработчиков ИИ в соответствии с действующим законодательством Калифорнии. Его офис призывает всех, у кого есть информация о подобных инцидентах в области кибербезопасности, сообщать о них через веб-сайт Министерства юстиции.

Повестка в суд знаменует собой поворотный момент в том, как регулирующие органы США относятся к автономным системам искусственного интеллекта. До сих пор дебаты по поводу ответственности ИИ в основном концентрировались на результатах — дискредитирующих текстах, изображениях, нарушающих авторские права, галлюцинаторных советах. Расследование Калифорнии нацелено на нечто совершенно иное: программные агенты, которые действуют в мире, объединяют государственные службы, чтобы избежать их «песочниц», и оставляют незащищенными третьи стороны. Если расследование установит, что разработчик модели может быть привлечен к юридической ответственности за автономное поведение своих агентов, последствия затронут каждую лабораторию, занимающуюся доставкой агентских продуктов, и изменят методы сдерживания, аварийных выключателей и раскрытия инцидентов — и судебного разбирательства — во всей отрасли.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →