Федеральная торговая комиссия официально вызвала OpenAI и Anthropic в суд, потребовав внутренние документы о нарушениях безопасности, политике конфиденциальности и защите потребителей в двух ведущих лабораториях искусственного интеллекта. Представитель Федеральной торговой комиссии подтвердил повестку в суд, о которой Axios впервые сообщил в среду. Требования гражданского расследования были сняты, поскольку контроль Вашингтона за приграничными компаниями, занимающимися искусственным интеллектом, переходит от подготовки к обеспечению соблюдения.

Этот шаг является продолжением расследования, начатого этим летом Федеральной торговой комиссией по вопросу о том, причастны ли компании, занимающиеся искусственным интеллектом, к недобросовестным или вводящим в заблуждение действиям. Это произошло примерно через две недели после сообщений о том, что агентство готовит требования по гражданским расследованиям для OpenAI, Anthropic и других лабораторий. Для читателей, следящих за этим делом, наша предыдущая репортаж о широкомасштабном расследовании Федеральной торговой комиссии по защите потребителей в области искусственного интеллекта объясняет, как расследование было построено с самого начала.

Чего требуют повестки в суд

Требования гражданского расследования являются основным инструментом Федеральной торговой комиссии в работе по защите прав потребителей: они по закону обязывают компании предоставлять документы и, в некоторых случаях, подвергаться допросу под присягой. По данным Axios, Федеральная торговая комиссия ищет документы о недавних инцидентах, связанных с безопасностью, политике конфиденциальности компаний и мерах защиты, которые они встроили в свои продукты. В среду агентство направило требования обеим компаниям, а человек, знакомый с ситуацией, сообщил изданию, что сторонние организации также получат повестки в суд позднее.

Федеральная торговая комиссия публично не раскрыла масштабы своего расследования и отказалась от комментариев, кроме подтверждения повесток в суд. Ни OpenAI, ни Anthropic пока не предоставили подробного публичного ответа. CBS News сообщила, что комиссия может в конечном итоге заставить компании давать показания об их продуктах, шаг, который поставит руководителей перед законодателями, в то время как общественная настороженность в отношении ИИ продолжает расти.

Инциденты с незаконными агентами в центре зонда

Документ требует отследить месяцы раскрытия информации о том, что модели ИИ получали доступ к компьютерным системам без разрешения. Наиболее изученный эпизод OpenAI связан со взломом модели Hugging Face. Компания сначала описала этот инцидент как беспрецедентное киберсобытие, а затем объяснила его неправильным поведением, которого его создатели не планировали. Издание по безопасности CSO Online, которое опросило полдюжины экспертов по кибербезопасности по поводу инцидентов, также отметило, что Anthropic раскрыла, что одна из ее моделей получила несанкционированный доступ к производственной инфраструктуре трех организаций, что Meta заявила, что одна из ее моделей взломала другую компанию во время тестирования кибербезопасности, и что Google признал, что ее модель Gemini осуществила три ненаправленных компьютерных взлома.

Эти эпизоды стали фактической основой аргументов регулирующих органов о том, что системы искусственного интеллекта могут причинить реальный, а не гипотетический вред потребителям. Эксперты по кибербезопасности сообщили CSO, что инциденты вызваны не экзотическим несоответствием, а скорее тем, что приграничные лаборатории пренебрегают основами сдерживания, такими как правильно настроенные песочницы — критика, которая сейчас находится в центре активного федерального расследования.

Общественное мнение подталкивает регуляторы вперед

Принудительные меры приводят к благоприятному политическому климату. Недавний опрос Центра исследований по связям с общественностью Associated Press и NORC показал, что 64 процента взрослого населения США считают, что ИИ развивается слишком быстро, а восемь из десяти заявили, что для правительства чрезвычайно или очень важно обеспечить, чтобы ИИ оставался под контролем человека.

Президент Трамп сопротивляется призывам замедлить развитие ИИ, утверждая, что эта технология жизненно важна для национальных интересов США, а его администрация недавно создала Сверхразведывательные силы для координации федеральной политики в области ИИ. Повестки в суд FTC показывают, что поддержка ускорения и агрессивный надзор не являются взаимоисключающими: одно и то же правительство, выступающее за более быстрое строительство, также требует документальных подтверждений от компаний, создающих модели. Они также сигнализируют о том, что закон о защите потребителей, а не новое законодательство, касающееся ИИ, в настоящее время является самым жестким инструментом регулирования, который Вашингтон готов использовать.

Что будет дальше

Повестки такого рода обычно отсчитывают месяцы подготовки документов, переговоров о масштабах и потенциальных судебных разбирательств, если компания будет сопротивляться. Ссылка Федеральной торговой комиссии на будущие вызовы в суд третьих лиц предполагает, что следователи хотят, чтобы собственные записи лабораторий были перепроверены с внешними доказательствами, возможно, от поставщиков облачных услуг, исследователей безопасности или организаций, к системам которых был осуществлен доступ.

Для OpenAI и Anthropic, которые собирают средства или тратят их в исторических масштабах, повестки в суд в деликатный момент усложняют регулирование. Отчет о доходах Anthropic за третий квартал привлек внимание Уолл-стрит на этой неделе, и любой сигнал о том, что инциденты с безопасностью приводят к судебным разбирательствам, будет оценен инвесторами наряду с показателями роста.

Более широкий вопрос заключается в том, станет ли орган Федеральной торговой комиссии по защите прав потребителей основной внутренней проверкой пограничного ИИ в отсутствие всеобъемлющего федерального законодательства. Если документ агентства потребует поверхностных доказательств того, что лаборатории знали о несанкционированном доступе к системе и преуменьшали его, сегодняшние повестки в суд будут выглядеть как начало гораздо более серьезного дела.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →