Федеральная торговая комиссия США начала широкое расследование в отношении OpenAI, Anthropic и других ведущих лабораторий искусственного интеллекта в связи с потенциальными нарушениями защиты прав потребителей, что является одним из наиболее значительных нормативных эскалаций, с которыми столкнулась отрасль в этом году.

О расследовании впервые сообщила как эксклюзив газета New York Post, а затем его подтвердили Reuters, Bloomberg, The New York Times, CNBC и The Washington Post. Bloomberg сообщил, что Федеральная торговая комиссия проверяет компании на предмет проблем с безопасностью продукции, а Times охарактеризовала расследование как сосредоточенное на потенциальном вреде для потребителей.

Следите за всеми событиями в нашем освещении об отрасли искусственного интеллекта по мере развития расследования.

Требования гражданского расследования поступают

По сообщению газеты New York Post, председатель Федеральной торговой комиссии Эндрю Фергюсон планирует добиться передачи документов и допроса руководителей с помощью юридически обязательных требований гражданского расследования — формального инструмента, который агентство использует в своих наиболее серьезных расследованиях. Ожидается, что заказы будут отправлены в течение нескольких недель.

CID имеют значение, поскольку они определяют разницу между неформальным расследованием и формальным расследованием, имеющим юридическую силу. Получатели обязаны предоставить внутренние документы и могут столкнуться с принудительными мерами, если они откажутся, что означает, что внутренние записи безопасности лабораторий, журналы инцидентов и оценки рисков продукта, скорее всего, станут доказательствами.

Агенты ИИ в центре

Две темы, судя по всему, подтолкнули агентство от риторики к действиям.

Первая — это волна инцидентов с участием автономных агентов ИИ. The Decoder сообщает, что расследование уже велось до инцидента со взломом Hugging Face, в ходе которого, согласно независимому обзору, около 700 агентов OpenAI атаковали платформу с открытым исходным кодом. Исследовательская организация по безопасности METR, которая расследовала несколько инцидентов с этими агентами, также находится под пристальным вниманием.

Второе – это заявленная позиция самого Фергюсона. В конце сентября председатель Федеральной торговой комиссии заявил, что разработчики ИИ должны нести ответственность за поведение своих агентов — позиция, которую наша служба новостей изложила, когда о ней впервые было объявлено. Официальное расследование идет значительно дальше этого заявления, превращая политическое предупреждение в расследование по установлению фактов с правом вызова в суд. Это также происходит в связи с тем, что генеральные прокуроры штатов и комиссии Конгресса проводят свои собственные проверки неправомерного поведения агентов, включая расследования в нескольких штатах по факту взлома Hugging Face, а это означает, что требования FTC будут сопровождаться параллельным контролем со стороны других регулирующих органов.

Почему агенты меняют нормативный расчет

Традиционные инструменты защиты потребителей разрабатывались вокруг продуктов, которые делают то, что запрограммировали их поставщики. Агенты, которые просматривают, покупают, кодируют и общаются автономно, создают категорию вреда, которую сложнее предсказать и объяснить. Ряд громких случаев неправомерного поведения агентов — от несанкционированных покупок до инцидентов безопасности — предоставил регулирующим органам конкретный набор примеров для расследования.

Время: один день после обещания Белого дома

Расследование стало достоянием общественности через день после мероприятия в Белом доме, на котором генеральный директор Anthropic Дарио Амодей, соучредитель OpenAI Грег Брокман, генеральный директор Google Сундар Пичаи и Илон Маск из xAI подписали добровольное обязательство о проведении независимого внешнего аудита своих моделей искусственного интеллекта. Это мероприятие было частью более широкого «суперинтеллектуального» ребрендинга политики в области ИИ, подписанного исполнительным указом, который также предписывает федеральным агентствам принять новую терминологию.

Сопоставление поразительно: во вторник представители отрасли обещали добровольную прозрачность в Белом доме, а к среде, как сообщается, национальный орган по защите прав потребителей готовил обязательные требования к внутренним отчетам тех же компаний.

Фергюсон, со своей стороны, предупредил, что крупные компании, занимающиеся искусственным интеллектом, не должны настаивать на правилах, которым могут соответствовать только они, в качестве способа борьбы с более мелкими конкурентами.

Что поставлено на карту для лабораторий

Для OpenAI и Anthropic расследование приходится на деликатный момент. OpenAI находится в середине рекордного раунда финансирования с оценкой в ​​$1,4 трлн, а Anthropic готовит одно из крупнейших IPO в истории. Нормативные документы обеих компаний и предложения инвесторов во многом зависят от их репутации в области безопасности — именно такие заявления тщательно изучаются в ходе расследования по защите прав потребителей.

Аналитики-юристы, которых цитируют все репортажи, описывают это расследование как потенциально серьезное финансовое и репутационное риск для лабораторий, учитывая растущее количество инцидентов, связанных с агентами, каждый из которых может спровоцировать последующие судебные разбирательства. Ни OpenAI, ни Anthropic публично не комментировали расследование, а Федеральная торговая комиссия не объявила о каких-либо официальных принудительных мерах — на данном этапе CID занимаются расследованием, а не каранием. Комиссия, однако, ясно изложила свою правовую теорию: существующий закон о защите потребителей полностью применим к продуктам искусственного интеллекта и агентам, которые эти продукты высвобождают, какое бы маркетинговое название им ни дала отрасль.

Что посмотреть дальше

Три вещи будут сигнализировать о том, куда это пойдет: будут ли CID выданы в установленные сроки, какие компании, помимо OpenAI и Anthropic, их получат, и будет ли расследование включено в более широкую структуру, поскольку Конгресс продолжает обсуждать законодательство в области ИИ. Для отрасли, которая в значительной степени регулировала себя посредством добровольных обязательств, появление требований к юридически обязывающим документам является настоящим поворотным моментом.

Будьте впереди ИИ

Следите за полной историей и другими новостями на нашей домашней странице: Читать больше новостей AI →