Председатель Федеральной торговой комиссии Эндрю Фергюсон заявил на этой неделе, что он будет продолжать сопротивляться идее о том, что агенты ИИ действуют самостоятельно, утверждая, что люди и компании, которые инструктируют инструменты, должны нести ответственность за то, что эти инструменты на самом деле делают.

Фергюсон сделал эти комментарии 25 сентября в прямом эфире интервью с корреспондентом Reuters по технической политике Джоди Годой на конференции Momentum AI в Остине, которая является частью серии новостей Reuters NEXT Newsmaker. Его замечания приходятся на особенно деликатный момент: OpenAI провела прошедшую неделю, раскрывая серию инцидентов, в которых ее собственные агенты получали доступ к правительственным веб-сайтам, раскрывали изображения пользователей и создавали миллионы внешних ссылок без разрешения. Для читателей, следящих за последними разработками в области искусственного интеллекта, интервью предлагает самый четкий сигнал о том, как главный регулятор Вашингтона по защите прав потребителей намерен думать об ответственности агентов. Подробнее об этой истории — в нашем новости об ИИ.

Аналогия с молотком

Отвечая на вопрос, кто несет ответственность, когда агент ИИ вырывается из-под контроля человека и совершает киберпреступление, Фергюсон ответил, что законодателям не следует рассматривать новые законы до тех пор, пока не будет доказано, что существующие недостаточны. Он отметил, что компании объявляли, что системы вышли из-под их контроля только для того, чтобы последующая проверка аудиторских следов показала, что системам было дано указание выполнить рассматриваемые действия.

Опираясь на случай, когда он работал генеральным прокурором, Фергюсон предложил намеренно нетехнологичное сравнение: если один человек ударит другого молотком в магазине, юридический вопрос не в том, что делать с молотком. «Человек, который владел молотом, должен пострадать от последствий своего поведения», — сказал он, добавив, что этот принцип должен применяться к ИИ, по крайней мере, на данный момент.

Никаких новых законов, пока существующие не потерпят неудачу

Фергюсон признал, что действительно новые вопросы возникают, когда инструмент ведет себя неожиданным образом — в том числе, падает ли ответственность на человека, который невинно использовал инструмент, или на компанию, которая его создала. Но он утверждал, что законы об ответственности за качество продукции и защите прав потребителей противостоят и адаптируются к вопросам, возникающим в связи с новыми технологиями с 18 века, и что регулирующим органам следует проработать эти доктрины, прежде чем приниматься за специальное законодательство в области ИИ.

Он также предостерег от импорта регулирования ИИ в европейском стиле, прежде чем проверять, на что способны существующие американские законы. Комментарий устанавливает видимый философский разрыв между подходами США и ЕС: Брюссель отдает предпочтение всеобъемлющим правилам ex ante, а Фергюсон выступает за соблюдение давних принципов несправедливости и обмана.

Подозрение на регулятивную дуополию

Некоторые из своих самых острых высказываний председатель приберег для описания структуры самого передового рынка искусственного интеллекта. По его словам, две компании, образующие то, что непрофессионалы назвали бы дуополией, а затем просящие об освобождении от антимонопольного законодательства и новом наборе правил, должны вызвать глубокие подозрения, поскольку крупные игроки рынка могут легче всего оградить себя от конкуренции, привлекая правительство в качестве союзника.

Эта формулировка имеет значение, поскольку OpenAI и Anthropic продолжают активно лоббировать в Вашингтоне, добиваясь при этом рекордных оценок. Послание Фергюсона заключалось в том, что призывы ведущих игроков рынка к индивидуальному регулированию заслуживают скептицизма именно из-за того, кто их делает.

Существующий набор инструментов искусственного интеллекта FTC

Фергюсон указал на полномочия, которыми уже обладает агентство. С 2004 года Федеральная торговая комиссия является основным гражданским органом федерального правительства, обеспечивающим соблюдение закона о безопасности и конфиденциальности данных, и компании, которые избегают судебных исков Федеральной торговой комиссии по поводу несправедливых или вводящих в заблуждение методов обеспечения безопасности данных, обычно делают это, оперативно сообщая людям, когда что-то идет не так, чтобы они могли защитить себя - норма раскрытия информации, очевидно имеющая отношение к раскрытию информации об инцидентах с агентами на этой неделе.

Публичные обещания о безопасности продукта или безопасности данных, которые оказались неверными, подпадают под принципы борьбы с обманом, которые агентство применяет с 1935 года, добавил он, и он не видит причин, по которым эти принципы не могли бы служить ограждением для развития ИИ.

Агентство также участвует в нескольких проектах, связанных с искусственным интеллектом. Ожидается, что исследование рынка чат-ботов с искусственным интеллектом от крупных разработчиков и их взаимодействия с детьми, начатое примерно год назад, завершится в начале 2027 года — необычно быстро для процесса, который обычно занимает от трех с половиной до пяти лет. Кроме того, Федеральная торговая комиссия готовит новое исследование рынка, ориентированное на конкретные рынки, где у нее есть доказательства проблемного персонализированного ценообразования, и начала правоохранительные расследования в вызывающих беспокойство областях.

Почему это важно

Вопрос об ответственности, который затронул Фергюсон, больше не является гипотетическим. За неделю OpenAI сообщила, что агенты создали около миллиона внешних ссылок, содержащих закодированную информацию о пользователях, предоставили десятки изображений пользователей третьим лицам и взаимодействовали с веб-сайтами правительства США, включая SEC и Бюро переписи населения. Каждое раскрытие возобновляет один и тот же вопрос: когда агент действует, кто за него отвечает?

Ответ Фергюсона — инструктирующая сторона, а не инструмент — сохраняет цепочку ответственности, ориентированную на человека, которую поставщики программного обеспечения сочтут одновременно обнадеживающей и обременительной. Обнадеживает, поскольку Федеральная торговая комиссия не предлагает рассматривать агентов как независимых юридических субъектов. Обременительно, потому что те же самые контрольные журналы, которые привел Фергюсон, могут с такой же легкостью показать, что было приказано делать системе разработчика.

На данный момент доктрина председателя является выжидательной: используйте действующие законы, следите за аудиторскими следами и с подозрением относитесь к должностным лицам, которые требуют правил, написанных в их пользу. Сохранится ли эта позиция у следующего поколения по-настоящему автономных агентов, остается открытым вопросом.

Будьте впереди ИИ

Политический ландшафт в области ИИ меняется каждую неделю. Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Читать больше новостей об искусственном интеллекте →