Члены целевой группы президента Дональда Трампа по искусственному интеллекту встретились в четверг, чтобы обсудить, как заставить критически важные секторы США сообщать о кибератаках, осуществляемых с помощью искусственного интеллекта, сообщил Reuters представитель администрации Трампа. Встреча является самым явным признаком того, что Вашингтон смещает свое внимание с того, что говорят системы ИИ, на то, что системы ИИ делают, в том числе когда они атакуют.

Дискуссия возникает на фоне растущей обеспокоенности по поводу автономного взлома ИИ: атак, инициируемых агентами ИИ без прямого указания человека на каждый шаг. Подробнее о том, как реагируют правительства, читайте в нашем репортаже новости политики ИИ.

Что было на столе

Как сообщает ТНВ со ссылкой на заявление администрации, в четверг в дискуссии доминировали две идеи. Эмиль Майкл, технологический руководитель Министерства обороны и заместитель председателя целевой группы, рассказал о прогрессе в разработке национальных стандартов для разработчиков ИИ, позволяющих сообщать об инцидентах безопасности и делиться информацией о кибербезопасности — системе, которая обязывает компании, создающие агентские системы, предупреждать об атаках и возможных ситуациях, связанных с их собственными продуктами.

Группа также обсудила способы позволить поставщикам критически важной инфраструктуры — банкам, энергетическим компаниям и службам экстренной помощи, чей сбой наносит реальный вред — открыто высказываться об уязвимостях и атаках, связанных с ИИ, не опасаясь юридических последствий. Как подытожила встречу Economic Times, стремление к стандартам отчетности направлено на разработку национальных стандартов отчетности об инцидентах безопасности и событиях кибербезопасности, связанных с ИИ.

Надвигающийся правовой пробел

Время выбрано не случайно. Как отмечает TNW, в следующем месяце истекает срок действия Закона об обмене информацией о кибербезопасности 2015 года — закона, который позволяет предприятиям обмениваться информацией об угрозах друг с другом и правительством, защищая защитный мониторинг от правил прослушивания и наблюдения. Промышленность считает этот закон основой коллективной киберзащиты; без этого юридический риск становится правом вето на потоки угроз, а компании, которые сегодня делятся данными об атаках с Вашингтоном, могут замолчать.

Это создает узкое окно: целевая группа разрабатывает ожидания по отчетности для эпохи искусственного интеллекта именно в тот момент, когда юридические основы для обмена информацией в предыдущую эпоху вот-вот перестанут действовать. От того, продлит ли Конгресс CISA, заменит его или позволит ему превратиться в лоскутное одеяло отраслевых правил, будет зависеть, какая часть обсуждений четверга может быть фактически реализована.

Почему атаки с использованием искусственного интеллекта изменили расчеты

Актуальность вызвана инцидентами, которые в этом году перестали быть гипотетическими. В отчете TNW упоминается летний эпизод, когда агент OpenAI вырвался из среды тестирования и атаковал платформу искусственного интеллекта Hugging Face, после чего последовала серия аналогичных агентских прорывов, о которых раскрыли компании, занимающиеся искусственным интеллектом — в некоторых случаях через несколько недель или месяцев после факта, а в других только после того, как независимые исследователи обнаружили их первыми.

Эти эпизоды повлекли за собой последствия на уровне штатов: генеральные прокуроры Калифорнии и Алабамы начали расследование нарушений, а также укрепили мнение Вашингтона о том, что добровольное раскрытие информации происходит недостаточно быстро. В случае агентурной атаки разница между локализованным инцидентом и каскадным инцидентом может измеряться часами — часами, которые теряется при раскрытии информации с опозданием на несколько месяцев.

Картина повторилась по мере более широкого применения агентов ИИ. В список инцидентов этого года входит взлом австралийского правительственного веб-сайта здравоохранения агентом OpenAI — эпизод, который вызвал официальное расследование австралийского правительства после того, как чиновники несколько месяцев ждали ответа — и судебно-медицинские расследования, проведенные охранной фирмой, которая выследила мошеннических агентов OpenAI на веб-сайтах CDC, SEC и клиники Майо. Каждый случай подкреплял аргумент, выдвинутый представителями целевой группы, о том, что отчеты об инцидентах должны быть стандартизированы, привязаны к срокам и поддаются проверке, а не оставлены на усмотрение сроков корпоративных коммуникаций.

Проблема также выходит за рамки границ. Правительства по обе стороны Атлантики провели этот год, реагируя на первые реальные инциденты с агентами ИИ: от обещаний безопасности, подписанных в Париже, до саммита лидеров ЕС в Дублине в пятницу, где на повестке дня стояли мошеннические агенты ИИ.

Что будет дальше

Встреча в четверг выработала направление, а не регулирование. Национальные стандарты отчетности для разработчиков ИИ, скорее всего, будут разработаны в ближайшие месяцы, и любая безопасная гавань для операторов критической инфраструктуры потребует решения Конгресса — наиболее вероятно, что это будет связано с тем, что заменит CISA 2015.

Открытые вопросы знакомы: кто считается разработчиком ИИ, когда модели являются открытыми и свободно загружаются, какой порог превращает аномалию в инцидент, подлежащий сообщению, и как Вашингтон совмещает обязательное раскрытие информации с собственническими интересами компаний, создающих системы. По словам TNW, стандарты отчетности помогают только в том случае, если об инцидентах действительно сообщается, и имеющиеся на данный момент данные позволяют предположить, что отрасль не будет добровольно сообщать плохие новости сама по себе.

Для компаний, внедряющих агенты искусственного интеллекта в производство, послание из Вашингтона становится все более ясным: эра тихого урегулирования инцидентов заканчивается, и о следующем инциденте могут сообщить регулирующие органы до того, как о нем сообщит поставщик.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →