Сотрудников небольшого правительственного учреждения США, ответственного за тестирование безопасности передовых моделей искусственного интеллекта, недавно попросили неофициально отчитываться перед офисом Белого дома, сообщило в субботу агентство Associated Press, что вызвало новые опасения по поводу независимости главного оценщика безопасности искусственного интеллекта в стране.

По данным AP, центр по продвижению инноваций и стандартов сверхинтеллекта, известный как CAISSI и расположенный в Министерстве торговли, также прекратил публикацию своих исследований. Доклад появился на фоне растущего общественного беспокойства по поводу ряда историй о вышедших из-под контроля агентах ИИ, и в нем описывается сторожевой пес, который не укомплектован персоналом, лишен лидера и становится все более тихим. Подробнее об этой истории — в нашем больше статей об ИИ.

Что делает CAISSI и что обнаружило AP

CAISSI отвечает за оценку безопасности новых предложений ИИ до того, как они станут достоянием общественности. Эта задача включает в себя оценку того, насколько хорошо передовые модели противостоят неправомерному использованию для кибератак и другого серьезного вреда. По данным AP, сотрудников центра «недавно» попросили неофициально явиться в офис Белого дома. Информационное агентство процитировало двух бывших правительственных чиновников, знакомых с обсуждениями, которые говорили анонимно, чтобы защитить нынешних сотрудников. Белый дом не ответил на конкретные вопросы о центре.

Масштаб операции скромный. AP сообщает, что CAISSI получает около 10 миллионов долларов в год — примерно одну восьмую от того, что получает ее коллега из Соединенного Королевства, хотя именно в Соединенных Штатах создается большинство передовых моделей.

Неформальная система отчетности — это лишь последний сбой в центре. AP описывает вакуум руководства, продолжавшийся несколько месяцев: директор был принят на работу в апреле и уволен через несколько дней, его замена продлилась несколько месяцев до отставки, а глава головного института в настоящее время исполняет обязанности директора. На практике это означает, что никто с постоянным мандатом в настоящее время не защищает независимость центра.

Сторожевой пес, который прекратил публикацию

Более значимое изменение, по мнению AP, заключается в том, чем центр больше не занимается. В августе Конгресс спросил, почему CAISSI прекратил публично публиковать отчеты о том, как системы ИИ ведут себя в ходе испытаний на безопасность. Тестирование перед развертыванием действует как публичная проверка разработчиков моделей только в том случае, если его результаты видны за пределами лаборатории, а на данный момент это не так.

Сдвиг не возник на пустом месте. В октябре агентство Reuters со ссылкой на репортаж The Information сообщило, что администрация планировала перевести в Белый дом трех высокопоставленных чиновников CAISSI. Представитель Белого дома сообщил тогда The Information, что проблемы координации с министерством торговли указывают на необходимость приблизить руководство центра к принятию решений с помощью ИИ. Согласно этому отчету, чиновники будут подчиняться Майклу Крациосу, руководителю Управления политики в области науки и технологий, и национальному кибер-директору Шону Кэрнкроссу. Примерно шесть месяцев назад министр торговли Говард Лютник пригласил этих двоих совместно управлять центром.

Если прочитать вместе, новый отчет AP предполагает, что план реализуется на практике – неформально и опережает любую официальную реструктуризацию.

Обеспокоенность независимостью в обоих направлениях

Критики, которых цитирует AP, обеспокоены тем, что решения, касающиеся рисков кибербезопасности и биологического оружия, могут быть политизированы или что выводы могут быть смягчены в соответствии с требованиями технологической отрасли. Амос То из Центра юстиции Бреннана сообщил агентству AP, что такие решения имеют огромные общественные последствия и должны быть разъяснены публично. Кэролайн Сигел Сингх из Федерации американских ученых описала такие центры, как CAISSI, как мощные учреждения, которые могут радикально улучшить жизнь или сделать наоборот.

Есть контраргумент, и AP его не отвергает. Оценка способности модели помочь в написании вредоносного ПО является вопросом национальной безопасности, и у администрации, которая хочет видеть, кто видит эти результаты, есть оправданные аргументы. Трудность носит институциональный характер: судья, который отвечает перед спонсорами одной из команд, не имеет возможности правильно судить об игре, а центр прекратил публиковать отчеты, которые в противном случае продемонстрировали бы его независимость.

Почему это важно для строителей и покупателей

Для компаний, строящихся на передовых моделях, практический риск, указанный в отчетности, не является запретом — это неопределенность. Если оценки останутся секретными и будут учитываться при экспортном контроле и государственных закупках, лаборатория может потерять контракт или рынок из-за заключения, которое она никогда не сможет увидеть или оспорить. Этот риск без всякого предупреждения распространится по цепочке поставок на последующую продукцию.

Далее стоит посмотреть две вещи. Во-первых, назначает ли администрация постоянного директора центра и кто его выбирает. Второй вопрос заключается в том, собирается ли Конгресс, который уже оказал давление на центр из-за его молчания по поводу опубликованных отчетов, прописать независимость центра в законе. До тех пор, пока не произойдет ни того, ни другого, передовой американский арбитр по безопасности ИИ действует с бюджетом в 10 миллионов долларов, без постоянного лидера и с линией подчинения, ведущей к Белому дому.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →