Генеральный директор Google DeepMind Демис Хассабис предложил создать независимый орган по стандартизации под руководством США по образцу Управления по регулированию финансовой индустрии (FINRA) для оценки и регулирования передовых моделей ИИ перед их публичным выпуском, предупреждая, что у человечества есть «драгоценное окно» для обеспечения безопасной разработки общего искусственного интеллекта.

В рамочном документе под названием «Концепция передового искусственного интеллекта и наступления новой эпохи», опубликованном на X во вторник утром, Хассабис изложил подробное предложение о том, как Соединенные Штаты могут создать надежную регулирующую инфраструктуру для самых мощных систем искусственного интеллекта. План предусматривает создание новой организации, которая будет тестировать передовые модели и разрабатывать лучшие практики для их внедрения — финансируемая индустрией искусственного интеллекта, но действующая независимо от какой-либо отдельной компании.

Чтобы получать последние последние новости в области искусственного интеллекта и углубленный анализ политики, AI Buzz Wire отслеживает события, формирующие отрасль.

Как будет работать предлагаемый орган по стандартизации

По предложению Хассабиса, лаборатории искусственного интеллекта будут добровольно делиться своими передовыми моделями с органом по стандартизации для проверки за 30 дней до публичного выпуска. Эта оценка перед развертыванием позволит оценить модели с точки зрения безопасности, защищенности и потенциальных рисков неправильного использования. Как только протокол оценки окажется эффективным и надежным, структура предусматривает формализацию процесса, чтобы передовые модели должны были пройти его перед развертыванием на рынке США.

Это предложение напрямую устраняет пробел, выявленный недавними правительственными обзорами передовых систем искусственного интеллекта. Ранее в этом году правительство США провело специальные проверки безопасности моделей Mythos от Anthropic и модели Sol от OpenAI перед их выпуском. Эти обзоры вызвали серьезную критику из-за отсутствия технической глубины и непрозрачного принятия решений о том, когда модель считается достаточно безопасной для публичного использования.

В рамках Хассабиса эти решения будут приниматься специальной организацией, укомплектованной техническими экспертами, поддерживаемой правительством США, но изолированной от политического давления. Лаборатории также должны будут сотрудничать с органом по стандартизации для устранения критических уязвимостей, обнаруженных после выпуска.

«Драгоценное окно» перед AGI

В интервью Axios, CNBC и The Economist, сопровождавшем выпуск концепции, Хассабис подчеркнул, что текущий момент представляет собой узкую возможность создать механизмы управления до того, как появится общий искусственный интеллект. Он назвал этот период «драгоценным окном», подразумевая, что окно не будет оставаться открытым бесконечно.

Хассабис уже давно выступает за активное управление искусственным интеллектом. Его концепция появилась на фоне усиливающихся дебатов о том, следует ли Соединенным Штатам создавать официальный регулятор ИИ, и если да, то какую форму он должен принять. Модель FINRA примечательна тем, что саморегулируемая организация финансовой отрасли финансируется фирмами-членами, но действует под надзором правительства, что дает ей как отраслевой опыт, так и подотчетность перед обществом.

Сопротивление со стороны администрации Трампа

Это предложение сталкивается с серьезными политическими препятствиями. Администрация Трампа выразила глубокий скептицизм в отношении создания новых органов регулирования искусственного интеллекта. Советник Белого дома по искусственному интеллекту и генеральный партнер a16z Шрирам Кришнан, который с тех пор покинул свой пост, публично отверг идею регулятора искусственного интеллекта в исполнительной власти, прямо заявив, что «FDA для искусственного интеллекта не будет».

Такая позиция привела к разногласиям чиновников администрации с некоторыми наиболее видными лидерами отрасли. Хотя такие компании, как Anthropic и OpenAI, широко поддерживают тестирование безопасности перед развертыванием, механизм и полномочия такого тестирования остаются спорными. Предложение Хассабиса пытается решить эту проблему, позиционируя орган по стандартизации как финансируемый промышленностью и добровольный, а формализация происходит только после того, как процесс докажет свою ценность.

Опираясь на существующие усилия

Фреймворк не начинается с нуля. Он основан на добровольных обязательствах, которые уже взяли на себя несколько передовых компаний в области искусственного интеллекта в отношении тестирования безопасности и «красной команды». Он также опирается на международные усилия, в том числе на британский Институт безопасности искусственного интеллекта и Хиросимский процесс искусственного интеллекта «Большой семерки», которые создали предварительные рамки для оценки передовых моделей.

Однако предложение Хассабиса идет дальше, призывая к созданию постоянной, хорошо обеспеченной ресурсами организации с мандатом тестировать каждую пограничную модель перед выпуском — уровень проверки, который не обеспечивает ни одна нынешняя организация. Аналогия с FINRA предполагает масштабную профессиональную деятельность сотен технических экспертов, а не небольшую консультативную группу.

Предложение также касается мониторинга после развертывания, требующего от лабораторий работать с органом по стандартизации над уязвимостями, обнаруженными после того, как модель становится общедоступной. Это отражает растущее признание того, что риски безопасности не заканчиваются с запуском, о чем свидетельствуют взломы и случаи неправильного использования, возникшие после выпуска нескольких громких моделей.

Реакция отрасли и следующие шаги

Эта структура привлекла значительное внимание всего политического сообщества в области искусственного интеллекта. Сторонники утверждают, что заслуживающий доверия режим тестирования перед развертыванием может укрепить общественное доверие к передовым моделям и снизить риск катастрофического неправильного использования. Критики, в том числе некоторые сторонники свободного рынка, предупреждают, что требование об обязательном тестировании может укрепить позиции крупных игроков, создавая нормативные барьеры для небольших компаний и разработчиков ПО с открытым исходным кодом.

В предложении Хассабиса не уточняется, какие модели будут квалифицироваться как «пограничные» — пороговый вопрос, который определит сферу действия любого будущего режима регулирования. Это также оставляет открытым вопрос о том, как орган по стандартизации будет обращаться с секретными приложениями или приложениями двойного назначения, особенно с учетом недавних опасений по поводу использования моделей искусственного интеллекта для взлома секретных систем США.

Время внесения предложения выбрано намеренно. Учитывая, что в ближайшие несколько лет потенциал использования искусственного интеллекта становится все более вероятным, Хассабис настаивает на том, что инфраструктуру управления необходимо создавать сейчас, а не после того, как появится опасный потенциал. Будет ли Вашингтон действовать по его призыву, еще неизвестно.

Будьте впереди ИИ

Чтобы получить всестороннюю информацию о политике, регулировании и развитии отрасли в области ИИ, посетите AI Buzz Wire.

Читать больше новостей об искусственном интеллекте →