Google DeepMind запустил новый институт, призванный расширить дискуссию об общем искусственном интеллекте, и его первые эссе включают конкретное предложение Демиса Хассабиса о создании возглавляемой США организации, которая будет оценивать передовые модели искусственного интеллекта перед их внедрением.

По данным TechCrunch, институт DeepMind, созданный в среду Google и исследователями Google DeepMind, называет соучредителя DeepMind Шейна Легга своим управляющим редактором, а исполнительным директором Google Джеймсом Маньика и председателем Google DeepMind Демисом Хассабисом в качестве директоров. Подробнее об этой истории — в нашем последние разработки в ИИ.

Место для несогласия

Заявленная цель института — выявить искренние разногласия, в том числе внутри самой Google. «Они не всегда будут соглашаться и, скорее всего, изменят свое мнение, поскольку на быстро движущейся границе появляется все больше данных и информации», - говорится в объявлении.

Его первый сборник включает в себя четыре эссе, посвященных экономической политике управления потенциальным прорывом в сфере искусственного интеллекта, сохранению удобочитаемых моделей рассуждений, принципам человеческого процветания и структуре для оценки передовых моделей ИИ.

Институционализация открытого разногласия — необычный шаг для корпоративной лаборатории искусственного интеллекта, где публичные сообщения, как правило, жестко контролируются. По задумке, институт дает исследователям Google возможность отстаивать позиции, которые могут противоречить коммерческим интересам компании или друг друга.

Эссе о прозрачности: обратите внимание на «непрозрачную последовательную глубину»

В одном из четырех эссе исследователей безопасности DeepMind Рохина Шаха и Анки Драган утверждается, что сокращение окна прозрачности ИИ — способности видеть и проверять пошаговые рассуждения модели — не является неизбежным, даже несмотря на то, что новые архитектуры усложняют мониторинг самых мощных моделей.

Авторы говорят, что разработчики и регулирующие органы должны напрямую решать вопросы безопасности. Конкретно это может означать ограничение того, что они называют «непрозрачной последовательной глубиной» — количества последовательных вычислений, которые модель может выполнять без создания читаемого логического следа — или требование от разработчиков продемонстрировать, что менее прозрачные системы остаются такими же контролируемыми, как и интерпретируемые.

Это предложение примечательно тем, что оно рассматривает потерю интерпретируемости как задуманный и политический выбор, а не как неизбежное последствие масштаба, открывая двери для требований, которые можно было бы прописать в нормативных актах.

Предложение Хассабиса: орган США по пограничным стандартам

Пожалуй, наиболее значимое эссе принадлежит Хассабису. Он предлагает создать орган по стандартизации искусственного интеллекта под руководством США, которому будет поручено оценивать самые передовые модели искусственного интеллекта. В соответствии с этой структурой разработчики первоначально будут добровольно отправлять модели на рассмотрение не позднее, чем за 30 дней до выпуска. Как только система оценки докажет свою эффективность, прохождение ее испытаний может стать требованием для внедрения передовых моделей в Соединенных Штатах.

Этот орган начнет с разработки оценок в консультации с компаниями, занимающимися искусственным интеллектом, но в конечном итоге разработает независимые, нераскрытые оценки — то, что в эссе называется «отложенными» тестами — чтобы не дать лабораториям адаптировать свои модели к известным критериям, что является хорошо задокументированным способом отказа режимов общественной оценки.

Хассабис также оставил дверь открытой для эскалации: рамки могут быть «ужесточены, если этого потребует серьезность ситуации», потенциально включая скоординированное замедление работы передовых разработчиков ИИ.

Почему важны два других эссе

Остальные два эссе — об экономической политике управления разрушением ОИИ и о принципах процветания человечества — завершают сборник, в котором ОИИ рассматривается как проблема всего общества, а не чисто техническая. Экономическое смещение уже давно является наиболее ощутимой общественной проблемой, связанной с передовым ИИ, и его сопоставление с политикой оценки и интерпретируемостью позволяет предположить, что институт хочет, чтобы политики рассматривали эти части как одну повестку дня, а не как отдельные дебаты.

Эта широта также является сигналом о позиционировании Google. Компания конкурирует за корпоративных клиентов и государственные контракты, одновременно заявляя, что пограничные системы нуждаются в проверке извне. Основная задача института – публиковать информацию о напряженности, а не сглаживать ее.

От беспокойства к конкретным предложениям

Эссе появляются по мере того, как дебаты по безопасности в отрасли смещаются от общих заявлений о проблемах к конкретным механизмам: требованиям раскрытия информации, внешнему контролю и — если меры безопасности не работают — скоординированному замедлению. Этот сдвиг ускорился на этой неделе, когда лидеры отрасли поддержали элементы призыва генерального директора Anthropic Дарио Амодеи «ускорить» передовое развитие искусственного интеллекта, согласно TechCrunch.

Время имеет значение. Правительства по обе стороны Атлантики обдумывают, как контролировать системы, возможности которых развиваются быстрее, чем инфраструктура оценки. Предложение, выдвинутое ведущей лабораторией искусственного интеллекта и включающее тщательную предварительную проверку, дает политикам шаблон, номинально одобренный самой отраслью, что исторически было предпосылкой для значимого регулирования искусственного интеллекта.

Что посмотреть

Редакционная независимость института от Google станет первым испытанием. Если в эссе и дальше будут содержаться позиции, которые противоречат коммерческой дорожной карте Google (а это, возможно, и происходит в эссе о прозрачности), то это место может стать серьезным участником дебатов по политике AGI. Если он сдвинется в сторону корпоративных сообщений, это станет еще одним каналом PR в многолюдной сфере.

В любом случае, суть уже находится на рассмотрении: требования к предварительной оценке, отложенные тесты и даже скоординированное замедление публично отстаиваются одной из самых влиятельных фигур в области ИИ. Вопрос больше не в том, следует ли проводить независимую оценку передовых моделей, а в том, кто ее проводит и в какие сроки.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →