OpenAI ведет переговоры с несколькими независимыми оценщиками, чтобы помочь увеличить число компаний, которые обладают опытом в области безопасности ИИ и могут предоставить эффективные сторонние оценки, сообщила компания в сообщении в блоге, опубликованном во вторник, 22 сентября, как сообщает PYMNTS.

В сообщении излагаются предлагаемые OpenAI приоритеты и принципы эффективного стороннего надзора — структура, по его словам, должна применяться ко всем передовым лабораториям искусственного интеллекта, когда они обучают, оценивают и развертывают все более эффективные модели. Объявление было сделано в середине необычно напряженного месяца для политики безопасности ИИ и воспринимается одновременно как уступка критикам и попытка сформировать правила до того, как их напишут правительства. Для всех, кто следит за [последними новостями об искусственном интеллекте] (https://aibuzzwire.news), это последний шаг в недельном соревновании между лабораториями, их критиками и регулирующими органами за то, кто сможет проверить безопасность передовых моделей.

Что предлагает OpenAI

«Мы стремимся поддерживать независимых оценщиков и устанавливать более четкие, общие международные стандарты — как через будущие законы, так и через инициативы частного управления — для эффективных сторонних оценок», — говорится в сообщении OpenAI, согласно PYMNTS.

Основная проблема, которую описывает OpenAI, — это провал рынка: просто слишком мало организаций, обладающих технической глубиной для аудита передовой модели. Значимая оценка безопасности требует доступа к невыпущенным системам, опыта в областях от кибербезопасности до биобезопасности, а также институциональной независимости для публикации нежелательных результатов. Нанимая и поддерживая нескольких оценщиков, а не одного привилегированного аудитора, OpenAI заявляет, что хочет построить экосистему, в которой оценка третьей стороной станет обычной частью развертывания передовых систем, а не разовым мероприятием по связям с общественностью.

Компания не назвала имен экспертов, с которыми она ведет переговоры, и еще неизвестно, предоставят ли полученные в результате договоренности оценщикам доступ, финансовую независимость и права на публикацию, которые исследователи безопасности считают значимыми.

Неделя резкой критики политики в области ИИ

Это предложение появилось на фоне стремительной последовательности политических событий, которые определили сентябрьские дебаты по ИИ:

  • Понедельник, 21 сентября: OpenAI призвала США возглавить международные усилия по разработке глобальных технических стандартов для передового ИИ, включая рекурсивное самосовершенствование — этап, на котором системы ИИ совершенствуются сами. Компания предупредила, что полностью автономная разработка ИИ может превзойти способность людей понимать и контролировать ее, и заявила, что решения о том, следует ли действовать и как действовать, необходимо принимать сейчас.
  • Пятница, 18 сентября: Губернатор Калифорнии Гэвин Ньюсом подписал указ о созыве национальных экспертов для усиления законов штата о безопасности ИИ, явно направленных на ускорение внедрения нового стороннего надзора за рисками безопасности в системах ИИ.
  • Суббота, 19 сентября: Президент Дональд Трамп отверг проблемы безопасности отрасли в сообщении Truth Social, написав: «Мы никоим образом не будем препятствовать или подавлять рост этой невероятной отрасли. ИИ — это следующая промышленная революция, или Интернет, но он будет еще более масштабным и влиятельным, возможно, на долю 25% ВВП нашей страны».

Как мы сообщали ранее на этой неделе, предложение стандартов OpenAI под руководством США ознаменовало разительный сдвиг для компании, которая годами сопротивлялась обязательному надзору, а новые принципы оценки третьей стороной распространяют эту позицию на фронт частного управления.

Проблема независимости

Принятие OpenAI внешних наблюдателей последовало за параллельным предложением его главного конкурента. Примерно за неделю до этого генеральный директор Anthropic Дарио Амодей опубликовал эссе, в котором предлагался план безопасности ИИ, основанный на независимых оценщиках, встроенных в ведущие компании ИИ, координации между компаниями в демократических странах и, в конечном итоге, международном соглашении, включающем Китай.

Оба предложения сразу же вызвали скептицизм со стороны экспертов. CNBC сообщил, что коалиция из более чем 100 экспертов по искусственному интеллекту призывает к независимости и прозрачности Anthropic, OpenAI и других модельных лабораторий, проводящих оценки, предупреждая, что оценщики, которые работают в компаниях, которые они проверяют, или получают от них оплату, сталкиваются с неизбежными конфликтами интересов. Наблюдатели, поддерживаемые пионером ИИ Джеффри Хинтоном, настаивали на том, чтобы обе компании подробно рассказали о своих планах безопасности, а комментаторы отметили вращающуюся дверь между организациями, занимающимися оценкой безопасности ИИ, и самими лабораториями: люди, проверяющие домашнее задание по безопасности, могут также быть теми, кто его написал.

Эта напряженность является сутью дебатов, которые новый пост OpenAI пытается разрядить. Ответ компании — больше оценщиков, общие международные стандарты и надзор, усиленный как будущими законами, так и частными инициативами — является основой, но еще не гарантией. Критики укажут, что лаборатории, предлагающие правила, — это те же самые лаборатории, которым они подчиняются, и что самоформируемое управление исторически отдавало предпочтение компаниям, занимающимся их формированием.

Почему это важно

Следующие передовые модели уже проходят обучение, и окно для надзора за разработкой перед развертыванием закрывается. Если набор независимых оценщиков OpenAI даст аудиторам реальный доступ и реальную независимость, это может стать образцом того, как передовой ИИ управляется во всем мире — частный режим, который законодатели в Вашингтоне, Брюсселе и других местах до сих пор не смогли создать сами. Если компания предоставит аффилированные консалтинговые компании с соглашениями о неразглашении, это подтвердит худшие прогнозы скептиков.

В любом случае, тот факт, что OpenAI конкурирует с Anthropic за то, кто сможет предложить наиболее надежный режим надзора, сам по себе является новым. Год назад лаборатории были едины в основном в противодействии регулированию. Теперь они спешат дать этому определение.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Читать больше новостей об искусственном интеллекте →