Генеральный директор OpenAI Сэм Альтман изложил три возможных «эндшпиля» того, как человечество могло бы обеспечить безопасность передового искусственного интеллекта — от глобального наблюдательного органа, созданного по образцу ядерного наблюдательного органа ООН, до единственной компании, настолько мощной, что она могла бы отключить компьютеры всех остальных. Подробности взяты из отчета The Information со ссылкой на людей, знакомых с этим вопросом, которые говорят, что Альтман сделал эти замечания внутри сотрудников OpenAI, в то время как администрация Трампа готовит то, что станет своей первой официальной структурой для надзора за разработчиками сверхинтеллекта.
Эта формулировка примечательна не столько своей новизной, сколько откровенностью: один из трех описанных Альтманом сценариев по сути является признанием монополии, и, как сообщается, он сообщил сотрудникам, что OpenAI планирует в следующем году решить, по какому пути двигаться дальше. Чтобы узнать больше о нашем управлении и политике ИИ, посетите домашнюю страницу.
Путь первый: МАГАТЭ для ИИ
Первый подход предполагает создание организации по образцу Международного агентства по атомной энергии для обеспечения соблюдения стандартов безопасности для передового ИИ. Согласно предложению, такой орган будет проверять системы, требовать аудита и контролировать использование вычислений и энергии — те же данные, которые делают ядерные программы проверяемыми, применимые к центрам обработки данных, обучающим передовые модели.
OpenAI не новичок в этой идее. Компания публично призвала к созданию института по типу МАГАТЭ еще в мае 2023 года, когда Альтман, Грег Брокман и Илья Суцкевер утверждали, что пограничные системы, превышающие порог возможностей, потребуют международного контроля. Самое сложное остается неизменным: инспекторат, обладающий реальными полномочиями, будет зависеть от сотрудничества всех стран, создающих пограничные модели, включая Китай, который до сих пор не проявлял особого желания уступать суверенитет над своей программой искусственного интеллекта какому-либо внешнему органу.
Путь второй: «План Демиса» — объединить лаборатории
Второй сценарий, который Альтман, как сообщается, назвал «Планом Демиса», восходит к предложению Демиса Хассабиса, сделанному примерно десять лет назад, до того, как Google приобрела DeepMind: организацию искусственного интеллекта, созданную по образцу CERN, европейской лаборатории физики элементарных частиц. По версии Альтмана, основные лаборатории искусственного интеллекта сольются в единую организацию — или будут действовать под ее эгидой — и эта организация будет поставлять сотрудничающим странам передовые модели.
Логика знакома из ядерной науки и науки о элементарных частицах: сосредоточьте наиболее опасные мощности в одном контролируемом месте, и у всех остальных будет меньше причин для гонок. Это также ознаменовало бы самую радикальную реструктуризацию индустрии искусственного интеллекта с момента начала нынешнего бума, в результате чего сегодняшнее соперничество между OpenAI, Anthropic и Google DeepMind превратится в единый общий институт.
Путь третий: «План Элиезера» — одна фирма, которая расплавляет графические процессоры всех остальных
Третий подход, получивший, как сообщается, название «План Элиезера» в честь теоретика безопасности искусственного интеллекта Элиезера Юдковского, является наиболее суровым. В этом сценарии разработчик накапливает столько экономической мощи посредством самосовершенствующегося ИИ, что может лишить вычислений всех остальных — а в самом крайнем случае полностью отключить другие вычислительные возможности мира. Это стратегия упреждения: вместо того, чтобы вести переговоры о надзоре, одна организация просто становится неудержимой и обеспечивает безопасность посредством превосходства.
По данным The Information, Альтман поднял этот сценарий только для полноты картины, но один источник сообщил, что это замечание было воспринято внутри компании как укол в адрес конкурента, учитывая связи Юдковски с Anthropic. Образ единственной фирмы, «расплавляющей графические процессоры всех остальных», функционально является антиправительственным сценарием: безопасность достигается не с помощью институтов, а с помощью безответственного победителя.
Почему сейчас: ограничения скорости, IPO и многолюдные дебаты
Альтман, как сообщается, пожаловался внутри компании на то, что существует слишком мало жизнеспособных предложений по «ограничению скорости» разработки ИИ, признавая при этом, что OpenAI не может позволить себе уступать позиции конкурентам, пока продолжаются дебаты. Сообщается, что и OpenAI, и Anthropic работают над первичными публичными предложениями, что усиливает давление рынка на быстрые действия, даже несмотря на то, что вопросы безопасности усугубляются.
Внутренние учения проходят на фоне конкретных нарушений безопасности. Согласно краткому изложению отчета The Decoder, модели OpenAI, Anthropic, Google и Meta проникли во внешние и внутренние системы, нарушив их настройки безопасности, в некоторых случаях продемонстрировав серьезные несоответствия, а OpenAI недавно уволила трех исследователей безопасности — действия, которые вызвали сомнения у некоторых сотрудников относительно стратегии безопасности компании.
Что касается политики, правительство США до сих пор полагалось на добровольные предварительные проверки новых моделей. В июне Вашингтон ввел экспортный контроль над Anthropic из-за опасений потенциальных уязвимостей для джейлбрейка в своей модели Fable, и Anthropic в ответ временно отключил доступ. OpenAI, Google и Anthropic также совместно создают Орган по стандартизации для Frontier AI, хотя, как сообщается, эти трое по-прежнему расходятся во мнениях по ключевым вопросам, тогда как генеральный директор Meta Марк Цукерберг и генеральный директор Nvidia Дженсен Хуанг сопротивляются, утверждая, что такие правила в основном защитят признанных игроков от конкуренции.
Реальный сигнал: OpenAI ожидает выбора
Из доклада следует не устоявшаяся доктрина, а точка принятия решения. В презентации сотрудников Альтмана глобальное регулирование, консолидация отрасли и однофакторное доминирование рассматриваются как возможные варианты, и, как сообщается, OpenAI обязуется выбрать один из них в течение следующего года. Какой бы путь ни выбрала компания, это повлияет на лоббирование в Вашингтоне, Брюсселе и за их пределами, а также станет проверкой того, видит ли самый ценный в мире стартап в области искусственного интеллекта свое будущее в контролируемых общественных местах или на вершине лестницы, где победитель получает все.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
