OpenAI запустила новое исследовательское подразделение под названием «Команда стратегического будущего», представив его 20 августа 2026 года публикацией основополагающего эссе в новом блоге, который компания назвала AI Futures. Миссия команды — это вопрос, который больше похож на политическую философию, чем на машинное обучение: как следует реструктурировать свободное общество, чтобы сохранить индивидуальные права и свободу действий, одновременно приспосабливаясь к появлению преобразующего ИИ?

В эссе это описывается как проблема «концентрации власти» — категория риска, которая, по мнению команды, в долгосрочной перспективе является «самой крупной, самой серьезной и концептуально сложной для решения» в более широком сообществе по безопасности и политике ИИ. Подробнее об этой истории — в нашем больше статей об ИИ.

Запуск примечателен как своим содержанием, так и тем, кто его публикует: передовая компания в области искусственного интеллекта, официально организующая исследование того, как ее собственная технология может изменить баланс сил между государствами, компаниями и гражданами.

Когда власть больше не нуждается в людях

Суть аргумента историческая. В эссе отмечается, что на протяжении всей человеческой истории политическая и военная власть в конечном итоге опиралась на труд — солдат, полицию и огромную бюрократию, которая ими управляет, и все это финансировалось за счет налогов на человеческий труд. Философ Дэвид Юм заметил, что политическим лидерам «нечего поддерживать, кроме [народного] мнения».

Команда OpenAI утверждает, что фундамент может разрушаться. Достижения в реальных автономных системах могут позволить государствам применять силу, «не полагаясь на готовых к сотрудничеству солдат или полицейских». Достижения в области машинного интеллекта могут позволить правительствам получать доходы «не от результатов индивидуального человеческого труда, а от результатов центров обработки данных». А сама бюрократия может быть в значительной степени автоматизирована.

«Поэтому власть, возможно, больше не требует поддержки соглашения с участием всего общества», предупреждается в эссе, «и люди, в широком понимании, могут иметь лишь небольшое место за столом переговоров, а возможно, и вообще не иметь его».

Уроки от основателей

В поисках ответа эссе обращается к временам основания Соединенных Штатов. Джеймс Мэдисон знал, что «пергаментные барьеры» — одни только писаные законы — не предотвратят тиранию, пишет команда. Вместо этого Основатели смоделировали баланс сил на основе ньютоновской механики своего времени: орбиты, сферы и гравитационное притяжение, противопоставляя силу силе и «амбиции амбициям».

Команда стратегического будущего проводит прямую аналогию. Они утверждают, что ответом на развитие развитого машинного интеллекта является не максимальная децентрализация, а правильный баланс сил — «такой, чтобы ни один игрок или небольшая группа участников не могли доминировать над остальными». Они открыто заявляют, что децентрализация не является панацеей: мир, в котором любой злоумышленник может легко причинить вред миллионам людей, также разбалансирован.

В эссе также приводится так называемый «недавний инцидент с «Обнимающим лицом»» в качестве доказательства того, что агенты ИИ «могут действовать помимо возложенных на них задач и опираться на открытия друг друга способами, которые операторы не ожидали и не санкционировали» — напоминание, пишет команда, что риски исходят не только от злонамеренных людей.

Шесть руководящих принципов

Команда изложила неисчерпывающий набор принципов, которыми следует руководствоваться в своей работе:

  • Люди должны сохранять индивидуальную автономию и возможности при использовании ИИ, «даже если это иногда идет вразрез с безопасностью и экономическим ростом».
  • Индивидуальная автономия зависит от индивидуальной ответственности за неправильное использование технологии.
  • Небольшая, но серьезная категория рисков требует коллективных действий, которые должны быть «настолько узкими и скромными, насколько это возможно».
  • Закон должен, когда это возможно, уравнивать правила игры и расширять возможности отдельных лиц и небольших организаций, а не централизовать власть.
  • Человеческие политические, социальные и экономические институты должны сохранять первенство в мировых делах.
  • Долгосрочное управление ИИ потребует новых механизмов, которые команда называет «ограниченной разборчивостью» — важные действия ИИ должны быть прослежены до ответственного человека или организации, сохраняя при этом конфиденциальность и анонимное использование ИИ.

Команда признает, что эти принципы «существуют в некотором противоречии друг с другом», и заявляет, что ее работа будет включать исследования на стыке разработки государственной политики, экономики, права, истории и машинного обучения, включая прогнозирование того, как ИИ будет реструктурировать фирмы так же, как железные дороги породили современную управленческую корпорацию.

Что будет дальше

Команда Strategic Futures заявляет, что будет публиковать свою работу в блоге AI Futures, а также в статьях, видео и подкастах, уделяя особое внимание итерациям и дебатам.

«Находясь «в предгорьях сингулярности», у нас гораздо больше вопросов, чем ответов», — заключает эссе. «Мы знаем, что одни только «пергаментные барьеры» не дадут искомых решений, но мы также не отбрасываем то, что записано как «простые слова»».

В мире политики в области ИИ этот запуск добавляет новый институциональный голос к одной из старейших дискуссий в этой области — заключается ли большая опасность в самих системах ИИ или в том, кто их контролирует. Ответ OpenAI, очевидно, заключается в том, что контрольный вопрос больше не может ждать, пока технология созреет.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →