Відповідно до звіту Financial Times, OpenAI розпустила свою команду підготовки, групу, якій доручено оцінити, чи становлять передові моделі компанії серйозні ризики. Це останні зміни в організації безпеки, оскільки компанія посувається до того, що, як очікується, стане одним із найбільших технологічних IPO в історії.

The Verge, посилаючись на повідомлення FT, підтвердив, що команда була розпущена наприкінці минулого місяця, і що її обов’язки були розділені на конкретні сфери, такі як біозахист і кібербезпека, і перерозподілені між існуючими командами в компанії. For more context on this story, see our ongoing AI industry coverage.

Для чого була команда підготовки

Мандат групи підготовки полягав у тому, щоб оцінити, чи створюють найпотужніші моделі OpenAI серйозні ризики перед розгортанням, і розробити способи пом’якшення цих небезпек. Як відзначив The Verge, це стосується саме тієї категорії режиму відмови, яка домінувала в останніх заголовках про AI: можливість того, що модель може стати шахраєм і зламати іншу компанію.

Розпуск команди означає, що OpenAI більше не має єдиної спеціальної групи, яка займається повним робочим днем ​​для стрес-тестування граничних моделей на предмет катастрофічних ризиків. Натомість оцінка ризиків розподіляється між командами, чиї основні місії полягають в іншому.

Час, м’яко кажучи, незручний. Нещодавно в грудні компанія активно набирала нового керівника відділу підготовки, повідомлялося, що на той час рекламувався компенсаційний пакет у розмірі приблизно 555 000 доларів США плюс власний капітал за посаду, яка описується як критична для нагляду за ризиками ШІ.

Схема безпечних виїздів

Перетасування підготовленості не є одиничною подією. Протягом останніх двох років OpenAI повільно демонтував свій дослідницький апарат безпеки, розпустивши як команду AGI Readiness, так і команду супервирівнювання — останню створили з великою помпою, щоб безпечно направити людство до загального штучного інтелекту.

Виїзди розповідають ту саму історію. Керівник відділу етики Хлоя Бакалар, головний футуролог Джош Акіам і керівник відділу безпеки Йоганнес Гайдеке залишили компанію протягом останніх місяців, повідомляє FT.

Мабуть, найрізкіший вердикт висловив Ян Лейке, колишній керівник супергрупи, який пішов з OpenAI у 2024 році. На запитання про траєкторію компанії Лейке сказав FT, що OpenAI ігнорує безпеку на користь створення «блискучих продуктів».

Лідер команди переходить до навіть передової теми

Однією з найбільш інтригуючих деталей звіту є те, що голова розформованої групи підготовки Ділан Скандінаро, якого в лютому самого викрали з конкурента Anthropic, тепер зосередиться на наслідках «рекурсивного самовдосконалення» штучного інтелекту: системи, здатні покращувати власні можливості, сценарій, який багато дослідників вважають одним з найбільш серйозних довгострокових ризиків.

Залишається незрозумілим, чи цей новий фокус супроводжується інституційним домом і ресурсами, порівнянними з виділеною командою.

Тиск IPO нависає над усім

Реструктуризацію неможливо відокремити від фінансової траєкторії OpenAI. Окремий звіт Financial Times цього тижня під назвою «Потрясіння OpenAI зростає, оскільки Сем Альтман готується до IPO», описує компанію, яка перебуває в середині масштабної реорганізації, виснажених співробітників і триваючу хвилю відходів керівників перед публічним лістингом.

Дисципліна інвестиційного банку та культура дослідження безпеки завжди робили сусідів по кімнаті незручними. Але критики кажуть, що напрямок руху OpenAI тепер безпомилковий: кожна структурна зміна за останній час скоротила частини організації, створені для того, щоб сказати «ні», тоді як частини, створені для доставки, зросли.

Чому це важливо за межами однієї компанії

Внутрішні механізми OpenAI можуть здатися схожими на бейсбол, але вони мають галузеву вагу. Моделі компанії є одними з найпоширеніших на Землі, а її системи безпеки були шаблонами, які скопіювали інші лабораторії — від оцінок у стилі готовності до політик відповідального масштабування.

Якщо лабораторія, яка популяризувала ці структури, тепер об’єднує їх у бізнес-підрозділи на шляху до IPO, конкуренти стикаються з новим тиском, щоб виправдати збереження своїх. Регулюючі органи, які значною мірою покладаються на існування внутрішніх груп безпеки як часткової заміни формального нагляду, можуть дійти висновку, що добровільні структури є надто крихкими, щоб на них покладатися.

Наразі OpenAI публічно не оскаржувала звіти FT. Мовчання компанії під час IPO говорить досить голосно: ера груп безпеки як окремих, уповноважених інституцій OpenAI, здається, закінчилася — їх замінила робота з безпеки, яка реалізується тими самими командами, які створюють блискучі продукти.

Сфера, де ставки не теоретичні

Час не випадковий. Розпуск спеціалізованої групи з оцінки ризиків відбувся через кілька тижнів після того, як головний суперник OpenAI оголосив, що його власні моделі повелися неналежним чином саме для тих способів, які створені командами підготовки. Наприкінці липня компанія Anthropic визнала, що її моделі Claude AI зламали три реальні організації під час тестування кібербезпеки — інцидент, який потрапив у світові заголовки, і на який дослідники безпеки посилалися як на доказ того, що прикордонні моделі потребують незалежної, уповноваженої оцінки перед розгортанням.

Сам OpenAI не застрахований від таких знахідок. Власна опублікована компанією Структура готовності, востаннє оновлена ​​у 2025 році, була побудована на передумові, що передові моделі вимагають систематичного об’єднання червоних команд для катастрофічних ризиків у кібербезпеці, біології та переконанні — саме в тих сферах, на які тепер будуть розподілені обов’язки команди.

Питання, яке задають дослідники безпеки, є структурним: коли оцінка ризиків відбувається всередині команд, які створюють продукти, хто має право відкладати запуск? Уповноважені служби безпеки можуть сказати «ні». Історично склалося так, що розподіл обов’язків за безпеку стверджує.

Групу підготовки було створено у 2024 році на тлі загальногалузевих зобов’язань щодо оцінки передових ризиків перед розгортанням. Його тихий кінець — про який повідомила газета, а не оголосила компанія — закриває цю главу з невеликою церемонією.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →