Google DeepMind наймає команду ядерних фахівців, щоб оцінити, чи можуть передові моделі штучного інтелекту допомогти у розробці ядерної зброї, згідно зі списками вакансій, які вперше оприлюднило галузеве видання Data Center Dynamics і висвітлено цього тижня у Futurism.
У списках, опублікованих на сайті кар’єри Google, шукаються «висококваліфіковані фізики та інженери-ядерники» на роль експерта з ядерної тематики в команді з хімічних, біологічних, радіологічних, ядерних і високопотужних вибухових речовин (CBRNE), яка входить до організації DeepMind з відповідального розвитку та інновацій. For more context on this story, see our ongoing AI news.
Те, чого насправді вимагає робота
Мінімальна планка крута. Кандидатам потрібен ступінь доктора філософії в таких галузях, як фізика плазми чи ядерна інженерія — або «еквівалентний практичний досвід» — плюс послужний список співпраці з урядовою лабораторією США та знайомство зі сферами політики, зокрема управління запасами, нерозповсюдження, контроль над озброєннями або зменшення загрози.
Бажані кваліфікації сягають ще далі: досвід у сфері безпеки штучного інтелекту, експертиза в обчислювальному моделюванні, час, витрачений на роботу на основних об’єктах, що користуються лазерами, і здатність розробляти оцінки безпеки, які є «очевидно незасекреченими та не підлягають експортному контролю шляхом розробки наукових проксі подвійного призначення для тем зброї».
Компенсація відповідає вимогам спеціаліста. Google перераховує діапазон зарплат від 174 000 до 252 000 доларів США з бонусом у розмірі 15%.
Навіщо лабораторії ШІ потрібні експерти зі зброї
Основна відповідальність полягає в оцінці безпеки передових моделей ШІ в ядерній сфері. У переліку робота описується як оцінка «допомоги моделі в поділі, термоядерному синтезі та розповсюдженні термоядерної зброї, радіаційній гідродинаміці, магнітогідродинаміці тощо явно некласифікованим і неконтрольованим для експорту способом».
У перекладі з мови оголошень про роботу: DeepMind хоче експертів, які зможуть визначити, чи здатні його моделі надати суттєву допомогу в розробці ядерної зброї — і робити це без того, щоб самі оцінки перетинали межі класифікації. Посилання на «наукові проксі подвійного використання» передбачає тести, побудовані на суміжних наукових проблемах, таких як радіаційна гідродинаміка, які замінюють питання, пов’язані зі зброєю, на які модель не повинна відповідати.
Області фізики, названі в списку, не є випадковими. Радіаційна гідродинаміка та магнітогідродинаміка описують, як енергія та плазма поводяться в екстремальних умовах, пов’язаних із фізикою ядерної зброї, саме тому вони подвоюються як чутливі теми: компетентність у цих областях є основою для проектування боєголовок, але основна наука також відкрито публікується в дослідженнях термоядерного синтезу та астрофізики. Побудова оціночних запитань навколо таких «проксі» дозволяє групам безпеки визначити, чи може модель керуватися цими межами знань, не створюючи ризику розповсюдження самі оцінки.
Футуризм прочитав цей список прямо: це свідчить про те, що провідна дослідницька лабораторія Google зі штучного інтелекту очікує, що її моделі врешті-решт зіткнуться з питаннями щодо реального ядерного вмісту, і наймає експертів, необхідних для виявлення такої поведінки, перш ніж вона матиме значення. Таке формулювання є спекулятивним — поштовх до найму демонструє підготовленість, а не доказ того, що поточні моделі можуть створювати дієві вказівки щодо зброї, — але масштаб вимог до спеціалістів підкреслює, наскільки серйозно лабораторія ставиться до сценарію.
Частина більшого комплексу безпеки
Наймання відповідає шаблону, який роками визначив індустрію передових лабораторій: компанії штучного інтелекту наймають атестованих експертів із різних наукових дисциплін для стрес-тестування своїх моделей. Те, що починалося як армія перевіряючих фактів для підготовки моделей, дедалі більше перетворювалося на спеціалізовані команди оцінювання сфер ризику катастроф, серед яких ХБРЯ є однією з найбільш чутливих.
Власне керівництво DeepMind публічно б’є на сполох. Минулого тижня керівництво лабораторії попередило, що спроби злому з підтримкою штучного інтелекту слід розглядати як «постріли раннього попередження» про більші ризики безпеці, повідомляє Reuters, з прогнозами, що штучний інтелект може спричинити серйозні інциденти безпеки протягом приблизно двох років. Створення групи ХБРЯ оцінки є оперативною версією цієї риторики.
Цей поштовх також стався на тлі періоду структурних змін у діяльності ШІ Google. У серпні компанія переставила керівництво зі штучного інтелекту. Reuters і CNBC повідомили, що давні зміни в керівництві перенесли функції відповідальності, а The Wall Street Journal окремо повідомила, що Google повністю перемістила команду з питань штучного інтелекту з лабораторії DeepMind у рамках цієї зміни. Те, що команда CBRNE зараз сидить в організації «Відповідальний розвиток та інновації», показує, як було реорганізовано — і розширено — апарат безпеки, незважаючи на те, що звіти про реструктуризацію тривають.
Підтекст управління
Існує також політичний вимір. Компанії Frontier AI перебувають під зростаючим тиском з боку урядів, щоб продемонструвати, що вони можуть вимірювати та контролювати найнебезпечніші можливості, які можуть розвинути їхні системи. Достовірні оцінки в ядерній та біологічній сферах стають де-факто вимогою довіри до лабораторії — роботи з обґрунтування безпеки, яку регулятори та наглядові органи все частіше вимагають бачити.
У цьому світлі наймання людей, які пройшли кар’єру в установі нерозповсюдження, служить одночасно двом цілям: створює технічні можливості для проведення суворих оцінок і запозичує інституційну легітимність у існуючому світі контролю над озброєннями.
Списки залишаються відкритими на сайті кар’єри Google. Незалежно від того, чи вказують ці посади на обережність чи конкурентоспроможність, ясно одне: ера, коли безпека штучного інтелекту була роботою широкого профілю, закінчилася.
_Ця стаття ґрунтується на звітах Data Center Dynamics і Futurism, а також на загальнодоступних списках вакансій Google DeepMind._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
