Google DeepMind нанимает команду специалистов-ядерщиков, чтобы оценить, могут ли новейшие модели искусственного интеллекта помочь в разработке ядерного оружия, согласно спискам вакансий, впервые опубликованным отраслевым изданием Data Center Dynamics и опубликованным на этой неделе Futurism.
В списках, размещенных на сайте вакансий Google, претендуют «высококвалифицированные физики и инженеры-ядерщики» на роль эксперта по ядерной тематике в команде по химическим, биологическим, радиологическим, ядерным и высокопроизводительным взрывчатым веществам (CBRNE), которая входит в организацию DeepMind по ответственному развитию и инновациям. Подробнее об этой истории — в нашем последние разработки в ИИ.
Что на самом деле требует работа
Минимальная планка крутая. Кандидатам нужна докторская степень в такой области, как физика плазмы или ядерная инженерия – или «эквивалентный практический опыт» – плюс послужной список сотрудничества с правительственной лабораторией США и знание областей политики, включая управление запасами, нераспространение, контроль над вооружениями или уменьшение угрозы.
Предпочтительная квалификация простирается еще дальше: опыт в области безопасности искусственного интеллекта, опыт компьютерного моделирования, время, потраченное на работу на основных объектах пользователей лазеров, а также способность разрабатывать оценки безопасности, которые «явно несекретны и не контролируются экспортом, путем разработки научных прокси двойного назначения для тем вооружений».
Оплата труда соответствует требованиям специалиста. Google указывает диапазон зарплат от 174 000 до 252 000 долларов США с бонусом в 15% сверху.
Почему лаборатории искусственного интеллекта нужны эксперты по оружию
Основная ответственность — оценка безопасности передовых моделей искусственного интеллекта в ядерной области. В листинге эта работа описывается как оценка «модели помощи в делении, синтезе и распространении термоядерного оружия, радиационной гидродинамике, магнитогидродинамике и т. д. явно несекретным и неконтролируемым экспортом».
В переводе с языка объявления о вакансиях: DeepMind нужны эксперты, которые смогут определить, способны ли ее модели оказать значимую помощь в разработке ядерного оружия — и сделать это без того, чтобы сами оценки пересекали границы классификации. Ссылка на «научные прокси двойного назначения» предполагает испытания, построенные на смежных научных проблемах, таких как радиационная гидродинамика, которые заменяют вопросы, специфичные для оружия, на которые модель не должна отвечать.
Области физики, названные в списке, не произвольны. Радиационная гидродинамика и магнитогидродинамика описывают, как энергия и плазма ведут себя в экстремальных условиях, связанных с физикой ядерного оружия, и именно поэтому они одновременно являются деликатными темами: компетентность в этих областях лежит в основе проектирования боеголовок, однако лежащие в их основе научные данные также открыто публикуются в исследованиях в области термоядерного синтеза и астрофизики. Построение вопросов оценки на основе таких «прокси» позволяет группам безопасности оценить, сможет ли модель преодолеть эти границы знаний без того, чтобы сами оценки не создавали риска распространения.
Футуризм прочитал этот список прямолинейно: он предполагает, что ведущая исследовательская лаборатория Google в области искусственного интеллекта ожидает, что ее модели в конечном итоге столкнутся с вопросами реального ядерного содержания, и нанимает специалистов, необходимых для выявления такого поведения до того, как оно станет иметь значение. Эта формулировка является спекулятивной — набор сотрудников демонстрирует готовность, а не доказательство того, что нынешние модели могут обеспечить действенное наведение оружия — но масштаб требований к специалистам подчеркивает, насколько серьезно лаборатория относится к этому сценарию.
Часть более крупной системы безопасности
Этот набор сотрудников соответствует модели, которая уже много лет определяет индустрию передовых лабораторий: компании, занимающиеся искусственным интеллектом, нанимают дипломированных экспертов в различных академических дисциплинах для стресс-тестирования своих моделей. То, что начиналось как армии специалистов по проверке фактов для обучения моделей, постепенно превратилось в специальные группы по оценке областей катастрофического риска, среди которых ХБРЯ является одним из наиболее чувствительных.
Руководство DeepMind публично бьет тревогу. На прошлой неделе руководство лаборатории предупредило, что попытки взлома с помощью ИИ следует рассматривать как «ранние предупреждения» о более серьезных угрозах безопасности, сообщает Reuters, и прогнозирует, что ИИ может привести к серьезным инцидентам безопасности примерно в течение двух лет. Создание группы по оценке ХБРЯ является оперативной версией этой риторики.
Этот толчок также происходит на фоне структурных изменений в операциях Google по искусственному интеллекту. В августе компания сменила руководство в области ИИ. Reuters и CNBC сообщили, что давние смены руководства переместили функции ответственности, а The Wall Street Journal отдельно сообщила, что Google полностью перевела команду по ответственности за ИИ из лаборатории DeepMind в рамках этой встряски. Тот факт, что команда CBRNE теперь входит в состав организации «Ответственное развитие и инновации», показывает, как аппарат безопасности был реорганизован – и расширен – даже несмотря на то, что отчеты о реструктуризации продолжаются.
Подтекст управления
Существует также политическое измерение. Компании, работающие в области искусственного интеллекта, находятся под растущим давлением со стороны правительств, требующих продемонстрировать, что они могут измерять и контролировать наиболее опасные возможности, которые могут развить их системы. Достоверные оценки в ядерной и биологической областях становятся де-факто требованием надежности лабораторий — работой по обоснованию безопасности, которую все чаще требуют увидеть регулирующие и надзорные органы.
В этом свете прием на работу людей, которые сделали карьеру в сфере нераспространения, служит одновременно двум целям: он создает технические возможности для проведения строгих оценок и заимствует институциональную легитимность у существующего мира контроля над вооружениями.
Списки остаются открытыми на сайте вакансий Google. Независимо от того, сигнализируют ли эти роли об осторожности или о конкурентном позиционировании, ясно одно: эпоха, когда безопасность ИИ была работой специалистов широкого профиля, закончилась.
_Эта статья основана на отчетах Data Center Dynamics and Futurism, а также на общедоступных списках вакансий Google DeepMind._
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
