بر اساس فهرست مشاغل که اولین بار توسط نشریه صنعتی Data Center Dynamics گزارش شد و این هفته توسط Futurism پوشش داده شد، Google DeepMind تیمی از متخصصان هسته‌ای را برای ارزیابی اینکه آیا مدل‌های هوش مصنوعی مرزی می‌توانند به توسعه سلاح‌های هسته‌ای کمک کنند، استخدام می‌کند.

این فهرست‌ها که در سایت مشاغل Google ارسال شده است، به دنبال «فیزیکدانان و مهندسان هسته‌ای بسیار واجد شرایط» برای نقش متخصص موضوع هسته‌ای در تیم مواد منفجره شیمیایی، بیولوژیکی، رادیولوژیکی، هسته‌ای و پربازده (CBRNE) است که در سازمان توسعه و نوآوری مسئول DeepMind مستقر است. For more context on this story, see our ongoing AI news.

آنچه که شغل در واقع می خواهد

حداقل نوار شیب دار است. داوطلبان به مدرک دکترا در رشته ای مانند فیزیک پلاسما یا مهندسی هسته ای - یا "تجربه عملی معادل" - به علاوه سابقه همکاری با یک آزمایشگاه دولتی ایالات متحده و آشنایی با حوزه های سیاستی از جمله نظارت بر ذخایر، عدم اشاعه، کنترل تسلیحات، یا کاهش تهدید نیاز دارند.

صلاحیت‌های ترجیحی هنوز فراتر می‌روند: تجربه در ایمنی هوش مصنوعی، تخصص مدل‌سازی محاسباتی، زمان صرف شده برای کار در تأسیسات اصلی کاربران لیزر، و توانایی طراحی ارزیابی‌های ایمنی که «به‌طور آشکاری طبقه‌بندی نشده و غیرصادراتی با توسعه پروکسی‌های علمی دوگانه برای موضوعات سلاح‌ها کنترل می‌شوند».

غرامت مطابق با الزامات متخصص است. گوگل بازه حقوقی 174000 تا 252000 دلاری را با 15% پاداش در بالا فهرست کرده است.

چرا یک آزمایشگاه هوش مصنوعی به متخصصان سلاح نیاز دارد؟

مسئولیت اصلی ارزیابی ایمنی مدل های هوش مصنوعی مرزی در حوزه هسته ای است. این فهرست کار را به عنوان ارزیابی «کمک مدل در شکافت، همجوشی، و تکثیر سلاح‌های هسته‌ای، هیدرودینامیک تشعشعی، مگنتوهیدرودینامیک و غیره به شیوه‌ای طبقه‌بندی‌نشده و غیرصادراتی کنترل‌شده» توصیف می‌کند.

ترجمه شده از زبان آگهی استخدام: DeepMind متخصصانی می خواهد که بتوانند تعیین کنند که آیا مدل های آن قادر به ارائه کمک معنادار به توسعه سلاح های هسته ای هستند - و این کار را بدون عبور از خطوط طبقه بندی انجام دهند. اشاره به «پراکسی‌های علمی با کاربرد دوگانه» آزمایش‌هایی را پیشنهاد می‌کند که بر روی مسائل علمی مجاور، مانند هیدرودینامیک تشعشعات ساخته شده‌اند، که در پرسش‌های مربوط به سلاح‌هایی قرار می‌گیرند که یک مدل نباید به آنها پاسخ دهد.

دامنه‌های فیزیک نام‌گذاری شده در فهرست دلخواه نیستند. هیدرودینامیک تشعشعی و مگنتوهیدرودینامیک چگونگی رفتار انرژی و پلاسما را در شرایط شدید مربوط به فیزیک سلاح‌های هسته‌ای توصیف می‌کنند، دقیقاً به همین دلیل است که آنها به عنوان موضوعات حساس دو برابر می‌شوند: شایستگی در این زمینه‌ها برای طراحی کلاهک اساسی است، با این حال علم زیربنایی نیز آشکارا در تحقیقات همجوشی و اخترفیزیک منتشر شده است. ایجاد پرسش‌های ارزیابی پیرامون چنین «پراکسی‌هایی» به تیم‌های ایمنی اجازه می‌دهد تا اندازه‌گیری کنند که آیا یک مدل می‌تواند دانش مرزی را بدون اینکه ارزیابی‌ها به یک خطر تکثیر تبدیل شوند، هدایت کند.

خواندن این فهرست توسط Futurism صریح بود: این نشان می‌دهد که آزمایشگاه تحقیقاتی برتر هوش مصنوعی گوگل انتظار دارد مدل‌هایش در نهایت با سؤالاتی در مورد محتوای هسته‌ای واقعی مواجه شوند و تخصص لازم را برای درک این رفتار قبل از اینکه مهم باشد استخدام می‌کند. این چارچوب حدس و گمان است - فشار استخدام نشان دهنده آمادگی است، نه اثبات این که مدل‌های فعلی می‌توانند راهنمای عملی تسلیحات را تولید کنند - اما مقیاس الزامات تخصصی نشان می‌دهد که آزمایشگاه چقدر با این سناریو برخورد جدی می‌کند.

بخشی از یک ساختمان ایمنی بزرگتر

استخدام با الگویی مطابقت دارد که سال‌ها صنعت آزمایشگاه مرزی را تعریف کرده است: شرکت‌های هوش مصنوعی متخصصان حوزه معتبر را در سراسر رشته‌های دانشگاهی برای تست استرس مدل‌های خود استخدام می‌کنند. آنچه به عنوان ارتشی از بررسی‌کننده‌های واقعیت موضوع برای آموزش مدل آغاز شد، به طور فزاینده‌ای به تیم‌های ارزیابی اختصاصی برای حوزه‌های با خطر فاجعه تبدیل شد که CBRN یکی از حساس‌ترین آنهاست.

رهبری خود DeepMind زنگ خطر را علنا ​​به صدا در آورده است. رویترز گزارش داد، هفته گذشته رهبری آزمایشگاه هشدار داد که تلاش‌های هک مبتنی بر هوش مصنوعی باید به‌عنوان «شات‌های هشدار اولیه» خطرات امنیتی بزرگ‌تر تلقی شود، با پیش‌بینی‌هایی که هوش مصنوعی می‌تواند حوادث امنیتی بزرگ را ظرف دو سال آینده فعال کند. ساخت یک تیم ارزیابی CBRN نسخه عملیاتی آن لفاظی است.

این فشار همچنین در بحبوحه یک دوره تغییرات ساختاری در عملیات هوش مصنوعی گوگل می آید. در ماه آگوست، این شرکت رهبری هوش مصنوعی خود را تغییر داد و رویترز و CNBC گزارش دادند که تغییرات طولانی مدت در رهبری، وظایف مسئولیت را تغییر داده است - و وال استریت ژورنال به طور جداگانه گزارش داد که Google یک تیم مسئولیت هوش مصنوعی را به طور کامل به عنوان بخشی از این تغییر مکان به آزمایشگاه DeepMind منتقل کرده است. این که تیم CBRNE اکنون در یک سازمان «توسعه و نوآوری مسئولانه» مستقر است، نشان می‌دهد که چگونه دستگاه ایمنی سازماندهی مجدد شده - و گسترش یافته است - حتی با ادامه گزارش‌دهی در مورد بازسازی.

زیرمتن حکمرانی

یک بعد سیاسی نیز وجود دارد. شرکت‌های هوش مصنوعی مرزی تحت فشار فزاینده‌ای از سوی دولت‌ها هستند تا نشان دهند که می‌توانند خطرناک‌ترین قابلیت‌هایی را که ممکن است سیستم‌هایشان توسعه می‌دهند اندازه‌گیری و کنترل کنند. ارزیابی‌های معتبر در حوزه‌های هسته‌ای و بیولوژیکی در حال تبدیل شدن به یک نیاز واقعی برای اعتبار آزمایشگاهی است - کار ایمنی که تنظیم‌کننده‌ها و نهادهای نظارتی به طور فزاینده‌ای از آن درخواست می‌کنند تا ببینند.

در این منظر، استخدام افرادی که در داخل سازمان منع گسترش تسلیحات تسلیحاتی را گذرانده‌اند به دو هدف در یک زمان خدمت می‌کند: توانایی فنی برای اجرای ارزیابی‌های دقیق را ایجاد می‌کند و مشروعیت نهادی را از دنیای کنترل تسلیحات موجود به عاریت می‌گیرد.

لیست ها در سایت مشاغل گوگل باز هستند. چه نقش‌ها نشان‌دهنده احتیاط باشند یا موقعیت‌یابی رقابتی، یک چیز واضح است: دورانی که ایمنی هوش مصنوعی یک شغل برای عموم‌گرایان بود به پایان رسیده است.

_این مقاله بر اساس گزارش‌دهی توسط Data Center Dynamics و Futurism و فهرست‌های مشاغل عمومی Google DeepMind است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →