شبکه خبری فدرال روز دوشنبه گزارش داد، وزارت دفاع دستورالعمل جدیدی را برای پرسنل قراردادی و برنامه ای صادر کرده است که به منظور اطمینان از اینکه سیستم های هوش مصنوعی که پنتاگون خریداری می کند، از اصول تدارکات "حقیقت جویانه" و "بی طرفی ایدئولوژیک" دولت ترامپ پیروی می کنند.

این دستورالعمل که توسط جان تناگلیا، مدیر اصلی پنتاگون برای قیمت‌گذاری، قرارداد و سیاست خرید دفاعی صادر شده است، ملموس‌ترین گام این وزارتخانه برای اجرای دستور کار دونالد ترامپ رئیس‌جمهور آمریکا برای «جلوگیری از هوش مصنوعی بیدار» در دولت فدرال است. For more context on this story, see our ongoing artificial intelligence updates.

از دستور اجرایی تا زبان قرارداد

این رهنمود مستقیماً از فرمان اجرایی ترامپ در ماه ژوئیه امضا می‌شود که سازمان‌های فدرال را ملزم می‌کند تا اطمینان حاصل کنند که مدل‌های بزرگ زبانی که خریداری می‌کنند «ابزارهای بی‌طرف و غیرحزبی هستند که پاسخ‌ها را به نفع جزم‌های ایدئولوژیک مانند [تنوع، برابری، و شمول] دستکاری نمی‌کنند». در این دستور، ترامپ اعلام کرد که آژانس‌های فدرال «مسلط به تهیه مدل‌هایی هستند که صداقت و دقت را قربانی برنامه‌های ایدئولوژیکی می‌کنند».

بعداً دفتر مدیریت و بودجه با صدور یادداشتی به سوالاتی که پس از انتشار این فرمان اجرایی مطرح شد، پرداخت. سند جدید پنتاگون آن دستورات سطح بالا را به ماشین‌آلات دفاعی تبدیل می‌کند: الگوهایی که مقامات را در مراحل مختلف خرید سیستم‌های هوش مصنوعی و تأیید انطباق پیمانکار با اصول "هوش مصنوعی بی‌طرفانه" وزارتخانه راهنمایی می‌کند.

به‌طور خاص، این الگوها شامل یادداشتی برای کمک به آژانس‌ها برای انتخاب شفافیت و الزامات مستندسازی مناسب برای یک تدارکات، زبان درخواست استاندارد شده است که به شرکت‌ها می‌گوید چه اسنادی را برای نشان دادن انطباق باید ارائه کنند، و زبان قرارداد رسمی که می‌تواند در بیانیه کار یا بیانیه کار عملکرد گنجانده شود.

راهنمایی، نه یک دستور - در حال حاضر

Tenaglia مراقب بود وزن قانونی سند را تعیین کند. او نوشت، در حالی که پیروی از فرمان اجرایی اساسی و یادداشت OMB اجباری است، سند جدید "فقط به عنوان راهنمایی" در نظر گرفته شده است، و "رویکرد استاندارد شده ای برای مستندسازی، درخواست و اجرای اصول بی طرفانه هوش مصنوعی" ارائه می کند.

Tenaglia در یادداشت نوشت: "با توجه به اینکه خریدهای هوش مصنوعی از نظر پیچیدگی و ریسک بسیار متفاوت است، اجزای وزارت دفاع و فعالیت‌های مورد نیاز این قابلیت را دارند که در صورت لزوم، این زبان را اصلاح، تنظیم یا تکمیل کنند تا متناسب با نیازهای خاص و زمینه نیازهای فردی آنها باشد."

این انعطاف‌پذیری ممکن است نتیجه‌بخش باشد. اندازه‌گیری اینکه آیا یک مدل هوش مصنوعی «بی‌طرفانه» است - و مستندسازی این تصمیم برای پرونده قرارداد - کار بسیار پیچیده‌تری نسبت به بررسی یک گواهینامه امنیت سایبری است و فروشندگان احتمالاً درخواست‌های مستنداتی را که به طراحی مدل مربوط می‌شوند، عقب نشینی می‌کنند.

بخشی از یک فشار بزرگتر برای تجاری سازی هوش مصنوعی دفاعی

این راهنمایی زمانی می رسد که وزیر دفاع پیت هگزث به تلاش خود برای وارد کردن هوش مصنوعی تجاری به وزارت ادامه می دهد. در اوایل سال جاری، پنتاگون یک استراتژی هوش مصنوعی با هدف تبدیل این وزارتخانه به "نیروی جنگی اول هوش مصنوعی" صادر کرد و هگزت گفت که این وزارتخانه سرمایه گذاری زیادی در زیرساخت های محاسباتی هوش مصنوعی، از مراکز داده گرفته تا سیستم هایی در لبه تاکتیکی خواهد داشت.

قانونگذاران به موازات هم حرکت می کنند. نماینده جیمی پاترونیس (رئیس فلوریدا) به دنبال تدوین فرمان اجرایی ترامپ به قانون است. پاترونیس گفت: «رئیس‌جمهور و تیم او یک دستور اجرایی هوشمندانه ارائه کرده‌اند که به آژانس‌های فدرال دستور می‌دهد که فقط از ابزارهای هوش مصنوعی که حقیقت را بیان می‌کنند، استفاده کنند.

چه معنایی برای فروشندگان هوش مصنوعی دارد

برای شرکت‌های هوش مصنوعی - از جمله آزمایشگاه‌های مرزی که اکنون به سمت عرضه‌های عمومی رقابت می‌کنند - این راهنمایی نشان می‌دهد که اسناد ایدئولوژیک بی‌طرفی در حال تبدیل شدن به یک نیاز واقعی برای بازار دفاعی ایالات متحده، یکی از بخش‌های مشتریان با رشد سریع برای هوش مصنوعی تجاری است. فروشندگانی که می توانند مسیرهای حسابرسی را برای آموزش و رفتار مدل های خود ایجاد کنند، ممکن است در را باز ببینند. آنهایی که نمی توانند تدارکات فدرال را به طور فزاینده ای بسته ببینند.

اثر عملی این است که «هوش مصنوعی بی‌طرفانه» از لفاظی‌های سیاسی به یک الزام کتبی در قراردادهای بزرگترین خریداران فناوری جهان فارغ‌التحصیل می‌شود - و هر آژانس دیگری در حال تماشای عملکرد الگوهای پنتاگون است.

آنچه فروشندگان در واقع باید تولید کنند

تحت الگوها، بار اثبات به سمت فروشنده منتقل می شود. شرکت‌هایی که برای قراردادهای سنگین هوش مصنوعی مناقصه می‌کنند، باید اسنادی را ارائه کنند که نشان دهد مدل‌های آنها با اصول "هوش مصنوعی بی‌طرفانه" مطابقت دارد - به طور مؤثر دسته جدیدی از اسناد اکتساب را در کنار اعتبارسنجی‌های امنیتی و گواهی‌های زنجیره تامین ایجاد می‌کند. افسران قراردادی، به نوبه خود، زبان استاندارد شده ای را دریافت می کنند که می توانند بدون تهیه پیش نویس از ابتدا به درخواست ها بپردازند، که کارشناسان تدارکات می گویند که معمولاً چیزی است که سیاست را به عمل تبدیل می کند.

این دستورالعمل همچنین زمانی به دست می‌آید که پنتاگون چت‌بات‌های تجاری را برای نیروی کار خود عادی می‌کند و نسخه‌های تنظیم‌شده دولتی دستیاران هوش مصنوعی تجاری را برای پرسنل دفاعی ارائه می‌کند. تعبیه زبان ایدئولوژیک بی طرفی در آن قراردادها، یک استاندارد سیاسی را در سیستم هایی که برای همه چیز از برنامه ریزی لجستیک گرفته تا کارهای اداری معمول استفاده می شود، گسترش می دهد.

یک مورد آزمایشی برای بقیه دولت

دیگر آژانس‌ها اکنون با یک انتخاب روبرو هستند: الگوهای پنتاگون را به‌طور عمده بپذیرند، خودشان بنویسند یا منتظر بمانند تا کنگره اقدام کند. تلاش پاترونیس برای تدوین فرمان اجرایی این ابهام را با قانون حل می‌کند - و لغو الزامات بی‌طرفی را برای دولت آینده سخت‌تر می‌کند.

منتقدان این نظم استدلال می‌کنند که اندازه‌گیری بی‌طرفی ایدئولوژیک در مدل‌های زبانی از نظر علمی پرمشغله است و می‌تواند رفتار مدل مشروع، از جمله توصیف دقیق موضوعات مورد بحث را کاهش دهد. حامیان مخالف این هستند که استانداردهای تدارکات به طور معمول الزامات محتوا را بر فروشندگان تحمیل می کنند و توسعه دهندگان مدل برای فروش در جای دیگر آزاد هستند.

در هر صورت، مسیر حرکت مشخص است. بزرگترین خریدار فناوری دولت «هوش مصنوعی بی‌طرفانه» را به صورت مکتوب ارائه کرده است، و پیمانکاران دفاعی که امیدوارند سیستم‌های هوش مصنوعی را به پنتاگون بفروشند، اکنون چک لیست جدیدی برای برآورده کردن دارند - لیستی که با مستندات شروع می‌شود و در صورت عدم موفقیت مدل مستقر در آزمایش بی‌طرفی، احتمالاً به اختلافات قراردادی ختم می‌شود.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →