بر اساس یادداشتی که توسط معاون وزیر دفاع استیو فاینبرگ صادر شده و توسط DefenseScoop بررسی شده است، پنتاگون در حال راه اندازی یک برنامه آزمایشی است که از هوش مصنوعی برای مدیریت نحوه طبقه بندی و مدیریت اطلاعات حساس نظامی استفاده می کند. این دستورالعمل دستور استقرار اولیه در مقیاس کوچک یک قابلیت طبقه‌بندی امنیتی خودکار را در شش ماه آینده صادر می‌کند - اقدام افتتاحیه در تلاشی برای بازنگری فرآیندی که دپارتمان آن را به‌طور خطرناکی قدیمی توصیف می‌کند.
داخل یادداشت فاینبرگ For more context on this story, see our ongoing AI news.
این یادداشت که روز دوشنبه منتشر شد، رویه‌های طبقه‌بندی و طبقه‌بندی موجود پنتاگون را به عنوان یک منبع "اختلال" توصیف می‌کند که وزارتخانه می‌گوید ماموریت آن را "به خطر می‌اندازد". این استدلال می‌کند که رویه‌های قدیمی «انتشار به موقع اطلاعات حیاتی» را کند می‌کند و اعتماد عمومی به بخش را از بین می‌برد.
به گزارش دیفنس اسکوپ، در این یادداشت آمده است: «اختلال ناشی از این رویه‌ها منجر به طبقه‌بندی‌های نادرستی می‌شود که سیستم‌های امنیت ملی ما را تحت‌الشعاع قرار می‌دهد، مانع قابلیت همکاری می‌شود و با به دام انداختن داده‌های حیاتی در لوله‌های اجاق گاز، نوآوری را کند می‌کند».
ACME: سیستم نیروی هوایی در مرکز
برای آزمایش، وزارت دفاع از یک سیستم مبتنی بر هوش مصنوعی استفاده خواهد کرد که نیروی هوایی اخیراً به نام محیط مدیریت طبقه‌بندی خودکار یا ACME توسعه داده است. این یادداشت، مقام ارشد غیرنظامی نیروی هوایی را به عنوان عامل اجرایی خلبان تعیین می کند، و سخنگوی نیروی هوایی به DefenceScoop گفت که این سرویس "با دستورالعمل مندرج در یادداشت مطابقت خواهد داشت."
ACME در ماه آگوست، زمانی که مقامات درخواست اطلاعاتی را صادر کردند و از صنعت برای کمک به ایجاد یک اکوسیستم طبقه‌بندی-مدیریت برای جایگزینی فرآیند «دستی، انسانی فشرده» که ارتش برای دهه‌ها از آن استفاده می‌کرده است، درخواست کرد. این اطلاعیه سیستم تحت فشار را توصیف می کند: صدها مقام برای طبقه بندی اطلاعات دارای اختیار هستند، بسیاری از آنها از برنامه های قدیمی استفاده می کنند، اسناد قدیمی تولید می کنند، نرخ خطاهای بالا، طبقه بندی بیش از حد مکرر، و یکپارچگی داده ها کاهش می یابد. این دپارتمان همچنین دارای یک نسخه پشتیبان از تقریباً 140 میلیون صفحه است.
از خلبان تا مرجع تک معتبر
اگر خلبان موفق شود، این یادداشت می‌گوید که سیستم خودکار در نهایت به عنوان «مرجع معتبر دیجیتالی واحد» برای همه تصمیم‌های طبقه‌بندی اصلی این بخش عمل خواهد کرد. این مسئولیت از لحاظ تاریخی متعلق به مقامات انسانی تعیین‌شده‌ای بوده است که تعیین می‌کنند اطلاعات حساس چگونه طبقه‌بندی شوند - به این معنی که عرضه موفقیت‌آمیز یکی از مهم‌ترین انتقال‌های یک عملکرد اصلی دولت به سیستم‌های هوش مصنوعی تا به امروز است.
چرا مقامات می گویند که تغییر لازم است
مورد اتوماسیون بر حجم و سرعت اطلاعات نظامی مدرن استوار است. درخواست اطلاعات اوت، فرآیند دستی را «ناسازگار» با حجم و سرعت اطلاعات در عصر دیجیتال نامید. طبقه بندی بیش از حد، اطلاعات را از واحدها و متحدانی که به آن نیاز دارند، دور نگه می دارد. طبقه‌بندی پایین، توانایی‌ها و برنامه‌ها را در معرض خطر قرار می‌دهد. خطاها در هر جهت هزینه‌های زیادی را به همراه دارند و با وجود بک لاگ هفت رقمی از صفحات چاپی، بخش به این نتیجه رسیده است که اصلاحات افزایشی کافی نیست.
جاش والین، یکی از همکاران برنامه دفاعی مرکز امنیت جدید آمریکا، به DefenceScoop گفت که اطلاعات طبقه بندی نشده می تواند یک قابلیت یا برنامه را در معرض دید دشمن قرار دهد، در حالی که مطالب بیش از حد طبقه بندی شده را می توان با فرآیند بررسی تاخیری پنهان یا متوقف کرد - به این معنی که ممکن است به سازمان هایی که به آن نیاز دارند، نرسد، "در یک محیط ائتلافی که به اشتراک گذاری اطلاعات مهم است." او افزود که در بسیاری از موارد، «اکثریت قریب به اتفاق اطلاعات لزوماً آنقدر حساس نیستند که شما نگران طبقه‌بندی اشتباه باشید»، دقیقاً به همین دلیل است که رسیدگی سریعتر و منسجم‌تر می‌تواند سود سهام را در کل بخش به همراه داشته باشد.
تحلیلگران سود و خطرات واقعی را مشاهده می کنند
والین گفت که اتوماسیون می‌تواند به مسائل طبقه‌بندی نادرست کمک کند - از جمله اطلاعاتی که بیش از حد محافظت می‌شوند، کمتر محافظت می‌شوند یا توسط انسان‌ها به اشتباه برچسب‌گذاری می‌شوند - و لوله‌کشی اجاق گاز را کاهش می‌دهد، به‌ویژه که درگیری‌های مدرن نشان داده‌اند که جریان سریع اطلاعات می‌تواند یک مزیت تعیین‌کننده باشد.
اما والین خطرات را نیز مشخص کرد. طبقه بندی اشتباه می تواند در مقیاس سریع تری تحت سیستم های مبتنی بر هوش مصنوعی رخ دهد. اشتراک گذاری سریعتر با متحدان و شرکا سوالاتی را در مورد پروتکل های امنیت سایبری شبکه های گیرنده ایجاد می کند. و حذف سریع طبقه بندی یک اثر "تجمعی" ایجاد می کند، که در آن دشمن می تواند بینش های حساس از افشاهای بی ضرر را کنار هم بگذارد.
والین گفت: «نگرانی در طبقه بندی اشتباه وجود دارد. "فقط یک نگرانی ذاتی وجود دارد که برخی از اطلاعات حساس باشند. آیا به طور ناخواسته طبقه بندی و به اشتراک گذاشته می شود و آیا کسی آن را نمی گیرد؟"
سوالات نظارتی باقی می مانند
والین همچنین مختصر بودن خلبان و نحوه عملکرد نظارت انسانی در زمانی که هوش مصنوعی به عنوان مرجع قطعی مرجع طبقه بندی اصلی عمل می کند، زیر سوال برد. او به DefenceScoop گفت: "چگونه [شما] واقعاً می‌خواهید نظارت انسانی برقرار کنید؟ این باید برای همیشه ادامه یابد."
پنتاگون فوراً به سؤالاتی درباره اینکه کدام مدل‌های زیربنایی هوش مصنوعی نیروی خلبان را تامین می‌کند یا اینکه آیا وزارتخانه نگرانی‌هایی در مورد استفاده از این فناوری برای این منظور دارد، پاسخ نداد. این دستورالعمل در بحبوحه بحث گسترده‌تری در واشنگتن بر سر نظارت بر هوش مصنوعی آغاز می‌شود، حتی در شرایطی که مقامات دفاعی استدلال می‌کنند که هوش مصنوعی ابزاری بسیار قدرتمند برای کنار گذاشتن است در حالی که دشمنان آن را در ارتش خود مستقر می‌کنند. اینکه چگونه این دپارتمان بین این دو انگیزه - پذیرش تهاجمی و کنترل معنادار انسانی - تعادل برقرار می کند، سوال تعیین کننده خلبان شش ماهه خواهد بود.
برای نیروی هوایی نیز این تکلیف یک رای اعتماد است. این سرویس ACME را ایجاد کرد در حالی که گفتگوی کل دپارتمان درباره اصلاح طبقه بندی هنوز نظری بود، و یادداشت اکنون مسئولیت قابلیتی را به آن واگذار می کند که اگر کار کند، نحوه رسیدگی هر شاخه نظامی به اسرار خود را تغییر می دهد. برای بقیه دولت فدرال - جایی که عقب ماندگی های طبقه بندی و شکایات بیش از حد طبقه بندی مزمن هستند - یک خلبان موفق پنتاگون اولین الگوی مقیاس بزرگ را برای مدیریت اطلاعات با کمک هوش مصنوعی ارائه می دهد و در آن مورد به دقت زیر نظر گرفته می شود.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
