ارتش ایالات متحده در بهار امسال بیش از آنچه که تقریباً هر کسی تصور می‌کرد به رویارویی مستقیم با چین نزدیک شد - و طبق گزارش اختصاصی CNN که جمعه منتشر شد، یک توهم هوش مصنوعی دلیل آن بود.
در این گزارش توضیح داده شده است که چگونه یک سند اطلاعاتی تولید شده با کمک یک ربات چت، زنجیره ای از رویدادها را به راه انداخت که باعث شد پرسنل آمریکایی برای سوار شدن به کشتی چینی در خاورمیانه با این باور که کشتی اجزای برنامه تسلیحات هسته ای را حمل می کند، مسلح شود. به گفته منابع آگاه، هواپیماهای نظامی از قبل در هوا بودند. For more context on this story, see our ongoing more AI stories.
این ماموریت فقط قبل از رهگیری برنامه ریزی شده لغو شد، زمانی که مقامات این گزارش را عمیق تر بررسی کردند و متوجه شدند که ادعای اصلی آن - چیزی که ارتش ایالات متحده را بسیج کرده بود - اشتباه است.
یکی از منابع آشنا با این قسمت گزارش اطلاعاتی به CNN را "کاملا نادرست" توصیف کرد. این منبع همچنین گفت که "تقریباً یک جنگ را آغاز کرد." هر گونه عملیات آمریکا علیه کشتی چینی می توانست به درگیری مسلحانه بین دو کشور تبدیل شود.
چگونه ادعای یک چت بات به یک عملیات نظامی تبدیل شد
این اپیزود در بهار امسال و در بحبوحه جنگ با ایران آغاز شد، زمانی که یک گزارش اطلاعاتی در سرتاسر ارتش آمریکا پخش شد. این سند ادعا می کرد که یک کشتی چینی در خاورمیانه حامل اجزای برنامه تسلیحات هسته ای است و بلافاصله زنگ خطر را به صدا درآورد.
به گزارش سی ان ان، این گزارش توسط یک تحلیلگر در فرماندهی عملیات ویژه ایالات متحده تهیه شده است که از یک ربات چت درباره گزارش اطلاعاتی در مورد مانیفست کشتی پرس و جو کرده بود - گزارشی که از فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام مستقر در هاوایی سرچشمه می گرفت. هنوز مشخص نیست که چت بات یک محصول تجاری در دسترس بود یا یک ابزار دولت ایالات متحده. یک مقام ارشد سابق آمریکایی که با سیستم‌های هوش مصنوعی مورد استفاده توسط تحلیلگران نظامی و اطلاعاتی آشنا بود، به سی‌ان‌ان یک ارزیابی صریح از پیشنهادات داخلی دولت ارائه کرد: «ابزارهای داخلی عمدتاً کپی‌هایی از چیزهای تجاری با رژ لب هستند».
چت بات اطلاعات منبع باز را با اطلاعات سیگنال های مخفی که توسط دولت در اختیار داشت ترکیب کرد و به نتیجه سرنوشت ساز خود در مورد محموله کشتی رسید. سپس این تحلیلگر برای بار دوم از هوش مصنوعی استفاده کرد تا یافته‌ها را در یک گزارش استاندارد اطلاعاتی بسته‌بندی کند - به آن‌هایی که مقامات نظامی مهربان عادت دارند به آن اعتماد کنند - و آن را منتشر کرد.
چهار منبع آشنا با این قسمت با CNN صحبت کردند. به گفته دو نفر از آنها، اعضای مسلح ارتش آمریکا در حال آماده شدن برای سوار شدن به کشتی بودند که گزارش از هم پاشید. سی ان ان نتوانست بفهمد محموله ای که به اشتباه شناسایی شده بود واقعاً چه بوده است. فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام و پنتاگون به درخواست CNN برای اظهار نظر پاسخ ندادند.
یک استراتژی شتاب با یک بررسی واقعیت روبرو می شود
نزدیک به از دست دادن در لحظه‌ای فرود می‌آید که پنتاگون تلاش می‌کند تا هوش مصنوعی را تقریباً در تمام جنبه‌های کار خود ببافد - تجزیه و تحلیل حجم عظیمی از اطلاعات خام، انتخاب اهداف برای حملات، و انجام وظایف پیش پا افتاده‌تر مانند بودجه، تدارکات و زنجیره تامین.
در ژانویه، وزیر دفاع، پیت هگزث، «استراتژی شتاب هوش مصنوعی» این وزارتخانه را منتشر کرد، تلاشی برای تسریع پذیرش هوش مصنوعی نظامی.
هگزت در سخنرانی خود با اعلام این استراتژی گفت: «ما آزمایش‌ها را آزاد خواهیم کرد، موانع بوروکراتیک را حذف خواهیم کرد، سرمایه‌گذاری‌های خود را متمرکز کرده و رویکرد اجرایی مورد نیاز برای اطمینان از پیشروی در هوش مصنوعی نظامی را نشان خواهیم داد.
یادداشت همراه فراتر می رود و به وزارتخانه دستور می دهد تا هوش مصنوعی را از طریق چندین برنامه با هدف "دموکراتیزه کردن آزمایش و تحول هوش مصنوعی در سراسر وزارتخانه با قرار دادن مدل های هوش مصنوعی پیشرو در جهان به طور مستقیم در دستان سه میلیون پرسنل غیرنظامی و نظامی ما، در تمام سطوح طبقه بندی" در دسترس قرار دهد.
اما چندین مقام آمریکایی به سی ان ان گفتند که این تلاش غیرمتمرکز است و بخش های مختلف دولت از ابزارهای مختلف تحت دستورات و استانداردهای ایمنی متفاوت استفاده می کنند. هیچ مجموعه استاندارد واحدی برای تأیید اطلاعات تولید شده توسط این ابزارها وجود ندارد و قابلیت اطمینان سیستم های مختلف بسیار متفاوت است.
هدف گذاری جایی است که خطر زندگی می کند
تحلیلگران مدت‌ها نگران بودند که اگر دولت‌های ملت بر روی داده‌های ضعیف یا خراب عمل کنند، هوش مصنوعی می‌تواند به یک اشتباه محاسباتی فاجعه‌بار کمک کند. اپیزود کشتی چینی یک مورد مستند است که دقیقاً همان حالت شکست در زمان واقعی شکل می‌گیرد - و پادمان‌ها تا آخرین لحظه نتوانستند آن را بگیرند.
منبع دیگری که با سیاست‌های فعلی ارتش آشناست به سی‌ان‌ان گفت: «هوش مصنوعی در هدف‌گیری قطعاً چیزی است که در حال افزایش است، و هیچ راهنمایی واقعی برای اینکه چگونه حضور یک انسان در حلقه از تلفات غیرنظامی یا برادرکشی جلوگیری می‌کند، وجود ندارد.
طبق گزارش CNN، از زمانی که ابزارهای هوش مصنوعی از طریق دولت شروع به تکثیر کردند، نوعی توهم که این ادعای نادرست را ایجاد کرد، یک اتفاق مجزا در جامعه اطلاعاتی نبوده است. چندین منبع همچنین به یک خطر فرهنگی اشاره کردند: تحلیلگران جوان که به عنوان بومی این ابزارها توصیف می شوند، به احتمال زیاد به آنها اعتماد غیرقابل انتقادی دارند و فشار برای تولید سریعتر اطلاعات، فضای بیشتری برای خطا باقی می گذارد.
یکی از منابع گفت: "هوش مصنوعی به شما امکان می دهد سریعتر به یک ایده بد برسید."
خطری فوری تر از ابرهوشی
به دنبال یک سری هشدارهای عمومی وحشتناک مهندسان و مدیران فناوری در مورد سیستم هایی که به طور بالقوه از محدودیت های انسانی خلاص می شوند، واشنگتن برای هفته ها درگیر بحث در مورد خطر طولانی مدت هوش مصنوعی بود. گزارش سی‌ان‌ان بر خطری متفاوت و فوری‌تر تأکید می‌کند: انسان‌ها تصمیم‌های فاجعه‌باری را بر اساس خروجی هوش مصنوعی نادرست یا گمراه‌کننده می‌گیرند – در حال حاضر، در میانه تنش‌های ژئوپلیتیک واقعی.
در بهار امسال هیچ گلوله ای شلیک نشد و سوار شدن هواپیما هرگز اتفاق نیفتاد. اما این اپیزود واضح‌ترین مثالی است که نشان می‌دهد خطاهای تولید شده توسط ماشین، پس از تبدیل شدن به گزارش‌های رسمی، می‌توانند از طریق قوی‌ترین دستگاه نظامی جهان تا لبه درگیری مسلحانه بین قدرت‌های هسته‌ای - بدون هیچ استاندارد تاییدیه‌ای برای توقف حمله بعدی، طی کنند.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
