بر اساس گزارش اختصاصی سی ان ان که پنجشنبه منتشر شد، ارتش آمریکا به طور خطرناکی به رهگیری یک کشتی چینی بر اساس گزارش اطلاعاتی که با کمک یک ربات چت هوش مصنوعی تهیه شده بود و کاملاً نادرست بود، نزدیک شد.
این اپیزود که توسط چهار منبع آشنا با این موضوع به سی‌ان‌ان توضیح داده شد، در اوایل بهار امسال - در بحبوحه جنگ با ایران - زمانی که گزارشی در سرتاسر ارتش آمریکا منتشر شد مبنی بر اینکه یک کشتی چینی در خاورمیانه در حال انتقال اجزای برنامه تسلیحات هسته‌ای است، آغاز شد. این گزارش بلافاصله زنگ خطر را به صدا درآورد و ارتش با طرح هایی برای رهگیری کشتی وارد عمل شد. برای پوشش منظم داستان‌هایی مانند این، [اخبار AI] (https://aibuzzwire.news) را در حین توسعه دنبال کنید.
هواپیما در هوا، مهمانی شبانه روزی آماده است
به گفته دو منبع CNN، اعضای مسلح ارتش آمریکا در حال آماده شدن برای سوار شدن به کشتی بودند. یک منبع گفت که هواپیماهای نظامی از قبل در هوا بودند.
درست قبل از عملیات برنامه ریزی شده بود که مقامات گزارش را عمیق تر بررسی کردند - که توسط یک تحلیلگر فرماندهی عملیات ویژه تهیه شده بود - و متوجه شدند که این گزارش با کمک هوش مصنوعی تولید شده است و چت بات مورد استفاده تحلیلگر به اشتباه موادی را که کشتی حمل می کرد شناسایی کرده است. سی ان ان گزارش داد که نمی تواند بفهمد محموله ای که به اشتباه شناسایی شده است واقعاً چیست.
یکی از منابع این گزارش را "کاملا نادرست" توصیف کرد. این منبع گفت همچنین، "تقریباً یک جنگ را آغاز کرد" - زیرا هر عملیات ایالات متحده علیه یک کشتی چینی ممکن است خطر تبدیل شدن به یک درگیری مسلحانه بین دو کشور را داشته باشد.
گزارش نادرست چگونه ساخته شد
این تحلیلگر از یک چت بات در مورد گزارش اطلاعاتی در مورد مانیفست کشتی که از فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام مستقر در هاوایی سرچشمه می گیرد، سوال کرده بود. سی ان ان گزارش داد که مشخص نیست چت بات یک محصول تجاری در دسترس است یا یک ابزار دولت ایالات متحده است.
این ربات اطلاعات منبع باز را با اطلاعات سیگنال های مخفی در دارایی های دولتی ادغام کرد و به نتیجه سرنوشت ساز خود در مورد مواد داخل کشتی رسید. سپس این تحلیلگر برای بار دوم از هوش مصنوعی استفاده کرد - تا یافته ها را در یک گزارش استاندارد اطلاعاتی، از نوع مورد اعتماد مقامات نظامی - بسته بندی کند و آن را در سراسر سیستم منتشر کرد.
فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام و پنتاگون به درخواست CNN برای اظهار نظر پاسخ ندادند.
مسابقه نظامی برای پذیرش هوش مصنوعی
نزدیک به از دست دادن در لحظه ای فرود می آید که مقامات در سراسر ارتش و جامعه اطلاعاتی ایالات متحده تلاش می کنند تا هوش مصنوعی را تقریباً در تمام جنبه های کار خود بگنجانند - از تجزیه و تحلیل حجم عظیمی از اطلاعات خام و انتخاب اهداف برای حملات گرفته تا برنامه های روزمره مانند بودجه، تدارکات و زنجیره تامین.
در ژانویه، وزیر دفاع، پیت هگزث، «استراتژی شتاب هوش مصنوعی» را منتشر کرد که هدف آن تسریع پذیرش هوش مصنوعی توسط ارتش بود. هگزت در سخنرانی خود با اعلام این استراتژی گفت: «ما آزمایش‌ها را آزاد خواهیم کرد، موانع بوروکراتیک را حذف خواهیم کرد، سرمایه‌گذاری‌های خود را متمرکز کرده و رویکرد اجرایی مورد نیاز برای اطمینان از پیشروی در هوش مصنوعی نظامی را نشان خواهیم داد.
این استراتژی صراحتاً خواستار دموکراتیک کردن دسترسی است و به این وزارتخانه دستور می‌دهد که «مدل‌های هوش مصنوعی پیشرو در جهان آمریکا را مستقیماً در دستان سه میلیون پرسنل غیرنظامی و نظامی ما در تمام سطوح طبقه‌بندی قرار دهد».
بدون مجموعه ای از قوانین
اما چندین مقام آمریکایی به سی ان ان گفتند که این تلاش غیرمتمرکز است و بخش های مختلف دولت از ابزارهای مختلف تحت دستورات و استانداردهای ایمنی متفاوت استفاده می کنند. هیچ مجموعه استانداردی برای اینکه ایالات متحده چگونه اطلاعات تولید شده توسط این ابزارها را تأیید می کند وجود ندارد و قابلیت اطمینان سیستم های مختلف بسیار متفاوت است.
یک مقام ارشد سابق آمریکایی که با سیستم های هوش مصنوعی مورد استفاده توسط تحلیلگران نظامی و اطلاعاتی استفاده می شود به سی ان ان گفت: «ابزارهای داخلی بیشتر فقط کپی هایی از موارد تجاری با استفاده از رژ لب هستند.
هدف‌گذاری هوش مصنوعی با راهنمایی اندک «افزایش می‌یابد».
منابع گفتند ارتش به سرعت به هوش مصنوعی روی می آورد تا به هدف گیری کمک کند - منطقه ای که خطر آشکار اشتباهات مرگبار را به همراه دارد. منبع دیگری که با سیاست‌های فعلی ارتش آشناست به سی‌ان‌ان گفت: «هوش مصنوعی در هدف‌گیری قطعاً چیزی است که در حال افزایش است و هیچ راهنمایی واقعی برای اینکه چگونه حضور یک انسان در حلقه از تلفات غیرنظامی یا برادرکشی جلوگیری می‌کند، وجود ندارد.
تحلیلگران مدت‌ها هشدار داده‌اند که اگر دولت‌های ملی بر داده‌های ضعیف یا خراب تکیه کنند، هوش مصنوعی می‌تواند به یک اشتباه محاسباتی فاجعه‌بار کمک کند - دقیقاً نوعی از محاسبات اشتباه که می‌تواند باعث شود ایالات متحده بر اساس اطلاعات نادرست به یک کشتی چینی شلیک کند.
به گزارش سی ان ان، از زمانی که این ابزارها از طریق دولت شروع به تکثیر کردند، نوع توهم پشت گزارش نادرست کشتی یک حادثه مجزا در جامعه اطلاعاتی نبوده است.
"هوش مصنوعی به شما امکان می دهد سریعتر به یک ایده بد برسید"
برای هفته‌ها، سیاست‌گذاران واشنگتن به‌دنبال یک سری هشدارهای وحشتناک از سوی سیلیکون ولی درباره احتمال رهایی هوش مصنوعی از محدودیت‌های انسانی، شدیداً بحث می‌کنند. اما اپیزود کشتی چینی بر خطری متفاوت و فوری‌تر تأکید می‌کند: انسان‌ها تصمیمات فاجعه‌باری را بر اساس اطلاعات نادرست یا گمراه‌کننده تولید شده توسط سیستم‌های هوش مصنوعی می‌گیرند.
چندین منبع به سی‌ان‌ان گفتند که به‌ویژه تحلیلگران جوان‌تر - بومی‌های این ابزارها - به احتمال زیاد به آنها اعتماد غیرانتقادی دارند و هوش مصنوعی فشار را بر تحلیلگران برای تولید و انتشار سریعتر اطلاعات تشدید کرده است و در را برای اشتباهات باز می‌کند.
یکی از منابع گفت: "هوش مصنوعی به شما امکان می دهد سریعتر به یک ایده بد برسید."
این قسمت احتمالاً بحث داغی را در مورد اینکه ارتش ایالات متحده با چه سرعتی باید هوش مصنوعی را در حساس ترین جریان های کاری خود قرار دهد و اینکه چه مراحل راستی آزمایی باید قبل از اینکه گزارش به کمک هوش مصنوعی بتواند نیروها، هواپیماها و پرسنل مسلح را به سمت یک عملیات جنگی بالقوه سوق دهد، اجباری باشد، دامن بزند. در حال حاضر، جزئیات حاکی از آن است که تدابیری که وجود دارد یک تکه تکه است - و در این مورد، تفاوت بین یک گزارش معمول اطلاعاتی و یک حادثه بین‌المللی به مقاماتی رسید که اتفاقاً آنها را دوباره بررسی کردند.
از هوش مصنوعی جلوتر بمانید
برای گزارش بیشتر در مورد سیاست هوش مصنوعی، امنیت ملی، و مدل هایی که هر دو را شکل می دهند، [اخبار هوش مصنوعی را بیشتر بخوانید] (https://aibuzzwire.news).
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
