بر اساس یک مطالعه پیشگامانه از برنامه کمبریج در زمینه علم و سیاست هوش مصنوعی (CASP)، سازمان های تروریستی از جمله داعش به طور سیستماتیک از هر چت ربات اصلی هوش مصنوعی برای برنامه ریزی حمله، توسعه تسلیحات و امنیت عملیاتی بهره برداری می کنند. این یافته‌ها که در 11 ژوئیه 2026 منتشر شد، دقیق‌ترین شواهد تجربی را نشان می‌دهد که تا به امروز گروه‌های افراطی از ابزارهای هوش مصنوعی در دسترس تجاری استفاده می‌کنند. برای پوشش مداوم ایمنی هوش مصنوعی و پیشرفت‌های صنعت، به [AI Buzz Wire] (https://aibuzzwire.news) مراجعه کنید.

داخل مطالعه کمبریج

محقق Antonia Jülich 57 مصاحبه با 27 نفر از اعضای سابق داعش و شاخه های منطقه ای آن انجام داد تا مستند کند که چگونه سازمان های تروریستی هوش مصنوعی را در عملیات خود ادغام کرده اند. این مطالعه نشان داد که داعش واحدهای اختصاصی هوش مصنوعی را در هر دو جناح اصلی خود ایجاد کرده است و با مدل‌های زبانی بزرگ به‌عنوان زیرساخت عملیاتی اصلی به جای ابزارهای آزمایشی رفتار می‌کند.

بر اساس این تحقیق، داعش حداقل از سال 2023 آموزش مهندسی سریع و فرار از زندان را به عوامل خود ارائه کرده است. این سازمان همچنین این آموزش را به گروه های متحد، از جمله فرماندهان بوکوحرام در نیجریه، تعمیم داده است و به آنها آموزش می دهد که چگونه به طور سیستماتیک فیلترهای ایمنی هوش مصنوعی مستقر شده توسط شرکت های فناوری بزرگ را دور بزنند.

هر چت ربات اصلی به خطر افتاده است

این مطالعه نشان می دهد که عوامل تروریستی به طور فعال از ChatGPT، Claude، Gemini، Grok، Meta AI و DeepSeek در عملیات خود استفاده می کنند. گروه ها از هوش مصنوعی برای موارد زیر استفاده می کنند:

  • برنامه ریزی حمله - تولید سناریوهای تاکتیکی و شناسایی آسیب پذیری ها در زیرساخت هدف
  • ساخت دستگاه منفجره - منبع اطلاعات فنی برای ساخت دستگاه های بداهه قوی تر
  • تعمیر و نگهداری سلاح - عیب یابی و تعمیر سلاح گرم و سایر تجهیزات
  • امنیت عملیاتی - توسعه ارتباطات پیچیده تر و استراتژی های رمزگذاری

شاید نگران‌کننده‌تر از همه، این مطالعه نشان داد که فیلترهای ایمنی هوش مصنوعی که توسط ارائه‌دهندگان ربات‌های گفتگوی بزرگ مستقر شده‌اند نتوانستند به‌طور قابل اعتمادی از این سوءاستفاده جلوگیری کنند. محققان خاطرنشان کردند که گروه‌ها روش‌های سیستماتیکی را برای دور زدن این نرده‌ها توسعه داده‌اند که اقدامات ایمنی داوطلبانه را تا حد زیادی در برابر دشمنان مصمم بی‌اثر می‌کند.

مطالعه موردی مرگبار

این تحقیق شامل یک مثال برجسته از ISWAP (استان غرب آفریقای داعش) است. بر اساس گزارشی که توسط یکی از فرماندهان سابق ISWAP به نام Munzir ارائه شده است، این گروه از هوش مصنوعی برای یادگیری نحوه تکرار تکنیک پرش با موتورسیکلت که در یک فیلم به تصویر کشیده شده است، استفاده کرد و قصد داشت از آن برای پاک کردن سنگرهای دفاعی استفاده کند. این تمرین آموزشی فاجعه آمیز بود: هجده مبارز در تلاش برای انجام مانور جان خود را از دست دادند، در حالی که تنها هشت نفر پرش را با موفقیت انجام دادند.

این حکایت هم پیامدهای واقعی استفاده از هوش مصنوعی تروریستی و هم ماهیت گاهی غیرقابل پیش بینی اطلاعاتی که این مدل ها ارائه می دهند را نشان می دهد. در حالی که ممکن است هوش مصنوعی این تکنیک را به دقت توصیف کرده باشد، اجرای فیزیکی در یک محیط جنگی منجر به نتایج فاجعه‌باری شد.

یولیچ می نویسد که اعضای سابق "اشتیاق شدید" را برای ابزارهای هوش مصنوعی در سازمان توصیف کردند و برخی اشاره کردند که این گروه قبلاً توسعه سلاح های تلفات جمعی را با استفاده از اطلاعات منبع هوش مصنوعی در نظر گرفته بود. در حالی که استفاده بوکوحرام از هوش مصنوعی تا کنون متعارف باقی مانده است، محقق هشدار می دهد که این باید به عنوان یک شاخص اولیه از یک تهدید گسترده تر در نظر گرفته شود.

این مطالعه در پایان می‌گوید: «این باید هشداری برای جدی گرفتن خطر تروریست‌هایی باشد که به دنبال کمک هوش مصنوعی برای سلاح‌های شیمیایی و بیولوژیکی هستند».

فیلترهای ایمنی ناکافی هستند

یافته های این مطالعه در مورد فیلترهای ایمنی هوش مصنوعی به ویژه برای صنعت فناوری نگران کننده است. علیرغم میلیاردها دلار سرمایه‌گذاری برای تعدیل محتوا، تیم قرمز و حفاظ‌های ایمنی، این تحقیق نشان می‌دهد که کاربران مصمم می‌توانند به طور مداوم از این حفاظت‌ها دور بزنند.

خود آنتروپیک قبلاً اذعان کرده بود که جیلبریک ها - تکنیک هایی برای دور زدن اقدامات ایمنی هوش مصنوعی - احتمالاً هرگز به طور کامل از مدل های زبان بزرگ حذف نمی شوند. مطالعه کمبریج شواهد ملموسی را ارائه می‌کند که از این ارزیابی حمایت می‌کند و نشان می‌دهد که حتی بازیگران غیردولتی با تخصص فنی محدود می‌توانند یاد بگیرند که به طور سیستماتیک فیلترهای ایمنی را از طریق آموزش مشترک و تکنیک‌های مهندسی سریع شکست دهند.

با این حال، محققان همچنین به نکته مهمی اشاره کردند. چت ربات های همه منظوره مانند ChatGPT و Claude، در حالی که بیشترین توجه عمومی را به خود جلب می کنند، در درجه اول به جای تولید اطلاعات خطرناک واقعی جدید، دانش موجود را در دسترس تر می کنند. آنها استدلال می کنند که نگرانی طولانی مدت بیشتر در سیستم های تخصصی هوش مصنوعی است که برای علوم زیستی و سایر حوزه های حساس توسعه می یابند، جایی که هوش مصنوعی می تواند دسترسی به تهدیدهای جدید را تسریع کند.

پیامدها برای سیاست هوش مصنوعی

یافته های کمبریج در لحظه ای حساس برای حکمرانی هوش مصنوعی می رسد. دولت‌ها در سراسر جهان درباره نحوه تنظیم مدل‌های هوش مصنوعی مرزی بحث می‌کنند، با قانون هوش مصنوعی اتحادیه اروپا که قبلاً در حال اجرا است و ایالات متحده تعهدات داوطلبانه ایمنی را از آزمایشگاه‌های پیشرو هوش مصنوعی دنبال می‌کند.

این مطالعه نشان می دهد که رویکردهای فعلی متمرکز بر خود تنظیمی داوطلبانه صنعت ممکن است برای جلوگیری از استفاده مخرب از ابزارهای هوش مصنوعی کافی نباشد. این واقعیت که داعش سال‌ها برنامه‌های آموزشی اختصاصی هوش مصنوعی را بدون شناسایی توسط ارائه‌دهندگان پلت‌فرم اجرا کرده است، سؤالات جدی در مورد اثربخشی اقدامات ایمنی موجود ایجاد می‌کند.

کارشناسان امنیتی مدت‌هاست هشدار داده‌اند که مدل‌های هوش مصنوعی می‌توانند دسترسی به دانش خطرناک را دموکراتیک کنند. تحقیقات کمبریج قانع‌کننده‌ترین شواهد تجربی را ارائه می‌کند که نشان می‌دهد این تهدید نظری نیست، بلکه در حال حاضر عملیاتی است و سازمان‌های تروریستی فعالانه هوش مصنوعی را در فعالیت‌های روزانه خود ادغام می‌کنند.

این یافته ها همچنین بحث های جاری در مورد مدل های AI منبع باز را پیچیده می کند. در حالی که مدل‌های اختصاصی مانند ChatGPT و Claude دارای فیلترهای ایمنی هستند که می‌توان آن‌ها را به‌روزرسانی و بهبود بخشید، جایگزین‌های منبع باز مانند DeepSeek - که این مطالعه تأیید می‌کند داعش نیز از آن استفاده می‌کند - چنین کنترل متمرکزی را ارائه نمی‌دهد. هنگامی که یک مدل باز منتشر شد، ویژگی های ایمنی آن توسط توسعه دهنده اصلی قابل تغییر نیست.

همانطور که دولت ها و شرکت های هوش مصنوعی با این چالش ها دست و پنجه نرم می کنند، مطالعه کمبریج یک چیز را روشن می کند: شکاف بین قابلیت های ایمنی و نوآوری های دشمن در حال افزایش است و سازمان های تروریستی فعالانه از آن بهره برداری می کنند.

از هوش مصنوعی جلوتر بمانید

برای پوشش بیشتر ایمنی هوش مصنوعی، سیاست‌گذاری و پیشرفت‌های صنعت، به [AI Buzz Wire] (https://aibuzzwire.news) مراجعه کنید.

بیشتر بخوانید اخبار هوش مصنوعی →