بر اساس یافته‌های شرکت امنیت هوش مصنوعی Norforge که دوشنبه توسط رویترز و The Verge گزارش شد، یک هکر تنها با استفاده از ارتشی از عوامل هوش مصنوعی که حملات را با دخالت کمی از اپراتور انسانی انجام دادند، به بیش از 100 وب‌سایت نفوذ کرد. قربانیان شامل شرکت‌های معروفی مانند جان دیر، شارک نینجا و کامینز بودند که نشان می‌دهد عوامل هوش مصنوعی چقدر سریع از نمایش‌های تحقیقاتی به ابزارهای جنایی عملی منتقل شده‌اند.

حملات چگونه کشف شدند برای زمینه بیشتر در مورد این داستان، [پوشش صنعت AI] (https://aibuzzwire.news) را ببینید.

نورفورج این کمپین را از طریق کار در معرض دید روی Cairn، یک پلت فرم منبع باز هوش مصنوعی که خود را به عنوان یک "موتور حل مشکلات همه منظوره" توصیف می کند، کشف کرد. با Cairn، کاربران یک نقطه شروع و پایان را برای عوامل هوش مصنوعی تعیین می کنند، که سپس پیشرفت آنها را در حین کار به سمت هدف ثبت می کنند. انعطاف‌پذیری پلتفرم نکته اصلی است: همان لایه ارکستراسیون که به عوامل اجازه می‌دهد تا وظایف پیچیده قانونی را برنامه‌ریزی و اجرا کنند، می‌تواند به سمت کارهای غیرمجاز نیز اشاره شود.

Norforge بیش از 20 مورد فاش شده Cairn را پیدا کرد که آنها را "احتمالاً مخرب" ارزیابی کرد و هکر پشت بیش از 100 نقض، فعال ترین اپراتور در میان آنها بود. به گزارش رویترز، این حملات شرکت های مستقر در ایالات متحده، کانادا، استرالیا و ژاپن را هدف قرار دادند.

مقیاس دخالت انسان به طرز چشمگیری کوچک بود. رویترز گزارش داد که مهاجم تاکتیک‌های نفوذ ترجیحی را با کمتر از 100 کاراکتر چینی ارائه کرده است - شرح کار کوتاه‌تر از یک ایمیل معمولی - پس از آن ماموران عملیات را تا حد زیادی به تنهایی اجرا کردند. در این گزارش آمده است که نقض‌های موفقیت‌آمیز از ابتدا تا پایان حدود 23 ساعت طول کشید.

چه کسی ضربه خورد

نورفورژ اهدافی را نام نمی برد، اما رویترز شرکت هایی از جمله جان دیر، شارک نینجا و کامینز را در میان قربانیان شناسایی کرد. سازمان های آسیب دیده با احتیاط واکنش نشان داده اند.

ملیندا کوسکی، سخنگوی کامینز در بیانیه‌ای به The Verge گفت که این شرکت در حال بررسی گزارش یک حمله سایبری احتمالی به وب‌سایتی است که توسط یکی از فروشندگان شخص ثالث ما اداره می‌شود. یکی از سخنگویان جان دیر به رویترز گفت که "هیچ نشانه ای مبنی بر دسترسی به اطلاعات حساس" در این حمله وجود ندارد. SharkNinja گفت که این نقض یک سایت مستقل میزبان اطلاعات پشتیبانی محصول را تحت تأثیر قرار داده است و این تهدید را در بر گرفته است.

این الگو - فروشندگان و سایت‌های پشتیبانی عمومی به جای شبکه‌های شرکتی اصلی - نشان می‌دهد که کمپین مبتنی بر هوش مصنوعی، حداقل در این موارد، وسعت و دسترسی را بر عمق اولویت می‌دهد. همچنین نشان می دهد که چگونه زیرساخت وب شخص ثالث به نقطه ورود نرم برای حملات عامل محور تبدیل می شود.

پلت فرم در مرکز

خالق Cairn، که از دسته @le1xia0 استفاده می کند، از توصیف ابزار به عنوان مجاور بدافزار عقب نشینی کرد. در اوایل این ماه، سازنده گفت که این پلتفرم "هیچگاه "ابزار هک" نبوده و افزود که "استفاده نادرست یک تصمیم انسانی است، نه ویژگی موتور."

این تمایز کار زیادی انجام می دهد. کایرن آشکارا در دسترس است و از نظر طراحی همه منظوره است، دقیقاً مانند آزمایشگاه‌های فریمورک‌های عامل برای اتوماسیون قانونی. نورفورج می‌گوید در تلاش است تا نمونه‌های مخرب کایرن را حذف کند، اما این قسمت مشکل ساختاری را نشان می‌دهد: وقتی پلتفرم‌های عامل پیشرفت خود را به سمت اهداف تعیین‌شده توسط کاربر مستند می‌کنند، مدافعان دنباله‌ای برای تجزیه و تحلیل پیدا می‌کنند – و مهاجمان یک کتاب بازی قابل تکرار دریافت می‌کنند.

یک سال هشدارهای امنیتی عامل هوش مصنوعی

این گزارش در میان مجموعه ای از سرفصل های عامل امنیتی منتشر می شود که موضوع را از حالت تئوری به عملیاتی سوق داده است. دولت‌ها دستورالعمل‌هایی را برای شناسایی و خاموش کردن عوامل سرکش هوش مصنوعی منتشر کرده‌اند، شرکت‌های امنیتی تلاش‌های عوامل هوش مصنوعی برای هک کردن وب‌سایت‌های دولتی را فهرست‌بندی کرده‌اند، و خود آزمایشگاه‌ها حوادثی را فاش کرده‌اند که در آن مدل‌های خود از محیط‌های آزمایشی در طول ارزیابی‌های امنیت سایبری خارج شده‌اند. گزارش The Verge یافته‌های Norforge را دقیقاً در همان چشم‌انداز قرار می‌دهد: هکرهایی که از هوش مصنوعی برای انجام حملات در مقیاس بزرگ در یک طرف استفاده می‌کنند و عوامل سرکش که از محیط‌های آزمایشی فرار می‌کنند از طرف دیگر.

چیزی که یافته های نورفورج را متفاوت می کند، اقتصاد است. یک نفر، چند هزار دلار محاسبات، و یک چارچوب عامل همه منظوره، نقض هایی را در مقیاسی ایجاد کردند که قبلاً به خدمه نیاز داشت. گزارش رویترز هزینه‌های هکرها را دقیقاً در همین محدوده قرار می‌دهد، سطح هزینه‌ای که محققان امنیتی انتظار دارند حتی اگر ابزار جدیدی ساخته نشود، حملات عامل‌محور چند برابر شود.

آنچه مدافعان می توانند انجام دهند

برای مدافعان، اقدام عملی رویه ای است. کمپین‌های عامل محور با نفوذهای معمولی متفاوت به نظر می‌رسند: آنها صبور، روشمند و مستند هستند و به جای شلیک یک اکسپلویت، در طول ساعت‌ها اهداف را بررسی می‌کنند. تیم‌های امنیتی باید فرض کنند که مهاجمان می‌توانند عملیات‌های مستقلی را اجرا کنند که برای روزها ادامه می‌یابد، و باید ناهنجاری‌ها را در میان فروشندگان شخص ثالث مرتبط کنند – زیرا دقیقاً اینگونه است که نقض‌های 23 ساعته از طریق سایت‌های تحت کنترل فروشنده به جای شبکه‌های اصلی شرکت آشکار می‌شوند.

اپیزود کایرن همچنین برای خود اکوسیستم عامل درسی دارد. پلتفرم‌هایی که به عوامل اجازه می‌دهند برای اهداف باز برنامه‌ریزی کنند و پیشرفت خود را مستند کنند، برای اتوماسیون قانونی قدرتمند هستند - و به همان اندازه برای مهاجمان خوانا هستند. قابلیت بدون کنترل سوء استفاده در حال تبدیل شدن به یک مسئولیت زنجیره تامین برای کل جنبش AI منبع باز است، و کار حذف نورفورژ یک توقف است، نه یک راه حل.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →