این هفته یک مقام رسمی تایید کرد، کمیسیون اروپا، شاخه اجرایی اتحادیه اروپا، در ماه اکتبر مورد هدف یک حمله سایبری قرار گرفت که با استفاده از هوش مصنوعی انجام شد و خدمات داخلی را برای بیش از ده روز مختل کرد. آسوشیتدپرس گزارش داد که حمله علیه مدیران اتحادیه اروپا با کمک یک ابزار هوش مصنوعی در یکی از مهمترین استفادههای افشا شده عمومی از هوش مصنوعی در حمله به یک نهاد دولتی تا به امروز انجام شده است.
چی شد For more context on this story, see our ongoing breaking AI news.
به گزارش آسوشیتدپرس، این حمله در ماه اکتبر رخ داد و از یک ابزار هوش مصنوعی در دسترس عموم به نام ARTEX استفاده شد. این نفوذ، کمیسیون را مجبور کرد تا برنامه های داخلی، از جمله سیستم های منابع انسانی و حقوق و دستمزد را که به ده ها هزار کارمند آن خدمات ارائه می دهند، آفلاین کند. Techzine گزارش داد که این حمله سایبری سیستمهای منابع انسانی کمیسیون را تعطیل کرد، در حالی که خروجی Hromadske و Escudo Digital اسپانیا هر دو گزارش دادند که خدمات داخلی برای بیش از ده روز تحت تأثیر قرار گرفتند.
Escudo Digital گزارش داد که کمیسیون میگوید بیشترین نفوذ را در خود جای داده است، اما بازرسان همچنان در حال کار برای تعیین اینکه آیا دادههای شخصی متعلق به کارمندان به خطر افتاده است یا خیر. یورونیوز این حادثه را یک حمله سایبری در مقیاس بزرگ توصیف کرد که میزان نشت اطلاعات هنوز مشخص نیست و رصدخانه دیده بان دیجیتال گزارش داد که این حمله ممکن است مقادیر قابل توجهی از داده های شخصی را افشا کند. هیچ مهاجمی به طور علنی نامگذاری نشده است و کمیسیون این عملیات را به هیچ دولت یا گروهی نسبت نداده است.
چرا جزئیات ARTEX اهمیت دارد
آنچه این حادثه را متمایز می کند، هدف نیست – نهادهای اتحادیه اروپا به طور معمول مورد بررسی قرار می گیرند – بلکه ابزار است. ARTEX یک ابزار هوش مصنوعی در دسترس عموم است و استفاده از آن نشان میدهد که با چه سرعتی قابلیتهای تهاجمی که زمانی به تیمهای نخبه نیاز داشت، در نرمافزارهای قابل دسترسی گسترده منتشر میشوند. CyberSecurityNews گزارش داد که هکرها کمیسیون اروپا را با ابزار ARTEX AI در آنچه که به عنوان یک حمله سایبری بزرگ توصیف می شود، هدف قرار دادند، و تایمز آف ایندیا خاطرنشان کرد که افشای اطلاعات درست زمانی رخ می دهد که FBI در مورد عملیات سایبری با کمک هوش مصنوعی هشدار داده است، با هشدارهای اداره در مورد هوش مصنوعی پس از تمرکز بر ابزارهای جدید.
برای اتحادیه اروپا، نمادگرایی ناراحت کننده است. این بلوک سالها صرف ساختن یکی از گستردهترین چارچوبهای نظارتی جهان برای فناوری دیجیتال، از GDPR تا قانون هوش مصنوعی کرده است و خود را بهعنوان قانونگذار جهان برای هوش مصنوعی معرفی کرده است. این که یکی از مؤسسات اصلی خود به مدت ده روز توسط یک حمله با استفاده از ابزار هوش مصنوعی عمومی مختل شد، نشان دهنده شکاف بین تنظیم هوش مصنوعی و دفاع در برابر سوء استفاده از آن است.
تحقیق و سوالات باز
چندین سوال حیاتی بی پاسخ مانده است. کمیسیون نگفته است که مهاجمان چگونه به دسترسی اولیه دست یافتهاند، آیا از ابزار ARTEX برای ایجاد خود نفوذ، برای شناسایی خودکار، یا تولید فریبهای متقاعدکننده استفاده شده است - فقط این که حمله با کمک آن انجام شده است. یورونیوز گزارش داد که ارزیابیای که یورونیوز گزارش داده هنوز در جریان است، تأیید نکرده است که آیا دادههای شخصی کارکنان واقعاً از شبکههایش خارج شدهاند.
مدت زمان اختلال به خودی خود قابل توجه است. پلتفرمهای حقوق و دستمزد و منابع انسانی برای مؤسسهای که دهها هزار نفر را در سراسر بروکسل و دهها دفتر ملی استخدام میکند، از نظر عملیاتی حیاتی هستند، و آفلاین نگهداشتن آنها برای بیش از ده روز نشاندهنده تلاش مستمر برای بیرون راندن متجاوزان یا قرنطینه عمدی برای جلوگیری از حرکت جانبی است - تصمیمی که مهار را بر تداوم اولویت میدهد. رسانه مستقر در رومانی Informat.ro گزارش داد که برنامه های داخلی فقط به طور موقت غیرفعال شده اند، که با بازسازی مرحله ای سازگار است که در آن سیستم ها به تدریج پس از تأیید تمیز بودن بازگردانده می شوند.
این افشاگری همچنین در میان گستره وسیعتری از بیثباتی مرتبط با هوش مصنوعی در سیستمهای حیاتی به دست میآید. رسانههای اوکراینی این هفته گزارش دادند که هوش مصنوعی ممکن است به طور غیرمستقیم در مجموعهای از قطعیهای فناوری اطلاعات در مقیاس بزرگ در ایالات متحده دخیل بوده باشد، و گزارشهای جداگانه آسیبپذیریهای کشفشده توسط هوش مصنوعی را به اختلالات اصلاحی اخیر مرتبط میکند – الگویی که عملیاتهای مبتنی بر هوش مصنوعی را به موضوعی تکراری در جلسات توجیهی امنیتی در دو سوی اقیانوس اطلس تبدیل کرده است.
یک شلیک هشدار برای موسسات در همه جا
تحلیلگران امنیتی در دو سال گذشته هشدار دادهاند که هوش مصنوعی مولد مانع عملیاتهای پیچیده میشود - خودکارسازی تحقیقات آسیبپذیری، تهیه پیشنویس فیشینگ متقاعدکننده در مقیاس و تسریع در هر مرحله از نفوذ. حادثه کمیسیون واضحترین تأییدیه عمومی است که تاکنون وجود دارد مبنی بر اینکه این اتفاق علیه اهداف دولتی با ارزش بالا و با استفاده از ابزارهایی که هر کسی میتواند دانلود کند روی میدهد. چارچوب آژانس امنیت سایبری خود اتحادیه اروپا که بر اساس ENISA و دستورالعمل NIS2 در مورد امنیت زیرساخت های حیاتی ساخته شده است، اکنون با آن دسته از تست هایی روبرو است که تنظیم کننده های آزمایشی بیشتر در مورد آنها نوشته اند تا تجربه دست اول.
پاسخ تاکنون مهار بوده است، نه تلافی یا نام بردن. همانطور که تحقیقات ادامه دارد، احتمالاً این مورد در بحث سیاستهای فزاینده در هر دو طرف اقیانوس اطلس در مورد حملات مجهز به هوش مصنوعی به سیستمهای دولتی و در مورد اینکه آیا در دسترس بودن عمومی ابزارهای قدرتمند هوش مصنوعی نیاز به نوع حفاظهایی دارد که تنظیمکنندهها تا کنون بر روی استفاده از مدلهای تجاری تمرکز کردهاند و نه برای مهاجمان، دیده میشود.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →