بازوی اطلاعات تهدید گوگل روز دوشنبه در یافتههای گزارش شده توسط Nextgov اعلام کرد هکرها از یک چارچوب هک با پشتوانه هوش مصنوعی در نفوذی که بخش هوافضای ایالات متحده را هدف قرار میدهد، استفاده کردند. این ابزار که به نام Cairn شناخته میشود، یک چارچوب تست نفوذ در دسترس عموم است که به جامعه امنیتی منبع باز چینی مرتبط است - و ظاهر آن در داخل یک نفوذ زنده، گام دیگری در مهاجرت هوش مصنوعی عامل از نمایشهای تحقیقاتی به عملیاتهای جاسوسی واقعی است.
گوگل نامی از سازمان هوافضایی که به آن دسترسی داشت، نگفت که چه اطلاعاتی ممکن است گرفته شده باشد، یا این نفوذ را به دولت خاصی نسبت نداد. این گزارش به طور کلی فعالیتهای مشاهده شده در سه ماهه گذشته را پوشش میدهد و در میان پوشش صنعت هوش مصنوعی امروزی سیستمهای عامل سریعتر از آنچه مدافعان میتوانند تطبیق دهند، تغییر کاربری داده میشود.
آنچه کایرن و پسرعموهایش می توانند انجام دهند
کایرن با هک به کمک چت بات که بر گزارش های تهدید قبلی غالب بود، متفاوت است. به جای اینکه انسان قدم به قدم دستیار هوش مصنوعی را تشویق کند، کایرن از عوامل هوش مصنوعی استفاده میکند که اطلاعات را با یکدیگر به اشتراک میگذارند و تصمیم میگیرند که کدام تکنیکهای هک را بعداً برای نفوذ به یک سیستم امتحان کنند.
محققان گوگل گفتند دیگر سیستمهای منبع باز - از جمله ARTEX، CyberStrikeAI و PentAGI - اکنون برای «اجرای نفوذهای چند مرحلهای با سرعت عملیاتی بیشتر» در مقایسه با فعالیتهای قبلی که در آن هکرها به صورت دستی از چت رباتهای هوش مصنوعی برای کمک به مراحل جداگانه استفاده میکنند، استفاده میشوند. ARTEX به طور جداگانه در مشاوره امنیت سایبری FBI که روز جمعه منتشر شد، علامت گذاری شد.
هشداردهنده ترین یافته: بهره برداری کاملاً خودکار
یک کشف از گزارش فصلی برجسته است. محققان گوگل متوجه شدند که سیستم مهاجم برای مطالعه اصلاحات نرم افزاری، توسعه حملات بر اساس آموخته هایش، و اجرای خودکار آن حملات - بدون دخالت انسانی در حلقه، پیکربندی شده است. این شرکت گفت این اولین بار است که محققان آن مهاجمانی را شناسایی میکنند که این فرآیند را کاملاً خودکار میکنند.
مفهوم واضح است: رقابت بین انتشار وصلهها و بهرهبرداری ممکن است از هفتهها به ساعتها سقوط کند و فشار بیشتری را بر سازمانهایی وارد کند که از قبل برای نصب بهروزرسانیهای امنیتی پیش از رسیدن مجرمان به آنها تلاش میکنند. هکر نیوز که همان یافتهها را پوشش میدهد، این تکنیک را خلاصه کرد که هکرها از عوامل هوش مصنوعی برای ساخت و اجرای اکسپلویتها مستقیماً از وصلههای نرمافزاری استفاده میکنند.
به گزارش Nextgov، شرکت گفت: «با توجه به موانع کم ورود، سهولت ادغام اکسپلویتهای جدید و پتانسیل مقیاسپذیری عظیم، ما معتقدیم که به احتمال زیاد عوامل تهدید به استفاده از این چارچوبها در کمپینهایی که سازمانها را در سطح جهانی هدف قرار میدهند، ادامه خواهند داد».
تیم های چینی تجزیه و تحلیل را صنعتی می کنند. استخدام کنندگان کره شمالی مصنوعی می روند
این گزارش همچنین توضیح می دهد که چگونه بازیگران مرتبط با دولت، مدل ها را در مراحل مختلف عملیات خود قرار می دهند. گروههای هکر چینی از مدلهای هوش مصنوعی برای تجزیه و تحلیل فایلهای سرقت شده و تهیه گزارشهای اطلاعاتی نهایی برای مشتریان استفاده کردهاند. در یک نمونه، یک پیمانکار از هوش مصنوعی برای ترجمه و تجزیه و تحلیل اطلاعات دزدیده شده، بررسی نحوه ساختار سازمانهای هدف، و سازماندهی یافتهها در گزارشهای اطلاعاتی استفاده کرد - با استفاده از فناوری برای کارهای تفسیری پیچیده که بهجای خود سرقت به دنبال سرقت انجام میشود.
گوگل همچنین عملیات مظنون چینی را مشاهده کرد که با ابزارهای هک خودکار آزمایش می کردند، از جمله یک گروه مرتبط با چین که سیستم خود را توسعه می داد، احتمالاً برای استفاده در عملیات جاسوسی.
در همین حال، بازیگران کره شمالی از هوش مصنوعی برای تقویت مهندسی اجتماعی خود استفاده می کنند. یکی از گروههای گوگل، سازمانهای ارزهای دیجیتال هدفمند در آمریکای شمالی و اروپا را با استفاده از پروفایلهای استخدامکننده ساختگی ردیابی میکند. استخدامکنندگان جعلی اهداف را به سمت سرویسهای جلسات تقلبی هدایت میکردند، جایی که دستورالعملها برای رفع یک مشکل فنی فرضی، آنها را به اجرای کدهای مخرب هدایت میکرد.
هنگامی که مهاجمان وارد شدند، تنظیمات Claude Code - دستیار کدنویسی هوش مصنوعی Anthropic - را در مخازن کد شرکت تغییر دادند، به طوری که راه اندازی دستیار باعث دانلود بدافزار شود. تسلیح کردن یک ابزار توسعهدهنده قابل اعتماد به این معنی است که این اقدام مخرب بر روی مهندسین نرمافزار از قبل اعتماد میشود.
این یافته ها منعکس کننده اعلامیه وزارت دادگستری در هفته گذشته است که FaceStealer را هدف قرار داده بود، یک طرح تماس ویدیویی جعلی کره شمالی که با بیش از 400 میلیون دلار سرقت مرتبط است، در کنار احکام دادگاه که بیش از 1.2 میلیارد دلار سرقت شده از بایننس را پوشش می دهد. گزارش گوگل یافته های خود را به هیچ یک از این دو مورد مرتبط نکرد.
عملیات نفوذ نیز بیشتر خودکار می شود
فراتر از جاسوسی و جرایم مالی، گوگل گفت که عملیات نفوذ مرتبط با روسیه، چین و ایران اکنون به طور معمول از مدلهای هوش مصنوعی برای تولید محتوا و توزیع خودکار آن استفاده میکنند و بیشتر کار ظاهر شدن به عنوان افراد عادی آنلاین را به ماشینها واگذار میکنند.
شکاف در حال افزایش
در مجموع، یافتهها یک مشکل دفاعی را ترسیم میکنند که با هر نسخه منبع باز رشد میکند. چارچوبهای تست نفوذ مانند Cairn، ARTEX، CyberStrikeAI و PentAGI ابزارهای قانونی هستند که توسط و برای جامعه امنیتی ساخته شدهاند، و معماری عامل آنها باعث میشود که واقعاً برای تیمهای قرمز مفید باشند. همین ویژگی ها آنها را به سلاح های تهاجمی کلید در دست برای هر کسی که آنها را دانلود می کند تبدیل می کند.
پیام Google به مدافعان در واقع یک فرض برنامهریزی است تا یک پیشبینی: فرض کنید نفوذ بعدی که با آن روبرو میشوید با سرعت دستگاه اجرا شده است، در یک جدول زمانی تنظیم شده توسط نمایندهای که یادداشتهای وصله شما را قبل از اتمام استقرار آنها میخواند.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →