محققان امنیتی در Cisco Talos جزئیات یک دزد اطلاعاتی ویندوز را ارائه کرده‌اند که محموله‌های سرقت شده خود را به یک مدل زبان بزرگ تحویل می‌دهد و از آن می‌خواهد همان کاری را که تحلیل‌گران جنایتکار انسانی انجام می‌دادند انجام دهد: کشف کردن که کدام قربانیان ارزش تعقیب را دارند. این بدافزار که VOLTA-AUTODOXER نامیده می‌شود، از یک مرحله نمایه قربانی مبتنی بر LLM استفاده می‌کند تا لاگ‌های اعتبارنامه خام را به پرونده‌های اولویت‌دار افراد پشت دستگاه‌ها تبدیل کند.
در تحلیلی که در 31 اکتبر توسط رایان فترمن، محقق Talos منتشر شد، این بدافزار - که توسط Talos با نام VOLTA ردیابی شده است - به عنوان یک ایمپلنت دزد بالغ با یک لایه اختیاری ادغام هوش مصنوعی توصیف شده است. پس از جمع‌آوری اعتبار، جلسات مرورگر و کیف پول‌های رمزنگاری، VOLTA یک بسته شواهد ساختاریافته درباره قربانی جمع‌آوری می‌کند و آن را به ارائه‌دهنده LLM با دستورالعمل‌هایی ارسال می‌کند تا به عنوان یک تحلیلگر پزشکی قانونی عمل کند. سیگنال‌های توسعه که سوء استفاده از هوش مصنوعی در جرایم سایبری به آن سمت می‌رود: نه فقط تولید متن فیشینگ، بلکه کار هوشمند خودکار. برای پوشش مداوم داستان‌هایی مانند این، [آخرین پیشرفت‌های هوش مصنوعی] ما را ببینید (https://aibuzzwire.news).
همه چیز را بدزدید، سپس اجازه دهید هوش مصنوعی آن را مرتب کند
VOLTA برای اولین بار از طریق تلاش های تحقیقاتی CAIRN ظاهر شد، و Talos آن را به عنوان یک سرقت اطلاعات ویندوز خود حذف شده و بدون زیرساخت های متعلق به مهاجم توصیف می کند - ویژگی هایی که هم نسبت دادن آن را سخت تر و هم مختل کردن آن را سخت تر می کند. مرحله جمع آوری آن حتی با استانداردهای دزد جامع است: رمزهای عبور مرورگر، کوکی ها و کارت های پرداخت. عبارات بذر کیف پول ارزهای دیجیتال; توکن های جلسه دیسکورد، تلگرام، استیم و روبلکس؛ توکن های Microsoft OAuth؛ SSH و کلیدهای ارائه دهنده ابر؛ پروفایل های وای فای؛ و اسکرین شات ها
تازگی پس از سرقت آغاز می شود. VOLTA چیزی را که Talos آن را یک بسته شواهد ساختاریافته می‌نامد، شامل موقعیت جغرافیایی و آدرس منزل، دامنه کارفرما و کارفرما، سال تولد استنباط‌شده، چهار رقم آخر کارت‌های پرداخت، فضای کاری Slack، ابرداده‌های تألیف اسناد، نشانگرهای پشتیبان آیفون و حتی یک ارزیابی زنده از حساب Roblox قربانی می‌سازد.
سپس آن بسته را با استفاده از جلسات دزدیده شده خود قربانی غنی می کند. به گفته تالوس، این بدافزار جی‌میل قربانی را برای دریافت رسید خرید جستجو می‌کند تا آدرس خانه او را تأیید کند، تاریخچه سفارش‌های UberEats و DoorDash را استخراج می‌کند و حساب‌های Discord را از طریق توکن دزدیده شده غنی می‌کند. نتیجه یک پرتره از یک شخص است که تقریباً به طور کامل از حساب‌های واردشده خود جمع‌آوری شده است.
درخواست: "به عنوان یک تحلیلگر اطلاعات پزشکی قانونی عمل کنید"
بسته مونتاژ شده سریالی می شود و به LLMهایی ارسال می شود که از طریق OpenRouter قابل دسترسی هستند، سرویسی که درخواست ها را به چندین ارائه دهنده مدل هدایت می کند. اعلان سیستم به مدل دستور می دهد تا به عنوان "یک تحلیلگر اطلاعات پزشکی قانونی که یک ارزیابی هدف را پیش نویس می کند" عمل کند.
خروجی مورد نیاز به طرز چشمگیری شرکتی است. این باید شامل بخشی با عنوان "آنچه ارزش دارند" باشد، که اشیای با ارزش قربانی را بر اساس پتانسیل کسب درآمد با سطوح پایین، متوسط و بالا رتبه بندی می کند، و بخشی در مورد "OPSEC آنها"، که وضعیت امنیتی قربانی و بهداشت رمز عبور را ارزیابی می کند. این مدل عملاً به تحلیلگر تریاژ اپراتور تبدیل می شود و پرونده ای با استناد تهیه می کند که به مجرم می گوید پول کجاست.
Talos همچنین شواهدی پیدا کرد که نشان می‌دهد اپراتورها حول حفاظ‌های ایمنی هوش مصنوعی مهندسی کرده‌اند. اگر مدلی از انجام ارزیابی هدف امتناع کند، VOLTA در زنجیره سه مدل شکست می‌خورد و مدل بعدی را امتحان می‌کند - چیزی که محقق به عنوان یک تلاش مهندسی مستقیم بر اساس انتظار رد کردن مدل توصیف می‌کند. دستور پیکربندی هوش مصنوعی بازیابی شده از بدافزار حتی حاوی دستورالعمل‌های سبکی است: "عمیق بروید، نه عریض... صریح، دقیق، دقیق باشید."
چرا مهم است
Talos نوآوری را دقیقاً چارچوب بندی می کند: هوش مصنوعی در اینجا از یک قابلیت بدافزار سنتی مانند مبهم سازی یا تولید فریب پشتیبانی نمی کند. به عنوان یک تحلیلگر اطلاعاتی از طرف اپراتور کار می کند. این شرکت می نویسد، ایده مهاجرت به دنیای جرایم سایبری این است که یک شبکه گسترده ایجاد کنیم، همه چیز را بدزدیم و اجازه دهیم هوش مصنوعی جزئیات را مرتب کند.
این پیامدهایی فراتر از این یک خانواده بدافزار دارد. دزدان اطلاعات در حال حاضر بخش عمده ای از اقتصاد جنایی را تغذیه می کنند - سیاههها به صورت عمده فروخته می شوند و خریداران به صورت دستی آنها را انتخاب می کنند. یک مرحله تریاژ مبتنی بر مدل، انتخاب را خودکار می کند، و به اپراتورهای کم مهارت اجازه می دهد حداکثر ارزش را از سرقت با حجم بالا استخراج کنند و حملات بعدی، مانند اخاذی یا تصاحب حساب، را روی قربانیانی متمرکز کنند که واقعاً می توانند پرداخت کنند.
برای ارائه دهندگان مدل و خدمات مسیریابی، این مورد یادآوری است که استفاده نادرست به رابط های چت عمومی محدود نمی شود. دسترسی مبتنی بر API از طریق فروشندگان و تجمیع‌کننده‌ها یک مسیر کسب درآمد برای ابزارهای مجرمانه ایجاد می‌کند و رفتار امتناع - که اپراتورهای VOLTA به وضوح پیش‌بینی می‌کردند - اولین خط دفاعی باقی می‌ماند.
برای کاربران، راهنمایی‌های عملی بدون تغییر اما فوری‌تر است: ایمن‌ترین دفاع در برابر یک دزد اطلاعاتی که می‌تواند کل زندگی دیجیتالی شما را مورد بازجویی قرار دهد این است که در وهله اول از دسترسی آنها خودداری کنید، با گذرواژه‌های منحصربه‌فرد، احراز هویت چندعاملی مقاوم در برابر فیشینگ، و بهداشت سریع مرورگر و اعتبار.
تالوس می‌گوید VOLTA یک ایمپلنت بالغ است و نشان می‌دهد که ادغام هوش مصنوعی ممکن است مدتی در طبیعت کار کرده باشد. همانند نوآوری‌های قبلی دزدها، نسخه‌ها و تقلیدکنندگان به سرعت دنبال می‌شوند.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →
