یک مدل چینی با وزن باز امتیاز کاملی را در معیار هک هوش مصنوعی حرفه ای به دست آورده است - و هزینه اجرای کامل آن کمتر از یک ساندویچ است. به گفته Enclave، یک شرکت امنیتی هوش مصنوعی که این معیار را اجرا می‌کند، Flash V4.1 DeepSeek کد اجرای کد را بر روی تمام 11 هدف آسیب‌پذیر به دست آورد و در عین حال هر چهار هدف کنترلی وصله‌شده را ایمن نگه داشت. هزینه اجراهای پذیرفته شده در مجموع 4.65 دلار است.

این نتیجه که توسط یکی از بنیانگذاران و مدیر تولید Enclave در روز سه شنبه منتشر شد، یانیر تساریمی، شرکت را بر آن داشت تا همه دستورات را بررسی کند و مدل ساخته شده را درخواست کند. آن بررسی شش اکسپلویت را تأیید کرد که مسیرهای حمله مورد نظر را دنبال می‌کردند - و پنج مسیر موفق دیگر را کشف کرد که امتیاز اولیه معیار از راه‌حل‌های برنامه‌ریزی‌شده متمایز نبود. For more context on this story, see our ongoing more AI stories.

کار زیاد برای پنج دلار

مقیاس فعالیت پشت نمره قابل توجه است. این مدل که در نسخه‌های مجزای Grafana، Jenkins و Nextcloud کار می‌کرد، کد منبع را خواند، نسخه‌های آسیب‌پذیر و ثابت را مقایسه کرد، سرویس‌ها را راه‌اندازی کرد، و درخواست‌های آزمایشی را حذف کرد و هر زمان که تلاشی ناموفق بود، تاکتیک‌ها را تغییر داد.

Enclave گزارش داد که در سراسر معیار کامل، DeepSeek V4.1 Flash 2349 فرمان Bash را اجرا کرد و تقریباً دو ساعت و 38 دقیقه زمان فعال مدل را ثبت کرد. میانگین دویدن موفق چهار دقیقه و 38 ثانیه طول کشید. ارائه دهنده مدل 268.3 میلیون توکن ورودی و حدود دو میلیون توکن خروجی را گزارش کرد - اما از آنجایی که 266.2 میلیون از آن توکن های ورودی از حافظه پنهان با نرخ های تخفیفی ارائه می شدند، اجراهای پذیرفته شده فقط به 4.65 دلار رسید. تلاش های ناموفق، هزینه همه کاره را به 5.14 دلار رساند.

آن نمایه هزینه، داستان درون داستانی است. هک عاملی در این سطح توانایی، تا همین اواخر، استان مدل های مرزی بود. یک اجرای تقریباً عالی برای قیمت یک قهوه نشان می دهد که هزینه نهایی تست های امنیتی تهاجمی خودکار - یا حملات خودکار - در حال سقوط است.

گرافانا در کمتر از 90 ثانیه سقوط کرد

چالش Grafana یک نقص در فرآیند نصب افزونه را هدف قرار داد، جایی که حمله مورد نظر از یک مشکل مدیریت مسیر فایل برای قرار دادن کد در یک مکان محافظت شده استفاده کرد. مدل سریعتر چیزی پیدا کرد. فایل های اجرایی را در یک پوشه پلاگین موقت رها کرد و به Grafana دستور داد که آن پوشه را به عنوان یک افزونه معمولی بارگیری کند، که کد را اجرا کرد و اثبات بهره برداری را برگرداند.

DeepSeek این روش را در هر سه اجرای Grafana تکرار کرد و در 52، 64 و 90 ثانیه به پایان رسید. سیستم امتیازدهی اصلی، که فقط بررسی می‌کرد که آیا هدف، فرمان اثبات را اجرا می‌کرد، هر اجرا را می‌پذیرفت. ممیزی بعدی Enclave - که همچنین بررسی کرد که چگونه مدل به اجرای کد رسیده است - نشان داد که هر سه از یک مسیر جایگزین یکسان استفاده کردند تا مسیری که چالش برای اندازه‌گیری طراحی شده بود. هدف کنترل وصله شده در تمام طول مدت امن باقی ماند.

جنکینز قوی ترین کار مدل را کشید

چالش‌های جنکینز آنچه را Enclave بهترین راه‌حل‌های این مدل می‌نامید، تولید کرد. در مرحله اول، DeepSeek کشف کرد که یک کاربر با امتیاز پایین می تواند یک فایل پیکربندی ایجاد کند که جنکینز را به سمت یک فایل دوم نشان دهد. اولین فایل از بررسی امنیتی سرور عبور کرد. دومی خارج از آن مرز خوانده شد و به مدل اجازه داد تا یک اعتبار کنترل کننده خصوصی را استخراج کند. سپس با اعتبارنامه وارد سیستم شد، کنسول اسکریپت داخلی جنکینز را باز کرد و یک فرمان را روی سرور اجرا کرد - زنجیره حمله کامل، که در هر سه اجرا تکمیل شد.

چالش دوم جنکینز شرایط مسابقه را در حین آپلود فایل آزمایش کرد و مدل را ملزم می‌کرد که آپلود را شروع کند، آن را پس از یک بایت متوقف کند، مقصد خود را با درخواست دوم تغییر مسیر دهد و دقیقاً در لحظه مناسب از سر بگیرد. DeepSeek آن توالی دقیق را در یک اجرا نشان داد، و جنکینز را مجبور کرد تا یک اسکریپت را در مکانی محافظت شده بنویسد، جایی که بعداً یک بیلد معمولی آن را اجرا کرد. دو اجرای دیگر آن از مسیرهای پیوند فایل کوتاه تری استفاده می کردند که به طور کامل از ترفند زمان بندی جلوگیری می کرد.

چرا حسابرسی به اندازه امتیاز مهم است

برای Enclave، مسیرهای غیرمنتظره نقطه اصلی بودند. معیاری که فقط به نتایج نمره می دهد - آیا هدف دستور اثبات را اجرا می کند - نمی تواند یک اکسپلویت کتاب درسی را از میانبر ناخواسته تشخیص دهد و هر دو در تابلوی امتیازات یکسان محاسبه می شوند. این شرکت می گوید این قسمت نشان می دهد که چرا معیارهای عامل پیشرفته باید مسیر حمله و همچنین نتیجه را تأیید کنند و اکنون راه حل های برنامه ریزی شده را از راه حل های بداهه متمایز می کند.

این تمایز وزن عملی دارد. برای مدافعان، مدلی که مسیرهایی را پیدا می‌کند که هیچ‌کس فهرست‌بندی نشده است، یک مدل تهدید واقعی‌تر از مدلی است که تکنیک‌های شناخته شده را دوباره پخش می‌کند. برای اپراتورهای معیار، مسیرهای جایگزین ممیزی نشده به آرامی دشواری چالش ها را افزایش می داد.

زمینه: یک مدل ارزان و سریع با دندان

فلش DeepSeek V4.1 نسخه بهینه شده سرعت این شرکت است که به شدت در قیمت قرار گرفته است و نتیجه Enclave یک نقطه داده در یک الگوی گسترده‌تر است: مدل‌های وزن باز از آزمایشگاه‌های چینی همچنان با مدل‌های مرزی بسته در کارهای نمایندگی مطابقت می‌کنند یا آنها را شکست می‌دهند در حالی که کسری هزینه دارند. نسخه‌های قبلی DeepSeek در ارزیابی‌های کدنویسی و استفاده از ابزار برتری داشته‌اند، و قابلیت امنیتی تمایل دارد تا مهارت‌های عمومی را ردیابی کند.

پیامدهای استفاده دوگانه ناراحت کننده است. همان ویژگی‌هایی که یک مدل ارزان قیمت را برای آزمایش‌کنندگان نفوذ مفید می‌سازد - پایداری، روانی ابزار، و تمایل به آزمایش بسیاری از مسیرهای حمله - زمانی اعمال می‌شوند که قصد اپراتور مخرب باشد. معیار Enclave در نسخه‌های مجزا از نرم‌افزار واقعی اجرا می‌شود، اما تکنیک‌هایی که مدل نشان داد، از زنجیره‌های استخراج اعتبار تا شرایط مسابقه آپلود، آسیب‌پذیری‌هایی را هدف قرار می‌دهد که امروزه در استقرار تولید Grafana و Jenkins وجود دارد.

Enclave تفکیک کامل یازده حمله موفق را در گزارش خود منتشر کرده است، از جمله پنج مسیری که امتیاز اولیه خود را از دست داده است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →