یک عملیات در مقیاس بزرگ علیه لوله‌کشی صنعت هوش مصنوعی آنچه را که برای درخواست‌هایی که کاربران هر روز ارسال می‌کنند اتفاق می‌افتد، مستند کرده است - و پاسخ این است: آنها نشت می‌کنند. محقق امنیتی، اچ‌دی مور، مدیر ارشد تحقیقاتی شرکت امنیتی صنعتی دراگوس، نزدیک به دو میلیون پیام هوش مصنوعی حاوی اسرار منحصربه‌فرد و قابل ردیابی را برای ارائه‌دهندگان هوش مصنوعی ارسال کرد و سپس مشاهده کرد که این اسرار در کجا ظاهر شده‌اند. مور در گزارشی که روز پنجشنبه منتشر شد، نوشت: «آنچه ما پیدا کردیم، نقض‌های امنیتی، سرقت سریع و شکست‌های گسترده در حفاظت از داده‌های مشتریان را آشکار کرد.

یافته‌ها که توسط Ars Technica به تفصیل گزارش شده‌اند، به‌عنوان مسیریاب‌های هوش مصنوعی - خدمات واسطه‌ای مانند OpenRouter و Vercel که درخواست‌های کاربران نهایی را می‌پذیرند و آنها را به هر ارائه‌دهنده استنتاج ارزان‌ترین یا مناسب‌ترین راه‌اندازی می‌کنند - به زیرساخت اصلی برای هزاران برنامه تبدیل شده‌اند. آنها همچنین واکنش سریع صنعت را برانگیختند: OpenRouter اعلامیه رویداد خود را در 22 نوامبر منتشر کرد و گفت که سه ارائه دهنده را خارج کرده است، 125 نقطه پایانی را از واجد شرایط بودن Zero Data Retention حذف کرده و به مشتریان احتمالی آسیب دیده اطلاع داده است.

تله قناری چگونه کار می کرد

مور مجموعه‌ای از کلیدهای دسترسی AWS کارآمد را جمع‌آوری کرد که به حساب‌های خالی، گذرواژه‌های SSH فعال، و URL‌های منحصربه‌فرد، نام‌های DNS و مراجع مخزن گیت خصوصی گره خورده بودند. هیچ یک از این رازها قبلاً استفاده نشده بود و مور زیرساخت را در انتهای دریافت کننده کنترل می کرد. هر راز دقیقاً در یک پیام فرستاده شده به یک ارائه‌دهنده منفرد کاشته شد - بنابراین اگر راز بعداً در جایی ظاهر شد، می‌توان سفر آن را به حلقه دقیق زنجیره مسئول ردیابی کرد.

طراحی به این دلیل اهمیت دارد که اکوسیستم هوش مصنوعی چگونه داده ها را جابجا می کند. درخواست‌ها در حین انتقال رمزگذاری می‌شوند، اما در هر پرش رمزگشایی می‌شوند. یک روتر هوش مصنوعی متن ساده را می خواند تا ارائه دهندگان استنتاج مناسب را انتخاب کند. سپس درخواست اغلب به مجموعه‌ای از مدل‌ها ارسال می‌شود که گاهی در شرکت‌های میزبانی مختلف اجرا می‌شوند. درخواست‌ها حتی می‌توانند از یک روتر به روتر دیگر منتقل شوند - به عنوان مثال Vercel به OpenRouter - با هر واسطه آزاد برای ورود و ذخیره محتوا تحت خط‌مشی‌های خود.

سه ارائه دهنده نقض شدند، کلیدها در عرض چند ساعت استفاده شدند

هشداردهنده ترین یافته شامل سه ارائه دهنده میزبان جداگانه بود که در طول آزمایش به خطر افتادند. به گفته مور، مهاجمانی که به یکی از ارائه‌دهندگان نفوذ کرده‌اند، از چند صد کلید AWS استفاده مجدد کرده‌اند. هر کلید دقیقاً در یک درخواست به یک ارائه‌دهنده ارسال شده بود، در چند پنجره کوتاه در اواخر اکتبر - و "هر درخواستی که در طول آن ویندوز فرستادیم به سرقت رفت." مهمتر از همه، برخی از کلیدهای دزدیده شده ناشی از درخواست‌هایی هستند که ارائه‌دهنده قبل از اجرای یک مدل رد کرده بود، که نشان می‌دهد مهاجم به جای اینکه بیشتر در پشته استنتاج، ترافیک را در ورودی ارائه‌دهنده کپی کند.

در دو نقض دیگر، برخی از درخواست‌های به سرقت رفته به‌عنوان Zero Data Retention علامت‌گذاری شدند. مور نوشت: «پرچم حریم خصوصی زمانی که مهاجم از قبل در داخل است کمکی نمی کند. طرف‌های پشت این نفوذها، در برخی موارد، کلیدهای طعمه را ظرف چند ساعت آزمایش کردند، از سطل‌های S3، مدیران مخفی و فروشگاه‌های پارامتر برای اطلاعات بیشتر استفاده کردند، سعی کردند مدل‌های میزبانی شده را در AWS Bedrock فعال کنند و کاربران IAM خود را برای حفظ دسترسی اضافه کردند. در مجموع، کلیدهای دزدیده شده «ده‌ها هزار» بار در تماس‌های AWS API استفاده شده‌اند. اسرار دزدیده شده از دو ارائه دهنده هک شده با هم، تقریباً بلافاصله، از همان سرور اجاره ای مورد استفاده قرار گرفتند - شواهد قوی مبنی بر اینکه یکی از دشمنان هر دو را به خطر انداخته است.

فروشندگانی که سرقت می کنند و آزمایشگاهی که خراش می دهد

هر افشاگر هکر نبود. مور فروشندگان مستندی که درخواست‌ها را با قیمت‌های پایین فریب می‌دادند، ثبت درخواست را آغاز کردند و به سادگی منتظر ماندند. او آنها را با ارسال درخواست‌های یکسان به یک مدل از طریق فروشندگان مختلف شناسایی کرد: وقتی اعتبارنامه‌های یک فروشنده مجدداً استفاده می‌شد اما از فروشنده دیگر استفاده نمی‌شد، مقصر مشخص بود.

مور نوشت، واضح‌ترین مورد خراش دادن، مربوط به یک آزمایشگاه هوش مصنوعی چینی بود که سیستم‌های آن نشانی‌های اینترنتی مخفی را از بیش از نیمی از درخواست‌های ارسال شده به مدل‌هایش بین ژوئیه و اکتبر - از جمله تقریباً دو سوم درخواست‌هایی که صریحاً «بدون جمع‌آوری داده» یا Zero Data Retention علامت‌گذاری شده بودند، دریافت کردند. اسکراپر معمولاً دو یا سه روز پس از هر درخواست ظاهر می شود. این به مشتریان مستقیم محدود نمی‌شد: چندین ارائه‌دهنده میزبانی ایالات متحده مدل‌های آزمایشگاه را مجدداً می‌فروشند، و درخواست‌هایی که از طریق آن واسطه‌های آمریکایی ارسال می‌شد، دقیقاً همان اسکراپر را فعال می‌کرد. به عبارت دیگر، مشتری که یک ارائه‌دهنده ایالات متحده را به طور خاص برای نگهداری داده‌ها در ایالت انتخاب کرده بود، چیزی را که برای آن پول پرداخت کرده بود، دریافت نکرد. به طور جداگانه، یک کلاینت git در یک ابر دیگر شروع به شبیه سازی مخازن خصوصی اشاره شده در فرمان ها کرد - اما فقط برای درخواست هایی که از مدل های آن آزمایشگاه استفاده می کردند.

OpenRouter پاسخ می دهد

این آزمایش به سرعت پیامدهای دنیای واقعی را ایجاد کرد. Ars Technica در یک به‌روزرسانی گزارش داد که OpenRouter در تاریخ 21 نوامبر به مشتریان ایمیلی ارسال کرد و هشدار داد که ممکن است برخی از درخواست‌های آنها خوانده شده باشد، با استناد به این تحقیق: قرار گرفتن در معرض احتمالی شامل پیام‌هایی است که به MiniMax، ارائه‌دهنده مدل مستقر در چین، مستقیماً یا از طریق سه فروشنده - AtlasCloud، Novita و StreamLake ارسال می‌شود. OpenRouter برچسب "Zero Data Retention" را از نقاط پایانی مدل MiniMax حذف کرد.

OpenRouter در پست وبلاگ رسمی خود در 22 نوامبر تأیید کرد که سه ارائه دهنده را خارج کرده است، 125 نقطه پایانی را از واجد شرایط بودن ZDR حذف کرده است و به کاربران متاثر اطلاع داده است که آیا ارائه دهندگان پست عمومی کرده اند یا نه. این شرکت گفت که یافته‌ها «هیچ گونه نقض یا دسترسی غیرمجاز به OpenRouter را نشان نمی‌دهد»، از تیم Dragos تشکر کرد و گفت که ارائه‌دهندگانی که می‌خواهند در این پلتفرم بمانند «نیاز دارند» یک نوار امنیتی در حال افزایش را برآورده کنند زیرا OpenRouter تکنیک‌های آزمایش مشابه را ادغام می‌کند.

مور همچنین نشت‌های دم بلند سرگردان را پیدا کرد: یک ارائه‌دهنده میزبانی ایالات متحده بیش از دو ماه پس از یک تماس استنتاج به نقطه پایانی جستجوی خود، یک URL مخفی را خزید، و دیگری یک اسکراپر را اجرا کرد که چند روز پس از هر درخواست، بدون توجه به اینکه کدام روتر درخواست را ارسال کرده است، برای URL‌های کاشته شده برمی‌گشت.

آنچه کاربران می توانند انجام دهند

مور گفت مؤثرترین دفاع، میزبانی مدل‌ها در محل است – گزینه‌ای گران‌قیمت که کمتر سازمانی می‌تواند آن را توجیه کند. بهترین اقدام بعدی، خرید مستقیم از یک ارائه‌دهنده سطح اول، با «یک قرارداد و یک خط‌مشی حفظ حریم خصوصی برای خواندن» و اجتناب از ارائه‌دهندگان پیش‌فرض یا استخرهای فروشندگان با انتخاب ارائه‌دهندگان بالادستی است. حتی پس از آن، او هشدار داد، هیچ تضمینی وجود ندارد که داده ها درز نکنند.

این آزمایش تندترین اتهامی است که تاکنون در مورد شیوه‌های حفظ حریم خصوصی در بازار استنتاج سریع در حال رشد وجود دارد: زنجیره بین یک برنامه و یک مدل اکنون می‌تواند شامل مسیریاب‌ها، فروشندگان و لایه‌های میزبان در چندین قاره باشد که هر یک سیاست‌های ثبت‌نام خاص خود را دارند، و برچسب‌هایی که برای اطمینان دادن به مشتریان - مانند Zero Retention - می‌توانند بدون اطلاع قبلی شکسته یا حذف شوند. برای صنعتی که از شرکت‌ها می‌خواهد اسناد، کد و اعتبارنامه‌های خود را در دستورات قرار دهند، پیام دو میلیون قناری ناراحت‌کننده است: تا زمانی که لوله‌کشی تغییر کند، فرض کنید هر هاپ می‌تواند هر کلمه را بخواند.

از هوش مصنوعی جلوتر بمانید

امنیت و حریم خصوصی اکنون دغدغه اصلی هر کسی است که مبتنی بر هوش مصنوعی است. برای آخرین اخبار هوش مصنوعی و پوشش مستقل بزرگترین داستان های صنعت، [به AI Buzz Wire مراجعه کنید] (https://aibuzzwire.news).

اخبار هوش مصنوعی را بیشتر بخوانید →