Fireworks AI، استارت‌آپ استنتاجی تحت حمایت Nvidia، به مشتریان اطلاع داده است که یک حادثه امنیتی که قبلاً فاش شده بود، به طور قابل‌توجهی گسترده‌تر از آنچه در ابتدا گزارش شده بود، با دسترسی مهاجمان به اطلاعات حساب‌ها و صورت‌حساب و برای مجموعه محدودی از حساب‌ها، اسرار، مجموعه داده‌ها و وزن مدل ناقص، بر اساس بولتن امنیتی به‌روزرسانی شده منتشر شده در سایت Discberglosbes Forbes و Bloombes در تاریخ 9 نوامبر، منتشر شد. حمله سایبری را به عنوان افشای داده های مشتری و مدل های هوش مصنوعی توصیف می کند.

این شرکت برای اولین بار این حادثه را در 9 اکتبر فاش کرد، زمانی که گفت فقط اسرار ذخیره شده در Fireworks که در مشاغل ارزیابی استفاده می شد دسترسی پیدا کرده است. به روز رسانی جدید به طور قابل ملاحظه ای این ارزیابی را گسترش می دهد و نفوذ را به یک گروه مجرم سایبری با انگیزه مالی مرتبط می کند که آنچه را صنعت "LLMJacking" می نامد - سرقت دسترسی به مدل های زبان بزرگ و فروش مجدد توکن ها به دروازه های مسیریابی غیرقانونی، دنبال می کند. برای شرکت هایی که [اخبار امنیتی صنعت هوش مصنوعی] (https://aibuzzwire.news) را ردیابی می کنند، این پرونده به عنوان یک حادثه مرجع برای دسته جدیدی از حملات به زیرساخت های هوش مصنوعی شکل می گیرد.

چگونه نقض دوم آشکار شد

طبق این بولتن، یک ارائه‌دهنده ابر شخص ثالث که میزبان ماشین‌های تحقیق و توسعه Fireworks بود، حادثه امنیتی خود را در 23 اکتبر تجربه کرد. روز بعد، یک طرف غیرمجاز از آن محل برای رسیدن به ماشین‌های توسعه Fireworks استفاده کرد و حجم کاری غیرمجاز را اجرا کرد که منجر به تأثیر بیشتر بر داده‌های مشتری شد. Fireworks می‌گوید که در همان روز این فعالیت را شناسایی کرده و اقدامات اصلاحی انجام داده است و تا 25 اکتبر هیچ مدرک دیگری مبنی بر دسترسی غیرمجاز موفقیت‌آمیز به پلتفرمی که مشتریان استفاده می‌کنند پیدا نکرده است.

این شرکت با واحد 42 شبکه پالو آلتو که در حال انجام تجزیه و تحلیل پزشکی قانونی است، کار می کند و گفت که پس از حادثه اصلی به مجریان قانون اطلاع داده است. Google Threat Intelligence Group و Mandiant یک پست وبلاگی را در تاریخ 2 نوامبر منتشر کردند که در آن ظهور LLMJacking، انگیزه‌های پشت آن و تکنیک‌های مورد استفاده - زمینه Fireworks که در افشای خود ذکر شده است، منتشر کردند.

چه داده هایی گرفته شد

برنامه داخلی آسیب دیده چندین دسته از اطلاعات را در بولتن نشان می دهد:

  • فراداده منبع، از جمله شناسه های منابع Fireworks، نام های نمایش داده شده، توضیحات، و زمان ایجاد.
  • اطلاعات صورتحساب، از جمله آدرس صورتحساب و حمل و نقل، سابقه فاکتور و پرداخت، مانده حساب، و استفاده از اعتبار.
  • وزن‌های مدل و مجموعه‌های داده: برای مشتریان خاص، زیرمجموعه‌ای از وزن‌ها و مجموعه داده‌های مدل ناقص مورد دسترسی قرار گرفت.

Fireworks گفت که شماره کارت های پرداخت در سیستم های آن ذخیره نمی شود و تحت تأثیر قرار نگرفته است. همچنین اعلام کرد که هیچ تأثیری بر سرویس‌های Inference، Training SDK، و Nexus که به‌طور پیش‌فرض با حفظ داده‌ها صفر کار می‌کنند، ردیابی نکرده است - به این معنی که هیچ آموزش یا استنباط مشتری داده‌ای در حالت استراحت ذخیره نمی‌شود. این شرکت گفت که مستقیماً به مشتریانی که اطلاعات آنها تحت تأثیر قرار گرفته است، با جزئیات مربوط به تأثیر و اقدامات پاسخ توصیه شده اطلاع می دهد.

محدودیت و سوالات باز

Fireworks می‌گوید که به عنوان بخشی از پاسخ خود با واحد 42، اعتبارنامه‌ها و حساب‌های خدماتی را باطل و جایگزین کرد، امتیازات غیرضروری را حذف کرد، مسیرهای شبکه را محدود کرد و سیستم‌های آسیب‌دیده را ایزوله کرد، دسترسی به ذخیره‌سازی داده‌ها و سیستم‌های تجزیه و تحلیل، و ثبت و نظارت را سخت‌تر کرد. همچنین در حالی که بررسی ادامه دارد، بارگذاری و بارگیری مجموعه داده های خودسرویس مورد استفاده توسط استنتاج دسته ای و آموزش مبتنی بر مجموعه داده را غیرفعال کرده است.

دو سوال مهم همچنان باز است. اول اینکه چقدر از "وزن های مدل ناقص" قابل استفاده هستند - وزن های جزئی یا در حال پیشرفت که از یک خط لوله آموزشی به سرقت رفته اند ممکن است همچنان اطلاعات رقابتی در مورد مدل های مشتری در دست توسعه را نشان دهند، و Fireworks نگفته است که کدام مشتریان یا چه تعداد تحت تاثیر قرار گرفته اند. دوم، چه تعهداتی برای مشتریانی که مجموعه داده‌های اختصاصی آن‌ها در معرض دید قرار گرفته است، در پی خواهد بود. این شرکت می گوید تحقیقاتش ادامه دارد و ممکن است اطلاعات بیشتری را فاش کند.

چرا LLMJacking در حال رشد است

حملات LLMJacking، خدمات هوش مصنوعی میزبان ابر را هدف قرار می دهند تا به جای داده های سنتی، دسترسی مدل قابل استفاده را جمع آوری کنند. اعتبارنامه ها یا توکن های دزدیده شده سپس از طریق دروازه های مسیریابی سایه ای که دسترسی ارزان قیمت به مدل های تجاری را ارائه می دهند، مجددا فروخته می شوند. گروه اطلاعاتی تهدید گوگل و Mandiant گزارشی را در 2 نوامبر به این روند اختصاص دادند که محققان امنیتی تقریباً دو سال است که با افزایش پذیرش سازمانی استنتاج میزبانی شده آن را ردیابی کرده اند.

افشای Fireworks یکی از اولین موارد تایید شده است که به نظر می رسد مهاجمان آن کتاب بازی را با سرقت مصنوعات مدل مشتری در یک ارائه دهنده زیرساخت هوش مصنوعی ترکیب کرده اند. در میان موج گسترده‌تری از حوادث امنیتی در سراسر اکوسیستم هوش مصنوعی فرود می‌آید و بر ارائه‌دهندگان استنباط فشار می‌آورد تا نشان دهد که پلتفرم‌های چند مستاجر می‌توانند بار کاری مشتری را جدا کنند. استارت‌آپ‌هایی که فروشندگان استنباط را ارزیابی می‌کنند، احتمالاً سؤالات سخت‌تری درباره جداسازی مستاجر، بهداشت اعتبار، و وابستگی‌های ابری شخص ثالث می‌پرسند - مسیر دقیقی که در اینجا مورد سوء استفاده قرار می‌گیرد.

Fireworks می گوید که سیستم های خود را به صورت شبانه روزی زیر نظر دارد و با پیشرفت تحقیقات، به روز رسانی های بیشتری را منتشر خواهد کرد. از مشتریانی که نگرانی دارند خواسته می شود به ایمیل های اعلان حادثه خود پاسخ دهند یا با آدرس اعلامیه امنیتی شرکت تماس بگیرند.

این رویداد همچنین نشان می‌دهد که چگونه هنجارهای افشا برای شرکت‌های هوش مصنوعی در حال بلوغ هستند. Fireworks اولین بولتن خود را ظرف چند روز پس از نفوذ اولیه در اوایل اکتبر منتشر کرد، سپس دو بار آن را اصلاح کرد، زیرا پزشکی قانونی تصویر را گسترده تر کرد - دنباله ای که تیم های امنیتی از نقض های اخیر نرم افزار سازمانی تشخیص می دهند، اما در میان ارائه دهندگان زیرساخت هوش مصنوعی، که بسیاری از آنها هرگز یک حادثه عمومی را مدیریت نکرده اند، غیرمعمول باقی می ماند. انتخاب غیرفعال کردن ویژگی‌های مجموعه داده خود-سرویس در حالی که محصول استنتاج اصلی را در حال اجرا می‌گذاریم، نشان می‌دهد که قرار گرفتن در معرض در سیستم‌های جانبی به جای خود مسیر خدمت به مشتری متمرکز شده است.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →