حمله زنجیره تامین به یک بسته منبع باز منفرد به یکی از آشفتهترین حوادث امنیتی در صنعت جوان هوش مصنوعی تبدیل شده است و دادههای موجود توسط استارتآپ برچسبگذاری داده مرکور را افشا میکند و متا را مجبور میکند تا به طور نامحدود کار خود را با این شرکت متوقف کند.
نقض، که مرکور در 31 مارس تایید کرد، در مصالحه با LiteLLM، یک ابزار متنباز پرکاربرد که روزانه میلیونها بار دانلود میشود، ردیابی شد. تقریباً به مدت 40 دقیقه، یک نسخه مسموم شده از LiteLLM دارای بدافزار جمعآوری اعتبار بود که اعتبار ورود به سیستم را به سرقت میبرد و سپس از آنها برای دسترسی به سیستمهای متصل استفاده میکرد. این اپیزود از آن زمان به شکایت های حقوقی، توقف قراردادها و بررسی گسترده تر در مورد میزان اعتماد صنعت هوش مصنوعی به نرم افزار واسطه ای که کنترل نمی کند تبدیل شد. برای اطلاعات بیشتر [اخبار جدید هوش مصنوعی] (https://aibuzzwire.news) در مورد امنیت و اعتماد، پوشش مداوم ما را دنبال کنید.
حمله چگونه کار کرد
مکانیک یک نرم افزار کتاب درسی سازش زنجیره تامین است. بر اساس گزارش TechJuice و TechCrunch، مهاجمان موفق شدند کدهای مخرب را به LiteLLM، کتابخانه منبع باز که بسیاری از شرکت های هوش مصنوعی از آن برای مسیریابی درخواست ها بین مدل های مختلف زبان استفاده می کنند، فشار دهند. از آنجایی که LiteLLM به عنوان زیرساخت قابل اعتماد در نظر گرفته می شود و به طور خودکار به محیط های تولید کشیده می شود، ساخت مخرب به سرعت پخش می شود.
برای حدود 40 دقیقه، ابزار دستکاری شده بی سر و صدا از هر کسی که آن را اجرا می کند، اعتبار می گیرد. سپس از آن اعتبارنامه ها برای دسترسی به سیستم های اضافی استفاده شد که آسیب را فراتر از پایه اولیه افزایش داد. مرکور، که تجارت آن به مدیریت حجم زیادی از داده های حساس پیمانکار و مشتری وابسته است، در میان پرمخاطب ترین ها بود.
ادعای اخاذی 4 ترابایتی
پس از افشای این خبر، یک گروه هکر ادعا کرد که تقریباً 4 ترابایت داده سرقت شده از سیستم های مرکور را در اختیار دارد. حجم مورد ادعا شامل نمایههای نامزد، اطلاعات قابل شناسایی شخصی، دادههای کارفرما، کد منبع، و کلیدهای API، موجودی گستردهای از دقیقاً نوع موادی است که یک شرکت برچسبگذاری داده متمرکز میکند. مرکور صحت داده های ادعا شده را نه تایید و نه تکذیب کرده و تنها گفته است که در حال بررسی است.
ابهام خودش یک مشکل است. برای پیمانکاران، کارفرمایان و شرکای که اطلاعات آنها ممکن است در گردش باشد، عدم اطمینان در مورد آنچه واقعاً گرفته شده است، ارزیابی قرار گرفتن در معرض آنها را غیرممکن می کند.
Meta Pulls Back
پیامدهای تجاری سریع بوده است. متا قراردادهای خود را با مرکور به طور نامحدود متوقف کرده است، تصمیمی که با توجه به تاریخچه بین این دو شرکت قابل توجه تر است. به گفته TechJuice، متا حتی پس از صرف 14.3 میلیارد دلار برای به دست آوردن هوش مصنوعی رقیب Mercor، Scale، به همکاری با Mercor ادامه داده است، که نشانه ای از ارزش زیادی برای این رابطه است. این که یک رخنه از طریق ابزار شخص ثالث می تواند چنین رابطه ای را از بین ببرد، نشان می دهد که این روابط فروشنده چقدر شکننده شده اند.
OpenAI تأیید کرده است که در حال بررسی قرار گرفتن در معرض خود در این نقض است، اما در زمان گزارش، قراردادهای Mercor خود را متوقف نکرده بود. طبق گزارش ها، چندین مدل ساز بزرگ دیگر در حال بررسی روابط خود با این استارتاپ هستند، اگرچه نام دیگری به طور عمومی تایید نشده است.
دعاوی حقوقی و سوالات مسئولیت
عواقب قانونی به همان سرعتی که پیامدهای تجاری جمع آوری می شود. پنج تن از پیمانکاران مرکور به دلیل افشای اطلاعات شخصی ادعایی شکایت کرده اند. یکی از شکایتهایی که توسط TechCrunch بررسی شد به نام LiteLLM و استارتآپ سازگار با هوش مصنوعی Delve به عنوان متهمان مشترک، به این دلیل که LiteLLM از Delve برای دریافت گواهیهای امنیتی خود استفاده کرده است. این پیوند یک سؤال خاردار را در مورد اینکه آیا ارائه دهندگان انطباق زمانی که ابزارهایی که آنها را تضمین می کنند بعداً مسلح می شوند، مسئولیت دارند یا خیر باز می کند.
این طرحها میتوانند به تعیین محل مسئولیت زمانی که نقض از طریق نرمافزار منبع باز هدایت میشود، کمک کنند، سوالی که صنعت هوش مصنوعی تاکنون از پاسخگویی به آن اجتناب کرده است.
سطح حمله بررسی نشده صنعت
محققان امنیتی می گویند درس عمیق تر، ساختاری است. پشته هوش مصنوعی اکنون به شبکهای از ابزارهای واسطهای قابل اعتماد، مسیریابها، ارزیابیکنندگان، لایههای انطباق و پلتفرمهای برچسبگذاری وابسته است که بین ارائهدهندگان مدل و مشتریانشان قرار دارند. هر کدام یک نقطه خفه بالقوه هستند و بیشتر آنها نسبت به خود مدل های مرزی بسیار کمتر مورد بررسی قرار می گیرند.
LiteLLM گویا است. میلیونها بار در روز دانلود میشود، اعتبارنامهها را بر اساس طراحی مدیریت میکند، و در محیطهای تولید برخی از بهترین شرکتهای روی زمین اجرا میشود. با این حال، یک پنجره 40 دقیقه ای دستکاری برای تبدیل آن به یک کلید اسکلت کافی بود. این توالی کل زنجیره تامین هوش مصنوعی را تحت بررسی قرار داده است و محققان هشدار میدهند که ابزارهای واسطهای قابل اعتماد، سطح حملهای را نشان میدهند که صنعت به طور سیستماتیک آن را مورد بررسی قرار نداده است.
بعد چه اتفاقی می افتد
سؤالات فوری این است که آیا Mercor می تواند دامنه افشای اطلاعات را تأیید کند، آیا مدل سازان بیشتری از متا در عقب نشینی پیروی می کنند یا خیر، و آیا پرونده های حقوقی LiteLLM و Delve سابقه ای را برای مسئولیت شخص ثالث ایجاد می کند یا خیر. در درازمدت، این حادثه به احتمال زیاد درخواستها را برای صنعت هوش مصنوعی برای اتخاذ انواع صورتحسابهای نرمافزاری مواد و شیوههای امضای وابستگی که بخشهای نرمافزاری بالغتر از قبل به آن تکیه میکنند، تسریع خواهد کرد.
در حال حاضر، این نقض به عنوان هشداری است مبنی بر اینکه خطرناکترین آسیبپذیریهای هوش مصنوعی ممکن است اصلاً در داخل مدلها نباشند، بلکه در لولهکشی نامرغوبی که آنها را به هم متصل میکند، وجود دارد.
از هوش مصنوعی جلوتر بمانید
امنیت پشته هوش مصنوعی به اندازه خود مدل ها اهمیت دارد. AI Buzz Wire را برای [آخرین پیشرفتهای هوش مصنوعی] (https://aibuzzwire.news) و [پوشش صنعت AI] (https://aibuzzwire.news) نشانکگذاری کنید.
اخبار هوش مصنوعی را بیشتر بخوانید →
