Tek bir açık kaynak paketine yapılan tedarik zinciri saldırısı, genç yapay zeka endüstrisindeki en karmaşık güvenlik olaylarından birine dönüştü; veri etiketleme girişimi Mercor'un tuttuğu verileri açığa çıkardı ve Meta'yı şirketle olan çalışmalarını süresiz olarak duraklatmaya zorladı.
Mercor'un 31 Mart'ta doğruladığı ihlalin, günde milyonlarca kez indirilen, yaygın olarak kullanılan açık kaynaklı bir araç olan LiteLLM'nin ele geçirilmesinden kaynaklandığı belirlendi. Yaklaşık 40 dakika boyunca, LiteLLM'nin zehirli bir sürümü, oturum açma kimlik bilgilerini çalan ve daha sonra bunları bağlı sistemlerin daha derinlerine ulaşmak için kullanan, kimlik bilgisi toplayan kötü amaçlı yazılımları barındırdı. Olay o zamandan beri davalara, sözleşmelerin dondurulmasına ve yapay zeka endüstrisinin kontrol etmediği aracı yazılımlara ne kadar güvendiğine dair daha geniş bir hesaplaşmaya dönüştü. Güvenlik ve güven hakkında daha fazla son dakika yapay zeka haberleri için devam eden haberimizi takip edin.
Saldırı Nasıl İşledi
Mekanik, ders kitabı niteliğindeki bir yazılım tedarik zinciri uzlaşmasıdır. TechJuice ve TechCrunch tarafından hazırlanan raporlara göre saldırganlar, birçok yapay zeka şirketinin istekleri farklı dil modelleri arasında yönlendirmek için kullandığı açık kaynaklı kitaplık olan LiteLLM'ye kötü amaçlı kod göndermeyi başardı. LiteLLM güvenilir bir altyapı olarak değerlendirildiğinden ve üretim ortamlarına otomatik olarak çekildiğinden, kötü amaçlı yapı hızla yayıldı.
Yaklaşık 40 dakika boyunca, tahrif edilen araç, onu çalıştıran herkesin kimlik bilgilerini sessizce topladı. Bu kimlik bilgileri daha sonra ek sistemlere erişmek için kullanıldı ve bu da hasarı ilk dayanak noktasının ötesinde artırdı. İşi büyük miktarlarda hassas yüklenici ve müşteri verilerinin yönetilmesine dayanan Mercor, bu duruma en çok maruz kalanlar arasında yer aldı.
4 Terabaytlık Gasp İddiası
Açıklamanın ardından bir hacker grubu, Mercor'un sistemlerinden çalınan yaklaşık 4 terabayt veriyi elinde tuttuğunu iddia etti. İddia edilen teslimat, aday profillerini, kişisel olarak tanımlanabilir bilgileri, işveren verilerini, kaynak kodunu ve API anahtarlarını, yani tam olarak bir veri etiketleme şirketinin merkezileştirdiği türden materyallerin kapsamlı bir envanterini içeriyor. Mercor, iddia edilen verilerin gerçekliğini ne onayladı ne de reddetti; yalnızca araştırıldığını söyledi.
Belirsizliğin kendisi bir sorundur. Bilgileri dolaşımda olan yükleniciler, işverenler ve ortaklar için gerçekte neyin alındığına ilişkin belirsizlik, bunların maruz kaldıklarını değerlendirmeyi imkansız hale getiriyor.
Meta Geri Çekiliyor
Ticari serpinti hızlı oldu. Meta, Mercor'la olan sözleşmelerini süresiz olarak duraklattı; bu karar, iki şirket arasındaki geçmiş göz önüne alındığında daha da çarpıcı hale geliyor. TechJuice'e göre Meta, Mercor'un rakibi Scale AI'yi satın almak için 14,3 milyar dolar harcadıktan sonra bile Mercor ile çalışmaya devam etmişti; bu, ilişkiye ne kadar değer verdiğini gösteren bir işaretti. Üçüncü taraf bir araç aracılığıyla yönlendirilen bir ihlalin böyle bir bağı koparabilmesi, satıcı ilişkilerinin ne kadar kırılgan hale geldiğinin altını çiziyor.
OpenAI, ihlale kendisinin maruz kaldığını araştırdığını doğruladı ancak raporlama sırasında Mercor sözleşmelerini duraklatmamıştı. Diğer birçok büyük model üreticisinin girişimle ilişkilerini değerlendirdiği bildiriliyor, ancak başka isimler kamuoyuna açıklanmadı.
Davalar ve Sorumluluk Soruları
Ticari sonuçları kadar hukuki sonuçları da hızla artıyor. Mercor'un yüklenicilerinden beşi, kişisel verilerin ifşa olduğu iddiasıyla dava açtı. TechCrunch tarafından incelenen bir davada, LiteLLM'nin güvenlik sertifikalarını almak için Delve'yi kullandığı gerekçesiyle LiteLLM ve yapay zeka uyumluluğu girişimi Delve ortak davalılar olarak adlandırıldı. Bu bağlantı, uyumluluk sağlayıcılarının, garanti ettikleri araçların daha sonra silah haline getirilmesi durumunda sorumluluk üstlenip üstlenmeyeceği konusunda çetrefilli bir soruyu gündeme getiriyor.
Bu davalar, bir ihlalin açık kaynaklı yazılım yoluyla yönlendirilmesi durumunda sorumluluğun nereye varacağını belirlemeye yardımcı olabilir; bu, yapay zeka endüstrisinin şu ana kadar yanıtlamaktan kaçındığı bir sorudur.
Sektörün Yeterince İncelenmemiş Saldırı Yüzeyi
Güvenlik araştırmacıları daha derindeki dersin yapısal olduğunu söylüyor. Yapay zeka yığını artık model sağlayıcılar ile müşterileri arasında yer alan güvenilir aracı araçlar, yönlendiriciler, değerlendiriciler, uyumluluk katmanları ve etiketleme platformlarından oluşan bir ağa bağlı. Her biri potansiyel bir tıkanma noktasıdır ve çoğu, sınır modellerinin kendisinden çok daha az incelemeye tabi tutulur.
LiteLLM açıklayıcıdır. Günde milyonlarca kez indiriliyor, kimlik bilgileri tasarım gereği işleniyor ve dünyanın en iyi finanse edilen şirketlerinden bazılarının üretim ortamlarında çalışıyor. Ancak 40 dakikalık bir kurcalama penceresi onu bir iskelet anahtara dönüştürmek için yeterliydi. Bu süreç, yapay zeka tedarik zincirinin tamamını inceleme altına aldı; araştırmacılar, güvenilir aracı araçların, sektörün sistematik olarak yeterince incelenmemiş bir saldırı yüzeyini temsil ettiği konusunda uyardı.
Sırada Ne Olacak?
Acil sorular Mercor'un sızıntının kapsamını doğrulayıp doğrulayamayacağı, daha fazla model üreticisinin geri çekilme konusunda Meta'yı takip edip etmeyeceği ve LiteLLM ve Delve davalarının üçüncü taraf sorumluluğu için bir emsal oluşturup oluşturmadığıdır. Uzun vadede bu olayın, yapay zeka endüstrisinin, daha olgun yazılım sektörlerinin zaten güvendiği türden yazılım malzeme listelerini ve bağımlılık imzalama uygulamalarını benimseme çağrılarını hızlandırması muhtemeldir.
Şimdilik bu ihlal, yapay zekadaki en tehlikeli güvenlik açıklarının modellerin içinde değil, onları birbirine bağlayan gösterişsiz tesisatta olabileceğine dair bir uyarı olarak duruyor.
Yapay Zekanın Önünde Olun
Yapay zeka yığınının güvenliği, modellerin kendisi kadar önemli hale geliyor. En son AI gelişmeleri ve AI sektörü kapsamı için AI Buzz Wire'ı yer imlerine ekleyin.
Daha fazla AI haberini okuyun →
