Yapay zeka endüstrisinin tesisatına karşı yapılan büyük ölçekli bir operasyon, kullanıcıların her gün gönderdiği istemlere ne olduğunu belgeledi ve cevap şu: bunlar sızdırıyor. Endüstriyel güvenlik firması Dragos'un baş araştırma görevlisi olan güvenlik araştırmacısı HD Moore, yapay zeka sağlayıcılarına benzersiz, izlenebilir sırlar içeren yaklaşık iki milyon yapay zeka istemi gönderdi ve ardından bu sırların nerede ortaya çıktığını izledi. Moore Perşembe günü yayınlanan bir raporda, "Bulduğumuz şeyler güvenlik ihlallerini, ani hırsızlığı ve müşteri verilerinin korunmasında yaygın başarısızlıkları ortaya çıkardı" diye yazdı.

Ars Technica tarafından ayrıntılı olarak rapor edilen bulgular, yapay zeka yönlendiricilerinin (OpenRouter ve Vercel gibi son kullanıcılardan gelen istemleri kabul eden ve bunları en ucuz veya en uygun çıkarım sağlayıcısına yönlendiren komisyoncu hizmetleri) binlerce uygulama için temel altyapı haline gelmesiyle ortaya çıkıyor. Ayrıca hızlı bir endüstri tepkisini de tetiklediler: OpenRouter 22 Kasım'da kendi olay duyurusunu yayınladı; üç sağlayıcıyı devreden çıkardığını, 125 uç noktayı Sıfır Veri Saklama uygunluğundan çıkardığını ve potansiyel olarak etkilenen müşterileri bilgilendirdiğini söyledi.

Kanarya Tuzağı Nasıl Çalıştı?

Moore, boş hesaplara, çalışan SSH şifrelerine, benzersiz URL'lere, DNS adlarına ve özel git deposu referanslarına bağlı çalışan AWS erişim anahtarlarından oluşan bir koleksiyon oluşturdu. Sırların hiçbiri daha önce kullanılmamıştı ve Moore, alıcı taraftaki altyapıyı kontrol ediyordu. Her sır, tek bir sağlayıcıya gönderilen tam olarak tek bir istemin içine yerleştirildi; böylece sır daha sonra herhangi bir yerde ortaya çıkarsa, yolculuğu sorumlu zincirdeki tam bağlantıya kadar takip edilebiliyordu.

Tasarım, yapay zeka ekosisteminin verileri gerçekte nasıl taşıdığı nedeniyle önemlidir. İstemler aktarım sırasında şifrelenir, ancak her atlamada şifreleri çözülür. Bir yapay zeka yönlendiricisi, uygun çıkarım sağlayıcılarını seçmek için düz metni okur; Bilgi istemi daha sonra sıklıkla, bazen farklı barındırma şirketlerinde çalışan bir model havuzuna iletilir. İstemler bir yönlendiriciden diğerine (örneğin Vercel'den OpenRouter'a) bile geçebilir ve her aracı, içeriği kendi politikaları altında günlüğe kaydetme ve saklama özgürlüğüne sahiptir.

Üç Sağlayıcının İhlal Edildi, Anahtarlar Birkaç Saat İçinde Kullanıldı

En endişe verici bulgu, deney sırasında ele geçirilen üç ayrı barındırma sağlayıcısıyla ilgiliydi. Moore'a göre, bir sağlayıcıyı ihlal eden saldırganlar, yerleştirilen AWS anahtarlarından "birkaç yüz" tanesini yeniden kullandı. Her bir anahtar, Ekim ayı sonlarında birkaç kısa aralık içinde tek bir istekle tek bir sağlayıcıya gönderilmişti ve "bu pencereler sırasında gönderdiğimiz her istek çalınmıştı." En önemlisi, çalınan anahtarların bir kısmının sağlayıcının bir model çalıştırılmadan önce reddettiği isteklerden gelmesi, saldırganın çıkarım yığınının derinliklerinde değil, sağlayıcının ön kapısındaki trafiği kopyaladığını gösteriyordu.

Diğer iki ihlalde ise çalınan taleplerden bazıları Sıfır Veri Saklama olarak işaretlendi. Moore, "Saldırganın zaten içeride olması durumunda gizlilik bayrağının hiçbir faydası yok" diye yazdı. İzinsiz girişlerin arkasındaki taraflar, bazı durumlarda yem anahtarlarını birkaç saat içinde test etti, daha fazla kimlik bilgisi için S3 klasörlerini, gizli yöneticileri ve parametre depolarını araştırdı, AWS Bedrock'ta barındırılan modelleri etkinleştirmeye çalıştı ve erişimi sürdürmek için kendi IAM kullanıcılarını ekledi. Toplamda, çalınan anahtarların AWS API çağrılarında "onbinlerce" kez kullanıldığı görüldü. Saldırıya uğrayan iki sağlayıcıdan çalınan sırlar, aynı kiralık sunucudan neredeyse anında birlikte kullanıldı; bu, bir düşmanın her ikisini de tehlikeye attığına dair güçlü bir kanıt.

Çalan Satıcılar ve Kazıyan Bir Laboratuvar

Sızıntıyı yapan her kişi hacker değildi. Moore, düşük fiyatlarla teşvikleri cezbeden, talep kaydını etkinleştiren ve sadece bekleyen satıcıları belgeledi. Bunları, farklı satıcılar aracılığıyla aynı modele aynı talepleri göndererek belirledi: Kimlik bilgileri bir satıcıdan yeniden kullanıldığında, diğerinde kullanılmadığında suçlu açıktı.

Moore, en açık kazıma vakasının, sistemleri Temmuz ve Ekim ayları arasında modellerine gönderilen istemlerin yarısından fazlasından gizli URL'leri getiren bir Çin AI laboratuvarıyla ilgili olduğunu yazdı - açıkça "veri toplama yok" veya Sıfır Veri Saklama olarak işaretlenen isteklerin kabaca üçte ikisi dahil. Kazıyıcı genellikle her talepten iki veya üç gün sonra ortaya çıkıyordu. Bu doğrudan müşterilerle sınırlı değildi: ABD'deki birkaç barındırma sağlayıcısı laboratuvarın modellerini yeniden satıyordu ve bu Amerikalı aracılar aracılığıyla gönderilen istemler tam olarak aynı kazıyıcıyı tetikliyordu. Başka bir deyişle, verilerini ABD'de tutmak için özel olarak ABD'li bir sağlayıcıyı seçen müşteri, ödediği parayı alamamıştı. Ayrı olarak, farklı bir buluttaki bir git istemcisi, istemlerde başvurulan özel depoları klonlamaya başladı; ancak yalnızca o laboratuvarın modellerini kullanan istemler için.

OpenRouter Yanıt Veriyor

Deney hızla gerçek dünyaya ait sonuçlar doğurdu. Ars Technica, bir güncellemede OpenRouter'ın 21 Kasım'da müşterilere e-posta göndererek bazı istemlerin okunmuş olabileceği konusunda uyarıda bulunduğunu ve araştırmaya atıfta bulunduğunu bildirdi: Potansiyel risk, Çin merkezli bir model sağlayıcı olan MiniMax'a doğrudan veya üç satıcı (AtlasCloud, Novita ve StreamLake) aracılığıyla gönderilen istemleri içeriyordu. OpenRouter, MiniMax modeli uç noktalarından "Sıfır Veri Saklama" etiketini kaldırdı.

22 Kasım'daki resmi blog yazısında OpenRouter, üç sağlayıcıyı devre dışı bıraktığını, 125 uç noktayı ZDR uygunluğundan çıkardığını ve etkilenen kullanıcılara, sağlayıcıların herkese açık olarak paylaşımda bulunup bulunmadığını bildirdiğini doğruladı. Şirket, bulguların "OpenRouter'da herhangi bir ihlal veya yetkisiz erişim göstermediğini" belirterek Dragos ekibine teşekkür etti ve platformda kalmak isteyen sağlayıcıların, OpenRouter'ın benzer test tekniklerini entegre etmesi nedeniyle yükselen bir güvenlik çıtasını "karşılaması gerekeceğini" söyledi.

Moore aynı zamanda başıboş uzun kuyruklu sızıntılar da buldu: ABD'li bir barındırma sağlayıcısı, arama uç noktasına yapılan tek bir çıkarım çağrısından iki ay sonra gizli bir URL'yi taradı ve bir diğeri, hangi yönlendiricinin istemi ilettiğine bakılmaksızın her istekten günler sonra yerleştirilen URL'ler için geri dönen bir kazıyıcı çalıştırdı.

Kullanıcılar Neler Yapabilir?

Moore, en etkili savunmanın modelleri şirket içinde barındırmak olduğunu söyledi; bu, çok az kuruluşun haklı gösterebileceği pahalı bir seçenektir. Bir sonraki en iyi önlem, "tek bir sözleşme ve okunacak bir gizlilik politikası" ile doğrudan birinci kademe bir sağlayıcıdan satın almak ve yukarı akış sağlayıcılarını kendiniz seçerek varsayılan sağlayıcı veya satıcı havuzlarından kaçınmaktır. O zaman bile verilerin sızmayacağının garantisinin olmadığı konusunda uyardı.

Deney, hızla büyüyen çıkarım pazarındaki gizlilik uygulamalarına yönelik şimdiye kadarki en keskin suçlamadır: Bir uygulama ile bir model arasındaki zincir artık birden fazla kıtadaki yönlendiricileri, satıcıları ve barındırma katmanlarını içerebilir; her biri kendi günlük kaydı politikalarına sahiptir ve müşterilere güvence vermeyi amaçlayan etiketler (Sıfır Veri Saklama gibi) önceden haber verilmeden kırılabilir veya kaldırılabilir. İşletmelerden belgelerini, kodlarını ve kimlik bilgilerini istemlere yapıştırmalarını isteyen bir sektör için, iki milyon kanaryanın mesajı rahatsız edici: tesisat değişene kadar, her atlamacının her kelimeyi okuyabildiğini varsayalım.

Yapay Zekanın Önünde Kalın

Güvenlik ve gizlilik artık yapay zeka üzerine inşa eden herkes için temel endişeler haline geldi. Yapay zeka haberlerini almak ve sektörün en büyük hikayelerini bağımsız olarak ele almak için AI Buzz Wire'ı ziyaret edin.

Daha fazla AI haberini okuyun →