OpenAI Çarşamba günü, sınır modelleri için Sıfır Veri Saklama (ZDR) sunduğunu duyurdu ve şirketin müşteri içeriğine erişmesine izin vermeden birden fazla etkileşimdeki kötüye kullanımı tespit etmek için tasarlanan Özel Güvenlik İşleme adı verilen yeni bir sistemin ön izlemesini yaptı. Bu hamle rakiplere karşı keskin bir çizgi çiziyor: Axios, duyurunun Anthropic'in artık müşterilerin veri günlüklerine izin vermesini gerektirdiğini bildirdi ve Firstpost, Anthropic'in 30 günlük veri saklama hamlesiyle arasındaki zıtlığı kaydetti.
Zamanlama ince değil. OpenAI duyurusunda, "bazı yeni sınır modeli dağıtımlarının, müşterilerin yapay zeka sağlayıcılarının güvenlik izlemesi için hassas içerikleri saklamasına izin vermesini gerektirdiğini" gözlemledi; bu gereksinimler, şirketin "güvenlik yükümlülükleri veya hizmet verdikleri kişilere yönelik taahhütleriyle çeliştiğini" söylüyor. Şirket, düzenlemeye tabi kurumsal müşterilere yönelik yarışmada gizliliği rekabetçi bir silah olarak konumlandırıyor. For more context on this story, see our ongoing AI trends.
Sıfır Veri Saklamanın vaatleri
ZDR teklifi kapsamında uygun API müşterileri, OpenAI'nin "açık bir söz" olarak tanımladığı şeyi alır: OpenAI, bir istek işlendikten sonra istemleri veya model yanıtlarını saklamaz. Müşteri içeriği OpenAI personelinin incelemesine açık değildir ve müşteriler açıkça izin vermediği sürece kurumsal müşteri verileri OpenAI modellerini eğitmek için kullanılmaz.
Yapay zekanın benimsenmesine ağırlık veren bankalar, hastaneler ve hukuk firmaları için bu taahhütler, anlaşmayı bozan en yaygın sorunu ele alıyor: Bir yapay zeka sağlayıcısının sistemlerinden akan hassas materyallerin saklanabilmesi, okunabilmesi veya gelecekteki modellere emilebilmesi riski. OpenAI, birlikte çalıştığı kuruluşların "mali kayıtlar, sağlık verileri, gizli iş planları ve özel araştırmalarla" ilgilendiğini belirtiyor.
Güvenlik sorununun devam ettirilmesi sorunu çözülüyordu
Duyuru aynı zamanda gerçek bir teknik gerilimi de kabul ediyor. OpenAI'nin kendisinin de tanımladığı gibi, en ciddi AI güvenlik riskleri her zaman tek bir etkileşimde görülmez. Zararlı niyetler ancak birden fazla etkileşim bir arada incelendiğinde netleşebilir; kötü aktörler güvenlik önlemlerini defalarca araştırdığında, hesaplar arasında koordinasyon sağladığında, tehditleri rutin araştırma olarak gizlediğinde veya bir yapay zeka ajanına durması söylendikten sonra harekete geçmeye devam ettiğinde.
Mevcut ZDR uyumlu güvenlik sistemleri her etkileşimi ayrı ayrı değerlendirir, bu da modele dayalı risklerin gözden kaçması anlamına gelir. Saklama zorunluluğu getirerek yanıt veren sağlayıcılar, bir sorunu başka bir sorun yaratarak çözdü ve müşterileri güvenlik izleme ile kendi gizlilik yükümlülükleri arasında seçim yapmaya zorladı.
Özel Güvenlik İşlemeleri nasıl çalışır?
OpenAI'nin önerdiği çözüm mimaridir. Özel Güvenlik İşleme kapsamında müşteri içeriği, müşterinin kontrol ettiği altyapıda kalır veya halen geliştirilmekte olan bir seçenekte, müşteri tarafından kontrol edilen anahtarlarla şifrelenmiş OpenAI altyapısında depolanır. Otomatik sistemler daha sonra ilgili etkileşimlerdeki kalıpları analiz eder ve altta yatan istemleri veya yanıtları OpenAI personeline ifşa etmeden "sınırlı güvenlik sinyalleri" (potansiyel kötüye kullanımla ilgili işaretler) gönderir.
Müşteriler, kendi sistemlerinde bulunan bilgileri kullanarak uyarıları araştırır. Bir yaptırım kararına itiraz etmek, meşru faaliyeti açıklığa kavuşturmak veya doğrulanmış kötüye kullanımla ilgili bir soruşturmayı desteklemek istiyorlarsa ilgili bilgileri OpenAI ile paylaşmayı seçebilirler. Başka bir deyişle gizlilik varsayılan, ifşa ise müşterinin seçeneği haline gelir.
Sistem şu anda ilk müşterilerle test ediliyor. OpenAI, Eylül ayında Özel Güvenlik İşlemeyi başlatmayı ve teknik bir teknik rapor yayınlamayı planladığını söyledi.
Bir pazar olarak kurumsal güven
Duyuru, bir satın alma argümanı gibi okunan bir müşteri referansıyla geldi. OpenAI'nin gönderiyle birlikte alıntısını yayınladığı Glean'ın Baş Bilgi Güvenliği Sorumlusu Sunil Agrawal, "Kurumsal yapay zekanın benimsenmesi, seçilen hizmetin ötesinde doğrudan veya türevsel bir kullanım olmaksızın, yalnızca verilerin müşteri tarafından kontrol edilmesine bağlıdır" dedi. "Modeller daha yetenekli hale geldikçe OpenAI, kurumsal güveni sürdüren gizlilik ve kontrolden ödün vermeden güvenliğin ilerleyebileceğini gösteriyor."
OpenAI, önizlemeyi talebe bir yanıt olarak çerçeveliyor ve müşterilerden "AI sistemleri daha yetenekli hale geldikçe içeriklerinin nasıl korunacağı konusunda öngörülebilirliğe ihtiyaç duyduklarını yüksek sesle ve net olarak duyduklarını" söylüyor. Şirket, yaklaşımın "sektörler, bölgeler ve şirket boyutlarındaki" müşteriler tarafından şekillendirildiğini ve müşterilerin, değişiklikler etrafında dağıtımları planlamak için yeterli teslim süresiyle bilgilendirileceğini ekliyor.
Bunun tetikleyeceği tartışma
Güvenlik araştırmacıları, uzun süredir kullanım kalıplarının görünürlüğünün, kötüye kullanımın zarara yol açmadan önce yakalanması için gerekli olduğunu savundu ve bazıları, otomatik, şifreli analizin, insan incelemesinin tespit kalitesiyle eşleşip eşleşmeyeceğini sorgulayacak. Bu arada gizlilik savunucuları, müşteri verilerine erişimi sağlayıcının ayrıcalığı yerine müşterinin kararı olarak ele alan bir mimariyi memnuniyetle karşılayacaklardır.
Açık olan şey, veri yönetiminin yasal ince baskıdan yapay zeka rekabetinin merkezine taşındığıdır. Sınır modelleri, düzenlemeye tabi endüstrilerde daha uzun, daha özerk görevler üstlendikçe, bu sistemlerin geride bıraktığı izleri kimin (müşteri, sağlayıcı veya hiç kimse) görebileceği sorusu, kurumsal yapay zeka anlaşmalarının kazanıldığı ve kaybedildiği birincil eksen haline geliyor. OpenAI artık cevabını açıkça ortaya koydu ve rakiplerini kendi cevaplarını savunacak konuma getirdi.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
