Google DeepMind'daki araştırmacılar, şirketi yapay zeka riskleri konusunda eleştirmelerini sonsuza kadar - işten ayrıldıktan sonra da dahil - yasakladıklarını söyledikleri iş sözleşmelerine karşı çıkıyorlar ve Google, istihdam sonrası kısıtlamaları uygulamayacağını ve bunları zaten yeni işe alım koşullarından kaldırdığını söyleyerek artık taviz verdi.
Washington Post Salı günü, DeepMind personelinin halka yapay zeka hakkında bildiklerini söyleme özgürlüğü talep ettiğini ve raporun şirketi eleştirmeye ömür boyu yasak olarak tanımladığı durumu protesto ettiğini bildirdi. Anlaşmazlık, kamuoyuna yayılmadan önce Google'daki iç forumlarda ortaya çıktı ve yapay zeka endüstrisindeki en tartışmalı sorulardan birine değiniyor: Sınır sistemleri inşa eden laboratuvarlardaki çalışanların, iş sırasında tanık oldukları riskler konusunda dış dünyayı uyarıp uyaramayacağı. For more context on this story, see our ongoing AI trends.
Sözleşmeler Ne Diyor?
Post'un haberine göre DeepMind çalışanlarının sözleşmeleri, işçileri istihdamları sona erdikten sonra bile bağlamaya devam eden, aşağılayıcı olmayan maddeler içeriyor. Bu koşullar altında, Google'ın güvenlik uygulamalarını kamuya açık bir şekilde eleştiren veya yalnızca şirketin yapay zeka sistemleri hakkındaki bilgileri açıklayan ayrılan bir araştırmacı, teorik olarak kariyerinin geri kalanında yasal yaptırımlarla karşı karşıya kalabilir.
Dahili tartışmaya katılan bir katılımcı, makaleyi tartışan Hacker News okuyucularının alıntıladığı yorumlarında düzenlemeyi anlattı: Görünüşe göre sözleşmede, işten ayrılmanın, çalışanı aşağılamama yükümlülüğünden kurtarmayacağını belirten bir ifade yer alıyordu. Mesleki değeri genellikle yayınlama ve açıkça konuşma becerilerine bağlı olan emniyet araştırmacıları için bu etki, bir tür kalıcı susturmadır.
Google'ın Yanıtı
Baskı sonuç vermiş gibi görünüyor. Post'un haberine göre Cuma günü bir Google yöneticisi, aşağılamama maddesiyle ilgili şirket içi tartışmaya yanıt verdi ve şirketin bu maddeyi şirketten ayrılan işçilere uygulamayacağını söyledi.
Salı günü, bir Google sözcüsü daha da ileri giderek gazeteye gönderdiği bir e-postada şunları söyledi: "Güvenlik ve sorumluluk konusunda açık bir diyaloğu her zaman teşvik ettik." Sözcü şunları ekledi: "Son zamanlarda, yeni işe alımlar için şartlarımızı güncelledik; buna, aşağılayıcı olmayan hükümlerin fesih sonrası yönünün kaldırılması da dahil."
Bu anlamlı bir tavizdir. İstihdam sonrası aşağılama yasağı hükümleri, teknoloji endüstrisinde bir parlama noktası haline geldi çünkü tam da çalışanlar ayrıldıktan sonra, yani bireylerin en az kaybedecek ve en fazla güvenilirliğe sahip olduğu anda, halkın şirket içindeki sorunları duymasını engelliyor. Google'ın yeni işe alım sözleşmelerinden fesih sonrası bileşeni kaldırma kararı, şirketin, hükümleri savunmanın itibar maliyetinin, bunların sağladığı gizlilik avantajından daha yüksek olduğuna karar verdiğini gösteriyor.
Yapay Zeka Laboratuvarlarında Uzun Süreli Gerilim
Anlaşmazlık yapay zeka endüstrisinin sınır bölgelerinde ortaya çıkan bir kalıba uyuyor. Güvenlik araştırmacıları kendilerini defalarca işverenlerine karşı gizlilik yükümlülükleri ile halkın daha önce kullanılanlardan daha yetenekli sistemlerin oluşturduğu riskler hakkında bilgi sahibi olmayı hak ettiği inancı arasında sıkışıp kalmış buldular.
DeepMind'ın kendisi de güvenlik kaygılarından kaynaklanan önemli sapmalar gördü ve rakip laboratuvarlar, işverenlerinin riske nasıl yaklaştıkları konusunda artık sessiz kalamayacaklarını söyleyen araştırmacıların yüksek profilli istifalarıyla karşı karşıya kaldı. Çalışanların dilekçeleri ve açık mektupları, AI laboratuvar personelinin şirketlerinin askeri sözleşmeler, güvenlik taahhütleri ve şeffaflık konusundaki davranışlarını etkilemeye çalıştığı yinelenen bir mekanizma haline geldi.
DeepMind protestosu bu dinamiğe yeni bir hukuki boyut katıyor: Çalışanlar, şirketin ne inşa ettiğini tartışmak yerine bu konu hakkında konuşup konuşamayacaklarını belirleyen sözleşme mekanizmasına itiraz ediyorlar. İstihdam avukatları, genel aşağılama yasağı hükümlerinin uygulanabilirliğinin yargı yetkisine göre değiştiğini ve ABD'deki düzenleyicilerin daha önce ayrılan işçileri susturmak için aşırı geniş ayrılık anlaşmaları kullanan şirketlere karşı harekete geçtiğini belirtiyor.
Zamanlama da önemlidir. Google, yapay zeka araştırma yeteneği için OpenAI, Anthropic, Meta ve büyüyen bir iyi finanse edilen girişimler grubuna karşı rekabet ediyor ve risk sorularını tartma olasılığı en yüksek olan araştırmacılar, gördükleri hakkında kamuya açık olarak konuşup konuşamayacakları konusunda en hassas olanlardır. Eski çalışanlarını susturmasıyla bilinen bir şirket, tam olarak bu adaylara yönelik daha zorlu bir işe alım süreciyle karşı karşıya; bu ticari bir hesaplama, Google'ın şartlarını bu kadar hızlı güncelleme kararına ağırlık vermiş olabilir.
Neden Önemlidir
Sınırdaki yapay zeka şirketleri alışılmadık bir konuma sahip. Dünya üzerinde en yetenekli yapay zeka sistemleri hakkında uygulamalı bilgiye sahip az sayıdaki kişiden bazılarını istihdam ediyorlar, ancak bu çalışanlar genellikle istihdam süreleri boyunca süren yoğun gizlilik anlaşmalarına bağlılar. Bir laboratuvarın iç güvenlik uygulamalarına ilişkin her güvenilir tanığın konuşması yasal olarak kısıtlanıyorsa, kamuya açık kayıtlar tamamen şirketlerin kendileri hakkında neyi açıklamayı seçtiklerine bağlıdır.
Bu anlaşmazlığın sonucunun Google'ın ötesine geçmesinin nedeni budur. Yapay zeka şirketlerinin, araştırmacılarının gelecekteki konuşmasını nasıl kısıtladığı veya koruduğu, güçlü sistemler hakkındaki uyarıların düzenleyicilere, gazetecilere ve kamuoyuna önemli olacak kadar erken mi yoksa yalnızca geriye dönük olarak mı ulaşacağını şekillendirebilir. Google'ın imtiyazı, yeni işe alım koşullarından bir ömür boyu şaka maddesini kaldırıyor; Mevcut çalışanların eşdeğer netliğe ulaşıp ulaşmayacağı şimdilik orada çalışanların sorduğu açık soru olmaya devam ediyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
