The Washington Post'un Gerrit De Vynck tarafından hazırlanan ve şirket içindeki insanlardan alıntılar içeren özel raporuna göre, Google'ın yapay zeka bölümündeki işçiler, geliştirmeye çalıştıkları teknolojinin riskleri hakkında halkı bilgilendirmekte özgür olmaları gerektiğini savunarak, yöneticileri kendilerini aşağılamama anlaşmalarından kurtarmaya zorluyor.

Raporun alt başlığı şikayetin özüne iniyor: "Mevcut işçiler, iş sözleşmelerinin personeli halkı AI riskleri konusunda uyarmaktan caydırdığını söyledi." Hikayenin devamında, maddelerin Google'ı eleştirme konusunda ömür boyu yasaklama anlamına geldiği belirtildi; toplayıcılar ve uluslararası yayın organları arasındaki manşetler, anlaşmazlığı "DeepMind personeli Google'ı eleştirme konusundaki ömür boyu yasağı protesto etti" ve daha spesifik olarak iki DeepMind personelinin Google'dan ömür boyu şaka olarak adlandırdıkları şeyi kaldırmasını istemesi olarak nitelendirdi. Bu hikayeyle ilgili daha fazla bağlam için devam eden son dakika yapay zeka haberlerimize bakın.

İşçiler ne istiyor

Rapora göre, şirketin öncü AI araştırmalarının çoğunun arkasındaki Alfabe bölümü olan Google DeepMind personeli, yönetimden kendilerini sözleşmeden doğan aşağılamama yükümlülüklerinden muaf tutmasını istiyor, böylece oluşturdukları sistemlere bağlı güvenlik endişeleri hakkında yasal misillemeyle karşılaşmadan açıkça konuşabilirler.

Raporun özetlerinde de belirtildiği gibi, söz konusu anlaşmalar personeli yalnızca kurumsal uygulamalar konusunda değil, aynı zamanda teknolojik riskler ve yapay zeka sistemlerinin dünyaya ulaşmasını şekillendiren iç kararlar konusunda da sessizliğe mahkum ediyor. İşçilerin argümanı oldukça basit: teknolojiye en yakın olan ve dolayısıyla onun başarısızlık türlerine en yakın olan kişilerin, bildiklerini kamuoyuna söylemeleri sözleşme gereği kısıtlanıyor.

Devam eden haberlere göre Google, belirli talepleri karşılamadı. Washington Post raporu, anlaşmazlığın açıklamasını resmi bir Google beyanından ziyade şirket içindeki mevcut çalışanlara atfediyor ve eğer varsa şirketin yanıtı hikayedeki en önemli açık soru olmaya devam ediyor.

Yapay zeka güvenliği neden önemlidir?

Anlaşmazlık yapay zeka endüstrisi için hassas bir zamanda ortaya çıkıyor. Modeller daha yetenekli hale geldikçe ve ekonomik olarak daha sonuç verici hale geldikçe, öncü laboratuvarların yetenekler, kötüye kullanım potansiyeli ve dahili testler hakkında ne kadar bilgi vermesi gerektiği konusundaki tartışmalar yoğunlaştı. Eleştirmenlere göre, işi yapan insanlar işverenlerinin uygulamalarını alenen eleştiremezlerse, halk ve politika yapıcılar sahip oldukları birkaç erken uyarı kanalından birini kaybederler.

Alanın tarihi belirgin bir emsal sunuyor. Google'da on yıldan fazla çalışan ve sinir ağı araştırmaları modern yapay zeka patlamasını destekleyen Geoffrey Hinton, yapay zeka riskleri hakkında özgürce konuşabilmek için 2023'te şirketten açıkça ayrıldı. Bu hafta daha da ileri giderek The Guardian'a, insanlığın yapay zekayı hiç geliştirmemesinin daha iyi olabileceğini söyledi ve bu yıl ya da gelecek yıl gelecek bir yapay zeka "Chornobyl" (büyük bir güç kesintisine ya da bir hafta süren finansal sistem arızasına neden olan yapay zeka destekli bir saldırı gibi) konusunda uyarıda bulundu.

Hinton gittiği için konuşabildi. DeepMind çalışanları ise tam tersine, kariyer ve ses arasında aynı seçimi yapmak zorunda kalmamak için şartları değiştirmeye çalışıyor.

Şeffaflığa karşı gizlilik ticareti

Anlaşmazlık yapay zeka endüstrisindeki yapısal gerilimi yansıtıyor. Şirketler, kısıtlayıcı istihdam koşullarının ticari sırları koruduğunu, yanıltıcı iddiaları önlediğini ve şirket içi anlaşmazlıkların geliştirme sürecinin ortasında kamuoyuna yayılmasını engellediğini savunuyor. Çalışanlar ve güvenlik savunucuları, aynı terimlerin gerçek tehlikeleri gizleyebileceğini ve güvenlik uygulamalarına güvenen bir şirketin bilgili iç eleştirmenlerden korkacak çok az şeyi olduğunu söyleyerek karşı çıkıyor.

Washington Post raporu konuyu teşviklerden biri olarak çerçeveliyor: Gazetenin aktardığı mevcut çalışanların ifadesiyle iş sözleşmeleri, personeli yapay zeka riskleri konusunda halkı uyarmaktan caydırıyor. Bu çerçeve, anlaşmazlığı bir şirketin İK politikasından daha büyük hale getiriyor. Bu, halkın sınır yapay zeka riskleri hakkındaki birincil bilgi kaynağının laboratuvarların kendi pazarlaması mı yoksa bu laboratuvarlardaki doğrudan bilgiye sahip kişiler mi olacağının testidir.

Geliştirici topluluğu ne diyor

Raporun tartışılması hızla Hacker News'in ön sayfasına ulaştı ve burada yorumcular durumun etiği konusunda ikiye bölündü. En çok olumlu oy alan görüş, kısıtlı çalışanların basitçe yürümesi gerektiğini savundu: "İşi bırakmalı ve uyarmalılar. Bunun dışındaki her şey ikiyüzlülüktür." Diğerleri ise çalışanların kariyerlerini feda etmek zorunda olmadıklarını ve toplu sözleşme reformunun bireysel çıkıştan daha gerçekçi bir yol olduğunu belirterek geri adım attı.

Bu tartışma - istifa et, kal ve it ya da sessiz kal - tam da işçilerin kaçmaya çalıştıklarını söyledikleri çıkmazdır.

Ne izlenmeli

Bunun nereye gideceğini üç şey belirleyecek. Birincisi, Google'ın talebi kabul edip etmediği ve daha da önemlisi bu talebe göre hareket edip etmediği; şirketin belirli taleplere verdiği yanıt şu ana kadar kayıtlarda yok. İkincisi, eğer cevap hayır ise, işçilerin örneğin halka açık olarak örgütlenerek veya düzenleyicilere başvurarak gerilimi tırmandırıp tırmandırmayacağı. Üçüncüsü, diğer sınır laboratuvarlarının da benzer baskılarla karşı karşıya olup olmadığı; Eğer aşağılayıcı olmayan terimler sektör genelinde yaygınsa, DeepMind anlaşmazlığı yapay zeka şeffaflığına odaklanan emek örgütlenmesi için bir şablon haline gelebilir.

Şimdilik, talebin kendisi haber niteliğinde: Sınırdaki yapay zeka sistemlerine doğrudan ve günlük olarak maruz kalan bir grup araştırmacı, kamu yararının onların sesine ihtiyaç duyduğuna inanıyor ve resmi olarak bunları kullanmalarına izin verilmesini talep ediyor. Google'ın vereceği yanıtlar, sınırdaki yapay zeka ırkının ne kadar muhalefeti tolere etmeye hazır olduğu konusunda çok şey söyleyecektir.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →