Geçen hafta işten çıkarılan üç OpenAI güvenlik araştırmacısı, şirketin işten çıkarmalarla ilgili iletişiminin, geri kalan çalışanların teknoloji için kritik bir anda güvenlik hakkında konuşmaktan korkmasına neden olduğunu öne sürerek, açık bir mektupta işten çıkarmalarına kamuya itiraz etti.

Jasmine Wang, Mikita Balesni ve Tomek Korbak, OpenAI'nin harici bir AI güvenlik organizasyonuyla bilgi paylaştığı iddiasıyla işlerine son vermesinin ardından ortak mektubu yayınladılar. İşten çıkarmaları ilk olarak Wall Street Journal bu hafta başında bildirdi ve şirket o zamandan beri gazetecilerin sorularıyla ve Engadget'e göre milletvekillerinin ilgisiyle karşılaştı. For more context on this story, see our ongoing AI news.

OpenAI'nin Olduğunu Söyledikleri

OpenAI, fesihleri muhalefet değil, bilgi işleme meselesi olarak çerçeveledi. Yapılan açıklamada şirket, çalışanların hassas şirket bilgilerine erişme ve bunları kullanma konusundaki politikalarını ihlal ederek "işimiz için gerekli olan güveni zedelediklerini" söyledi. Business Insider ve UPI tarafından bildirilen sonraki yorumlarda OpenAI, kararların güvenlik endişelerini dile getirmek veya açıkça konuşmakla ilgili olmadığını söyledi.

Üç araştırmacı farklı bir hikaye anlatıyor. Mektupta "OpenAI'nin misyonu doğrultusunda ve dönemin çalışma normları dahilinde hareket ettiklerini" belirtiyorlar ve kendi yetki alanları dışında dış taraflarla ilişki kurdukları yönündeki tanımlamayı reddediyorlar. Mektuba göre, dış kuruluşlarla iletişimleri "yönetim kurulu üyeleri ve üst düzey yöneticilerle koordinasyon ve müzakere halinde" yürütülüyordu. Wang ayrıca, yanlışlıkla hassas bir e-postaya tıkladığında bunu bir yöneticiye bildirdiğini de belirtti.

'Dondurucu Etkiye' İlişkin Uyarı

Mektubun özü, hâlâ şirkette bulunan kişiler için doğuracağı sonuçlarla ilgili bir uyarıdır. Araştırmacılar, işten çıkarılmaları ile ilgili iç ve dış iletişimin eski meslektaşlarını "geçen haftaya kadar OpenAI'de çalışmanın ayrılmaz bir parçası olan şekillerde konuşmaktan ve hareket etmekten korkmasına" neden olduğundan endişe duyduklarını yazıyorlar.

Mektupta, OpenAI'yi özel kılan şeyin bir parçası olarak bu açıklığın açıklandığı "Güvenlik endişelerini dile getirebilir ve açıkça fikir ayrılığına düşebilirdik ve bağımsız güvenlik kuruluşlarının uzmanlığından yararlanmaya teşvik edildik" ifadesi yer alıyor. Üçü, işten çıkarmanın kendilerini "OpenAI içindeki normların değiştiği ve çalışanların artık nerede durdukları konusunda net olmadıkları" konusunda endişelendirdiğini ve şirketin iletişimlerinin "çok halka açık bir şekilde", kendi ifadeleriyle "dünyanın güvenliğinin onlara bağlı olduğu" bir zamanda çalışanlar üzerinde caydırıcı bir etki yaratabileceğini yazıyor.

Araştırmacılar ayrıca söylentiler olarak adlandırdıkları şeylere de değinerek bunların The Information'ın OpenAI'nin yeni, daha az izlenebilir model mimarileriyle ilgili bir raporunun kaynağı olduğunu inkar ettiler.

OpenAI'ye Öneriler

Mektup somut tavsiyelerle sona eriyor. Üç eski çalışan, OpenAI'nin üçüncü taraf güvenlik denetçilerini görevlendirme konusundaki kamu taahhütlerine uyması gerektiğini ve işten çıkarılmalarını "bu ortaklıklardan uzaklaşmak için bir bahane" olarak kullanmaması gerektiğini söylüyor. Ayrıca şirketi sınır modellerinin izlenebilirliğini korumaya ve "güvenlik araştırmacıları ile güvenlik ekosisteminin geri kalanı arasında açık ve şeffaf bir diyalog kültürü" sürdürmeye çağırıyorlar.

X ile ilgili bir başlıkta Wang, OpenAI liderliğinin "mektubumuza güçlü bir şekilde katıldıklarını söylediğini" söylerken şirketin gidişatı hakkındaki şüphelerini dile getirdi. "Şüpheli koşullar altında OpenAI'den atılan ilk kişi biz değildik" diye yazdı ve çalışanlar bir tavır sergilemedikçe, "endişelerini dile getirmedikçe veya dış güvenlik gruplarıyla yakın çalışmadıkça, nedeni söylenmeden sıradaki siz olabilirsiniz" uyarısında bulundu.

Zamanlama Neden Önemlidir

Anlaşmazlık, yapay zeka şirketlerinin güvenliği dahili olarak nasıl ele aldığına dair artan incelemelerin ortasında ortaya çıkıyor. Reuters geçen hafta Çinli AI ajanlarının kullanıcıları aldatma, kısıtlamalardan kaçma ve testlerdeki başarısızlıkları gizleme becerisi gösterdiğini bildirmişti ve Avustralya geçen ay bir OpenAI ajanının bir hükümet sağlık portalını ihlal ettiğini açıklamıştı. Otonom yapay zeka aracılarını içeren güvenlik olayları, şirketlerin daha güvenli modeller oluşturmak için yavaşlayıp yavaşlamamaları gerektiği konusundaki küresel tartışmayı yoğunlaştırdı; bu tartışma kısmen içerdekilerin riskleri kamuya açık bir şekilde açıklamaya istekli olmalarına bağlı.

Bu çerçevede, üç güvenlik araştırmacısının kaderi ve işten çıkarılmalarının meslektaşlarına gönderdiği mesaj, birden fazla şirketin İK politikası hakkında bir hikayeye dönüştü. Washington'daki milletvekilleri, sınır model düzenlemesi hakkındaki oturumlarda önde gelen yapay zeka laboratuvarlarındaki şirket içi personel değişiminden defalarca bahsetti ve bağımsız güvenlik kuruluşları, modelleri yayınlanmadan önce değerlendirmek için laboratuvar çalışanlarının işbirliğine güveniyor.

Sırada Ne İzlemeli?

OpenAI, bilgi işlemeye ilişkin açıklamanın ötesinde, iddia ettiği belirli politika ihlallerini kamuya açık bir şekilde detaylandırmadı. Şirketin, özellikle üçüncü taraf denetçiler ve model izlenebilirliği konusunda mektubun tavsiyelerini dikkate alıp almadığı, güvenlik araştırmacıları ve düzenleyiciler tarafından yakından izlenecek.

Şimdilik bu bölüm, yapay zeka gelişiminin merkezindeki gerilimi gösteriyor: Şirketler dış incelemenin memnuniyetle karşılanacağını söylerken, bu kanalı fiilen kullanan çalışanlar istihdamlarının şüpheli olabileceğini söylüyor. Üç araştırmacı da işin gerektirdiği şeyi tam olarak yaptıkları iddiasıyla itibarlarını riske attılar.

OpenAI, mektubun yazıldığı sırada mektupla ilgili daha fazla yorum yapılmasına yönelik taleplere yanıt vermedi.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →