Proton CEO'su Andy Yen, şirketin çalışanlarla kimin işlerini sürdüreceğine karar vermek için yapay zeka kullanımıyla ilgili "yeniden görüşme" yapma yönündeki tartışmalı planını iptal etti ve Cuma günü yapılan genel toplantıda çalışanlara yeniden görüşmelerin "zaten amaçlarına hizmet ettiğini" söyledi. Geri dönüş, 404 Media'nın gizlilik şirketinin agresif iç yapay zeka hamlesine ilişkin bir araştırma yayınlamasından bir gün sonra geldi ve birçok çalışan bunun gerçek bir değişim anlamına geldiğine ikna olmadı.
Proton Mail'in arkasındaki İsviçreli şirket Proton, 404 Media'nın geçen hafta çalışanlarla AI kullanımları hakkında yeniden görüşme yapmayı planladığını ve sonuçların istihdamın devamına bağlı olduğunu bildirmesinin ardından yoğun eleştirilere maruz kalmıştı. AI Buzz Wire, devam eden AI sektörü haberimizin bir parçası olarak, ilk rapor edildiğinde orijinal yeniden röportaj planını ele aldı. Sekiz mevcut ve bir eski çalışanla yapılan görüşmelerin yanı sıra Slack sohbetleri, toplantı sesleri ve Proton'un CTO'su Bart Butler tarafından yazılan dahili yapay zeka manifestosuna dayanan yeni rapor, yapay zekanın benimsenmesini güvenlik personelinin rahat edeceğinden daha hızlı ilerleten bir şirketin, en azından kısmen gelir hedeflerine dayalı olarak tanımlanıyor.
"Bu saçmalık ve zavallının düşüncesi"
Soruşturmada en çok alıntı yapılan görüş Yen'in kendisinden geldi. Proton'un güvenlik Slack kanalındaki bir çalışan, şirkete yeni yazılan kodu göndermeden önce en az birkaç gün test yapması yönünde çağrıda bulunduğunda Yen, Ağustos ayının sonunda şu yanıtı verdi: "Bu saçmalık ve zavallı bir düşünce. Elbette hızlı ve güvenli olmak mümkün. Öyle olmadığını düşünmeyi bırakın."
Butler'ın şirket içinde yayınlanan yapay zeka manifestosu mühendislere açık sözlü bir şekilde şunu söylüyordu: "Eski işiniz bitti." Yapay zekayı benimsememenin "görevin başarısı için varoluşsal bir tehdit" oluşturduğunu yazdı; bu dil, Proton'un kullanıcı mahremiyetinin dikkatli bir koruyucusu olarak kamusal imajıyla keskin bir şekilde çatışıyordu.
Yen'in çalışanlara söyledikleri
Yen, Cuma günü herkesin katılımıyla bir tür teşekkür konuşmasıyla başladı: "Kendimi şahsen kabul etmek istiyorum ki, benim açımdan bir iletişim hatası vardı ve muhtemelen farklı şekilde iletilebilecek ve iletilmesi gereken birçok şey var." dedi 404 Media'ya göre. Ancak özrü, temeldeki baskıyı sürdürme taahhüdüyle eşleştirdi: "İleriye dönük olarak, yine de zorlayacağım."
Yeniden yapılan görüşmelerde Yen, liderliğin son iki gün içinde toplandığını ve aynı zamanda mütevelli heyeti arasında Yen, web mucidi Sir Tim Berners-Lee, profesör Carissa Veliz, Dingchao Lu ve Antonio Gambardella'nın da bulunduğu Proton Vakfı yönetim kuruluyla da konuştuğunu söyledi. Yen, "Durumu yakından izliyorlar" dedi. Sonuç: "Yeniden görüşmeleri iptal etmeye karar verdik." Mantığı: "Bence aslında, diyelim ki, kasıtsız bir şekilde, aslında zaten amaçlarına hizmet ettiler" - yani çalışanlar artık yapay zeka hakkında konuşuyor ve öğreniyor.
Butler yanlış adım konusunda daha doğrudan konuştu. "Yapay zekayı etkili ve pragmatik bir şekilde kullanmak, güvenlikten, iyi mimariden veya sağlam yazılım mühendisliği ilkelerinden vazgeçtiğimiz anlamına gelmez" dedi ve Yen'in çalışanlarla iletişim kurma biçiminde "daha iyisini yapması gerektiğini ve bunu yapmaya kararlı olduğunu" ekledi. Toplantının ilerleyen saatlerinde bir çalışanın yorumlarına yanıt verirken şunları söyledi: "Berbat bir iş yaptık, berbat ettiğimizi biliyoruz."
Çalışanlar "hasar kontrolünü" görüyor
404 Media'ya göre Proton personeli arasındaki tepkiler ikiye bölündü. Bir çalışan, "bazıları ilerleme kaydedildiği için mutlu. Diğerleri bunun hiçbir şeyi değiştirmeyeceğine inanıyor çünkü Andy (Yen) için herhangi bir sonuç yok" dedi ve "liderlik ekibinin gerçek sorumluluk almasını tercih edeceklerini" ekledi. Aynı çalışan Yen'in çoğunluk hissesine sahip olmasının yönetim kurulunun yapabilecekleri konusunda yapısal bir sınır olduğunu belirtti.
Diğerleri ise iptalle aynı anda yaşananları işaretledi: Liderlik, yeniden görüşmelerde ölçülecek şeylerin bunun yerine performans değerlendirmelerinin bir bileşeni haline geleceğini söyledi. Bir çalışan, "Yönünün değişmediğini açıkça söylediler" dedi. "Bir Proton kullanıcısı olarak bu bana güven vermiyor. Bir çalışan olarak, çoğumuzun dile getirdiği endişelere rağmen yeniden görüşmeler bu kamuoyuna açıklanana kadar iptal edilmedi. Bunun iletişim sorunlarının ve büyüyen sıkıntıların ötesine geçtiğini düşünüyorum."
Çalışan, "Şu anda her şey hasar kontrolüyle tutarlı görünüyor" diye ekledi. 404 Media'nın haberine göre, Proton dışında birçok kullanıcı, soruşturmanın yayınlanmasından sonraki 24 saat içinde sosyal medyada Yen'in istifasını istedi.
Sonra ne olacak
Yen, çalışanlara "organizasyon değişikliklerinin" geleceğini ve önümüzdeki ay "yeteneklerin ekipler arasında yeniden dağıtılmasına" odaklanan bir yeniden yapılanmayla birlikte "yapay zeka nedeniyle herhangi bir iş kaybı olmayacağı" konusunda ısrar etti. Bu güvence artık yapay zeka kullanım ölçümlerinin performans incelemelerine katkıda bulunmasının beklendiği gerçeğine karşı test edilecek; bu, çalışanların yeniden görüşmelerin uygulanmasından korktuğu mekanizmanın ta kendisi.
Bölüm, yukarıdan aşağıya yapay zeka yetkilerinin sınırları içinde bir örnek olay haline geldi. Proton'un işi bir güven vaadi üzerine kurulu ve geçen hafta, ticari olarak motive edilmiş olsa da agresif bir iç yapay zeka hamlesinin bu vaadi ne kadar hızlı bir şekilde baskı altına alabileceğini gösterdi. İptal edilen bir yeniden röportajın, yeniden yapılanmanın ve daha kibar bir şekilde "zorlama" taahhüdünün bunu geri getirip getirmeyeceği tamamen başka bir sorudur.
