Yapay Zeka şirketindeki birden fazla araştırmacının eski bir meslektaşının yapay zekaya ilişkin kıyametvari değerlendirmesini tekrarlaması nedeniyle Anthropic'ten gelen kamuya açık uyarı dalgası bu hafta yoğunlaştı; bu durum, haykırışın koordineli bir "psikop" olduğunu öne süren Elon Musk'tan küçümseyici bir yanıt aldı.

The Guardian'a göre bu artış, Anthropic araştırmacısı Jacob Coxon'un viral bir gönderide istifasını duyurmasından bir gün sonra geldi ve ne Anthropic'in ne de eski işvereni OpenAI'nin yapay zeka modellerini sorumlu bir şekilde geliştirdiğini ve "hayatlarımızla kumar oynadığını" yazdı. Mevcut Antropik personelin destek amacıyla kendi korkunç değerlendirmelerini yayınlamasıyla tartışma azalmak yerine daha da büyüdü. For more context on this story, see our ongoing breaking AI news.

Uyarılar Birikiyor

Anthropic'te yapay genel zeka güvenliği üzerinde çalışan ve daha önce Google'ın DeepMind'ında çalışan Anna Wang, Perşembe günü yaptığı açıklamada, şirketteki birçok kişinin giderek daha yetenekli modellerin ortaya çıkardığı riskleri planlamak için geliştirmeyi yavaşlatmak istediğini söyledi.

Wang, X hakkında şunları yazdı: "Kendini tekrar tekrar geliştiren yapay zekadan kaynaklanan riskleri çözmeye yönelik uygulanabilir bir bilimsel plan henüz yok."

Başka bir Anthropic çalışanı olan Drake Thomas, Coxon'un teknolojiyi geliştirmekten vazgeçme kararına saygı duyduğunu söyledi. Thomas, "İşler çok hızlı ilerliyor, ASI (yapay süper zeka) için isteyeceğimiz güvence derecesine yakın bir yere sahip değiliz" diye yazdı.

Şirkette güvenlik araştırması üzerinde çalışan Samuel Marks, endişelerin sektörde yaygın olarak paylaşıldığını ve kıdemin alarmla bağlantılı olduğunu savundu. Marks, "Yapay zeka geliştiricileri, teknolojilerinin insan neslinin tükenmesine (veya benzer şekilde kötü sonuçlara) neden olabileceğine inanıyor" diye yazdı. "Bu önümüzdeki birkaç yıl içinde gerçekleşebilir. Genel olarak çalışan ne kadar kıdemli olursa, o kadar endişelenir."

Kendisini Anthropic'in hizalama bölümünde lider olarak tanımlayan Evan Hubinger en ileri gitti. "Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz!" Hubinger, kişisel olarak bu olasılığı önümüzdeki on yıl içinde yüzde 10'un üzerine çıkardığını da sözlerine ekledi.

Insider'ın notları, CBS News'in Antropik bir araştırmacının yapay zekanın insan neslinin tükenmesine neden olması ihtimalinin yüzde 10'dan fazla olduğunu tespit ettiği haberini ve The Japan Times'ın uyarıların Amerika Birleşik Devletleri'nde yeni yapay zeka kuralları çağrılarını yenilediği yönündeki haberini takip ediyor.

Musk: 'Kurulum Gibi Görünüyor'

Elon Musk oldukça muhalif bir görüşe sahipti. Dünyanın en zengin adamı kendi sosyal platformu X'te "Bir tuzak gibi görünüyor" diye yazdı.

Coxon bir selfie ile yanıt verdi: "Ben gerçeğim ve bunlar benim gerçek inançlarım. Eğer onları kovmasaydınız, xAI araştırmacılarınıza benim hakkımda sorular sorabilirdiniz."

Musk ve diğer sempatik sesler, muhafazakar düşünce kuruluşu Capital Research'te araştırmacı olan Parker Thayer tarafından ortaya atılan bir teoriyi güçlendirdi; The Guardian'ın belirttiğine göre çok az kanıtla Coxon'un gönderisi, "Yapay zekayı tamamen ortadan kaldırmak için Demokratlara destek sağlamak amacıyla ÇOK karmaşık ve iyi finanse edilen bir PR operasyonunun" açılış hamlesiydi.

Milyarder hedge fonu yöneticisi Bill Ackman, Thayer'in gönderisini tek kelimelik bir yanıtla aktardı: "İlginç."

Musk daha sonra konuyu detaylandırdı. "Sanırım bu psikolojik operasyonun (daha iyi bir terimin bulunmaması nedeniyle) zemini uzun süredir hazırlanıyor" dedi. "Bu sadece ateşi yakan kibritti."

Antropik Yaklaşımını Savunuyor

Kendi çalışanlarının uyarıları ve dışarıdan gelen saldırılar arasında kalan Anthropic, kamuoyunun ölçülü bir tepkisini sundu.

Bir şirket sözcüsü The Guardian'a "Yapay zekanın hem muazzam faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduk" dedi. "Bu riskleri ele almak için sektördeki en güçlü güvenlik önlemlerinden bazılarına sahip modeller oluşturmaya devam ediyoruz."

Şirket, kötüye kullanımı belgeleme ve engelleme konusundaki geçmişine dikkat çekti. Uyarıların internette yayıldığı gün Anthropic, siber saldırılar ve etki operasyonlarını kapsayan kesintiye uğrayan kampanyaların yanı sıra, şirketin yapay zeka modellerini kullanarak biyolojik bir silah üretmeye çalışan bir operasyonu nasıl çökerttiğini ayrıntılarıyla anlatan Eylül ayı tehdit istihbarat raporunu yayınladı. El Cezire ve BBC, Cuma günü biyolojik silah bulgularını öne çıkaran yayın organları arasındaydı.

Şüpheciler Farklı Bir Risk Görüyor

Herkes yok oluşun çerçevesini kabul etmiyor. Bilim adamı ve uzun süredir yapay zeka eleştirmeni olan Gary Marcus, teknolojinin zaten süper zeka senaryolarına bakılmaksızın eyleme geçmeyi garanti eden zararlara yol açtığını savundu ve günümüzün zararlarından dolayı yapay zekanın boykot edilmesi çağrısında bulundu.

Marcus, The Guardian'a yok olmanın ötesinde, "Yapay Zeka tarafından üretilen patojenlerden, yapay zeka tarafından üretilen dezenformasyon tarafından başlatılan veya tırmandırılan savaşlardan, kritik altyapıyı tahrip eden hack'lerden vb. kaynaklanan" felaket riskinden" endişe duyduğunu söyledi. Gördüğüm hiçbir şey bunların kontrol altında olduğuna dair herhangi bir işaret vermiyor."

Onun konumu, yapay zeka güvenliği tartışmasının kendi içindeki bir ayrılığın altını çiziyor: gelecekteki sistemlerden kaynaklanan uzun vadeli, uygarlık ölçeğindeki risklere odaklananlar ile günümüz modellerinin somut zararlarına odaklananlar arasında.

İçeride Kalmayı Reddeden Bir Tartışma

Bir araştırmacının istifa mektubu olarak başlayan şey, yapay zeka endüstrisinin en güçlü sistemlerini nasıl oluşturduğuna dair oldukça halka açık bir referanduma dönüştü. Anthropic'te çalışanlar, güvenli gelişim için kendi zaman çizelgelerinin değişip değişmediğini açıkça tartışıyorlar. Onun dışında uyarılar, hükümetlerin müdahale edip etmeyeceği veya nasıl müdahale etmesi gerektiği konusunda giderek kutuplaşan bir siyasi kavgaya dönüşüyor.

The Guardian'ın raporu, pek çok Antropik personelin bu endişeleri özel olarak paylaştığını ancak kamuya açık bir şekilde konuşmadığını öne sürüyor. Eğer daha fazlası Coxon, Wang, Thomas, Marks ve Hubinger'ı takip ederse, önde gelen yapay zeka laboratuvarlarının yavaşlaması ve düzenleyicilerin harekete geçmesi üzerindeki baskı daha da artacak.

_Bu makale The Guardian'ın haberlerine ve CBS News, The Japan Times, Al Jazeera ve BBC'nin ek bağlamına dayanmaktadır._

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →