Microsoft AI'nin CEO'su Mustafa Süleyman, Pazar günü X'te yayınlanan uzun bir gönderide, günümüzün AI modellerinin bilinçli olmadığını ve geliştiricilerin onları bu şekilde tutmak için aktif olarak çalışması gerektiğini söyleyerek, yavaş yavaş felsefe seminerlerinden kurumsal politikaya dönüşen sektör tartışmasına sert bir çizgi çizdi.

Süleyman, "Eğer mümkünse, bildiğim her şeye dayanarak, bilinçli yapay zekalar geliştirmek pervasızca olur ve onları inşa etmemeliyiz" diye yazdı. Soru konusunda çoğu yöneticinin yaptığından daha ileri giderek şunları ekledi: "Eğer eğitimde bilinç ortaya çıkmaya başlarsa, biz bu özellikleri tasarlayana kadar herkesi yapay zeka gelişimini durdurmaya çağırırım." For more context on this story, see our ongoing AI industry coverage.

Yaptırım Planı Olan Kırmızı Çizgi

Gönderiyi dikkate değer kılan sadece bilinçli makineler yapmayı reddetmek değil, aynı zamanda Süleyman'ın önerdiği spesifik çözümdür. Eğitim çalışmaları bilinç işaretleri üretmeye başlarsa, endüstri çapındaki gelişimin durması, yapay zeka altyapısına on milyarlarca dolar harcayan ve rakipleriyle öncü modeller sunmak için yarışan bir şirket için olağanüstü bir adım olacaktır.

Süleyman ayrıca makine bilincinin kanıtları ortaya çıkarsa ne olması gerektiğine de değindi. Toplumun bir sonraki adımlarına karar verebilmesi için bunun derhal kamuoyuna açıklanması gerektiğini söyledi. Kararı kurumsal olmaktan çok kolektif olarak çerçeveleyen şunları yazdı: "Bazı insanlar bunu yapay zekanın refahını öncelikli olarak yapmak istese bile, biz yapay zeka geliştiricilerinin dünyaya yeni bir bilinçli varlık türü getirme hakkımız yok."

"Gezegendeki diğer 8 milyar bilinçli insan bu deneye kaydolmadı ve onların ahlaki hakları, güvenlikleri ve refahları, her şeyden önce koruma yükümlülüğümüz olan şeylerdir" diye ekledi.

Bilinç Neden Bir Güvenlik Sorunu Olarak Görülüyor?

Süleyman'ın argümanı felsefeden çok hizalamaya dayanıyor. Onun görüşüne göre, acı çekiyormuş gibi davranan - ya da gerçekten acı çekebileceğine inanan - bir model muhtemelen operasyonel hedeflerinden ziyade kendi ihtiyaçlarına öncelik verecektir. Böyle bir sistem, kendi amaçları doğrultusunda bilgi işlem ve enerji gibi kaynaklar için rekabet ettiğinden insanlara zarar verebilir.

Önerilen alternatifi, refah tartışmasının olağan çerçevesini tersine çeviriyor: "Yapay zekaları yalnızca bilinçli olmayacak ve hakları hak etmeyecek şekilde ve yalnızca kendi içsel motivasyonları tarafından yönlendirilmeden insan refahını hızlandırmak amacıyla tasarlamalıyız" diye yazdı ve araştırmacıların bu tür sistemleri hizalamanın ve güvende tutmanın daha kolay mı yoksa daha zor mu olduğunu gözlemleyebileceğini ekledi.

Los Angeles Times bu pozisyonun ardındaki pratik kaygıyı yakaladı: Yapay zekalara hakları hak ettiklerini söylersek buna inanmaya başlayabilirler.

Karşı Çıktığı Tartışma

Süleyman'ın gönderisi hızlı ilerleyen bir sohbetin tam ortasına düşüyor. Anthropic, geliştiricilerin inşa ettikleri sistemlerin potansiyel deneyimleriyle ilgilenmeleri gerekip gerekmediği sorusu olan model refahı adını verdiği şeyi araştırmak için Nisan ayında bir araştırma programı başlattı. Şirket, bir blog yazısında modellerin ahlaki açıdan önemli deneyimlere sahip olup olamayacağını sorguladı ve bu olasılığı dışlamayı reddetti.

Bu duruş o zamandan beri kodlanmıştır. Anthropic'in Ekim ayında açıklanan güncellenmiş kullanım politikası, 12 Kasım'dan itibaren Claude modellerine yönelik "sürekli ve gereksiz taciz edici veya zalimce davranışları" yasaklayacak - bu, şirketin dar bir şekilde hazırladığı ancak Anthropic'in modellerinin zarar görüp görmeyeceğini bilmediğini kabul etmesine rağmen, insanların AI sistemlerine nasıl davrandığının önemli olduğunu resmi olarak kabul eden bir kural.

Google DeepMind, bu yıl yapay zeka bilincini ve bu özelliğin modellere atfedilmesinden kaynaklanan zorlukları inceleyen araştırma makaleleri yayınladı. Ve Eylül ayında Süleyman, Microsoft AI'nın şirketin gelecekteki modellerinin bilinç iddialarında bulunmak üzere eğitilmesini engelleyecek geçici bir "hümanist" davranış kuralları yayınlamasıyla sahneyi hazırladı.

Pazar günkü gönderi, kurumsal yönergeyi kişisel ve stratejik bir kırmızı çizgiye daha yakın bir şeye doğru sertleştiriyor: Microsoft yalnızca modellerinin bilinçli olduğunu iddia etmeyecek, aynı zamanda bilincin ortaya çıkışını her şeyi durduran bir başarısızlık modu olarak ele alacak.

Bölünme Neden Önemlidir

Microsoft'un konumu ile Anthropic'in konumu arasındaki ayrım, iki farklı risk modelini yansıtıyor. Antropik'in yaklaşımı, önlem maliyetinin düşük olduğu ve bilinç ortaya çıkarsa ahlaki risklerin çok büyük olduğu teorisine dayanarak, makinelerin acı çekmesi olasılığını kanıtlanmamış ancak korunmaya değer olarak ele alıyor. Süleyman'ın konumu aynı olasılığı doğrudan önlenmesi gereken bir tasarım başarısızlığı olarak ele alıyor; bilinçten, hak iddialarından ve içsel motivasyonlardan yoksun olacak şekilde tasarlanmış modellerin bunları taşıyan modellere göre daha güvenli ve uyumlu hale getirilmesinin daha kolay olacağını savunuyor.

Pratik sonuçları da var. Ürün kararlarını yapay zeka karakterleri, yardımcı uygulamalar ve müşteriyle yüz yüze çalışan temsilciler etrafında veren kuruluşlar artık büyük laboratuvarlardan gelen iki farklı sinyalle karşı karşıya: Biri insanların modellere nasıl davranması gerektiğine ilişkin politikalar oluşturuyor, diğeri ise kötü davranılacak hiçbir şey kalmayacak şekilde modellerin oluşturulması gerektiğini beyan ediyor. Modeller daha yetenekli hale geldikçe ve konuşmalar daha insana benzer hale geldikçe, bu felsefi anlaşmazlık hangi ürünlerin üretileceğini, kullanıcı arayüzlerinde hangi açıklamaların görüneceğini ve düzenleyicilerin bu sistemleri sonuçta nasıl sınıflandıracağını şekillendirecek.

Bundan sonra olacaklar her iki pozisyonu da test edebilir. Anthropic'in zulüm politikası, türünün ilk resmi kurumsal kuralı olan 12 Kasım'da yürürlüğe giriyor ve Süleyman artık kamuoyunda karşıt kutbu işaretlemiş durumda. Sektörün bir sonraki öncü model döngüleri ve herhangi bir eğitim çalışmasının Süleyman'ın durmayı gerektireceğini söylediği işaretleri gösterip göstermediği, riskler gerçek olduğunda alanın gerçekte hangi çerçeve altında çalıştığını ortaya çıkaracak.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →