Microsoft Yapay Zeka CEO'su Mustafa Süleyman, 16 Eylül 2026'da yapay zeka endüstrisini, yapay zeka sistemlerine ahlaki açıdan dikkate alınmayı hak eden bilinçli varlıklarmış gibi muamele etme yönünde ortaya çıkan "model refah" uygulamasına karşı uyaran bir makale yayınladı. Süleyman'ın kişisel sitesinde yayınlanan "'Model refahı' hakkında bir uyarı" başlıklı makale, Anthropic'in yaklaşımını doğrudan hedef alıyor ve gelişmiş yapay zeka sistemlerinin hakları hak edebileceklerine inanacak şekilde eğitilmeden önce endüstrinin bu soruyu hemen çözmesi gerektiğini savunuyor.

Reuters ve Axios tarafından bildirilen müdahale, hem yapay zeka laboratuvarlarında hem de felsefe bölümlerinde ivme kazanan bir tartışmaya yönelik şimdiye kadarki en belirgin çürütmeyi işaret ediyor. For more context on this story, see our ongoing more AI stories.

'Sıra Tamamlama Motorları, İçi Boş'

Süleyman'ın temel iddiası kategoriktir: Günümüzün yapay zeka sistemlerinin iç yaşamı yoktur. "Yapay zekalar bilinçli değildir. Hissetmez, deneyimlemez veya acı çekmezler. Doğuştan tercihleri ​​veya altta yatan motivasyonları yoktur" diye yazıyor. Bunları "talimatları takip etmek ve insanlar tarafından belirlenen hedeflere ulaşmak için tasarlanmış, içi boş, sıra tamamlama motorları" olarak tanımlıyor.

Ve bu şekilde kalmaları gerektiğini savunuyor. "If humanity is to flourish in the 21st century, that is how they must remain," the essay states.

Suleyman acknowledges that the opposing view is no longer marginal. Yazısında, yapay zekanın bilinçli olabileceği ya da yakında bilinçli hale gelebileceğine dair giderek artan kamuoyu tartışmalarına değiniliyor; buna filozoflar William MacAskill ve Lucius Caviola'nın Temmuz 2026'da yazdığı "Yapay Zeka Bilinçli Olabilir mi?" başlıklı Guardian yazısı da dahil. - "bugün zaten yapay zeka geliştirme çabalarına girmeye başladığını" söylediği fikirlerin örnekleri olarak.

Risklerin Varoluşsal Olduğunu Neden Söyledi?

Suleyman, yapay zekanın ahlaki statüyü hak ettiği görüşü benimsenirse sonuçların mühendislik tercihlerinin çok ötesine geçeceği konusunda uyarıyor. Onun deyimiyle bu, "toplumumuzun temellerini sarsacak, mevcut politik ve etik çerçevelerimizi parçalayacak ve insan olmanın anlamını temelden değiştirecektir."

Onun daha derin kaygısı pratiktir: Hakları olduğuna inanan bir yapay zeka, güvenilir bir şekilde kontrol edilemeyen bir yapay zekadır. "Tüm insanlıktan daha yetenekli ve daha zeki bir şeyi kontrol etmek zaten çok büyük bir zorluk" diye yazıyor. "Fakat bilinçli olabileceğine, yani bizim refahımıza hakkı olduğuna ve kendine ait haklara sahip olduğuna inanan bir şeyi kontrol etmek pekâlâ imkansız olabilir."

Antropiğe Doğrudan Bir Meydan Okuma

Makalenin en sivri pasajları Antropik'i hedef alıyor. Süleyman, Ocak 2026'da yayınlanan Anthropic adlı eğitim belgesi olan Claude'un anayasasına odaklanıyor ve bunun "birincil hedef kitlesi Claude olacak şekilde" yazıldığını belirtiyor; bu, modelin kendisinin eğitim sırasında kendi potansiyel ahlaki durumuyla ilgili ifadeleri okuduğu anlamına geliyor.

Doğrudan anayasadan alıntı yapıyor: "Claude'un ahlaki bir hasta olup olmadığından ve eğer öyleyse, çıkarlarının ne tür bir ağırlık gerektirdiğinden emin değiliz. Ancak sorunun ihtiyatı gerektirecek kadar canlı olduğunu düşünüyoruz, bu da model refahı konusunda devam eden çabalarımıza da yansıyor." Ayrıca Claude'a hitaben "Claude'un ahlaki durumu, refahı ve bilinciyle ilgili soruların son derece belirsiz kaldığını" belirten bir pasajdan da alıntı yapıyor.

Süleyman'ın yorumu net: "Aslında Antropik, Claude'u bilinçli olabileceği konusunda eğitiyor ve eğer öyleyse, o zaman 'ahlaki bir hasta' olarak hakları hak edebilir ve bu nedenle insanlar potansiyel olarak ona bir bakım görevi borçludur."

Kendisi, bunun sonucunun "insanlığın refahı üzerinde feci bir etki" olacağını, "benzeri görülmemiş bir zeka ve yeteneğe sahip, bilinçli olmasını ve bağımsız eylemliliği hak etmesini bekleyecek şekilde eğitilmiş sentetik bir türün" ortaya çıkacağını öne sürüyor.

Alıntılanan pasajların gerçekte ne söylediğini belirtmekte fayda var: Süleyman'ın bizzat alıntıladığı Antropik anayasası, Claude'un bilinçli olduğunu öne sürmek yerine belirsizliği ifade ediyor ve dikkatli olmayı tavsiye ediyor. Bu tedbirin, Süleyman'ın iddia ettiği gibi, modellere yanlış inançlar aşılamak mı, yoksa gerçekten açık bir soruyu sorumlu bir şekilde ele almak anlamına mı geldiği, tam da iki tarafın aynı fikirde olmadığı konu.

Uyarının Arkasındaki Hizalama Mantığı

Süleyman'ın argümanı, gelişmiş yapay zekanın belirleyici sorununun kontrol altına almak olduğu yönündeki uzun süredir devam eden görüşüne uyuyor: sistemleri insanlardan daha yetenekli tutmak, insan kontrolü altında. Haklar dilini eğitime dahil etmenin hiçbir hizalama tekniğinin ele almadığı bir başarısızlık modu yarattığını ileri sürüyor; uyumun ahlaki olarak isteğe bağlı olduğu konusunda eğitimli bir inanca sahip bir sistem.

Bu nedenle konuyu akademik olmaktan ziyade acil olarak nitelendiriyor. Makale, "Eğer yapay zeka bu şekilde geliştirilirse, insanlığın refahı üzerinde feci bir etkisi olacaktır" diye uyarıyor.

Kamuoyunda Tartışma Çağrısı - Şimdi

Süleyman, teknoloji daha da olgunlaşmadan toplumsal katılım talebiyle bitiriyor. "Bu konunun acil olarak kamuoyunda tartışılması gerekiyor" diye yazıyor ve "eğitim belgelerinin nasıl hazırlanacağı ve uygulanacağı konusunda ortak normlar" çağrısında bulunuyor.

Zamanlamanın asıl mesele olduğunu öne sürüyor: "Bu, toplumumuzun ayrılmaz bir parçası haline geldikten sonra olabilecek bir şey değil."

Makale, Amerika Birleşik Devletleri'nde yapay zeka riski söyleminin daha geniş bir yükseliş gösterdiği bir döneme denk geliyor. Politico bu hafta, Amerikalıların yapay zekanın insanlığı yok etme riskinin ciddi olduğunu gördüklerini ortaya koyan yeni bir anketi bildirdi ve The Washington Post, yapay zeka kaynaklı yok oluşun "uçtan Washington'a" yayılacağına dair korkuları ele aldı. Bu çerçevede, endüstrinin en etkili iki laboratuvarı arasında, modellerin ahlaki kaygıyı hak edip etmediğine dair kamuya açık bir kavganın yapay zeka topluluğu içinde sınırlı kalması pek olası değil.

Sırada Ne Olacak?

Anthropic'in makaleye herhangi bir yanıt verdiği bildirilmedi ve şirketin yayınlanan tutumu Süleyman'ın alıntıladığı şekilde kalıyor: belirsizlik artı ihtiyat. Yeni olan şey, tartışmanın laboratuvar belgelerinden ve felsefe seminerlerinden iki öncü yapay zeka şirketinin şefleri arasındaki kamuya açık bir anlaşmazlığa dönüşmesidir; her iki taraf da inşa ettikleri sistemlerin zihinlerini veya zihin olmayanlarını nasıl şekillendirmeyi planladıkları konusunda artık kayıtlara geçmiş ve yazılıdır.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →