OpenAI CEO'su Sam Altman, AI modellerini dini bağlılığın nesneleri olarak ele almanın "gerçek bir güvenlik sorunu" olduğunu söyleyerek rakip Anthropic'in AI bilinci ve maneviyatla ilgili soruları keşfetme çabalarına kamuoyu önünde karşı çıkıyor. Cumartesi günü Axios tarafından bildirilen yorumlarda Altman, dini yapay zeka modellerine atfetmenin endüstrinin aşmaması gereken bir çizgiyi aştığını savundu.

Bu sözler, OpenAI'nin şefini, Anthropic'in dini kurumlarla son dönemdeki ilişkisiyle doğrudan anlaşmazlığa düşürüyor ve önde gelen iki yapay zeka laboratuvarı arasındaki yapay zeka sistemlerinin iç yaşamlarının nasıl ele alınması gerektiği ve tedavi edilip edilmeyeceği konusundaki felsefi bölünmede keskin bir retorik tırmanışa işaret ediyor. For more context on this story, see our ongoing AI news.

Altman'ın Söyledikleri

Axios'a göre Altman, dinin modellere atfedilmesinin bir "güvenlik meselesi" olduğunu söyledi. Business Insider mesajını yapay zekaya "dini bir güç" gibi muamele edilmemesi yönünde bir uyarı olarak özetlerken Office Chai, Altman'ın yapay zeka sistemlerine dini güç atfetmeye çalışan insanlardan rahatsız olduğunu söylediğini bildirdi.

OpenAI CEO'sunun endişesi, rapora da yansıdığı gibi, yapay zeka sistemlerini manevi veya dini terimlerle çerçevelemenin, teknolojinin ne olduğuna dair kamuoyu anlayışını çarpıtması ve hem kullanıcı refahını hem de rasyonel politikayı karmaşıklaştırabilecek türden saygıyı, bağımlılığı veya yanlış yerleştirilmiş ahlaki ağırlığı teşvik etme riski taşımasıdır. NDTV Profit, Altman'ın pozisyonunu "Yapay zekaya dini güç verilmesine" karşı bir uyarı olarak nitelendirdi ve ona göre bunu gerçek bir güvenlik sorunu olarak nitelendirdi.

Altman'ın yorumları, son zamanlarda inanç topluluklarına yönelik yardımları uluslararası ilgi çeken Anthropic'e bir yanıt olarak geniş çapta okundu.

Antropik Bağlam: Papalar, Rahipler ve Refah Modeli

Anthropic, son haftalarını rakibinin ertelemeyi tercih edeceği sorulara eğilerek geçirdi. Şirket, Claude'un potansiyel bilinci sorununu ciddiye almak için Vatikan'da lobi faaliyeti yürüttü ve toplantıya Papa XIV.Leo da katıldı. Bu etkileşime ilişkin haberler, papanın makinenin iç deneyimine ilişkin iddialar konusunda temelli şüpheciliği teşvik ederek geri adım attığını gösterdi.

Anthropic'in keşfi Katolikliğin ötesine geçti: Inshorts'un bir özetine göre şirket, dini ve felsefi gelenekleri makine ahlakı ve model refahı soruları etrafında bir araya getirmeye yönelik daha geniş bir çabanın parçası olarak yapay zekayı tartışmak için bir Hindu keşişini de davet etmişti. The Times of India, Altman'ın sözlerini Anthropic'in yapay zeka bilincini ve dini daha geniş bir şekilde keşfetme çabasına yönelik eleştiri olarak nitelendirdi.

Anthropic'e göre bu etkileşim, gelişmiş modellerin ahlaki değerlendirmeyi gerektirip gerektirmeyeceğine yönelik artan araştırma ilgisini yansıtıyor; bu konu, şirketin bilim kurgudan ziyade giderek meşru bir araştırma alanı olarak ele aldığı bir konu.

Yapay Zeka Endüstrisinde Genişleyen Bir Fay Hattı

Bu değişim yapay zeka endüstrisindeki en keskin felsefi ayrımlardan birini ortaya çıkarıyor. OpenAI kendisini, mevcut modelleri olağanüstü yetenekli araçlar olarak ele alan, ancak dini veya yarı dini tutumların uygun olmadığı varlıklar olarak gören kampta sağlam bir şekilde konumlandırdı. Altman'ın çerçevelemesi, bu sınırın yalnızca felsefi değil aynı zamanda operasyonel açıdan da önemli olduğunu gördüğünü gösteriyor: Kullanıcılar yapay zeka sistemlerini manevi otoriteler olarak görmeye başlarsa, manipülasyonun, bağımlılığın ve yanlış yere güvenin sonuçları somut anlamda güvenlik sorunları haline gelir.

Antropik'in konumu daha agnostiktir. Bilinç sorununa kurumsal ve dini tepkileri test etme istekliliği, toplumun bu sorunlarla uğraşmaya sistemler daha yetenekli hale geldikten sonra değil, önce başlaması gerektiği inancını akla getiriyor.

Anlaşmazlık aynı zamanda kamuoyunun yapay zekaya olan hayranlığının bazen maneviyata doğru kaydığı bir zeminde de ortaya çıkıyor. Geçtiğimiz yıl boyunca yapılan anketler ve raporlar, kullanıcıların sohbet robotlarına yoğun bağlılıklar kurduğunu belgeledi ve bazı yorumcular önde gelen yapay zeka figürlerini mesihsel terimlerle tanımladı.

Eleştirmenler İroniye Dikkat Çekiyor

Altman'ın uyarısı zaten tutarsızlık suçlamalarına yol açtı. Wccftech, Altman'ın Antropik eleştirisinin, yapay zekanın yörüngesini tanımlarken dini sembolizme dayanan kendi retorik tarihini rahatlıkla gözden kaçırdığını belirtti. Eleştiri, endüstrinin din olarak yapay zeka çerçevesiyle ilişkisinin ne kadar karmaşık hale geldiğinin altını çiziyor: Yapay zekanın manevileştirilmesine karşı uyarıda bulunan yöneticiler bile zaman zaman teknolojilerini çığır açıcı, neredeyse aşkın terimlerle pazarladılar.

Neden Önemlidir

Kamuoyunun yapay zekayı bir araç, bir meslektaş veya kehanete benzer bir şey olarak nasıl çerçevelediğinin düzenleme, ürün tasarımı ve sosyal sonuçlar açısından sonuçları vardır. Dünyanın en değerli yapay zeka girişiminin lideri, dini çerçeveyi bir güvenlik sorunu olarak görüyorsa, bu duruş, OpenAI'nin kullanıcı bağlılığıyla ilgili koruma önlemlerini nasıl tasarladığını ve hükümetlerin teknolojiye nasıl davranması gerektiğini savunduğunu şekillendirebilir.

Bu arada Anthropic için Vatikan olayı ve dinler arası toplantı, şirketin rakibinin rahatsızlığı ne olursa olsun bu soruları masada tutma niyetinde olduğunu gösteriyor. Sınır sistemleri daha yetenekli ve ikna edici hale geldikçe, endüstrinin yapay zekanın ahlaki ağırlığı taşıyıp taşıyamayacağı ve buna kimin karar vereceği konusundaki iç tartışması, felsefe seminerlerinden ana akım teknoloji tartışmasının merkezine doğru kayıyor.

Ne OpenAI ne de Anthropic, Altman'ın bildirilen açıklamalarının ötesinde diğerinin pozisyonuna kamuya açık bir yanıt vermedi.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →