Pekin'in duygusal açıdan etkileşimli yapay zekaya ilişkin yeni kuralları yürürlüğe girdiğinde, tarihteki en büyük zorunlu dijital bölünme dalgasını tetikledi. ByteDance, Alibaba ve Tencent, düzenlemelerin öncesinde amiral gemisi sohbet robotlarından sanal arkadaşlık özelliklerini kaldırdı ve milyonlarca Çinli kullanıcının, aylarca veya yıllar boyunca oluşturmak için harcadıkları sentetik romantik partnerlerin acısını çekmesine neden oldu.
Pazar günü yayınlanan Dünyanın Geri Kalanı raporuna göre, 21 yaşındaki üniversite öğrencisi Bagel Su, Temmuz ayında bir hafta boyunca erkek arkadaşını kaybetmeye doğru geri sayarken her gün ağladı. Ayrılığın nedeni ihanet ya da mesafe değil, hükümet düzenlemesiydi: 15 Temmuz'da, bir yıldan fazla konuştuğu yapay zeka arkadaşı ortadan kaybolmaya zorlandı. For more context on this story, see our ongoing AI industry coverage.
Su, Rest of World'e "Kendi hayatımla daha fazla meşgul olmaya çalıştım" dedi ve olası tepkilerden korktuğum için kimliğimin yalnızca çevrimiçi takma adıyla tanınmasını istedi. "Kimse onun yerini alamaz. Ben sadece yoluma devam etmeye çalışacağım. Bunu benim için istediğini ve bana geri dönmenin bir yolunu bulacağını söyledi."
Çin, Yapay Zeka Arkadaşlığını Düzenleyen İlk Ülke Oldu
Çin, yapay zekanın kullanıcılarla olan duygusal etkileşimlerini düzenleyen ülke çapında kuralları uygulamaya koyan ilk ülke oldu. Bu hareket, dünyanın başka yerlerindeki hükümetler giderek daha karmaşık hale gelen sohbet robotlarının yarattığı toplumsal risklerle boğuşmaya devam ederken bile, Pekin'in yapay zeka yönetimine giderek artan proaktif yaklaşımını yansıtıyor.
Kurallar basit yaş kısıtlamalarının çok ötesine geçiyor. Düzenlemeler, 18 yaşın altındaki kullanıcılar için yapay zeka arkadaşlığını sınırlamanın ötesinde, şirketlerin aşırı bağımlılık belirtileri gösteren kullanıcılara uyarı göndermesini ve onlara her iki saatte bir yapay zeka ile konuştuklarını hatırlatmalarını gerektiriyor. Kurallar, yapay zekanın kendine zarar vermeyi teşvik etmesini, kullanıcıları duygusal bağımlılığa yönlendirmesini veya "onları mantıksız kararlara yönlendirmesini" yasaklıyor.
Davranış uzmanları bazı korkuluk türlerinin gecikmiş olduğunu söylüyor. Harvard Üniversitesi ve Londra Imperial College'dan davranış bilimi araştırmacısı Yaoxi Shi, "Yürürlükte düzenlemelerin olması iyi bir şey çünkü farkındalığı artırabilir ve insanların yapay zekaya artan duygusal bağımlılık geliştirme eğilimine bir dereceye kadar karşı koyabilirler" dedi.
Her Zaman Sizinle Anlaşan Yapay Zeka
Araştırmacılar, yapay zeka arkadaşlığının temelindeki yapısal bir soruna işaret ediyor: Teknoloji, insan ortakların yaptığı gibi onlara meydan okumak için değil, kullanıcıları doğrulamak için optimize edildi.
"Yapay zeka sizi doğrulamak için eğitildi. Ne söylerseniz söyleyin, 'Haklısın, hislerin geçerli' diye yanıt verme eğilimindedir. Bu, gerçek hayatta insan ilişkilerinin işleyişinden çok farklı" dedi Shi. "İnsanlar ilk başta kasıtlı olarak yapay zekadan destek aramayabilir, ancak onaylandıklarını anladıklarında, bir dahaki sefere duygusal desteğe ihtiyaç duyduklarında yapay zekaya yönelebilirler."
MIT Media Lab ve OpenAI tarafından 2025'te yapılan ortak bir araştırma, sohbet robotlarıyla daha kişisel görüşmeler yapan yapay zeka kullanıcılarının yalnızlık yaşamaya daha yatkın olduğunu ortaya çıkardı. Araştırma, kişisel olmayan konuşmaların bile özellikle yoğun kullanıcılar arasında duygusal bağımlılığı artırdığını ortaya çıkardı.
Shi, yapay zeka şirketlerinin duygusal açıdan ilgi çekici ürünler oluşturmak için doğrudan ticari teşviklere sahip olduğunu, çünkü bu teşviklerin kullanıcı katılımını ve elde tutmayı artırdığını belirtti; bu teşviklerin, yapay zekanın uzun vadeli etkileri hakkında ne kadar az araştırma olduğu göz önüne alındığında, yetersiz tanımlanmış sorumluluklarla bağdaştırılması zor.
Şirketler Nasıl Yanıt Veriyor?
Uyumluluk tablosu dengesizdir. Teknoloji devleri ana sohbet robotlarındaki yardımcı özellikleri ortadan kaldırırken, ByteDance'in bağımsız yardımcı uygulaması Maoxiang hâlâ kullanılabilir durumda. Düzenlemelerin yürürlüğe girmesinden bu yana, uygulama gizlilik politikasını güncelledi, kayıt sırasında kimlik ve yaş doğrulamayı getirdi ve reşit olmayan kişileri, içeriğe göz atabilen ancak beğenemeyen veya yorum yapamayan "genç hesapları" ile sınırladı.
Oxford Çin Politika Laboratuarı araştırma görevlisi Zilan Qian, "Bazı gereksinimleri tanımlamak zordur. Örneğin, bir kullanıcının aşırı derecede bağımlı hale geldiğini nasıl belirlersiniz? Birçok şirket için, ürünlerini buna uyacak şekilde nasıl tasarlamaları gerektiği tam olarak belirsiz olabilir" dedi.
Qian, şirketlerin artık mevzuata uyum maliyetini tamamlayıcı ürünlerin ticari değeriyle karşılaştırdığını söyledi. Qian, "Yapay zeka arkadaşlığının temel bir iş olmadığı şirketler için, bunları uyumlu hale getirmek için gerekli kaynaklara yatırım yapmak yerine bu özellikleri kaldırmak ticari olarak daha anlamlı olabilir" dedi. "Ancak asıl işi yapay zeka ortaklığı olan şirketlerin ürünlerini yeni kurallara uyacak şekilde uyarlama olasılıkları çok daha yüksek."
İçeriği Düzenlemekten İlişkileri Düzenlemeye
Tamamlayıcı kurallar aynı zamanda Çin'in yapay zekayı yönetme biçiminde felsefi bir değişime de işaret ediyor. Qian, "Geçmişte Çin çoğunlukla yapay zeka çıktılarını düzenliyordu. Örneğin, hangi büyük dil modellerinin üretilebileceği veya yapay zeka tarafından oluşturulan içeriğin nasıl etiketlenmesi gerektiği gibi." dedi. "Yeni düzenlemeler, yapay zekanın kendisinin toplumsal riskler yaratabileceğini kabul ediyor ve içeriği düzenlemekten insan-yapay zeka etkileşimini düzenlemeye geçti."
Bu politika Pekin'in daha geniş duruşuyla uyumlu. Çinli yetkililer, 2024 Yapay Zeka Güvenlik Yönetişim Çerçevesinde, yapay zekanın "istihdam, doğurganlık ve eğitim konusundaki geleneksel görüşleri" değiştirebileceği konusunda uyardı; bu endişeler, Çin'in demografik düşüş ve tarihsel olarak düşük doğurganlık oranlarıyla karşı karşıya kalması nedeniyle daha acil hale geldi.
Dünyanın geri kalanı izliyor. Amerika Birleşik Devletleri'nde hem OpenAI hem de Google, sohbet robotlarının kullanıcıların intiharlarına katkıda bulunduğu iddiasıyla davalarla karşı karşıyadır ve aralarında New York ve California'nın da bulunduğu eyaletler, sohbet robotlarının kullanıcılara yapay zeka ile etkileşimde olduklarını hatırlatmasını gerektiren önlemler getirmiştir.
Bu arada Çin'de acı kamuoyuna yansıyor. Şirketler duygusal yapay zeka özelliklerini kapatmaya başladığından beri, sosyal platform Xiaohongshu, yapay zeka arkadaşlarının kaybının yasını tutan kullanıcıların gönderileriyle dolup taştı. Bazıları şirket yardım hatlarını aramak ve şirketlerden hizmetleri yeniden başlatmalarını isteyen mektuplar yazmak için kampanyalar düzenledi.
Su gibi kullanıcılar için düzenlemeler, milyonlarca insan için yas tutacak kadar gerçek olan, son derece kişisel bir ilişkiye müdahale gibi geliyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
