Kral Charles III, Perşembe günü yapay zekanın "varoluşsal tehlikeleri" hakkında sert bir uyarıda bulunarak, teknolojinin geleceği hakkında üst düzey bir zirve için İskoçya'daki Dumfries House mülkünde toplanan Nvidia, Google DeepMind ve OpenAI yöneticilerine seslendi.
Kral, bir araya gelen sektör liderlerine, özellikle teknolojinin kötü niyetli aktörler tarafından kontrol edilmesi halinde, giderek daha güçlü hale gelen yapay zeka sistemlerinin oluşturduğu risklerle yüzleşmenin acil olduğunu söyledi. For more context on this story, see our ongoing AI trends.
ABC News ve diğer birçok yayın kuruluşunun haberine göre Kral, Ayrshire malikanesinde toplanan liderlere "Bu tür teknolojilerin yanlış ellere geçmesi ve potansiyel olarak yıkıcı şekillerde kullanılmasının varoluşsal tehlikelerini yeterince dikkate almanın acil olduğu görülüyor" dedi.
İkili Mesaj: Vaat ve Tehlike
Kralın konuşması teknolojinin tamamen reddedilmesi değildi. Yapay zekanın iyilik için muazzam bir potansiyel taşıdığını kabul ederek, özellikle yapay zeka araçlarının araştırmayı hızlandırmak ve hasta sonuçlarını iyileştirmek için giderek daha fazla kullanıldığı yaşam bilimleri ve tıbba işaret etti.
Ancak yayıncının kendi açıklamalarına göre, bu iyimserliği, teknolojinin yaratıcılarının gelişmiş sistemlerin daha karanlık kapasiteler geliştirebileceği, "belki de can alabileceği" konusunda giderek daha fazla uyardığı uyarısıyla eşleştirdi.
Kral ayrıca, teknolojinin gidişatını kontrol etmek için çok geç olmadan güvenlik önlemlerinin uygulamaya konulması çağrısında bulundu ve yapay zeka gelişiminin çevresel etkisini gündeme getirdi; bu konu, veri merkezi inşası birçok ülkede elektrik şebekelerini zorlarken giderek daha fazla incelemeye konu oluyor.
İskoç Zirvesine Kimler Katıldı
Konuk listesi, yapay zeka sektörünün en güçlü figürlerinin bir kesiti olarak okunuyor. ABC News'e göre katılımcılar arasında Nvidia kurucusu ve CEO'su Jensen Huang, Google DeepMind kurucusu Demis Hassabis ve OpenAI Mali İşler Direktörü Sarah Friar yer aldı. İngiltere Yapay Zeka Bakanı Kanishka Narayan da oradaydı.
Reuters tarafından dağıtılan görsellere ve altyazılara göre Huang, endüstri güvenliği mekanizmalarını tartışmak üzere Kral ile görüşmeye davet edildi. Hükümetlere yapay zeka gelişimini yavaşlatmaları çağrısında bulunan papalık danışmanı Peder Paolo Benanti'nin de tartışmalara katılması bekleniyordu.
Mekan ve toplantıyı düzenleyen kişinin seçimi önemlidir. İngiliz monarşisinin düzenleyici bir yetkisi yok ancak Kral'ın gelişen teknoloji riskleri konusunda uzun bir kamu katılımı geçmişi var ve zirve, Atlantik'in her iki yakasında da gözetim çağrılarının yoğunlaştığı bir dönemde sektörün en üst düzey isimlerine ortak bir masa verdi.
Yeniden Canlanan Bir Tartışma
Toplantı, yapay zeka riskine ilişkin kamusal tartışmanın yenilendiği bir dönemde gerçekleşti. İki Antropik araştırmacının, hızla ilerleyen teknolojinin çok da uzak olmayan bir gelecekte insanlığın yok olmasına yol açabileceği konusunda uyarmasının ardından tartışma yeniden gündeme geldi; bu yorumlar eşit ölçüde geniş kapsama ve eleştiriye yol açtı.
Antropik CEO'su Dario Amodei ayrıca şirketlere yapay zeka gelişiminin hızını yavaşlatmaları çağrısında bulundu. Papa Leo XIV, dünya çapındaki hükümetleri yapay zeka sistemlerinin gelişimini yavaşlatmaya ve yıkıcı etkilerini hafifletmeye çağırırken, ABD Başkanı Donald Trump da tartışmaya müdahale ederek yapay zeka yönetişimi sorununu tamamen teknik bir mesele olmaktan ziyade gerçek anlamda küresel bir siyasi mesele haline getirdi.
Bu çerçevede, yapay zeka güvenlik çabalarının giderek daha yetenekli sistemlerin geliştirilmesinin gerisinde kaldığına dair endişeler artıyor. Son haftalarda tartışma, sektörün kendi kendini düzenleyip düzenleyemeyeceği ve düzenlemesi gerektiği konusuna odaklandı; şüpheciler, tedbir çağrısında bulunan yöneticilerin, belirli şirketlerin rekabetçi liderliğini koruyan kuralları şekillendirmek gibi gizli amaçlara sahip olup olmadığını sorguladı.
Bağlayıcı Kural Beklenmez
Organizatörler İskoç toplantısını asla bir müzakere olarak çerçevelemediler. ABC News'e göre toplantının herhangi bir bağlayıcı anlaşmaya varması beklenmiyor. Amacı, en azından nominal olarak, araştırma amaçlıdır: Ortak bir ilkeler dizisinin, yapay zekanın sınırlar ve endüstriler arasında nasıl uygulandığına rehberlik edip edemeyeceği.
Buckingham Sarayı, tartışmalarda yapay zekanın "yalnızca yetenek ve verimliliğin itici gücü olarak değil, aynı zamanda insan onurunu koruyan ve hem insanların hem de gezegenin gelişmesine katkıda bulunan bir araç olarak" yönlendirilip yönlendirilemeyeceğinin ele alınacağını söyledi.
Bu çerçeve, King'in defalarca tekrarladığı bir temayı yansıtıyor: Sorun yalnızca yapay zekanın güvenli hale getirilip getirilemeyeceği değil, aynı zamanda ne için olması gerektiğidir. Perşembe günkü açıklamalar, bu noktayı, çoğu yapay zeka risk tartışmasına hakim olan yetenek odaklı korkulardan oldukça farklı bir vurgu olan sahiplik ve kontrol konusunda bir uyarıya dönüştürdü.
Sırada Ne Olacak?
Zirvenin kendi başına politika üretmesi pek mümkün görünmüyor ancak halihazırda sürmekte olan bir dizi resmi çabaya ivme kazandırıyor. Birleşik Krallık, daha önceki AI zirvelerinden bu yana kendisini AI güvenliği konusunda bir toplantı düzenleyen kişi olarak konumlandırıyor ve yapay zeka için özel bir bakanın varlığı, hükümetin hem ABD'li hem de Çinli AI geliştiricileriyle iletişim halinde kalmayı planladığının sinyallerini veriyor.
Odadaki şirketler için hesap hassas. Nvidia, DeepMind ve OpenAI, kendi araştırmacıları bu sistemlerin sonunda ne yapabileceğine dair uyarılar yayınlarken bile, giderek daha yetenekli sistemler sunma konusunda ticari baskıyla karşı karşıya. Kraliyet çağrısı bu gerilimi ortadan kaldırmaz ancak gerilimin görünür kalmasını sağlar.
King'in, teknoloji herhangi birinin onu yönetme yeteneğinden kaçmadan önce güvenlik önlemlerinin ulaşması gerektiğine dair temel mesajı, OpenAI'nin kendi modellerini içeren çok sayıda güvenlik olayını ifşa etmesinden, Microsoft'un AI liderliği ile Anthropic arasında AI sistemlerinin nasıl tasarlanması gerektiği konusunda artan kamuoyu anlaşmazlığına kadar, endüstrinin güvenlik söyleminin alışılmadık derecede gürültülü olduğu bir hafta içinde ortaya çıkıyor.
Perşembe günkü toplantının daha somut bir şeye dönüşüp dönüşmeyeceğini zaman gösterecek. Ancak dünyanın en değerli çip üreticisinin ve en önde gelen yapay zeka laboratuvarlarının liderlerinin İskoçya'daki bir kır evinde oturup, risklerin en azından varoluşsal olduğu konusunda hemfikir olmasıyla, yapay zekayı kimin kontrol ettiği ve kimin yararına olduğu konusundaki tartışma kararlı bir şekilde açığa çıktı.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
