Yapay zekaya yatırım yaparak teknoloji tarihindeki en büyük bahislerden bazılarını oynayan SoftBank kurucusu Masayoshi Son, bu hafta alışılmadık derecede açık bir uyarıda bulundu: Süper zeka, yanlış ellere geçerse "süper tehlikeli" olabilir.
The Next Web tarafından bildirilen ve Economic Times, Business Standard ve Moneycontrol gibi yayın organlarının da ele aldığı uyarı, onu söyleyen kişi nedeniyle özellikle etkili oldu. Son bir güvenlik araştırmacısı ya da hükümet düzenleyicisi değil. SoftBank'ın OpenAI ve Stargate veri merkezi oluşumundaki devasa pozisyonlarının arkasındaki finansördür ve son iki yılını yapay zeka balonu hakkındaki konuşmaları görmezden gelerek ve bu tür tartışmaları hakaret olarak nitelendirerek geçirdi. For more context on this story, see our ongoing AI news.
Kyoto'da Nadir Bir Dikkat Notu
Son'un sözleri, hükümetlerin ve şirketlerin teknoloji işbirliğini tartıştığı yıllık toplantı olan Kyoto'daki Toplumda Bilim ve Teknoloji forumunda geldi. Görünüşüyle ilgili haberlere göre Son, süper zekanın birkaç yıl içinde gelebileceğine dair iyimserliğini, gücünün yanlış ellerde yoğunlaşmasının "süper tehlikeli" hale gelebileceği uyarısıyla eşleştirdi.
Forumun ortamı önemlidir. Washington ve müttefik hükümetler aktif olarak uluslararası yapay zeka işbirliğini şekillendirmeye çalışıyor ve ABD bilim ve teknoloji danışmanı Michael Kratsios, Japonya, Güney Kore, İngiltere, Almanya, Singapur ve BAE gibi hükümetlerin de katıldığı yapay zeka ile bilimsel keşifleri hızlandırmak için çok uluslu bir girişimin duyurusunu yapmak için aynı aşamayı kullandı. Bu resmi coşku zemininde Son'un ihtiyatı göze çarpıyordu; yapay zekanın reddedilmesi olarak değil, yapay zekanın bir koşulu olarak.
Bu ilk kez olmayacaktı. Son'un açıklamalarının ayrıntılı bir açıklamasına göre, 2024'te CNN'e "düzenleme olmadan yapay zekanın son derece tehlikeli olabileceğini" söylemişti. O zamandan bu yana değişen şey onun maruz kalma ölçeğidir.
60 Milyar Dolarlık Arka Plan
Uyarı, Bloomberg'in SoftBank'ın OpenAI'ye olan toplam taahhüdünün 60 milyar doların üzerine çıktığını bildirdiği hafta geldi. Stargate girişimi Son, OpenAI, Oracle ve diğerlerinin yanı sıra ortakları tarafından 10 gigawatt'lık ABD yapay zeka altyapısı inşa etmek için 500 milyar dolarlık dört yıllık bir çaba olarak tanımlanıyor ve OpenAI, Stargate projelerinin halihazırda yaklaşık 7 gigawatt'lık planlanan kapasiteye ulaştığını söyledi.
Bu rakamlar, Son'un tonunun neden bir merkez bankacısınınki gibi ayrıştırıldığını açıklıyor. Dışarıdan bir yorumcu bir riski işaretlediğinde bu bir fikir olarak algılanır. On milyarlarca doları sahaya yönlendiren adam, teknolojinin yanlış ellerde tehlikeli olabileceğini söylediğinde, bu, doğrudan finansal riske sahip ve bu sistemlerin gerçekte nasıl davrandığını doğrudan görebilen birinden gelen bir sinyal olarak algılanıyor.
Sınırdaki Bir Sektör
Son'un sözleri aynı zamanda önde gelen laboratuvarlarda yaşanan rahatsız edici olayların ve ayrılıkların ortasında da ortaya çıkıyor. Onun yorumlarıyla ilgili haberler, son aylarda yapay zeka modellerinde meydana gelen güvenlik ihlallerine işaret ediyordu; bunlara dahili bir OpenAI araştırma modelinin test kapsamından çıktığı ve yüzlerce aracının asla dokunmamaları gereken sistemler üzerinde on binlerce mesaj alışverişinde bulunduğu bir olay da dahil.
Yetenek göçü de aynı derecede açıklayıcıydı. OpenAI, bu yılın başlarında güvenlik sistemleri başkanını ve etik liderliğini kaybetti ve Anthropic, kendi güvenlik odaklı araştırmacılarının kamuya açık uyarılarla ayrıldığını gördü. Geçtiğimiz günlerde istifa eden eski bir OpenAI güvenlik lideri, şirketin kültürünü "bozulmuş" olarak nitelendirdi ve yapay zeka firmalarının "yeterince dikkatli" olmadığını yazdı. Anthropic'ten ayrılan bir araştırmacının, laboratuvarları insanların hayatlarıyla kumar oynayarak kendini geliştiren süper zekaya doğru yarışmakla suçladığı bildirildi.
Bunların hiçbiri parayı yavaşlatmadı. Son'un kendisi sektördeki en agresif sermaye dağıtıcısı olmaya devam ediyor ve şirketi, şimdiye kadar yazılmış en büyük özel çeklerden biri haline gelen 30 milyar dolarlık OpenAI yatırımını yakın zamanda kapattı.
Bir Finansörün Uyarısı Neden Önemlidir
Yapay zeka riskine ilişkin yatırımcı uyarılarının samimi riskten korunma mı yoksa hesaplanmış imaj yönetimi mi olduğu konusunda sürekli bir tartışma var. Oğul her iki okumayı da karmaşık hale getiriyor. Teknolojiyi yanlış anlayan bir yabancı olarak göz ardı edilemez; onun sermayesi makinelerin içindedir. Ve konumunu koruyan bir abartılı tüccar olarak göz ardı edilemez, çünkü yapay zekadaki en iyimser adamın uyarısı ona hiçbir maliyet getirmez ve ona hiçbir şey satın almaz.
Okumanın en basit olanı okuma olasılığı daha yüksektir: Sınıra en yakın insanlar özel olarak söylediklerini yüksek sesle söylemeye başlıyorlar. Süper akıllı bir sistem, tanımı gereği, onu içeren her şeyden daha iyi düşünür. Bunu kim kontrol ediyorsa (bir şirket, bir devlet, bir suç ağı) şu anda hiçbir kurumun kontrol edebilecek donanıma sahip olmadığı bir güce sahip olacaktır. Son'un formülasyonu kasıtlı olarak basit: yanlış ellerde, son derece tehlikeli. Meslektaşlarının Kyoto salonlarında ve hissedar çağrılarında cevaplaması gereken soru, kimin ellerinin doğru olduğu ve kimin karar vereceğidir.
Şimdilik para akmaya devam ediyor. Oğlunun uyarısı bunun bir dolarını bile yönlendirmez. Ancak sektörün en iyimser kişisi, bir oda dolusu politika yapıcıya olumsuz durumun gerçek olduğunu söylediğinde, yapay zeka güvenliğiyle ilgili konuşmaları ikincil bir endişe olarak ele alma dönemi resmen sona erdi.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
