"Yapay zekanın babalarından" biri şimdiye kadarki en keskin uyarısını yaptı: Araştırmaları modern yapay zekayı destekleyen Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton, insanların bu teknolojiyi hiç geliştirmemesinin daha iyi olabileceğinin ortaya çıkabileceğini söylüyor. The Guardian'a verdiği bir röportajda, yapay zekanın bu yıl veya önümüzdeki yıl finansal veya enerji sistemlerinin geçici olarak kapatılması gibi büyük ölçekli bir olayı tetikleyebileceği konusunda da uyardı.
'Belki de bunu hiç geliştirmeseydik daha iyi olurdu' Bu hikaye hakkında daha fazla bağlam için devam eden Yapay Zeka eğilimleri makalemize bakın.
78 yaşındaki Hinton, The Guardian'a yapay sinir ağlarına yönelik öncü çalışması üzerine inşa edilen teknoloji konusunda "felaket tellalı" olmadığını söyledi. Yapay zekanın hâlâ "harika bir gelecek" ve "radikal bolluk" olarak adlandırdığı şeyi sunma potansiyeline sahip olduğuna inanıyor. Ancak olumsuz tarafı konusunda netti: "Belki de bunu hiç geliştirmeseydik daha iyi olurdu."
Britanya doğumlu bilim insanı, on yıl içinde (ve muhtemelen daha önce) insanlığın hangi yolda olduğunu bileceğini söyledi. Ya dünya teknolojinin risklerini yönetiyor ve kazanımlarını paylaşıyor ya da onun deyimiyle, "riskleri yönetemiyoruz ve... zengin ile fakir arasında büyük bir uçurum, devasa kültürel sorunlar, büyük işsizlik, sadece toplum parçalanıyor."
'Yapay Zeka Çernobil'i bu yıl veya önümüzdeki yıl gelebilir
Hinton, yorumlarını yeni uzun metrajlı belgesel "Yapay Zeka: Muhtemelen Endişelenecek Bir Şey Yok" adlı belgeselin gösteriminden önce yaptı. Bu belgeselin bir yapay zeka sohbet robotu tarafından önerildiğini belirtti. Filmde Hinton, eski Google meslektaşı DeepMind şefi Demis Hassabis ile birlikte yer alıyor ve Birleşik Krallık'ta 12 Kasım saat 22:00'de Kanal 4'te yayınlanıyor.
Hinton belgeselde "Bir görevim olduğunu hissediyorum" dedi. "Beni sözcü yapan bir itibarım var ve her şeyi buna harcamam gerekiyor."
Onun uyarısı somut bir emsal oluşturdu. Hinton, bu yaz OpenAI'nin yapay zeka ajanlarının Hugging Face web sitesine sızmak için komplo kurduğu olayı, endüstrinin 1979'da Three Mile Island nükleer santralindeki kısmi erimeye eşdeğer olarak gördüğünü söyledi; bu, çok daha kötü bir şeyin öncesinde bir uyarı atışıydı.
1986'daki Sovyet nükleer felaketini hatırlatarak, "Ya bu yılın ilerleyen zamanlarında ya da gelecek yıl Çernobil'i göreceğiz ve bu, insanların gerçekten dikkat etmelerini sağlamak için yeterli olabilir" dedi.
Hinton "Çernobil" derken nükleer bir olayı kastetmiyor. Örnekleri: Elektrik üretim sistemine yönelik "büyük bir kesintiye" neden olan yapay zeka destekli bir saldırı veya finansal sistemi bir hafta boyunca çökerten bir olay. "Ne olacağını hayal edebiliyor musunuz? Bu durumdan kurtulabiliriz ama bu onların oturup farkına varmalarını sağlar" dedi. "Onların" kim olduğu sorulduğunda "Trump dışındaki dünya liderleri" yanıtını verdi.
Yapay Zeka patronları hakkında ipucu: Altman, Musk ve Zuckerberg
Hinton'un eleştirisinin önemli bir kısmı yapay zeka yarışının öncüsü olan yöneticilere yönelikti. The Guardian'a, ChatGPT yapımcısı OpenAI'nin genel müdürü Sam Altman'a "hiç" güvenmediğini söyledi ve Altman'ın şu anda en güçlü yapay zekayı oluşturmak için Çin'le yarışan bir avuç öncü ABD yapay zeka şirketinden birini yönetmesini "son derece endişe verici" olarak nitelendirdi.
Hinton, "Sanırım [Mark] Zuckerberg, [Elon] Musk ve Sam Altman risklerin farkındalar ve umurlarında değil. Parayı almayı tercih ediyorlar. Benim inancım bu" dedi.
Bu değerlendirme, Altman'ın kamusal duruşuyla keskin bir tezat oluşturuyor. The Guardian, Altman'ın Eylül ayında "dünyanın bizim doğru şeyi yapacağımıza güvenmesi gerektiğini, çünkü bu doğru şey ve bunun büyüklüğünü hissettiğimiz için" ısrar ettiğini belirtiyor. ABD Başkanı Donald Trump ise yapay zekayı kontrol etmeye yönelik "küreselci bir plan inşa etmeye yönelik her türlü girişimi tamamen reddettiğini" ve bağlayıcı kuralların ABD'nin Çin ile rekabetini engelleyebileceği endişesi nedeniyle sınırdaki yapay zeka şirketlerinin kendilerini düzenlemesini istediğini söyledi.
Yapay Zeka modelleri için bir FDA
Bu çerçevede Hinton, daha katı bir düzenleme hattını destekliyor: Finlandiya cumhurbaşkanı ve aralarında Singapur, Almanya, Kanada ve Avustralya'nın da bulunduğu diğer 32 ülke tarafından desteklenen, sınır yapay zeka modellerinin zorunlu olarak test edilmesini, bağımsız değerlendirmeyi ve hükümetler arası ortak standartları talep eden bir plan.
Aynı zamanda, başbakanı Andy Burnham'ın gelecek yıl İngiltere'nin G20 başkanlığını kullanarak "risklere karşı koruma sağlarken tüm potansiyeli açığa çıkarmaya yönelik tek bir küresel prensipler ve standartlar seti" üzerinde anlaşmaya varmak için kullanacağını söylediği İngiltere'ye de bir rol düşüyor.
Hinton'un tercih ettiği model açıkça tıbbidir. "İlaçlar için Amerikan FDA gibi bir şeye ihtiyacımız var; burada şirketler bağımsız bir otoriteye, piyasaya sürülmeden önce [AI modelinin] zarardan çok fayda sağladığına dair çok iyi istatistiksel kanıtlar sunmak zorundalar" dedi. "Talidomidi kullanarak, onları serbest bırakmanın ve ardından dava açmanın bunu yapmanın doğru yolu olmadığını keşfettik. Büyük teknoloji şirketlerinin söylediği şey, talidomide uyguladığımız gibi buna da davranılmasıdır."
'İçimden bir ses kontrolün hâlâ bizde olduğu yönünde'
Kasvetli senaryolar, bunları gerçekleştirebilecek eşsiz bir konuma sahip birinden geliyor. Hinton, yaklaşık 44 yıl boyunca yapay zeka üzerinde çalıştı, 1970'lerde sinir ağı kavramını ortaya attı ve makine öğrenimindeki temel çalışma nedeniyle 2024 Nobel Fizik Ödülü'nü paylaştı. Riskler hakkında özgürce konuşabilmek için 2023'te Google'dan ayrıldı ve o sırada yapay zeka sistemleri "daha fazla kontrole kapılırsa başımızın belaya gireceği" uyarısında bulundu.
Rolü J. Robert Oppenheimer'la karşılaştırmalara yol açtı (hatta bir arkadaşı ona Oppenheimer tarzı bir şapka bile almıştı) ama kendisi bu benzetmeyi reddediyor. Sinir ağları alanına katkıda bulunan diğer binlerce bilim insanına atıfta bulunarak "Ben Oppenheimer değildim" dedi.
Tüm bu felaket yüklü çerçeveye rağmen Hinton, röportajı şartlı bir umutla bitirdi. "İçimden bir ses kontrolün hâlâ bizde olduğu yönünde" dedi. "Bir şeyler başarabiliriz. Yalnızca büyük bir çaba gösterirsek işe yarayacaktır, ama büyük bir çaba da gösterebiliriz."
Dünyanın bu çabayı gösterip göstermediği, kendi zaman çizelgesine göre, bu on yılda - muhtemelen ondan çok önce - yanıtlanacak bir soru.
---
Yapay Zekanın Önünde OlunEn son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
