Yaygın olarak "Yapay Zekanın Vaftiz Babası" olarak bilinen Nobel ödüllü Geoffrey Hinton, bu hafta ABD'li milletvekillerine şimdiye kadarki en sert uyarılarından birini yaptı: Teknoloji insan kontrolünün ötesine geçmeden önce Kongre'nin yapay zekaya anlamlı korumalar koymak için yaklaşık bir yılı var. NBC News'e göre, İngiliz-Kanadalı bilgisayar bilimcisi bu açıklamayı 16 Eylül'de Capitol Hill'de kapalı kapılar ardında yapılan bir Senato brifinginde yaptı.
NBC'nin toplantıyla ilgili açıklamasına göre Hinton, "Belki bir yıl, ama bir yıldan fazla değil" dedi. Oturumun birçok raporuna göre, brifing Senatör Bernie Sanders tarafından düzenlendi ve ayrıca Hayatın Geleceği Enstitüsü'nün kurucu ortağı MIT fizikçisi Max Tegmark ve yapay zeka güvenlik araştırmacısı Ajeya Cotra da yer aldı.
Uyarının Özü: Yapay Zeka Bina Yapay Zekası
Hinton'un argümanı uzak bir varsayımdan ziyade belirli bir teknik dönüm noktasına odaklanıyordu. Brifingin raporlarına göre "Yapay zeka artık yapay zekanın daha iyi yapay zeka tasarladığı noktaya ulaştı" dedi. "Buna yinelemeli kişisel gelişim denir... bir şey yapmazsak kontrolden çıkacak."
Ayrıca milletvekillerine süper istihbarat için uzman zaman çizelgelerinin son on yılda çöktüğünü söyledi. NBC News'e konuşan Hinton, "Süper zekaya ne zaman sahip olacağımıza dair tahminlere bakarsanız, bu belki 30 yıl, belki 50 yıldı" dedi. "Sonra belki 10 yıla, belki 20 yıla düştü. Şimdi insanlar diyor ki, birçok araştırmacı sadece birkaç yıl diyor."
Sinir ağları üzerine temel çalışmaları nedeniyle 2024 Nobel Fizik Ödülü'nü paylaşan, Toronto Üniversitesi'nden fahri profesör olan Hinton, 2023'te Google'dan ayrıldı ve o zamandan bu yana alanın en önde gelen iç eleştirmeni haline geldi; yaratılmasına yardım ettiği sistemlerin, sonunda yaratıcılarını geride bırakabileceği ve onları yerinden edebileceği uyarısında bulundu.
'Kill Switch'e dair şüphecilik
Hinton, hızlı düzenleme çağrısında bulunurken bile en çok tartışılan tekliflerden biri hakkındaki şüphelerini dile getirdi: hükümetin tehlikeli yapay zeka sistemlerini kapatmasına izin verecek bir federal yetki. CNN'e göre milletvekillerine böyle bir "sonlandırma anahtarının" uzun vadede işe yaramayacağını söyledi.
Onun şüpheciliği aynı hafta Senatör Rand Paul'un, Cumhuriyetçilerin öncülüğündeki yapay zeka öldürme anahtarı tasarısının Senato'da hızlı bir şekilde takip edilmesini engellediği gün ortaya çıktı; bu, asgari korkuluk mevzuatının bile geçişten ne kadar uzak olduğunu gösteren bir olay. Brifingin bir kısmına katılan Louisiana Senatörü John Kennedy, The Washington Sun'a tartışmadan keyif aldığını ancak Senato'nun harekete geçeceğine dair bir işaret görmediğini söyledi ve bir sonraki hamlenin Beyaz Saray'dan gelmesini beklediğini ekleyerek Hazine Bakanı Scott Bessent'in bir güvenlik çerçevesi için baskı yaptığını bildirdi.
Koridordaki manzara pek de güneşli değildi. Florida Senatörü Rick Scott, NewsNation röportajında şirketlerin kendi kendilerini düzenlemeleri gerektiğini söyledi: The Washington Sun'ın haberine göre, "Onları düzenleyecek kadar akıllı olamayacağız. Burada bir şey yapmayacağız" dedi.
Bazı Demokratlar ise diğer yöne yöneldi. Brifinge katılan Arizonalı Temsilci Yassamin Ansari, X'te yapay zekanın "insan kontrolünün ötesine geçebileceğini ve devam edeceğini" ve "onu düzenleme penceremizin hızla kaybolduğunu. ŞİMDİ ara vermeliyiz" diye yazdı.
Yapay Zeka Güvenliğinde Bir Hafta
Brifing, yapay zeka yönetimi tartışmasındaki çalkantılı dönemi kapattı. Günler önce, Anthropic CEO'su Dario Amodei, sınır laboratuvarlarını gelişmeyi hızlandırmaya çağıran ve kontrol kaybından biyoterörizme kadar uzanan riskler konusunda uyarıda bulunan bir makale yayınladı; yaygın raporlara göre, diğer laboratuvar liderleri tarafından kamuya açık olarak desteklenen bir pozisyon. Hinton'un senatörlere hitap ettiği gün, aralarında Andrew Ng'nin de bulunduğu önde gelen yapay zeka araştırmacıları, kamuoyunda kendisiyle tartışan bir alanın altını çizerek yok olma endişelerini abartılı bularak açıkça reddetti.
Capitol Hill'de faaliyetler çıktılardan daha gürültülü oldu. Senatör Cory Booker, Başkan Trump'ı Kongre'de yapay zeka konusunda özel bir oturum düzenlemeye çağırırken, iki partili Problem Çözücüler Grubu da bu hafta yapay zeka ve gelişen teknolojiler üzerine yeni bir çalışma grubu kurulacağını duyurdu. Bunların hiçbiri henüz bağlayıcı bir federal yasa üretmedi.
Bir Yıllık Çerçeveleme Neden Önemlidir
Yapay zeka öncülerinin son tarih odaklı uyarıları rutin hale geldi, ancak Hinton'un zaman çizelgesinin spesifikliği - sektör yöneticilerinin dışında bir odada doğrudan yasama yetkisine sahip kişilere iletildi - tonda bir değişime işaret ediyor. Araştırmacıların önceki uyarıları genellikle riskin onlarca yıl sonrasına işaret ediyordu; bir yıllık pencere gelecekteki Kongre için değil, mevcut Kongre için tasarlanmış politika tepkilerini ima eder.
Bu aynı zamanda siyasi sorunu da keskinleştiriyor. Hinton'ın kendi öldürme anahtarı şüpheciliğinin ve Senatör Paul'un prosedür blokajının gösterdiği gibi, güvenlik odaklı kişiler arasında bile hangi müdahalelerin işe yarayacağı konusunda bir fikir birliği yok. Hinton, uluslararası durumun, özellikle de Çin'le rekabetin, tek taraflı yavaşlamaları siyasi açıdan kırılgan hale getirdiğini ve bu gerilimin şimdiye kadarki en ciddi teklifleri sekteye uğrattığını savundu.
Bundan sonra ne olacağı Hinton'un kendi saatine göre birkaç ay meselesi. Brifingin bu hesabı değiştirip değiştirmeyeceği, kendi üyelerinin ifadesine göre şu anda hiç hareket etmeyen Senato'ya bağlı.
Yapay Zekanın Önünde Olun
Yapay zeka politikası hızla ilerliyor ve sahadaki diğer her şey de öyle. Daha fazla son dakika AI haberi, düzenleme güncellemesi ve analizi için daha fazla AI haberini okuyun →.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
