Anthropic CEO'su Dario Amodei, bir dizi gönderisinde teknolojiye karşı artan kamuoyu tepkisinin yapay zeka yöneticilerinin uyarılarının ürünü değil, kurumlarda "temelde bir güven krizi" olduğunu savunarak, yapay zekaya ilişkin aşırı karamsar bir tablo çizdiği fikrine karşı çıktı.
Pazar günü TechCrunch tarafından bildirilen değişim, yatırımcı Gavin Baker'ın All-In podcast'inde ve X'te Amodei'nin yapay zekanın tehlikelerine ilişkin uyarılarının ABD'de özellikle veri merkezlerine karşı tepkiyi körüklediğini iddia etmesiyle başladı. Baker, Amodei'nin yapay zeka düzenlemesi konusundaki "tartışmayı kaybettiğini" iddia etti ve "dünyanın en önemli şirketlerinden birinin CEO'su olmak üzere olduğu" göz önüne alındığında şunları yazdı: "Kendi sektörünün daha olumlu bir savunucusu olmak için çaba göstermesi gerektiğini saygıyla düşünüyorum." For more context on this story, see our ongoing more AI stories.
Amodei'nin X'te yayınlanan yanıtı, alanın en önde gelen liderlerinden birinin halkın kötü ruh halini nasıl yorumladığıyla ilgili ortaya koyduğu bilgiler ve sektörün tutulmayan vaatleriyle ilgili alışılmadık derecede açık sözlü bir özeleştiri nedeniyle yapay zeka endüstrisi genelinde dikkatleri üzerine çekti.
'Sıradan insanlar şirketlere güvenmiyor'
Amodei, gönderilerinde "halkın yapay zekaya karşı olumsuz bir bakış açısına sahip olduğunu" kabul etti ve "bunun büyük bir sorun olduğunu" kabul etti. Ancak olumsuzluğun "esasen kendisinden" veya başka herhangi bir yapay zeka liderinin yapay zekanın riskleri konusunda uyarısından kaynaklandığı fikrini reddetti.
Amodei, "Bunun temelde bir güven krizi olduğunu düşünüyorum" diye yazdı. "Sıradan insanların şirketlere, hükümetlere veya teknoloji endüstrisine güvenmediğini ve her zaman onları mahvetmenin yeni bir yolunu bulduğumuzdan şüphelendiğini düşünüyorum."
Amodei'nin anlatımına göre bu, yapay zekanın tepkisinin "sadece en son versiyonu" ile onlarca yıldır yapım aşamasında olan bir kriz. Yorum, yapay zeka firmaları ile halk arasında gözle görülür bir gerilimin yaşandığı bir zamanda geldi: Veri merkezi inşaatına karşı protestolar Amerika Birleşik Devletleri'ne yayıldı ve toplumsal muhalefet bu yıl büyük inşaatları defalarca geciktirdi.
'Olumsuz mesajlaşma' ücretine itiraz ediliyor
Amodei, kendi iletişiminin çok karanlık olduğu yönündeki özel suçlamada açık sözlüydü. "Mesajımın orantısız derecede olumsuz olduğu fikrine katılmıyorum" diye yazdı ve yazılarının "riskler ve faydalar arasında neredeyse eşit derecede dengelendiğini" söyledi. "Sevgi dolu Zarafet Makineleri" adlı makalesini tam olarak "Yapay Zeka endüstrisinin, teknolojinin dünyayı nasıl radikal bir şekilde daha iyiye doğru dönüştürebileceğine dair yeterince ilham verici bir tablo çizdiğini hissetmediği" için yazdığını belirtti.
Ancak Amodei'nin yanıtında en çok alıntı yapılan kısım, kendi şirketi de dahil olmak üzere kendi sektörünü hedef alıyordu. "Anthropic de dahil olmak üzere yapay zeka şirketlerine yönelik şimdiye kadarki en doğru eleştirinin, dünyaya fayda sağlamaya yönelik büyük sözlerimizi henüz yerine getirmemiş olmamız olduğunu düşünüyorum" diye yazdı. "Bu tamamen bize bağlı ve bence mesajlaşma ve pazarlamayla ilgili tüm bu şeyler yerine sizin yapmanız gereken eleştiri bu."
Yapay zekanın kanseri iyileştireceğine dair söz vermenin "ilham vermekten çok bir klişe" olduğunu ekledi. Kamuoyunun fikrini gerçekten değiştirecek şeyin "aslında kanseri tedavi etmek" olduğunu ileri sürdü.
Düzenleme kavgası
Amodei ayrıca Baker'ın düzenlemeye ilişkin çerçevesini de reddetti ve onu, yapay zekayı kurallar olmadan geniş çapta dağıtmak veya teknolojiyi kurallar aracılığıyla birkaç şirketin elinde yoğunlaştırmak arasında "yanlış bir seçim" yapmakla suçladı.
Amodei, "Düzenleme = düzenleyici ele geçirme = gücün yoğunlaşması anlamına gelen bir tür Silikon Vadisi kısaltması olduğunu biliyorum, ancak bunun her zaman dünyanın aşırı basitleştirilmiş bir resmi olduğunu gördüm" diye yazdı. "Bu balonun dışındaki pek çok kişi, düzenlemeyi kurumsal gücü kısıtlayan ve sıradan insanlara fayda sağlayan bir şey olarak düşünüyor."
Anthropic'in, görevdekilerin yerleşmesi önlemek için kasıtlı olarak politika önerileri hazırladığını söyledi. "Daha küçük rakiplere avantaj sağlayan, sınırdaki yapay zeka şirketlerini dezavantajlı hale getiren (yavaşlatan) teklifler yapmak için çok çalışıyoruz" diye yazdı. Anthropic, büyük yapay zeka şirketlerine yönelik, açıklama yükümlülükleri getiren bir Kaliforniya yasa tasarısı da dahil olmak üzere şeffaflık gerekliliklerini savundu.
Beyaz Saray'ın son zamanlarda açık ağırlık modellerini belirli federal incelemelerden muaf tutmasıyla mevcut politika tartışmasında bir parlama noktası olan açık ağırlık modelleri konusunda Amodei incelikli bir pozisyon önerdi. "Yapay zeka yapısal olarak gücü yoğunlaştırma eğiliminde olan bir teknolojidir" diye savundu. Açık ağırlıklar "bazılarına bu konuda yardımcı oluyor ancak yeterli bir çözüme yakın değil çünkü konsantrasyonu bir şekilde en fazla işlem ve çipe sahip olanlara kaydırıyorlar." Doğru "yol kuralları"nın aynı anda siber, biyolojik ve uyum risklerini ele alabileceğini, sınır laboratuvarlarının gücünü kısıtlayabileceğini ve açık ağırlıklı modellere yer bırakabileceğini söyledi.
Değişim neden önemlidir?
Tartışma Anthropic için hassas bir zamanda gerçekleşir. Şirket, kendisini teknoloji alanında en yakından izlenen işletmelerden biri haline getiren gelir artışıyla ticari bir başarı dalgası yaşıyor ve genel olarak halka arz edilmesi bekleniyor. CEO'su aynı zamanda sektördeki AI risklerini ciddiye almanın en sesli savunucularından biri olmaya devam ediyor; bu da onun mesajlaşmasını paratoner haline getiriyor.
Baker'ın argümanı, risk sermayesi ve yapay zeka destekçileri arasında daha geniş bir akımı yansıtıyor: Kamuoyunun yapay zekaya yönelik şüpheciliği, büyük ölçüde endüstrinin kendi ihtiyatlılığından kaynaklanan bir iletişim sorunudur. Amodei'nin cevabı bu çerçeveyi etkili bir şekilde tersine çeviriyor; sorun, yapay zeka liderlerinin ne söylediği değil, endüstrinin neyi sunamadığı ve halkın teknolojiyi geliştiren kurumlara ne kadar az güvendiğidir.
Markası sorumlu yapay zeka laboratuvarı olma üzerine kurulu bir şirket için bu duruş tutarlı. Ancak Amodei'nin tavizi - en sert ve en doğru eleştirinin sektörün vaatler ile yerine getirilmesi arasındaki uçurum olduğu yönünde - şirketi en büyük vaatlerden bazılarını vermiş olan bir CEO'nun oldukça samimi bir itirafıdır.
Gönderiler aynı zamanda Washington'da politika kavgaları yoğunlaştıkça Anthropic'in muhtemelen savunacağı pozisyonun da taslağını çiziyor: sınır laboratuvarları için şeffaflık kuralları, daha küçük rakiplere avantaj sağlayan korumalar ve açık ağırlıkların güç yoğunlaşması sorununu çözeceğine dair genel bir varsayımın olmaması.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
