Antropik CEO Dario Amodei, yasa yapıcıları, açık kaynaklı yapay zekaya yönelik hızlanan eğilimin, güçlü modellerin dikkatli önlemler alınmadan piyasaya sürülmesi durumunda toplumu tehlikeli bir yola sürükleyebileceği konusunda uyardı ve bu, yapay zeka politikasındaki en çekişmeli tartışmalardan birini yeniden alevlendirdi.

Claude model ailesinin arkasındaki şirketi kuran ve yöneten Amodei, gelişmiş sistemleri herkesin indirmesi, değiştirmesi ve dağıtması için serbestçe kullanılabilir hale getiren açık kaynaklı yapay zekanın benzersiz doğasının, geleneksel açık kaynaklı yazılımların asla oluşturmadığı riskler yarattığını savundu. Tekedia tarafından aktarılan sözleri, yetenekli yapay zekanın halka açık bir şekilde dağıtılmasının ardından kontrol edilmesinin zorluğuna odaklanıyor. Bu hikayeyle ilgili daha fazla bağlam için devam eden daha fazla AI hikayemize bakın.

Geleneksel yazılımların aksine, son teknolojiye sahip yapay zeka sistemleri ikna edici metinler üretebilir, gerçekçi görüntüler üretebilir, bilgisayar kodu yazabilir ve siber güvenlik görevlerine yardımcı olabilir. Amodei, bu yeteneklerin yanlış ellere geçmesi halinde siber saldırıları otomatikleştirmek, karmaşık dezenformasyon kampanyaları düzenlemek veya zararlı biyolojik araştırmaları ilerletmek için kullanılabileceğini iddia ediyor.

Kalıcılık Sorunu

Amodei'nin altını çizdiği temel risklerden biri, güçlü bir modelin açıkça piyasaya sürülmesinin ardından onu geri çağırmanın fiilen imkansız hale gelmesidir. Şirketler tarafından işletilen kapalı sistemler, yeni güvenlik açıkları ortaya çıktığında izlenebiliyor, yama uygulanabiliyor ve kısıtlanabiliyor. Açık kaynaklı bir model ise bunun aksine, süresiz olarak kopyalanabilir ve internet üzerinden yeniden dağıtılabilir; böylece geliştiricilere, piyasaya sürüldükten sonra kullanımını sınırlandıracak hiçbir mekanizma kalmaz.

Amodei, modeller giderek daha karmaşık hale gelen görevlerde insan düzeyindeki performansa yaklaştıkça bu kalıcılığın özellikle rahatsız edici olduğu konusunda uyardı. Gelişmiş yapay zekanın, açıkta ortaklaşa geliştirilebilecek sıradan bir yazılım gibi ele alınması yerine, geniş çapta erişilebilir hale gelmeden önce sağlam güvenlik testlerine, kontrollü kullanıma ve uygun düzenleyici denetime tabi tutulması gerektiğini savundu.

Onun konumu sektörde büyüyen bir fay hattını yansıtıyor. Açık kaynaklı yapay zekanın savunucuları, kamu erişiminin rekabeti teşvik ettiğini, teknolojik ilerlemeyi demokratikleştirdiğini ve bir avuç şirketin yapay zekayı tekeline almasını engellediğini savunuyor. Dünyanın her yerindeki geliştiriciler model mimarisini inceleyebilir, güvenlik kusurlarını yüzeyleyebilir ve sistemleri işbirliği içinde geliştirebilir; yeni kurulan şirketler, araştırmacılar ve eğitim kurumları ise pahalı özel platformlara bağlı kalmadan model oluşturabilir.

Spesifik Riskler Masada

Amodei'nin endişeleri soyut değil. Açıkça piyasaya sürülen modeller, araştırmacılar tarafından basit ince ayar teknikleri kullanılarak güvenlik korkuluklarından çıkarıldı; bu, temeldeki ağırlıklar halka açık hale geldiğinde koruyucu önlemlerin ne kadar hızlı kaldırılabileceğini gösteren bir uygulama. Modeller kimya, biyoloji ve yazılım kullanımı gibi görevlerde daha yetenekli hale geldikçe, açık sürümlerin, sorumlu laboratuvarların müşterilerine dayattığı taramayı asla geçemeyecek oyunculara güçlü yetenekler sunabileceği endişesi var.

Dezenformasyon boyutu da mercek altına alındı. Büyük ölçekte gerçekçi metin, görüntü ve ses üretebilen modeller, seçim müdahalesine, mali dolandırıcılığa veya kitlesel propaganda üretimine yönelebilir. Amodei, açık bir modelin tamamen saldırganın kendi donanımı üzerinde çalıştığı için, kısıtlanacak bir API, askıya alınacak bir hesap ve hasar meydana geldiğinde sorumlu tutulacak bir sağlayıcı olmadığını belirtti.

Rekabetçi Bir Ortam

Amodei'nin uyarıları, Çinli geliştiricilerin yetenekli açık modellerinin arttığı bir dönemde geldi. Zhipu'nun GLM-5.2'si, diğer düşük maliyetli Çin sistemleriyle birlikte, açık ve açıkça mevcut modellerin, Anthropic ve OpenAI'nin öncü tescilli sistemleriyle aradaki farkı ne kadar hızlı kapattığına yeniden dikkat çekti. Bu rekabetçi baskı, açık sürümlere getirilen kısıtlamaların hakim firmalara avantaj mı sağlayacağı yoksa toplumları kötüye kullanıma mı maruz bırakacağı konusundaki politika tartışmasını yoğunlaştırdı.

Amodei'nin duruşunu eleştirenler, açık kaynaklı yapay zekanın kısıtlanmasının, bağımsız inovasyonu sınırlayarak büyük teknoloji şirketlerini istemeden de olsa sağlamlaştırabileceğini iddia ediyor. Ayrıca şeffaflığın sıklıkla araştırmacıların güvenlik açıklarını kapalı geliştirmeden daha hızlı tespit etmelerine olanak tanıdığını da belirtiyorlar. Açık geliştirmenin pek çok savunucusu bile giderek daha güçlü olan sistemlerin önceki nesil yazılımlara göre daha güçlü yönetim çerçeveleri gerektirebileceğini kabul ediyor.

Düzenleyici İp

Dünyanın dört bir yanındaki hükümetler yeni yapay zeka düzenlemelerini tartarken bu tartışma aciliyet kazandı. Politika yapıcılar zor bir dengeyle karşı karşıya: Aşırı kısıtlamalar ekonomik büyümeyi ve bilimsel keşifleri yavaşlatabilirken, yetersiz denetim toplumları tahmin edilmesi zor risklere maruz bırakabilir. Amodei, bu dengeyi sağlamanın hükümetler, teknoloji şirketleri, akademik araştırmacılar ve sivil toplum arasında işbirliği gerektirdiğini öne sürdü.

Onun ifadesi, on yılın belirleyici teknoloji politikası tartışmalarından birinin altını çiziyor. Yapay zeka daha yetenekli hale geldikçe toplumun, dönüştürücü sistemlere yaygın erişimle ilişkili tehlikeleri en aza indirirken yeniliği nasıl teşvik edeceğine karar vermesi gerekiyor. Düzenlemeler, endüstri standartları veya uluslararası işbirliği yoluyla, önümüzdeki aylarda açık kaynaklı yapay zekaya ilişkin yapılacak tercihler, teknolojiyi kimin kontrol edeceğini ve önümüzdeki yıllarda ne kadar güvenli bir şekilde konuşlandırılacağını şekillendirebilir.

Anthropic'e göre bu duruş, şirketin yapay zeka güvenliği ve kontrollü sürümlere uzun süredir verdiği önemle tutarlı. Ancak açık modeller hızla ilerlerken ve düzenleyiciler hâlâ yetişmeye çalışırken, Amodei'nin uyarıları ile açık kaynak hareketinin hızı arasındaki fark, politika yapıcıların kapatabileceğinden daha hızlı daralıyor olabilir.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →