Mistral AI kurucu ortağı ve CEO'su Arthur Mensch, yapay zeka endüstrisini kasıp kavuran güvenlik alarmına açık bir yanıt veriyor: Yapay zeka bir yazılımdır ve yazılım kontrol edilebilir.
Fransız Le Monde gazetesi tarafından 24 Eylül'de yayınlanan bir röportajda, Avrupa'nın en önde gelen yapay zeka girişiminin başkanı, Amerikan teknoloji devlerinin kapalı, özel sistemleri meşrulaştırmak ve piyasayı kilitlemek için yapay zekanın risklerini abarttığını savundu. Şirketinin tam tersi bir bahis oynadığını söyledi: açık ağırlıklı modeller, Avrupa altyapısı ve teknolojinin tehlikelerinin olağanüstü korku yerine sıradan mühendislik yoluyla yönetilebilir olduğu konumu. For more context on this story, see our ongoing more AI stories.
'Kontrol Edilebilir'
"Yapay zeka yazılımdır, kontrol edilebilir" başlığıyla yayınlanan Le Monde röportajı, ajanlarla ilgili güvenlik olaylarının yapay zeka haber döngüsüne aylardır hakim olduğu bir döneme geliyor. Mensch bu iklime doğrudan değinerek, Temmuz ayındaki Hugging Face sunucu ihlali gibi olayların, büyük ABD firmaları tarafından yalnızca sıkı bir şekilde kısıtlanmış, kapalı modellerin güvenli bir şekilde çalıştırılabileceğini iddia etmek için kamuoyundaki tartışmalarda silah haline getirildiğini ileri sürdü.
Mensch'in anlatımına göre bu çerçeve, operasyonel güvenlik başarısızlıklarını teknolojinin kendisiyle ilgili bir tartışmayla birleştiriyor. Röportajın kapsamında özetlendiği üzere onun görüşü, yapay zeka sistemlerinin diğer yazılımlar gibi denetlenebilen, kısıtlanabilen ve kontrol edilebilen yazılım ürünleri olduğu ve açıklığın güvenliğe karşı çıkmak yerine güvenlikle uyumlu olduğu yönündedir.
Bu iddia, Mistral'i, bu yıl bir dizi ajanın uygunsuz davranışına sıkılaştırılmış güvenlik önlemleri, kısıtlı erişim ve yeni ifşa çerçeveleriyle yanıt veren birçok ABD'li rakibinin kamusal duruşuyla çelişiyor.
Stratejik Bir Bahis Olarak Açık Ağırlıklar
Mensch'in yorumları Mistral'in 2023'teki kuruluşundan bu yana izlediği stratejiye dayanıyor: Müşterilerin indirebileceği, ince ayar yapabileceği, kendi altyapılarında dağıtabileceği ve inceleyebileceği açık ağırlıklara sahip modeller yayınlamak.
Röportaj kapsamında bu yaklaşım, yapay zeka sistemlerini kimin kontrol ettiği sorusuna doğrudan bir yanıt olarak çerçeveleniyor. Açık ağırlıklar, bir modelin ne yaptığının bağımsız olarak incelenmesine olanak tanır, özel dağıtım, hassas verileri üçüncü taraf sunuculardan uzak tutar ve bir modeli değiştirme yeteneği, müşterilere satıcıya bağımlı olmaktan kurtulma olanağı sağlar. Eleştirmenlerin belirttiği gibi, açık olarak mevcut ağırlıklar, kötü niyetli aktörler de dahil olmak üzere herkes tarafından kullanılabilir ve Mistral, diğer açık model laboratuvarlarla hem yetenek hem de ekosistem açısından rekabet etmelidir.
Avrupa'nın Bilgi İşlem Desteği ve 3 Milyar Avroluk Savaş Sandığı
Röportajda ayrıca Avrupa'nın yapay zeka hedeflerinin temelini oluşturan altyapı sorununa da değinildi. Mensch, kıtanın yapay zeka hesaplaması için ABD bulut sağlayıcılarına bağımlılığını azaltmayı amaçlayan bir politika mekanizması olan Avrupa veri merkezlerinin finansmanını basitleştirmek için devlet garantilerini savunuyor.
Mistral'in bu iddiayı ileri sürme pozisyonu yakın zamanda aldığı fonlarla güçlendi. Şirket, Samsung Electronics ve AB destekli Scaleup Avrupa Fonu liderliğindeki D Serisi turda 3 milyar Euro topladı; bu değerleme, şirketi 21 milyar Euro'nun üzerine çıkardı. Ayrı bir gelişmede Mistral, Azure altyapısını Avrupa'da genişletmek için Microsoft ile milyarlarca dolarlık bir anlaşma yaptı; ancak bu anlaşma Avrupa şampiyonunu yakın vadede ABD'li bir hiper ölçekleyiciye bağlıyor; Avrupa teknoloji sahnesini izleyenlerin gözden kaçırmadığı bir gerilim.
Mensch daha önce, Avrupa'nın yapay zekanın ABD'ye kalıcı bağımlılığını önlemek için kendi tahminine göre kabaca iki yıl gibi sınırlı bir süreye sahip olduğu ve finansman ve altyapı desteğinin bu son tarihe doğrudan yanıt olarak konumlandırıldığı konusunda uyarmıştı.
Güvenlik Retoriği Pazar Erişimiyle Buluşuyor
Mensch'in argümanının özü felsefi olduğu kadar ticaridir. Sınırdaki yapay zeka, sıkı bir şekilde kontrol edilen erişim gerektiren varoluşsal bir risk olarak ele alınırsa, pazar, ağır uyumluluk rejimleri altında kısıtlı API'ler sağlayacak kaynaklara sahip bir avuç şirket etrafında birleşir. Yapay zeka kontrol edilebilir bir yazılım olarak ele alınırsa açık ağırlıklı sağlayıcılar fiyat, gizlilik ve özelleştirme konusunda rekabet edebilir.
Yapay zekanın ne kadar tehlikeli olduğu konusundaki tartışmanın aslında pazar yapısına ilişkin bir tartışmaya dönüşmesinin nedeni budur. Mensch'in Le Monde'a yönelik argümanı, korkunun stratejik olarak konuşlandırıldığı ve yaz aylarında yaşanan olayların, bir bütün olarak teknolojinin kontrol edilebilirliğinden çok bireysel şirketlerin operasyonel güvenliği hakkında daha fazla bilgi verdiği yönünde.
Şüpheciler, açık ağırlıkların suiistimali önlemeyi zorlaştırdığını ve izinsiz erişimler ve veri sızıntılarını da içeren sektörde yakın zamanda yaşanan ajan olaylarının, iyi kaynaklara sahip laboratuvarların bile sistemlerini kontrol etmekte zorlandığını gösterdiğini öne sürüyor. Anlaşmazlığın tek bir görüşmeyle çözülmesi pek olası değildir.
Sırada Ne İzlemeli?
Mistral, yeni bir açık ağırlıklı model piyasaya sürmeyi planladığını söyledi ve Mensch'in röportajı, şirketin açık kalarak sınır laboratuvarlarına ayak uydurmayı planladığı yönündeki beklentileri artırıyor. Her yayın öncesi iddiada olduğu gibi, anlamlı test, model piyasaya sürüldüğünde ve bağımsız kıyaslamalar modelin gerçekte nerede olduğunu doğrulayabildiğinde gerçekleşecektir.
Şimdilik Le Monde röportajı sektördeki ayrım çizgisini keskinleştiriyor. Bir taraf, ajanların yakın zamandaki uygunsuz davranışlarını yapay zekanın daha sıkı kontrole ve kısıtlı erişime ihtiyacı olduğunun kanıtı olarak görüyor. Avrupa'nın önde gelen yapay zeka laboratuvarı tarafından temsil edilen diğer taraf, riskleri gerçek ancak yönetilebilir olan ve faydaları bir avuç kapalı kapının ardında kilitlenmemesi gereken kontrol edilebilir yazılımlar görüyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
