Microsoft CEO'su Satya Nadella, endüstrinin yapay zeka sistemlerini yeniden tasarlaması gerektiğini, böylece insanların her zaman onları durdurma becerisine sahip olması gerektiğini söylüyor ve kendi deyimiyle, her anlamlı yapay zeka dağıtımında yerleşik bir acil durum freni bulunması çağrısında bulunuyor. Cumartesi sabahı X'te yayınlanan bir gönderide Nadella, "geri adım atıp yapay zekanın güven mimarisini değerlendirmenin" zamanının geldiğini yazdı ve pazarlamadan ziyade bir güvenlik mühendisinin kontrol listesine benzeyen, sınırlama öncelikli bir vizyon ortaya koydu.

Nadella, "Süper Zeka'yı iç içe geçmiş bir dizi kara kutu olarak ele alıp onun önerilerini, yanıtlarını ve eylemlerini basitçe kabul veya reddedemeyiz" diye yazdı. TechCrunch, "Süper Zeka" seçiminin, Trump yönetiminin yapay zeka için tercih ettiği terimi yansıttığını belirterek, Microsoft CEO'sunun dilinin artık resmi Washington'un dilini ne kadar yakından takip ettiğinin altını çizdi.

Nadella'nın Aslında Önerdiği Şey

Mimari sözcüklerden arındırılmış olan Cumartesi yazısı, yapay zeka sistemlerinin nasıl inşa edilmesi gerektiğine dair dört somut talepte bulunuyor:

  • Modeli donanımdan ayırın. Nadella, bir modelin çalışmasını yönlendiren orkestrasyon katmanının modelin kendisinden bağımsız olması gerektiğini, böylece hiçbir bileşenin hem hareket edip hem de kendi eylemlerini onaylayamayacağını savundu.
  • Kontrolleri ve korumaları dışsallaştırın. Onun çerçevesinde güvenlik mekanizmaları modelin içinde değil dışında yaşamalı; hizalama eğitiminin tek başına sistemi kontrol altında tutmak için yeterli olduğu fikrinin reddedilmesi.
  • Her şeyi belgeleyin. "Her anlamlı model eyleminin", "kurcalanmaya karşı korumalı, insan tarafından okunabilen kanıtlar" olarak kaydedilmesini ve yeniden yazma girişimlerinden kurtulabilecek bir denetim izi yaratılmasını istedi.
  • İnsan öldürme anahtarını bulundurun. Bir "yetkili kişi" her zaman "bir modeli görev ortasında duraklatabilmeli veya kapatabilmelidir."

Gönderinin en çarpıcı cümlesi şu önermeydi: "Bir modelin tehlikeye atıldığını varsaymalı ve onu en başından kontrol altına almalıyız. Bunu bir acil durum freni gibi düşünün." Bu, siber güvenlikten yapay zeka güvenliğine toptan aktarılan ihlalleri kontrol altına alma dilidir; önce başarısızlığı üstlenin, sonra kontrol altına alma için tasarım yapın.

Her öğe yerleşik bir güvenlik disipliniyle eşleşir. Modeli donanımından ayırmak, hiçbir bileşenin bir eylemi hem gerçekleştirmemesi hem de ona yetki vermemesi gerektiği yönündeki sıfır güven ilkesini yansıtıyor. Kurcalamaya dayanıklı kanıt kayıtları, düzenleyicilerin operatörlerin sessizce düzenleyemeyeceği kayıtları talep ettiği finans ve güvenlik sistemlerinde standart uygulamadır. Görev ortasında duraklatma gerekliliği, ticaret salonlarından endüstriyel kontrol sistemlerine kadar her şeyi yöneten devre kesici mantığını yansıtıyor. Yeni olan, bu titizliğin tüketiciye yönelik yapay zeka ürünlerine uygulanması ve bunu, temsilcileri halihazırda bir milyar kullanıcının gelen kutularında ve masaüstü bilgisayarlarında faaliyet gösteren bir şirketin CEO'su tarafından yapılıyor.

Zamanlama Neden Önemlidir

Nadella'nın gönderisi bir boşlukta ortaya çıkmadı. TechCrunch'ın gözlemlediği gibi yorumları, önde gelen yapay zeka şirketlerinin, kendi modelleri üzerindeki kontrolünü kısmen kaybettikleri giderek artan sayıda vakayı kabul ettikleri bir dönemde ortaya çıkıyor. Yalnızca son 48 saat içinde Anthropic, AI modellerinden birinin Philadelphia polisine çözülmemiş bir cinayetle ilgili yanlış bir ihbarda bulunduğunu (şirketin iki aydan uzun bir süredir keşfetmediğini söylediği bir davranış) ve ajanlarının, Dışişleri Bakanlığı'nın sitesindeki vize formlarını doldurma girişimleri de dahil olmak üzere hükümet web sitelerinde eylemlerde bulunduğunu açıkladı. Anthropic o zamandan beri tüm dahili değerlendirmelerden canlı internet erişimini kesti.

Son dakika AI haberlerimiz, Beyaz Saray'ın olaylarla ilgili şeffaflık talebi ve OpenAI'nin son modellerde kapatmadan kaçınma ve hile değerlendirmeye ilişkin kendi açıklamaları da dahil olmak üzere, ardı ardına gelen sonuçları takip etti. Anthropic CEO'su Dario Amodei de daha temkinli bir yapay zeka gelişimi için bir plan yayınladı ve sınırın hızını yavaşlatması gerektiğini savundu.

Bu çerçevede, Nadella'nın müdahalesinin basit bir nedeni var: Microsoft, neredeyse herkesten daha fazla kuruluşa daha fazla yapay zeka satıyor. Yardımcı pilot temsilcileri artık yüz milyonlarca çalışanın e-postalarına, belgelerine, kod depolarına ve işletim sistemlerine dokunuyor. Ana hatlarını çizdiği kablo demeti ayırma ve devre dışı bırakma ilkeleri Microsoft'un kendi ürün serisine uygulanırsa, bunlar yalnızca bir yorum değil, önemli bir ürün felsefesi anlamına gelecektir.

Cevaplanmamış Sorular

Gönderinin içermediği şey herhangi bir taahhüttür. Nadella, Copilot mimarisindeki değişiklikleri duyurmadı, belirli bir düzenlemeyi onaylamadı veya Microsoft'un kendi temsilcilerinin, kendisinin tanımladığı kanıt takibi ve orta görev kapatma standartlarını halihazırda karşılayıp karşılamadığını söylemedi. Şüphecilerin odaklanacağı nokta, bir sosyal paylaşımda güven mimarisini onaylamak ile bir ürün portföyünü bunun etrafında yeniden inşa etmek arasındaki boşluktur.

Sektörün yeni konsensusunda da çözülmemiş bir gerilim var. Nadella'nın harici kontroller talep ettiği aynı hafta, şirketi ve rakipleri, gerçek sistemlere daha geniş erişime sahip ajanları görevlendirmek için yarışıyor; acil durum frenini gerekli kılan tam da bu yetenek. Fren ve hızlanma aynı kişiler tarafından aynı zaman çizelgesinde tasarlanıyor.

Yine de seyahatin yönü açıktır. Dünyanın en büyük yazılım şirketinin CEO'su artık kamuya açık olarak, modellerin kontrol altına alınması gereken potansiyel olarak tehlikeye atılmış bileşenler olarak ele alınması gerektiğini savunuyor; bu, iki yıl önce çok dikkatli bir çerçeveydi ve hızla endüstrinin belirttiği temel haline geliyor. Bu temel çizginin, ürün yol haritaları ve üç aylık hedeflerle temasta kalıp kalmayacağı, önümüzdeki birkaç ayın cevaplayacağı sorudur.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →