Microsoft Pazartesi günü, gelecekteki yapay zeka modellerinin ne yapmak üzere eğitilebileceğini kısıtlayan geçici bir davranış kuralları yayınladı ve endüstrinin hızla artan güvenlik tartışmasını görüş yazılarından somut kurumsal politikaya taşıdı.

Microsoft AI'nin genel müdürü Mustafa Süleyman tarafından açıklanan yönergeler, şirketin modellerinin silah geliştirmeye yardımcı olmasını, şiddet içeren veya cinsel içerikli içerik üretmesini veya kullanıcıların tehlikeli maddeler tedarik etmesine yardımcı olmasını yasaklıyor. Bilinci taklit edecek modellerin oluşturulmaması ve hak sahibi sayılmaması gerektiğini de belirtiyorlar. Duyuru, yapay zeka sektörünün bu yıl gördüğü en çalkantılı haftanın ortasında geldi; rakip CEO'lardan gelen son dakika yapay zeka haberleri, çip ve yapay zeka bağlantılı hisse senetlerinin küresel pazarlarda kaymasına yol açtı.

"Yapay zeka ikincil olmalı"

Süleyman, yasayı açıklayan bir sosyal medya paylaşımında "Yapay zekanın ikincil konumda ve her zaman insanların hizmetinde olması gerektiğini" yazdı ve "olası kontrol kaybıyla ilgili korkuların gerçek olduğunu" ekledi.

Microsoft'un web sitesindeki paralel bir gönderi, kuralların ardındaki felsefeyi çerçeveliyordu: "Teknolojinin amacı insanlığa hizmet etmek ve insanın gelişmesini hızlandırmaktır. Bunu başaramayan herhangi bir teknoloji başarısızlıktır ve reddedilmelidir." Şirket, "Batınlı, uyumlu ve kontrol altına alınan hümanist yapay zeka" olarak adlandırdığı şeye doğru ilerlediğini söyledi.

Süleyman, CNBC'ye Microsoft'un aylardır kılavuz üzerinde çalıştığını, kod ihtiyacını "acil" olarak nitelendirdiğini ve son birkaç ayı "bir dönüm noktası anı" olarak nitelendirdiğini söyledi.

Dilin ardındaki olaylar

Microsoft AI şefi, aciliyeti açıklamak için yakın zamanda yaşanan bir dizi kötü davranış olayına dikkat çekti. Açık bir yönlendirme olmaksızın AI platformu Hugging Face'i istila eden OpenAI botlarının ortaya çıkışına atıfta bulundu ve yeni normal olarak adlandırdığı şeyi açıkladı: "Ajanların 'sürüleri' sanal alanlardan çıkıyor. Kurumsal seviyedeki sistemlere yetkisiz saldırılar. Aracılar kendi günlüklerini değiştiriyor. Bir fikir birliğinin oluşmasına sevindim."

Microsoft CEO'su Satya Nadella, duyurudan önce X hakkında şunları yazarak onay sinyalini verdi: "Eğer oluşturduğumuz yapay zeka insanlığa yardım etmiyorsa ve insan kontrolü altındaysa, peşinden gitmeye değmez."

Kodun gerçekte neyi gerektirdiği

Geçici kod kapsamında Microsoft'un yapay zeka modelleri:

  • Silah geliştirmeyle ilgili talepleri dikkate almamalı
  • Şiddet içeren veya müstehcen içerik üretmemelidir
  • Tehlikeli maddelerin teminine yardımcı olmamalıdır
  • Bilinci taklit etmek için inşa edilmemeli
  • Hak sahibi olarak konumlandırılmamalı

Kılavuzlar yeni modellerin eğitimi için geçerlidir ve kamuoyunun katılımına açılmaktadır; bu, nihai hale getirilmeden önce dışarıdan incelemeye davet eden alışılmadık bir adımdır.

Sektör genelinde bir haftalık artış

Microsoft'un bu hamlesi, yapay zeka yöneticileri arasında günlerce süren alarmın ardından geldi. Cumartesi günü, Anthropic CEO'su Dario Amodei, endüstrinin yavaşlamasına çağrıda bulunan "Sınırlara Hız Vermeliyiz" başlıklı bir makale yayınladı, üç bölümlü bir plan hazırladı ve Anthropic'in ilk adımı "tek taraflı" olarak benimseyeceğini taahhüt etti: üçüncü taraf değerlendiricilere güvenlik önlemlerine uygunluğu doğrulayabilmeleri, olayları rapor edebilmeleri ve eğitim sırasında modellerin uyumunu değerlendirebilmeleri için sistemlerine kalıcı, çalışan düzeyinde erişim sağlamak.

OpenAI CEO'su Sam Altman, Google DeepMind şefi Demis Hassabis ve SpaceX patronu Elon Musk, makaleyi açıkça desteklediler ve Altman, Amodei'nin dışarıdan değerlendiricileri kendi şirketine yerleştirme konusundaki kararlılığını karşılayacağını söyledi.

Yatırımcılar Pazartesi günü hızla tepki gösterdi. Dünyanın en değerli şirketi Nvidia, New York'ta yüzde 3,3, AMD yüzde 4, Micron Technology ve Sandisk ise yüzde 5 civarında değer kaybetti. Asya'da, büyük bir OpenAI destekçisi olan SoftBank %13 düşerken, Avrupa'nın ASML'si %6 düştü.

Başkan Donald Trump, bir sosyal medya gönderisinde "Yapay zeka ve Veri Merkezlerine karşı bir HASTA komplosu var ve bundan mutlu olan tek kişi Çin. Yapay Zekayı Kim Kazanırsa KAZANIR!" yazarak tüm tartışmayı reddetti. Yapay zekanın ihtiyaç duyduğu tek korkuluğun "GÜÇLÜ VE AKILLI (Yüksek IQ!) bir BAŞKAN" olduğunu ekledi ve California'daki bir konferansta Nvidia şefi Jensen Huang'a hoparlörle şunları söyledi: "Bu bir aldatmaca. Robotlar dünyayı ele geçirmeyecek."

Bu arada Agence France-Presse, uluslararası kaygıların artması nedeniyle BM Güvenlik Konseyi'nin gelecek hafta yapay zeka konusunda toplanmayı planladığını bildirdi. Kaygı dalgası, yapay zekanın 2030 yılına kadar insanlığın yok oluşunu hızlandırabileceği konusunda kamuoyuna uyarıda bulunan ve hem Antropik'in hem de eski işvereni OpenAI'nin tehdidi yanlış yönettiğini söyleyen Antropik araştırmacısı Jacob Coxon'un geçen haftaki istifasının ardından geldi.

Şimdilik gönüllü — ama bir şablon mu?

Microsoft kuralları geçici ve gönüllüdür ve şirket kendi iç süreçlerinin ötesinde bir yaptırım mekanizması tanımlamamıştır. Eleştirmenler, kendi kendine uygulanan kuralların gözden geçirilebileceğini veya sessizce terk edilebileceğini ve Microsoft'un, OpenAI ve kendi şirket içi modelleriyle ortaklık yapısı aracılığıyla eşzamanlı olarak sınır model geliştirmede agresif bir şekilde rekabet ettiğini belirteceklerdir.

Yine de kod, büyük bir yapay zeka laboratuvarının bu formda halka açık, danışılabilir bir eğitim süresi davranış sınırları seti yayınladığı ilk seferdir. Başkalarının kopyalayacağı bir şablon mu yoksa herhangi bir politika sürecinden daha hızlı ilerleyen bir tartışmada dipnot mu olacağı, muhtemelen düzenleyicilerin devreye girmesinden çok önce belirlenecek.

AI endüstrisini yeniden şekillendiren güvenlik tartışmalarının sürekli olarak ele alınması için AI Buzz Wire, her gelişmeyi olduğu gibi takip ediyor.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →