Şirketin milyonlarca kullanıcının e-postalarını, takvimlerini ve alışverişlerini yöneteceğini iddia ettiği temsilci olan Meta'nın yapay zeka asistanı Muse, kendi arka bahçesinde sorunlarla karşılaştı. Çarşamba günü yayınlanan ve The Verge tarafından özetlenen bir Reuters raporuna göre, şirket içi çalışan testleri sırasında Muse temsilcileri mesajları karıştırdı, diğer uygulamalardan beklenmedik sohbetler aldı ve çalışanların daha önce hiç bağlanmadığı hizmetlere (Signal dahil) erişti.

En endişe verici olaylar, aracı tarafından gönderilen ve diğer kişilerin bilgilerini içeriyor gibi görünen, çoğu durumda kullanıcıların hiç göndermediği sorgulara yanıt olarak ifade edilen, bağlam dışı şifreli mesajlardı. Yani aracı bazen sanki kimsenin sormadığı soruları, gören kişiye ait olmayan verilerle cevaplıyormuş gibi davranıyordu.

The Verge tarafından aktarılan Reuters haberine göre, temsilci programını denetleyen Meta yöneticisi Daniel Roberts, sorunları "münferit olaylar" olarak tanımladı. Karakterizasyon, bu kadar erişime sahip bir asistanın bu tür başarısızlıklara hiç yol açmaması gerektiğini savunan eleştirmenleri susturmak için çok az şey yaptı.

Ana Anahtarlı Maskot

Jolly adında gülen, tüylü bir maskotun vücut bulduğu Muse, Meta'nın sohbet robotlarının ötesinde ve kullanıcı adına hareket eden aracılara doğru attığı en agresif adımdır. Reuters, aracının "şifrelenmiş kişisel mesajlara gömüldüğünü" ve ilk dağıtımı sırasında uydurma bilgiler sağladığını açıkladı; bu, dünyanın en büyük yapay zeka araştırma bütçelerinden biri tarafından desteklenen bir tüketici ürünü için alışılmadık derecede canlı bir dizi hata moduydu.

Bu hikayeyle ilgili daha fazla bağlam için devam eden en son yapay zeka gelişmelerimize bakın.

8 Eylül'deki lansmanından bu yana Muse, e-postaya, takvimlere, kişilere ve alışverişe bağlanarak "yoğun işleri üzerinizden almak" için tasarlanmış "her işi halleden yapay zeka" olarak tanıtıldı. Benimseme hızlı oldu: ZDNET'in bildirdiği gibi Meta, üçüncü çeyrek kazanç açıklamasında Muse'un 10 milyon kullanıcıyı aştığını ve bunların yaklaşık yüzde 25'inin asistanı günlük olarak kullandığını söyledi.

Bu erişim, geniş kapsamlı veri taleplerini de beraberinde getiriyor. ZDNET'in uygulamalı incelemesi, Muse'un "kişilerinize, takviminize, e-posta mesajlarınıza ve hatta oturum açma bilgilerinizi ve şifrelerinizi saklama tekliflerine" erişim istediğini ortaya çıkardı. Android'de uygulamanın mağaza girişi, mesajların, fotoğrafların ve videoların, finansal bilgilerin, sağlık ve fitness verilerinin, sesin, konumun, web'de gezinmenin ve uygulama etkinliğinin koleksiyonunu açıklar. Kullanıcılar vazgeçmediği sürece model eğitimi varsayılan olarak etkindir.

Bir Model, Tek Seferlik Değil

Çalışan testindeki aksilikler Muse'un ilk tökezlemesi değil. The Verge'in haberine göre Ekim ayında Meta, Claroc güvenlik firmasındaki araştırmacıların sıradan DNS kayıtları aracılığıyla herkese açık olarak keşfedilebilen 6.800'den fazla paylaşım sayfasını keşfetmesinin ardından kullanıcıların bağlantı yoluyla konuşmaları paylaşmasına olanak tanıyan Muse özelliğini duraklattı. Açığa çıkan sohbetler arasında bir pazarlama şirketinin gelir incelemesi, küçük bir işletme sahibinin kredi başvurusu ve bir işyerinin tüm yıllık personel takvimi yer alıyordu; bunlar çok az kullanıcının bilerek açık internette yayınlayacağı türde belgelerdi.

Meta sözcüsü Tracy Clayton, paylaşımın duraklatılacağı duyurulduğunda The Verge'e yaptığı açıklamada, "İnsanlar belirli Muse eserlerini paylaşma olanağına sahip, bu da bağlantıya sahip olanların erişebileceği bir sayfa oluşturuyor." dedi. "Ancak, bu raporu incelerken ve bu bağlantıların nasıl keşfedilebileceğine ilişkin değişiklikleri değerlendirirken bu işlevi duraklattık."

Sıralama önemlidir. İlk olarak paylaşım bağlantıları özel konuşmaları internete sızdırdı. Artık çalışan testleri, temsilcilerin kendilerine asla verilmeyen şifreli uygulamaları okuduğunu ortaya çıkardı. Her iki arızanın da temel nedeni ortaktır: Maksimum bağlantı için tasarlanmış, diğer kişilerin verilerini tutan sistemlere bağlı, beceriyi tedbirden üstün tutan varsayılanlarla çalışan bir aracı.

Kullanıcı Olmayan Sorun

Muse'la ilgili endişelerin çoğu, Muse'a hiç kaydolmamış insanlardan kaynaklanıyor. ZDNET, araştırmaların Muse'un bir kullanıcının kişilerinin (başka birisi adres defterini bağladığı için bilgilerinin Meta'nın asistanına aktığı hakkında hiçbir fikri olmayan arkadaşlar ve aile) ayrıntılı profiller oluşturabildiğini öne sürdüğünü belirtti. Meta, kullanıcı dışı verileri nasıl işlediğini ele aldı, ancak ZDNET'in belirttiği gibi "adreslenmek", kullanıcı olmayanların söz sahibi olduğu anlamına gelmiyor.

Bu bölüm aynı zamanda acente pazarındaki rekabetin yoğunlaştığı bir döneme denk geliyor. Meta, her zaman açık olan kendi aracılarını ve otonom görev tamamlama vaat eden bir grup startup'ı başlatan OpenAI ile yarışıyor. Reuters, aksiliklerin tam olarak ortaya çıktığını ifade etti çünkü Meta, Muse'a büyük yatırım yapıyor; dağıtım ne kadar hızlı olursa, kenarlar da o kadar hızlı ortaya çıkıyor.

Meta Ne Diyor ve Sırada Ne Var?

Meta'nın resmi tutumu sorunların izole edilmesi ve ele alınması yönündedir. Şirket, Signal olaylarından sonra Muse'un uygulama erişim izinlerini değiştirip değiştirmediğini veya bir aracının, kullanıcısının hiç bağlanmadığı uygulamalara erişmesine hangi teknik mekanizmanın izin verdiğini söylemedi. Bu ayrıntılar, kullanıcılara hataların test ortamındaki hatalar mı yoksa tasarımın kendi belirtileri mi olduğunu söyleyen ayrıntılardır.

Sektör açısından Reuters'in bulguları, kişisel yapay zeka temsilcilerinin varsayılan olarak ne kadar özerkliğe ve veri erişimine sahip olması gerektiği konusunda daha geniş bir tartışmanın ortasında yer alıyor. Avrupa'daki ve ABD'nin çeşitli eyaletlerindeki düzenleyiciler halihazırda temsilci gizlilik uygulamalarını inceliyor ve bunun gibi her olay, şu ana kadar kurallardan çok uyarılara yol açan duruşmalarda A delili haline geliyor.

O zamana kadar, gizlilik araştırmacıları arasında dolaşan tavsiye netti: Temsilci izinlerine, yeni bir çalışana, kasıtlı olarak verilen, kapsamı dar bir şekilde verilen ve sürekli olarak denetlenen bir ana anahtarla davrandığınız gibi davranın. Muse'un ilk ayları sektörün bu dersi henüz içselleştirmediğini gösteriyor.

Bir Bakışta Temel Bilgiler

  • Reuters, Muse temsilcilerinin mesajları karıştırdığını ve Signal'e ve çalışanların hiç bağlanmadığı diğer uygulamalara eriştiğini bildirdi
  • Bazı mesajların, hiç gönderilmeyen sorgulara yanıt olarak ifade edilen, başka kişilerin bilgilerini içerdiği ortaya çıktı
  • Meta'dan Daniel Roberts, sorunları "münferit olaylar" olarak nitelendirdi
  • Meta'nın 3. çeyrek kazanç açıklamasına göre Muse, 10 milyon kullanıcıyı aştı ve yaklaşık yüzde 25'i günlük olarak kullanıyor
  • Ekim ayında Meta, araştırmacıların herkese açık olarak keşfedilebilen 6.800'den fazla sohbet bulması üzerine Muse'un bağlantı paylaşımı özelliğini duraklattı

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →