Meta, Anthropic'ten Claude'a bağlı yapay zeka araçlarını No Kings Coalition'ın ana Instagram hesabının haksız yere askıya alınmasından sorumlu tuttu; bu hata, kasım ayındaki ara seçimler öncesinde erken seçmen katılımını artırmayı amaçlayan ülke çapındaki bir eylem günü boyunca protesto hareketinin sosyal medya varlığının saatlerce çevrimdışı kalmasına neden olan bir hataydı.
Cumartesi öğleden sonra başlayan askıya alma işlemi ilk olarak rutin otomatik korumalara bağlandı. Bir gün sonra Meta farklı ve daha sıra dışı bir hesap sundu: Bloomberg ve The Guardian'ın haberine göre şirketin mühendisleri, Anthropic'in Claude'una bağlı araçların hesaptaki gönderileri, profilleri ve hashtag'leri normalden yaklaşık dört kat daha hızlı çektiğini keşfettiler; bu trafik kalıpları Meta'nın sistemlerinin otomatik bot etkinliği olarak algıladığı ve hesabı kapatarak yanıt verdiği trafik kalıplarıydı. For more context on this story, see our ongoing AI industry coverage.
Ulusal Eylem Günü Boyunca Saatlerce Sessizlik
Lokavt bundan daha hassas bir anda gerçekleşemezdi. Son yıllarda milyonlarca Amerikalıyı sokaklara çeken demokrasi yanlısı hareketin bir parçası olan The Deep Dive'ın aktardığı rakamlara göre, organizatörler Cumartesi günü ABD genelinde yaklaşık 3.000 "Kral Yok: Erken Oy Verin" etkinliği düzenledi.
Yöneticiler, saat 13.30 sıralarında hesaba erişimini kaybetti. Koalisyon sözcüsü Doğu'nun olduğunu söyledi. Hesabın kendisi yaklaşık 90 dakika sonra tekrar halka açıldı, ancak arkasındaki kişiler yaklaşık dört saat boyunca arka uçtan kilitlendi ve akşam 17:33'te tam erişime kavuştu. Doğu.
Organizasyon grubu Indivisible'ın kurucu ortağı Ezra Levin durumu açıkça anlattı. "Askıya aldılar. Erişimimiz yoktu" dedi.
Meta'nın Açıklaması Değiştirildi — İki Kez
Meta'nın halka açık ilk tepkisi Cumartesi günü, sözcü Andy Stone'un X'e, platformun otomatik sistemlerinin bazen "hesaplar çok yüksek frekanslarda gönderi paylaştığında, paylaştığında veya yorum yaptığında" hareket ettiğini yazmasıyla geldi. "Otomatik eylemin açıkça yanlışlıkla yapıldığını" kabul ederek, "Şu anda her şey olması gerektiği gibi çalışıyor ve içtenlikle özür dileriz" diye ekledi.
Pazar günü şirket olaylara ilişkin açıklamasını revize etti. Daha uzun bir açıklamada Stone, "yoğun patlamalarda" profilleri, gönderileri ve hashtagleri okuyan yüksek hacimli aktivitenin, Meta'nın yapay zeka aracının trafiği otomatik botlar olarak sınıflandırmasına neden olduğunu söyledi. Stone, "Bu etkinlik, otomatik korumalarımızın yanlışlıkla No Kings Instagram hesabını çevrimdışına almasına neden oldu" dedi ve bir saat sonra otomatik yeniden incelemenin hatayı fark ettiğini ve hesabı geri yüklediğini, ancak yönetici erişimini çözmenin ek zaman aldığını belirtti.
Claude bağlantısı ilk olarak Pazar günü Bloomberg tarafından bildirildi. Meta'nın açıklamadığı şey, araçları kimin kullandığı ya da hesabı neden bu kadar agresif bir şekilde sorguladıklarıydı. Şirket, kamuoyuna yaptığı açıklamalarda bu soruya yanıt vermedi.
Organizatörler Cevabın Yetersiz Olduğunu Söyledi
Koalisyon bot trafiği açıklamasına ikna olmadı. Grup, Pazar günü Instagram'da yayınlanan bir gönderide, üyelerinin eylem günü boyunca "yalnızca birkaç kez paylaşımda bulunduğunu ve binlerce kişiye canlı yayın yaptığını" söyledi; bu, otomatik bir spam operasyonu profiline pek benzemiyor.
No Kings Koalisyonu, "Hesaplarımıza yeniden erişim sağladık, ancak Meta'nın bize hâlâ bir açıklama borcu var" diye yazdı. "Seçim ortasında oy vermeyle ilgili iletişimin kısıtlanması kabul edilemez."
Bölüm hızla siyasi tepki çekti. Senatör Bernie Sanders, X'te, uzaklaştırmanın arkasında "medyanın milyarder mülkiyetinin" olduğunu öne sürerken, Connecticut Senatörü Chris Murphy, olanların araştırılması çağrısında bulundu.
Yapay Zeka Trafiği Kötüye Kullanım Gibi Göründüğünde
Olay, acil siyasetin ötesinde, büyük platformların sistemlerini nasıl denetlediği konusunda büyüyen bir fay hattını gösteriyor. Otomatik uygulama, insan davranışını bot davranışından ayıran sınıflandırıcılara bağlıdır; yapay zeka aracıları, kazıyıcılar ve üçüncü taraf araçlar meşru nedenlerle sosyal platformları makine hızlarında sorguladıkça bu ayrımın sürdürülmesi zorlaşır.
Meta'nın askıya alma açıklaması, savunmalarının gerçekten otomatik görünen trafiğe karşı tasarlanmış şekilde çalıştığını ve tam olarak otomatik denetimi eleştirenlerin uzun süredir uyardığı şekilde başarısız olduğunu gösteriyor: hızlı, şeffaf olmayan bir şekilde ve yanlış hedefe karşı, düzeltme ancak zarar verildikten sonra geliyor.
Anthropic için bu bölüm, bir modelin ayak izinin kendi ürünlerinin çok ötesine uzandığını hatırlatıyor. Claude'a Anthropic'in API'si aracılığıyla üçüncü taraf uygulamalar tarafından erişiliyor ve olayla ilgili raporların gösterdiği gibi Meta, Anthropic'in çalıştırdığı herhangi bir şey yerine modele "bağlı" araçları işaret etti. Başka bir deyişle, alt kullanım, kendi başına hiçbir doğrudan eylem olmaksızın, bir model üreticisinin adını hoş karşılanmayan bir manşete koyabilir.
Sırada Ne Olacak?
Meta iki kez özür diledi ve hesabı geri yükledi, ancak koalisyon daha kapsamlı bir muhasebe talep ediyor ve şirket şu ana kadar Claude bağlantılı araçların operatörlerinin isimlerini vermeyi veya seçim sezonunda siyasi örgütler için varsa hangi önlemlerin geçerli olduğunu ayrıntılarıyla açıklamayı reddetti.
Hafta ortası yaklaşırken ve birçok eyalette erken oylama devam ederken, platform grupları ve seçim yetkilileri Meta'nın ve benzer otomatik savunmalara dayanan diğer platformların, sivil örgütlerin bot filtrelerine karışmasını önlemek için eşiklerini ayarlayıp ayarlamayacağını izleyecek. Düzenleyicilerin daha yakından ilgilenip ilgilenmeyeceği, Meta'nın organizatörlerin sormaya devam ettiği soruyu ne kadar tatmin edici bir şekilde yanıtlayacağına bağlı olabilir: tam olarak ne oldu ve tüm bunları tetikleyen trafiğin arkasında kim vardı.
The Guardian, Bloomberg ve The Deep Dive'ın raporları bu makaleye katkıda bulunmuştur.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
