Meta menyalahkan alat kecerdasan buatan yang terhubung dengan Claude dari Anthropic atas kesalahan penangguhan akun Instagram utama Koalisi Tanpa Raja, sebuah kesalahan yang membuat kehadiran media sosial gerakan protes tersebut offline selama berjam-jam selama hari aksi nasional yang bertujuan untuk meningkatkan jumlah pemilih awal menjelang pemilihan paruh waktu bulan November.
Penangguhan, yang dimulai pada Sabtu sore, pertama kali dikaitkan dengan perlindungan otomatis rutin. Sehari kemudian, Meta menawarkan akun yang berbeda dan lebih tidak biasa: menurut laporan dari Bloomberg dan The Guardian, para insinyur perusahaan tersebut menemukan bahwa alat yang terhubung dengan Claude dari Anthropic telah menarik postingan, profil, dan tagar dari akun tersebut kira-kira empat kali lipat kecepatan biasanya — pola lalu lintas yang disalahartikan oleh sistem Meta sebagai aktivitas bot otomatis dan ditanggapi dengan menghapus akun tersebut. For more context on this story, see our ongoing latest AI developments.
Jam Hening Selama Hari Aksi Nasional
Penguncian tidak mungkin terjadi pada saat yang lebih sensitif. Pada hari Sabtu, penyelenggara mengadakan hampir 3.000 acara “No Kings: Vote Early” di seluruh Amerika Serikat, menurut angka yang dikutip oleh The Deep Dive, bagian dari gerakan pro-demokrasi yang telah menarik jutaan orang Amerika untuk turun ke jalan dalam beberapa tahun terakhir.
Administrator kehilangan akses ke akun sekitar pukul 13.30. Timur, kata juru bicara koalisi. Akun itu sendiri muncul kembali secara publik setelah sekitar 90 menit, namun orang-orang di belakangnya tetap terkunci di backendnya selama hampir empat jam, dan mendapatkan kembali akses penuh pada pukul 17:33. Timur.
Ezra Levin, salah satu pendiri kelompok pengorganisasian Indivisible, menggambarkan situasinya secara blak-blakan. “Mereka menangguhkannya. Kami tidak memiliki akses terhadapnya,” katanya.
Penjelasan Meta Berubah — Dua kali
Tanggapan publik pertama Meta datang pada hari Sabtu, ketika juru bicaranya Andy Stone menulis di X bahwa sistem otomatis platform terkadang bertindak "ketika akun memposting, berbagi, atau berkomentar pada frekuensi yang sangat tinggi." Dia mengakui bahwa "tindakan otomatis tersebut jelas-jelas diambil karena kesalahan," dan menambahkan, "Semuanya sekarang berjalan sebagaimana mestinya dan kami dengan tulus meminta maaf."
Pada hari Minggu, perusahaan telah merevisi laporan kejadiannya. Dalam pernyataan yang lebih panjang, Stone mengatakan tingginya volume aktivitas membaca profil, postingan, dan tagar dalam “ledakan intens” telah menyebabkan alat AI Meta mengklasifikasikan lalu lintas sebagai bot otomatis. “Aktivitas ini menyebabkan perlindungan otomatis kami salah menjadikan akun Instagram No Kings offline,” kata Stone, sambil mencatat bahwa peninjauan ulang otomatis satu jam kemudian mengenali kesalahan tersebut dan memulihkan akun tersebut, meskipun penguraian akses admin memerlukan waktu tambahan.
Koneksi Claude pertama kali dilaporkan oleh Bloomberg pada hari Minggu. Apa yang Meta belum jelaskan adalah siapa yang mengoperasikan alat tersebut, atau mengapa mereka menanyakan akun tersebut dengan begitu agresif. Perusahaan tidak menanggapi pertanyaan itu dalam pernyataan publiknya.
Penyelenggara Menyebut Jawabannya Tidak Memadai
Koalisi tidak yakin dengan penjelasan lalu lintas bot. Dalam sebuah postingan di Instagram pada hari Minggu, kelompok tersebut mengatakan bahwa para anggotanya "hanya memposting beberapa kali dan melakukan streaming langsung ke ribuan orang" pada hari aksi tersebut – yang bukan merupakan profil dari operasi spam otomatis.
“Kami telah mendapatkan kembali akses ke akun kami, namun Meta masih berhutang penjelasan kepada kami,” tulis Koalisi Tanpa Raja. “Membatasi komunikasi mengenai pemungutan suara di tengah pemilu tidak dapat diterima.”
Episode ini dengan cepat menuai reaksi politik. Senator Bernie Sanders menyatakan di X bahwa "miliarder kepemilikan media" berada di balik penangguhan tersebut, sementara Senator Connecticut Chris Murphy menyerukan penyelidikan atas apa yang terjadi.
Saat Lalu Lintas AI Terlihat Seperti Penyalahgunaan
Di luar masalah politik, insiden ini menggambarkan semakin besarnya kesalahan dalam cara platform besar mengawasi sistem mereka. Penegakan hukum otomatis bergantung pada pengklasifikasi yang membedakan perilaku manusia dan perilaku bot — perbedaan yang semakin sulit dipertahankan karena agen AI, scraper, dan alat pihak ketiga menanyakan platform sosial dengan kecepatan mesin untuk alasan yang sah.
Penuturan Meta mengenai penangguhan tersebut menunjukkan bahwa pertahanannya bekerja seperti yang dirancang terhadap lalu lintas yang benar-benar tampak otomatis, dan gagal persis seperti yang telah lama diperingatkan oleh para kritikus moderasi otomatis: dengan cepat, tidak jelas, dan terhadap sasaran yang salah, dengan koreksi hanya terjadi setelah kerusakan terjadi.
Bagi Anthropic, episode ini merupakan pengingat bahwa jejak seorang model jauh melampaui produknya sendiri. Claude diakses oleh aplikasi pihak ketiga melalui API Anthropic, dan seperti yang ditunjukkan oleh laporan insiden tersebut, Meta menunjuk ke alat yang "terhubung ke" model daripada apa pun yang dijalankan oleh Anthropic itu sendiri. Dengan kata lain, penggunaan hilir dapat menempatkan nama pembuat model dalam judul yang tidak diinginkan tanpa adanya tindakan langsung.
Apa yang Terjadi Selanjutnya
Meta telah meminta maaf dua kali dan memulihkan akun tersebut, namun koalisi tersebut menuntut akuntansi yang lebih lengkap, dan perusahaan tersebut sejauh ini menolak menyebutkan nama operator alat yang terhubung dengan Claude atau merinci perlindungan apa, jika ada, yang berlaku untuk organisasi politik selama musim pemilu.
Dengan semakin dekatnya pertengahan minggu dan pemungutan suara awal yang sedang berlangsung di beberapa negara bagian, kelompok platform dan pejabat pemilu akan mengamati apakah Meta – dan platform lain yang mengandalkan pertahanan otomatis serupa – menyesuaikan ambang batas mereka untuk menghindari keterlibatan organisasi sipil dalam filter bot. Apakah regulator akan lebih menaruh perhatian mungkin bergantung pada seberapa memuaskan Meta menjawab pertanyaan yang terus diajukan oleh penyelenggara: apa yang sebenarnya terjadi, dan siapa yang berada di balik lalu lintas yang memicu semua itu.
Melaporkan dari The Guardian, Bloomberg dan The Deep Dive berkontribusi pada artikel ini.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
