Meta telah menyalahkan alat kecerdasan buatan yang disambungkan kepada Claude Anthropic kerana penggantungan salah akaun Instagram utama No Kings Coalition, ralat yang menyebabkan kehadiran media sosial pergerakan protes itu di luar talian selama berjam-jam semasa hari tindakan di seluruh negara yang bertujuan untuk meningkatkan kehadiran pengundi awal menjelang pilihan raya pertengahan November.
Penggantungan itu, yang bermula petang Sabtu, pertama kali dikaitkan dengan perlindungan automatik rutin. Sehari kemudian, Meta menawarkan akaun yang berbeza dan lebih luar biasa: menurut laporan daripada Bloomberg dan The Guardian, jurutera syarikat mendapati bahawa alat yang disambungkan kepada Claude Anthropic telah menarik siaran, profil dan hashteg daripada akaun itu pada kira-kira empat kali kadar biasa — corak trafik yang sistem Meta mengira sebagai aktiviti bot automatik dan bertindak balas dengan menurunkan akaun tersebut. For more context on this story, see our ongoing AI news.
Jam Berdiam diri Semasa Hari Tindakan Kebangsaan
Kunci keluar hampir tidak mungkin datang pada saat yang lebih sensitif. Pada hari Sabtu, penganjur mengadakan hampir 3,000 acara "No Kings: Vote Early" di seluruh Amerika Syarikat, menurut angka yang dipetik oleh The Deep Dive, sebahagian daripada gerakan pro-demokrasi yang telah menarik jutaan rakyat Amerika ke jalanan sejak beberapa tahun kebelakangan ini.
Pentadbir kehilangan akses kepada akaun pada kira-kira 1:30 p.m. Timur, kata jurucakap pakatan. Akaun itu sendiri muncul semula secara terbuka selepas kira-kira 90 minit, tetapi orang di belakangnya kekal terkunci daripada bahagian belakangnya selama hampir empat jam, mendapat semula akses penuh pada jam 5:33 petang. timur.
Ezra Levin, pengasas bersama kumpulan penganjur Indivisible, menerangkan keadaan secara terus terang. "Mereka menggantungnya. Kami tidak mempunyai akses kepadanya," katanya.
Penjelasan Meta Berubah — Dua kali
Maklum balas awam pertama Meta datang pada hari Sabtu, apabila jurucakap Andy Stone menulis di X bahawa sistem automatik platform kadangkala bertindak "apabila akaun menyiarkan, berkongsi atau mengulas pada frekuensi yang sangat tinggi." Dia mengakui bahawa "tindakan automatik itu jelas telah diambil secara salah," sambil menambah, "Semuanya kini berfungsi sebagaimana mestinya dan kami memohon maaf dengan ikhlas."
Menjelang Ahad, syarikat itu telah menyemak semula akaun peristiwanya. Dalam kenyataan yang lebih panjang, Stone berkata jumlah tinggi profil membaca aktiviti, siaran dan hashtag dalam "letusan sengit" telah menyebabkan alat AI Meta mengklasifikasikan trafik sebagai bot automatik. "Aktiviti ini menyebabkan perlindungan automatik kami tersalah membawa akaun Instagram No Kings ke luar talian," kata Stone, sambil menyatakan bahawa semakan semula automatik sejam kemudian mengiktiraf kesilapan itu dan memulihkan akaun itu, walaupun akses pentadbir yang meleraikan mengambil masa tambahan.
Sambungan Claude pertama kali dilaporkan oleh Bloomberg pada hari Ahad. Apa yang Meta tidak jelaskan ialah siapa yang mengendalikan alatan itu, atau sebab mereka menanyakan akaun dengan begitu agresif. Syarikat itu tidak menjawab soalan itu dalam kenyataan awamnya.
Penganjur Memanggil Jawapan Tidak Mencukupi
Gabungan itu tidak yakin dengan penjelasan trafik bot. Dalam catatan di Instagram Ahad, kumpulan itu berkata ahlinya telah "menyiarkan hanya beberapa kali dan distrim langsung kepada beribu-ribu" semasa hari tindakan - hampir tidak profil operasi spam automatik.
"Kami telah mendapat semula akses kepada akaun kami, tetapi Meta masih berhutang kepada kami penjelasan," tulis No Kings Coalition. "Menghadkan komunikasi mengenai pengundian di tengah-tengah pilihan raya adalah tidak boleh diterima."
Episod itu dengan cepat mendapat reaksi politik. Senator Bernie Sanders mencadangkan pada X bahawa "pemilikan bilionair media" berada di sebalik penggantungan itu, manakala Senator Connecticut Chris Murphy menggesa siasatan terhadap apa yang berlaku.
Apabila Trafik AI Nampak Seperti Penyalahgunaan
Di luar politik segera, insiden itu menggambarkan garis kesalahan yang semakin meningkat dalam bagaimana platform besar mengawal sistem mereka. Penguatkuasaan automatik bergantung pada pengelas yang membezakan tingkah laku manusia daripada tingkah laku bot — perbezaan yang semakin sukar untuk dikekalkan apabila ejen AI, pengikis dan alat pihak ketiga bertanya pada platform sosial pada kelajuan mesin atas sebab yang sah.
Akaun Meta tentang penggantungan mencadangkan pertahanannya berfungsi seperti yang direka terhadap trafik yang benar-benar kelihatan automatik, dan gagal sama seperti pengkritik penyederhanaan automatik yang telah lama memberi amaran: dengan cepat, legap dan terhadap sasaran yang salah, dengan pembetulan tiba hanya selepas kerosakan dilakukan.
Untuk Anthropic, episod itu adalah peringatan bahawa jejak model menjangkau jauh melebihi produknya sendiri. Claude diakses oleh aplikasi pihak ketiga melalui API Anthropic, dan seperti yang ditunjukkan oleh laporan mengenai kejadian itu, Meta menunjuk kepada alat "disambungkan kepada" model dan bukannya apa-apa yang dijalankan oleh Anthropic sendiri. Penggunaan hiliran, dengan kata lain, boleh meletakkan nama pembuat model dalam tajuk yang tidak diingini tanpa tindakan langsung sendiri.
Apa Yang Berlaku Seterusnya
Meta telah memohon maaf dua kali dan memulihkan akaun itu, tetapi gabungan itu menuntut perakaunan yang lebih lengkap, dan syarikat itu setakat ini enggan menamakan pengendali alat yang berkaitan dengan Claude atau memperincikan perlindungan, jika ada, dikenakan kepada organisasi politik semasa musim pilihan raya.
Dengan menghampiri pertengahan minggu dan pengundian awal dijalankan di beberapa negeri, kumpulan platform dan pegawai pilihan raya akan memerhati sama ada Meta — dan platform lain yang bergantung pada pertahanan automatik yang serupa — melaraskan ambang mereka untuk mengelak daripada menjerat organisasi sivik dalam penapis bot. Sama ada pengawal selia mengambil minat yang lebih dekat mungkin bergantung pada seberapa memuaskan Meta menjawab soalan yang terus ditanya oleh penganjur: apa sebenarnya yang berlaku dan siapa di sebalik trafik yang mencetuskan semuanya.
Laporan daripada The Guardian, Bloomberg dan The Deep Dive menyumbang kepada artikel ini.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
