Meta dalam Uji Coba: 'Kait, Tahan, Panen, Sembunyikan' Menjadi Pusat Perhatian dalam Kasus Privasi Anak yang Terkenal

Minggu pertama dari salah satu uji coba teknologi yang paling penting dalam sejarah Amerika Serikat berakhir di Oakland, California, dengan jaksa penuntut menguraikan dugaan pedoman Meta menjadi empat kata: kait, tahan, panen, sembunyikan.

Pemilik Facebook dan Instagram "menggaet" pengguna, "menahan" mereka di platformnya selama mungkin, "memanen" data mereka dan kemudian "menyembunyikan" kebenaran dari publik, Megan O'Neill, seorang pengacara negara bagian California, mengatakan kepada juri. “Model bisnis Meta sangat berhasil terutama untuk anak-anak,” katanya, menurut laporan The Guardian dari gedung pengadilan.

Uji coba blockbuster dibuka pada hari Selasa di Oakland, tepat di utara kantor pusat Meta di Silicon Valley. Kalifornia telah bergabung dengan 28 negara bagian AS lainnya dalam menggugat perusahaan yang bernilai sekitar $1,36 triliun tersebut, dengan tuduhan bahwa perusahaan tersebut merancang produk-produk adiktif yang membahayakan anak-anak dan melanggar undang-undang privasi anak federal dan undang-undang perlindungan konsumen negara bagian dengan mengumpulkan data tentang anak-anak di bawah usia 13 tahun tanpa izin orang tua. Kasus ini diawasi dengan ketat di seluruh dunia kebijakan AI sebagai uji tekanan untuk mengetahui apakah desain produk yang berbasis keterlibatan dapat dilegalkan atau tidak ada lagi — sebuah perdebatan yang dibahas secara mendalam dalam analisis industri AI.

Seorang Saksi Bintang Dengan Data Internal

Kesaksian paling dramatis pada minggu pertama persidangan datang dari Arturo Béjar, seorang insinyur keselamatan yang bekerja di Meta dalam dua tugas terpisah antara tahun 2009 dan 2021 dan sejak itu menjadi salah satu kritikus internal perusahaan yang paling menonjol, memberikan kesaksian di depan komite Senat AS dan menjadi saksi ahli dalam kasus media sosial lainnya.

Béjar mengatakan kepada juri bahwa motivasinya untuk mencapai solusi keselamatan anak bersifat pribadi: putri remajanya menerima rayuan seksual yang tidak diinginkan, foto alat kelamin pria, dan penghinaan misoginis di Instagram, dan menganggap proses pelaporan di platform tersebut tidak efektif atau tidak mungkin digunakan. “Meta mengambil strategi 'jangan tanya, jangan bilang'” terkait keselamatan anak, dia bersaksi.

Kesaksiannya mempunyai bobot yang tidak biasa karena betapa dekatnya dia dengan posisi puncak perusahaan. Béjar mengatakan pekerjaannya secara rutin termasuk memberi pengarahan kepada Mark Zuckerberg, dan dia telah berbicara dengan CEO lebih dari 100 kali. Selama kesaksiannya, pengacara negara bagian menunjukkan kepada juri sebuah email yang dikirimkan Béjar kepada Zuckerberg pada tahun 2021 yang menguraikan survei pengalaman remaja di Instagram. Hasilnya sangat mengejutkan: 51% pengguna remaja yang disurvei melaporkan pengalaman buruk atau merugikan dalam tujuh hari sebelumnya, dan konten berbahaya hanya dihapus 0,02% dari total pengguna tersebut.

Béjar mengatakan dia mengirimkan datanya ke puncak karena, dalam kata-katanya, "ketika Mark menjadikan sesuatu sebagai prioritas, gunung akan berpindah." Ketika ditanya apakah Zuckerberg pernah menjawab, dia menjawab: "Tidak. Saya tidak mendengar kabar darinya."

Meta berjuang keras untuk menjauhkan Béjar dari mimbar, mengajukan serangkaian mosi untuk menyerang barang bukti dan memblokir kesaksiannya. Semuanya ditolak.

Pertahanan Meta: 'Pembayaran Aneh'

Meta telah membantah semua tuduhan. Juru bicara perusahaan Liza Crenshaw mengatakan negara-negara bagian telah memutuskan "untuk mengejar pembayaran yang aneh" daripada berpegang pada "fakta atau hukum."

Dalam pernyataan pembukaannya, pengacara Meta, Paul Schmidt, mengakui "tidak ada perselisihan" bahwa orang-orang dapat kesulitan menggunakan media sosial, namun berpendapat bahwa perusahaan tersebut telah membangun alat untuk mengatasi dampak buruk tersebut. Dia mencatat bahwa Meta tidak mengizinkan anak-anak di bawah 13 tahun untuk mendaftarkan akun dan mengatakan telah menonaktifkan lebih dari satu juta akun milik pengguna di bawah umur.

Juri juga mendengarkan pendapat mantan karyawan lain dan psikolog selama minggu pertama, dan delapan juri akan terus mempertimbangkan bukti dalam persidangan yang diperkirakan akan berlangsung enam hingga delapan minggu.

Apa yang Dipertaruhkan: Hingga $200 Miliar

Ancaman terhadap Meta bersifat eksistensial. Jika perusahaan tersebut dinyatakan bertanggung jawab, kerugiannya bisa mencapai $200 miliar — kira-kira setara dengan seluruh pendapatan tahunan Meta pada tahun 2025, seperti yang dicatat oleh The Guardian. Negara-negara bagian juga meminta pengadilan untuk memaksa Meta mendesain ulang produknya agar lebih aman bagi anak-anak, sebuah solusi yang secara permanen dapat mengubah cara kerja platformnya.

Satu hal yang tidak biasa: peran juri adalah sebagai penasehat. Panel akan mengeluarkan rekomendasi, namun Hakim Yvonne Gonzalez Rogers, yang memimpin kasus ini, akan membuat keputusan akhir atas putusan dan ganti rugi tersebut. Persidangan dipimpin oleh pengacara California, Colorado, Kentucky dan New Jersey, dan juri diharapkan pada akhirnya mendengarkan kesaksian dari CEO Meta Mark Zuckerberg dan CEO Instagram Adam Mosseri.

Persidangan di Oakland adalah yang terbesar dari ribuan tuntutan hukum serupa yang dihadapi Meta dari keluarga, distrik sekolah, dan jaksa agung lainnya. Perusahaan tersebut telah kalah dalam dua kasus pertama yang harus diadili: pada bulan Maret, perusahaan tersebut diperintahkan untuk membayar hampir $1 miliar kepada negara bagian New Mexico atas eksploitasi seksual anak di platformnya, dan dalam kasus terpisah, perusahaan tersebut dinyatakan bertanggung jawab karena sengaja merancang produk adiktif yang memikat seorang wanita muda, dengan kerugian lebih dari $4 juta.

Mengapa Uji Coba Ini Penting Selain Meta

Bagi industri teknologi, kasus ini merupakan ujian penting apakah undang-undang dapat mencapai keputusan desain di balik platform yang dioptimalkan keterlibatannya. Jaksa berpendapat bahwa memaksimalkan waktu di lapangan dan pengumpulan data dari anak di bawah umur bukan hanya pilihan bisnis tetapi juga tanggung jawab hukum – dan pengetahuan internal tentang bahaya, seperti yang didokumentasikan Béjar dalam emailnya pada tahun 2021, membuat perusahaan bertanggung jawab atas hal tersebut.

Putusan yang memaksa perubahan desain akan menjadi preseden yang menjangkau lebih dari satu perusahaan media sosial, dan berpotensi memengaruhi cara setiap platform yang secara algoritme memberi peringkat dan merekomendasikan konten dalam mendekati pengguna muda. Ketika anggota parlemen di Washington dan Brussels masih bergulat dengan cara mengatur sistem AI yang dapat mengatur apa yang dilihat oleh miliaran orang, ruang sidang di Oakland telah menjadi tahapan terpenting dalam kebijakan teknologi pada musim gugur ini.

Tetap Terdepan dalam AI

Untuk mengetahui perkembangan terkini dalam kebijakan AI, regulasi platform, dan analisis industri, tandai AI Buzz Wire.

Baca berita AI selengkapnya →