Perwakilan dari OpenAI dan Meta Platforms mengatakan kepada panel peradilan federal pada hari Kamis bahwa deepfake yang dihasilkan oleh AI telah menjadi sangat canggih sehingga verifikasi keaslian bukti audio dan video di pengadilan akan semakin sulit, menurut laporan Reuters.
Para pakar teknologi menyampaikan keprihatinan mereka pada pertemuan Komite Penasihat Aturan Pembuktian Konferensi Yudisial AS di Boston, yaitu badan yang bertanggung jawab untuk merekomendasikan perubahan terhadap peraturan federal yang mengatur bukti apa yang dapat diterima oleh pengadilan. Komite ini telah bekerja sejak tahun 2023 untuk mengatasi risiko pemalsuan bukti yang dihasilkan oleh AI di ruang sidang. For more context on this story, see our ongoing artificial intelligence updates.
Lab AI Mengatakan Deteksi Tidak Memiliki Masa Depan Ilmiah
Shira Anderson, penasihat kebijakan di OpenAI, mengatakan kepada komite bahwa kualitas gambar AI terus meningkat, dan dia tidak percaya metode ilmiah untuk mendeteksinya akan ada di masa depan – sebuah pengakuan yang mengejutkan dari sebuah perusahaan yang membangun sistem generatif yang memproduksi konten tersebut.
Devin Norder, direktur manajemen produk di Meta, mengatakan kepada panel bahwa media yang dibuat dengan model AI terkini tidak dapat dibedakan oleh manusia dari konten asli, dan pembuatan media semacam itu kini memerlukan biaya dan waktu yang minimal.
Kedua perusahaan telah mengembangkan alat asal dan verifikasi untuk konten visual, dan undang-undang baru di California dan Uni Eropa mewajibkan pemberian watermark pada media yang dihasilkan AI. Namun Anderson memperingatkan komite bahwa setiap perusahaan menggunakan sistemnya sendiri, yang berarti tidak ada metode universal yang dapat mendeteksi semua tanda air atau memverifikasi keaslian konten visual di seluruh ekosistem secara andal.
Pengadilan Belum Merasakan Gelombangnya
Ketua komite, Hakim Distrik AS Jesse Furman dari Manhattan, memberikan penyeimbang terhadap kekhawatiran tersebut: meskipun komentar akademis memperkirakan pengadilan akan menangani deepfake, masalah ini belum sering muncul dalam kasus nyata.
Sebuah survei yang dilakukan oleh Federal Judicial Center pada bulan Maret menggarisbawahi kesenjangan tersebut. Hanya 15 dari 931 hakim yang merespons pernah menghadapi kasus di mana salah satu pihak menantang bukti dengan alasan bahwa bukti tersebut palsu.
Kesenjangan antara prediksi dan praktik merupakan dilema utama komite. Berdasarkan Federal Rules of Evidence 901 dan 902, standar yang ada untuk mengautentikasi bukti adalah – sebagaimana dinyatakan dalam laporan komite sendiri – standar yang ringan: suatu pihak hanya perlu memberikan bukti yang cukup untuk mendukung temuan bahwa barang tersebut adalah apa yang diklaim oleh pemrakarsa. Deepfakes menguji standar tersebut, karena jalur tradisional untuk mengautentikasi rekaman (kesaksian saksi, dokumentasi sistem) berasumsi bahwa pemalsuan dalam skala besar itu sulit, mahal, dan dapat dideteksi.
Pelaporan komite sendiri telah menggambarkan masalah ini dengan sangat blak-blakan. Laporannya pada bulan Desember 2025 meneliti apa yang terjadi jika video atau audio yang ditawarkan di persidangan adalah deepfake, dan menyimpulkan bahwa hal tersebut menghadirkan tantangan langsung terhadap persyaratan keaslian berdasarkan Peraturan 901 dan 902 justru karena standar keaslian yang ada saat ini adalah standar yang ringan. Bagaimana — dan apakah — untuk memperketat standar tersebut adalah pertanyaan yang telah dilingkari oleh komite selama tiga tahun, dan akan menjadi lebih mendesak jika, seperti yang diperingatkan oleh perwakilan laboratorium, ilmu pendeteksian tidak pernah bisa mengejar ilmu generasi.
Apa yang Dapat Dilakukan Praktisi Saat Ini
Sebelum peraturan diubah, beban praktis akan ditanggung oleh litigator dan hakim pengadilan. Alat asal – kredensial konten kriptografi yang tertanam pada waktu pembuatan – menyebar melalui aplikasi kamera dan perangkat lunak kreatif, meskipun alat tersebut hanya membantu media yang membawanya. Pemeriksaan silang di bawah sumpah terhadap orang yang mengambil rekaman, tuntutan penemuan file asli dan metadata generasi, dan pengawasan lebih dekat terhadap klip tanpa sumber yang beredar di platform sosial adalah pertahanan yang ada saat ini. Pesan dari komite penasihat minggu ini secara efektif menyatakan bahwa kesenjangan sementara ini memerlukan landasan peraturan formal, karena peraturan informal mengasumsikan kemampuan untuk dideteksi yang menurut OpenAI dan Meta sudah tidak ada lagi.
Mengapa Kesaksian Lab Penting
Patut dicatat bahwa perusahaan-perusahaan yang produknya menimbulkan risiko adalah perusahaan-perusahaan yang memberikan peringatan kepada pengadilan mengenai hal tersebut. OpenAI dan Meta memiliki kepentingan komersial dan reputasi langsung dalam penerapan peraturan tersebut: persyaratan autentikasi yang ketat dapat menimbulkan gesekan pada penggunaan media AI yang sah, sementara persyaratan autentikasi yang longgar dapat menjadikan alat mereka sebagai vektor penipuan di ruang sidang. Pesan mereka kepada komite secara efektif adalah bahwa standar asal – watermarking, kredensial konten, dokumentasi lacak balak – adalah jalur yang bisa diterapkan, karena deteksi saja tidak akan bisa dilakukan.
Tinjauan komite selama tiga tahun diharapkan dapat memberikan informasi apakah peraturan bukti federal perlu diubah untuk era AI. Setiap perubahan akan dilakukan melalui proses pembuatan peraturan di Konferensi Yudisial, termasuk komentar publik, sebelum dibawa ke Kongres.
Gambaran Peraturan yang Lebih Luas
Sidang ini digelar di tengah maraknya aktivitas kebijakan terkait deepfake. California dan UE telah memberlakukan mandat watermarking. Denmark telah mengajukan undang-undang yang melarang pembagian deepfake AI tanpa persetujuan. Pengadilan AS telah melihat adanya pemalsuan yang dihasilkan oleh AI dalam pengajuan, dan hakim telah memberikan sanksi kepada pengacara karena mengirimkan kutipan palsu yang dihasilkan oleh chatbots.
Untuk saat ini, peradilan federal sedang melakukan studi yang cermat atas perubahan peraturan yang cepat. Namun kesaksian dari perusahaan-perusahaan yang mengembangkan teknologi ini menunjukkan bahwa industri ini sendiri tidak mengharapkan alat pendeteksi bisa mengimbangi kecepatan tersebut – sehingga mengalihkan beban ke arah standar asal, perlindungan prosedural seperti persyaratan kesaksian langsung, dan pada akhirnya penilaian hakim dan juri tentang apa yang harus diyakini.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
