Wakil dari OpenAI dan Meta Platforms memberitahu panel kehakiman persekutuan pada hari Khamis bahawa deepfakes yang dijana AI telah menjadi sangat maju sehingga mengesahkan ketulenan bukti audio dan video di mahkamah akan menjadi lebih sukar, lapor Reuters.
Pakar teknologi membentangkan kebimbangan mereka pada mesyuarat Jawatankuasa Penasihat Persidangan Kehakiman AS mengenai Peraturan Keterangan di Boston — badan yang bertanggungjawab untuk mengesyorkan perubahan kepada peraturan persekutuan yang mengawal bukti yang boleh diterima oleh mahkamah. Jawatankuasa itu telah berusaha sejak 2023 tentang cara menangani risiko bukti yang dijana AI rekaan di bilik mahkamah. For more context on this story, see our ongoing latest AI developments.
Makmal AI Mengatakan Pengesanan Tiada Masa Depan Saintifik
Shira Anderson, penasihat dasar di OpenAI, memberitahu jawatankuasa bahawa imej AI terus bertambah baik dalam kualiti, dan berkata dia tidak percaya kaedah saintifik untuk mengesannya akan wujud pada masa hadapan - pengakuan yang menarik daripada syarikat yang membina sistem generatif yang menghasilkan kandungan tersebut.
Devin Norder, pengarah pengurusan produk di Meta, memberitahu panel bahawa media yang dicipta oleh model AI baru-baru ini tidak boleh dibezakan oleh manusia daripada kandungan tulen, dan mencipta media sedemikian kini memerlukan kos dan masa yang minimum.
Kedua-dua syarikat telah membangunkan alat asal dan pengesahan untuk kandungan visual, dan undang-undang baharu di California dan Kesatuan Eropah memerlukan penanda air bagi media janaan AI. Tetapi Anderson memberi amaran kepada jawatankuasa bahawa setiap syarikat menggunakan sistemnya sendiri, bermakna tiada kaedah universal wujud untuk mengesan semua tera air dengan pasti atau mengesahkan ketulenan kandungan visual merentas ekosistem.
Mahkamah Belum Merasai Ombaknya
Pengerusi jawatankuasa itu, Hakim Daerah AS Jesse Furman dari Manhattan, menawarkan pengimbang kepada penggera: sementara ulasan akademik meramalkan mahkamah akan menangani pemalsuan yang mendalam, isu itu masih belum muncul dengan kerap dalam kes sebenar.
Tinjauan yang dijalankan oleh Pusat Kehakiman Persekutuan pada Mac menggariskan jurang itu. Hanya 15 daripada 931 hakim yang menjawab telah menghadapi kes di mana pihak mencabar keterangan atas alasan bahawa ia adalah palsu.
Jurang antara ramalan dan amalan adalah dilema teras jawatankuasa. Di bawah Kaedah-Kaedah Keterangan Persekutuan 901 dan 902, piawaian sedia ada untuk mengesahkan bukti adalah — seperti yang dinyatakan oleh laporan jawatankuasa itu sendiri — yang sederhana: sesebuah pihak hanya perlu mengemukakan bukti yang mencukupi untuk menyokong penemuan bahawa item itu adalah seperti yang didakwa oleh pihak pencadang. Deepfakes menguji standard itu, kerana laluan tradisional untuk mengesahkan rakaman (kesaksian saksi, dokumentasi sistem) menganggap bahawa pemalsuan pada skala adalah sukar, mahal dan boleh dikesan.
Pelaporan jawatankuasa itu sendiri telah membingkaikan masalah dengan ketumpulan yang luar biasa. Laporan Disember 2025nya mengkaji perkara yang berlaku apabila video atau audio yang ditawarkan semasa percubaan adalah palsu, menyimpulkan bahawa ia memberikan cabaran langsung kepada keperluan ketulenan di bawah Peraturan 901 dan 902 dengan tepat kerana standard ketulenan sedia ada adalah sederhana. Bagaimana - dan sama ada - untuk mengeraskan piawaian itu ialah persoalan jawatankuasa telah mengelilingi selama tiga tahun, dan ia menjadi lebih mendesak jika, seperti yang diberi amaran oleh wakil makmal, sains pengesanan tidak pernah mengejar sains generasi.
Perkara Yang Boleh Dilakukan Pengamal Sekarang
Sehingga peraturan berubah, beban praktikal jatuh pada litigator dan hakim perbicaraan. Alat asal — bukti kelayakan kandungan kriptografi yang dibenamkan pada masa penciptaan — tersebar melalui apl kamera dan perisian kreatif, walaupun ia hanya membantu untuk media yang membawanya. Pemeriksaan balas di bawah sumpah orang yang menangkap rakaman, permintaan penemuan untuk fail asal dan metadata penjanaan, dan penelitian lebih dekat terhadap klip tidak bersumber yang diedarkan di platform sosial adalah pertahanan semasa. Mesej jawatankuasa penasihat minggu ini adalah berkesan bahawa jurang ini memerlukan asas peringkat peraturan formal, kerana yang tidak formal menganggap kebolehkesanan yang OpenAI dan Meta katakan tidak lagi wujud.
Mengapa Testimoni Makmal Penting
Adalah ketara bahawa syarikat yang produknya menimbulkan risiko adalah yang memberi amaran kepada badan kehakiman mengenainya. OpenAI dan Meta mempunyai kepentingan komersial dan reputasi langsung tentang cara peraturan itu berlaku: keperluan pengesahan yang ketat boleh menyebabkan geseran pada penggunaan media AI yang sah, manakala yang longgar boleh menjadikan alat mereka sebagai vektor untuk penipuan bilik mahkamah. Mesej mereka kepada jawatankuasa adalah berkesan bahawa piawaian asal - tera air, bukti kelayakan kandungan, dokumentasi rantaian jagaan - adalah jalan yang boleh dilaksanakan, kerana pengesanan sahaja tidak akan berskala.
Semakan tiga tahun jawatankuasa itu dijangka memaklumkan sama ada peraturan bukti persekutuan memerlukan pindaan untuk era AI. Sebarang perubahan akan melalui proses pembuatan peraturan Persidangan Kehakiman, termasuk ulasan awam, sebelum pergi ke Kongres.
Gambar Kawal Selia Yang Lebih Luas
Perbicaraan berlaku di tengah-tengah letusan aktiviti dasar berkaitan palsu. California dan EU telah menggubal mandat penanda air. Denmark telah memajukan undang-undang yang melarang perkongsian deepfakes AI tanpa kebenaran. Mahkamah AS telah melihat fabrikasi yang dijana AI muncul dalam pemfailan, dan hakim telah membenarkan peguam untuk menyerahkan petikan palsu yang dihasilkan oleh chatbots.
Buat masa ini, badan kehakiman persekutuan memilih kajian yang teliti berbanding perubahan peraturan yang pantas. Tetapi keterangan daripada syarikat yang membina teknologi itu menunjukkan industri itu sendiri tidak menjangkakan alatan pengesanan akan seiring — yang mengalihkan beban ke arah piawaian asal, perlindungan prosedur seperti keperluan kesaksian langsung, dan akhirnya penghakiman hakim dan juri tentang perkara yang perlu dipercayai.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
