Pengadilan Jerman Memerintahkan Google Bertanggung Jawab Langsung atas Jawaban Palsu dalam Ikhtisar AI

Pengadilan Jerman telah memutuskan bahwa Google bertanggung jawab langsung atas apa yang dinyatakan dalam ikhtisar pencarian yang dihasilkan AI, dan menyatakan bahwa ringkasan tersebut adalah konten milik perusahaan dan bukan daftar hasil pencarian yang netral. Keputusan ini membalikkan preseden hukum selama bertahun-tahun yang melindungi mesin pencari dari tanggung jawab atas informasi yang mereka tampilkan.

Pengadilan Regional Munich mengeluarkan perintah sementara yang melarang Google menyebarkan klaim palsu tentang dua penerbit yang berbasis di Munich melalui ikhtisar pencarian yang dihasilkan AI (kasus no. 26 O 869/26). Pengadilan mengklasifikasikan Google sebagai pelanggar langsung karena ikhtisar AI dibuat dan disajikan sebagai konten milik perusahaan. Keputusan ini sudah berdampak pada seluruh lanskap kebijakan AI, dimana regulator kesulitan untuk menetapkan akuntabilitas atas klaim yang dihasilkan oleh AI.

Apa yang Salah dalam Ikhtisar AI

Tinjauan AI Google secara salah telah mengaitkan dua perusahaan penerbitan dengan penipuan, jebakan langganan, dan praktik bisnis curang untuk kueri penelusuran tertentu. Menurut pengadilan, AI mencampurkan informasi tentang perusahaan lain yang benar-benar dipertanyakan dengan penggugat dan menarik koneksi yang tidak muncul di sumber mana pun yang terkait.

Penerbit mengirimkan surat penghentian dan penghentian kepada Google, namun perusahaan tersebut tidak menanggapi dengan tepat, sehingga memicu tindakan hukum.

Pengadilan merinci cara kerja ikhtisar AI dalam praktiknya. Laporan ini dibuka dengan klaim yang meyakinkan seperti "Ya, [perusahaan] dikenal dengan praktik bisnis yang meragukan", lalu membangun strukturnya sendiri dengan ringkasan, tanda bahaya atas dugaan penipuan, dan tips untuk pengguna. Pengadilan menemukan bahwa ikhtisar AI membuat klaim yang bahkan tidak ada dalam hasil pencarian yang mendasarinya. Tak satu pun dari sumber terkait yang menunjukkan hubungan antara penggugat dan perusahaan gelap yang disebutkan AI. Pengadilan menyebut pernyataan ini sebagai "milik terdakwa".

Mengapa Perlindungan Mesin Pencari yang Ada Tidak Berlaku

Putusan tersebut secara langsung membahas kasus hukum Jerman yang sudah berjalan selama bertahun-tahun. Pengadilan Federal Jerman (BGH) sebelumnya memberikan tanggung jawab terbatas pada mesin pencari tradisional dan fungsi pelengkapan otomatis, dengan alasan bahwa operator mesin pencari hanyalah pelanggar tidak langsung karena mereka hanya membuat konten pihak ketiga dapat ditemukan. Kewajiban proaktif untuk memeriksa hasil, menurut BGH, akan mengancam cara kerja mesin pencari secara mendasar.

Pengadilan Munich menemukan bahwa alasan ini tidak berlaku untuk tinjauan AI. Mesin pencari reguler mengarahkan pengguna ke situs web luar. Sebaliknya, tinjauan AI menghasilkan "pernyataan independen, baru, dan substantif" dengan mengevaluasi dan menggabungkan konten dari berbagai situs pihak ketiga. Hanya Google yang dapat memeriksa pernyataan tersebut, kata pengadilan, setidaknya dengan membandingkan situs web pihak ketiga dengan klaim yang dibuatnya sendiri.

Pengadilan juga mencatat bahwa tinjauan AI "sama sekali tidak diperlukan" untuk menggunakan internet. Hasil pencarian tradisional sudah membantu pengguna memilah informasi, menjadikan ikhtisar AI sebagai peningkatan opsional daripada layanan penting.

Pembelaan Google Ditolak

Pada sidang tersebut, Google berpendapat bahwa pengguna dapat memeriksa sendiri sumber tertaut untuk memverifikasi apakah ringkasan AI itu akurat. Pengguna umumnya tahu bahwa ikhtisar AI dihasilkan dan tidak dikurasi secara manual, kata perusahaan itu.

Pengadilan tidak yakin. Ditemukan bahwa mengharapkan pengguna untuk melakukan referensi silang setiap klaim yang dihasilkan AI terhadap materi sumber akan menggagalkan tujuan fitur dan memberikan beban yang tidak masuk akal pada individu. Google membangun AI, Google menawarkannya kepada pengguna, dan oleh karena itu Google memiliki apa yang dihasilkannya, alasan pengadilan, karena Google sendirilah yang mempunyai pengaruh terhadap penawaran AI dan algoritme yang digunakannya untuk beroperasi.

Google Banding

Google telah mengajukan banding atas keputusan tersebut, menurut laporan dari The Decoder. Perusahaan menyatakan bahwa ikhtisar AI memberikan ringkasan yang berharga dan pengguna memahami sifat konten yang dihasilkan AI. Dengan adanya banding ini, permasalahan hukum kemungkinan besar akan dibawa ke pengadilan yang lebih tinggi, dimana dampak yang ditimbulkan terhadap preseden akan menjadi lebih signifikan.

Kasus ini telah menarik perhatian penerbit dan pendukung kebebasan pers di seluruh dunia. Organisasi-organisasi media telah lama mengeluh bahwa ringkasan penelusuran yang dihasilkan AI mengkanibalisasi lalu lintas mereka dan kadang-kadang salah mengartikan pemberitaan mereka. Keputusan Munich ini memberi penerbit peluang hukum potensial untuk menolak klaim tidak akurat yang dihasilkan oleh AI yang dikaitkan dengan mereka.

Implikasi yang Lebih Luas terhadap Akuntabilitas AI

Keputusan tersebut diambil pada saat pengadilan dan regulator di seluruh Eropa dan sekitarnya sedang bergulat dengan cara menetapkan tanggung jawab atas konten yang dihasilkan AI. Undang-Undang AI Uni Eropa, kerangka peraturan proaktif Inggris, dan berbagai inisiatif nasional semuanya berupaya untuk menetapkan aturan akuntabilitas untuk sistem AI, namun hanya sedikit yang menghasilkan kasus hukum yang konkrit sespesifik keputusan Munich.

Jika keputusan tersebut dikuatkan melalui tingkat banding, keputusan tersebut dapat memaksa mesin pencari utama dan platform AI untuk secara mendasar memikirkan kembali cara mereka menyajikan ringkasan yang dihasilkan oleh AI. Perusahaan mungkin perlu menerapkan mekanisme pemeriksaan fakta yang lebih ketat, menambahkan penafian yang jelas, atau merestrukturisasi tinjauan AI agar lebih jelas membedakan antara klaim yang disintesis dan materi yang bersumber. Alternatifnya – tanggung jawab langsung atas setiap pernyataan palsu yang dihasilkan AI – merupakan risiko yang hanya dapat diabaikan oleh sedikit perusahaan.

Tetap Terdepan dalam AI

Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.

Baca berita AI selengkapnya →