Google Menarik Alat Gambar AI Earth dalam Waktu Kurang dari 48 Jam Karena Reaksi Misinformasi

Google telah mencabut alat kecerdasan buatan yang memungkinkan pengguna melukis pemandangan palsu di atas citra satelit nyata di Google Earth, berbalik arah kurang dari 48 jam setelah diluncurkan di tengah peringatan bahwa fitur tersebut dapat meningkatkan misinformasi.

Fitur tersebut, yang didukung oleh generator gambar "Nano Banana 2" Google, diperkenalkan pada hari Kamis, 30 Juli 2026, dan memungkinkan siapa saja mengetikkan perintah teks dan menghasilkan skenario palsu yang dilapisi pada citra satelit, udara, dan 3D asli. Untuk mengetahui perkembangan terkini mengenai alat AI yang membentuk industri ini, ikuti liputan berita AI terkini di AI Buzz Wire.

Pada hari Jumat, Google mengonfirmasi bahwa mereka menghentikan sementara kemampuan tersebut "sementara kami berupaya menerapkan pagar pembatas yang lebih kuat," mengutip tangkapan layar dari citra yang dihasilkan yang tampaknya melanggar kebijakannya. Pembalikan mendadak ini terjadi tepat setelah investigasi Verifikasi BBC di mana para peneliti menunjukkan betapa mudahnya alat tersebut menghasilkan pemalsuan yang meyakinkan dan akurat di lokasi.

Cara Kerja Alat

Nano Banana 2 terintegrasi langsung ke Google Earth, platform pemetaan yang banyak digunakan yang diandalkan oleh pemerintah, jurnalis, dan masyarakat untuk mendapatkan pandangan akurat tentang planet ini. Fitur AI menghasilkan citra sesuai permintaan dan menempatkannya di lapisan dasar koordinat nyata. Yang terpenting, gambar yang dihasilkan dapat diunduh dan dibagikan di media sosial dan platform lain tanpa ada indikasi jelas bahwa gambar tersebut palsu.

Kombinasi tersebut – visual ciptaan yang dipadukan dengan data geografis asli – adalah hal yang paling mengkhawatirkan para peneliti.

Demonstrasi yang Mengkhawatirkan

Selama pengujian, BBC Verify mampu menghasilkan gambar Menara Eiffel yang runtuh, lubang runtuhan yang menelan Piramida Besar Giza, dan tank Rusia yang ditempatkan di ibu kota Ukraina, Kyiv.

Peneliti AI dan misinformasi Henk van Ess melangkah lebih jauh sebelum alat tersebut ditangguhkan, dengan menghasilkan adegan palsu dari pembangkit listrik tenaga nuklir yang tidak ada di Iran, kamp pengungsi di perbatasan AS-Meksiko, dan rumah sakit palsu di Gaza dengan kawah bom di sampingnya.

"Pemalsuan itu tidak harus terlihat meyakinkan. Ini mewarisi kredibilitas peta tempat ia dilahirkan," kata van Ess, menggambarkan bagaimana Google mengizinkan citra "yang diciptakan" untuk "disambungkan ke koordinat asli, digambar pada citra asli."

Tanda Air yang Tidak Tahan

Google telah menekankan bahwa konten yang dihasilkan AI dari alatnya membawa tanda air yang tidak terlihat dan bahwa pengguna dapat memverifikasi dugaan palsu melalui chatbot Gemini atau Google Lens.

Namun, pengujian BBC Verify menemukan bahwa ada kemungkinan untuk menghindari pemeriksaan tersebut dan mengelabui Gemini agar mengonfirmasi gambar palsu Google Earth sebagai gambar nyata. Alat pendeteksi AI eksternal juga gagal menandai beberapa citra sintetis. Temuan ini melemahkan keandalan perlindungan yang Google tempatkan sebagai pertahanan terhadap misinformasi yang disebabkan oleh AI.

Peneliti pendeteksi AI Henry Ajder mengatakan kepada BBC Verify bahwa citra palsu di zona konflik bisa menjadi sangat "mengganggu stabilitas" selama peristiwa yang berlangsung cepat di mana informasi yang dapat dipercaya sangat langka dan risikonya sangat tinggi.

Pola Koreksi Berlebihan

Episode ini menambah daftar peluncuran AI tingkat tinggi yang harus ditunda oleh banyak perusahaan. Google sendiri menghadapi pengawasan ketat atas pembuatan gambar yang tidak akurat dalam model Gemini pada tahun 2024, dan siklus penerapan lalu pencabutan yang cepat telah menjadi tema yang berulang saat perusahaan teknologi berlomba untuk menghadirkan fitur generatif.

Dalam hal ini, bahaya unik berasal dari platform itu sendiri. Seperti yang diakui Google dalam pernyataannya, "Kami tahu bahwa orang-orang secara unik memercayai Google Earth untuk mendapatkan pandangan dunia yang dapat diandalkan" — sehingga erosi terhadap kepercayaan tersebut akan sangat merugikan.

Kemunduran ini juga terjadi pada saat regulasi yang sensitif. Persyaratan transparansi UU AI Uni Eropa, yang mewajibkan pelabelan yang jelas pada konten yang dihasilkan AI, mulai berlaku pada 2 Agustus 2026, hanya beberapa hari setelah insiden Google Earth. Google telah menandatangani kode praktik UE mengenai pelabelan konten yang dihasilkan AI pada awal Juli.

Apa yang Terjadi Selanjutnya

Google belum mengatakan kapan atau apakah fitur tersebut akan kembali. Perusahaan mengindikasikan akan terus menyempurnakan batasan tersebut, namun para peneliti berpendapat bahwa desain mendasar – yang melapisi konten yang dihasilkan AI di atas data geografis tepercaya – mungkin terlalu berbahaya untuk dikirimkan dalam bentuk yang dapat diunduh dan dibagikan tanpa kontrol asal yang jauh lebih kuat.

Bagi industri yang masih berjuang untuk menyeimbangkan penyebaran AI yang cepat dengan dampak buruk di dunia nyata, umur alat pencitraan AI Google Earth yang bertahan selama 48 jam merupakan sebuah kisah peringatan tentang kesenjangan antara apa yang dapat diciptakan oleh AI dan apa yang seharusnya diciptakan.

Tetap Terdepan dalam AI

AI bergerak cepat, dan kebijakan yang membentuknya bergerak lebih cepat lagi. Tandai AI Buzz Wire untuk liputan harian yang berdasarkan fakta mengenai peluncuran, pembalikan, dan peraturan yang menentukan masa depan kecerdasan buatan.

Baca berita AI selengkapnya →