Sebuah postingan Hacker News yang mendokumentasikan bagaimana Gemini Google menggunakan riwayat obrolan pelanggan untuk pelatihan model menarik lebih dari 650 suara positif minggu ini — bukan karena kebijakan tersebut dirahasiakan, namun karena begitu banyak pengguna berbayar yang tidak menyadarinya. Utas, berjudul "Beri tahu HN: Gemini berlatih berdasarkan riwayat obrolan, bahkan untuk pelanggan (akun pribadi)," memaparkan dokumentasi dukungan Google sendiri yang menunjukkan bahwa langganan berbayar tidak mengecualikan siapa pun dari penggunaan pelatihan.
Perilaku yang relevan tidak tertanam dalam perjanjian lisensi pengguna akhir. Hal ini dijelaskan di halaman bantuan Gemini Google, yang ditinjau langsung oleh AI Buzz Wire. For more context on this story, see our ongoing AI industry coverage.
Apa yang Sebenarnya Dikatakan dalam Dokumentasi Google
Laman Bantuan Privasi Aplikasi Gemini Google menyatakan bahwa Aktivitas Aplikasi Gemini — riwayat obrolan tersimpan — "digunakan untuk meningkatkan layanan Google bagi semua orang, termasuk dengan melatih model AI generatif, jika setelan Pertahankan Aktivitas Anda aktif." Satu kalimat tersebut membawa inti permasalahan: pelatihan percakapan pengguna adalah hasil default dari mengaktifkan riwayat obrolan, terlepas dari apakah akun tersebut membayar untuk Google AI Pro atau Ultra.
Dokumentasi yang sama secara eksplisit menyatakan keterlibatan manusia. Google menyatakan bahwa "sebagian" obrolan ditinjau oleh peninjau manusia, termasuk peninjau terlatih dari penyedia layanan, untuk melakukan debug pada layanan, menjaga keamanannya, dan meningkatkannya. Dan panduan tersebut mencakup peringatan yang tidak pernah dilihat oleh banyak pengguna: "Harap jangan memasukkan informasi rahasia yang Anda tidak ingin dilihat oleh pengulas atau digunakan oleh Google untuk meningkatkan layanan kami, termasuk teknologi pembelajaran mesin."
Obrolan yang Ditinjau Disimpan Hingga Tiga Tahun
Aturan retensi lebih dari yang diperkirakan sebagian besar pengguna. Menurut halaman bantuan Google, obrolan yang ditinjau oleh peninjau manusia — bersama dengan data terkait seperti bahasa, jenis perangkat, informasi lokasi, dan masukan — "tidak dihapus saat Anda menghapus aktivitas Anda. Sebaliknya, obrolan tersebut disimpan hingga tiga tahun." Google mengatakan data yang ditinjau terputus dari akun pengguna sebelum disimpan, namun percakapan itu sendiri tetap ada di sistem Google lama setelah pengguna menekan tombol hapus.
Google mengatakan pihaknya mengambil langkah-langkah untuk melindungi privasi pengguna dalam proses ini, termasuk mengaitkan obrolan yang ditinjau dengan pengidentifikasi acak, bukan akun. Namun, dokumentasi memperjelas batasannya: penghapusan mengontrol apa yang muncul di umpan aktivitas Anda, bukan apa yang disimpan Google dari obrolan yang telah ditarik oleh peninjau manusia untuk dievaluasi.
Cara Sebenarnya Memilih Keluar
Pilihan untuk tidak ikut serta memang ada, namun ini adalah perdagangan. Menonaktifkan setelan "Simpan Aktivitas" akan menghapus chat Anda dari penggunaan pelatihan — Halaman Google mengonfirmasi bahwa pelatihan hanya berlaku jika setelan tersebut aktif. Biayanya tergantung pada fungsionalitas: jika Pertahankan Aktivitas dinonaktifkan, obrolan dengan akun Anda hanya dipertahankan selama 72 jam, dan Google hanya menggunakan obrolan 24 jam terakhir sebagai konteks untuk pertanyaan lanjutan. Obrolan sementara menawarkan pengaturan serupa.
Pengguna juga dapat memperpendek jangka waktu retensi default dari 18 bulan menjadi 3 bulan atau 36 bulan, atau mengaturnya menjadi tidak terbatas, dan dapat menghapus setiap obrolan kapan saja. Namun, tidak satu pun dari pilihan tersebut yang mengubah kebijakan pelatihan saat riwayat aktif — dan waktu 72 jam dimulai pada setiap percakapan saat riwayat dinonaktifkan.
Berbayar Bukan Berarti Pribadi
Reaksi terhadap Hacker News berpusat pada asumsi yang salah: bahwa membayar langganan AI akan mengubah pengaturan data. Dalam perangkat lunak konsumen, asumsi tersebut sudah lama lemah — namun kasus Gemini penting karena jalur pelatihan berlaku untuk akun pribadi di seluruh tingkatan berbayar, dan karena retensi obrolan yang ditinjau diukur dalam hitungan tahun, bukan bulan.
Perlu diperhatikan apa yang tidak dilakukan Google. Perusahaan menyatakan bahwa Gemini tidak melatih model AI generatif secara langsung di kotak masuk Gmail Anda, Drive, Kontak, Kalender, atau konten Ruang Kerja lainnya — data tersebut memerlukan koneksi eksplisit melalui Aplikasi Terhubung, yang kemudian tunduk pada kebijakan pelatihan dan peninjauan manusia mereka sendiri. Dan akun Workspace dan perusahaan beroperasi dengan persyaratan yang berbeda dari aplikasi konsumen Gemini, perbedaan yang telah dibuat Google dalam kontroversi privasi sebelumnya.
Masalah Kepercayaan yang Lebih Luas
Waktunya tidak tepat bagi Google. Perusahaan ini bersaing keras demi kepercayaan konsumen — mendorong deteksi penipuan ke dalam Pesan dan Panggilan Android, dan memasarkan perlindungan privasi pada perangkat kerasnya. Sementara itu, produk AI yang paling banyak digunakan melatih hal-hal biasa dan tidak dijaga yang diketik orang ke dalam kotak obrolan, dengan peninjau manusia dapat membaca sebagian dari hal-hal tersebut dan bagian yang ditinjau disimpan hingga tiga tahun.
Peneliti privasi telah lama menyarankan agar orang memperlakukan percakapan chatbot sebagai percakapan semi-publik secara default. Utas minggu ini menjadikan saran tersebut nyata bagi pengguna berbayar Gemini: pengaturan yang melindungi percakapan Anda dinonaktifkan secara default, pengaturan yang melatih percakapan tersebut aktif, dan satu-satunya jalan keluar yang sepenuhnya efektif - obrolan sementara atau riwayat yang dinonaktifkan - harus dibayar dengan harga memori produk.
Dokumentasi Google tidak disembunyikan, dan tidak ada yang salah di dalamnya. Kendalanya adalah bahwa membacanya adalah tugas pengguna — dan, seperti yang disarankan oleh ratusan komentar yang mendapat suara positif, sebagian besar pengguna berasumsi bahwa biaya berlanggananlah yang melakukan hal tersebut untuk mereka.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
