Apple diam-diam telah menulis ulang salah satu komitmen privasinya yang paling menonjol. Di bawah iOS 27, perusahaan dapat menyimpan interaksi penuh Siri dan dikte pengguna — termasuk rekaman audio itu sendiri — dan menggunakannya untuk melatih model kecerdasan buatan di belakang Siri, seperti yang pertama kali dilaporkan oleh publikasi teknologi Jerman Heise Online.
Perubahan tersebut mengakhiri posisi yang telah dinyatakan Apple dengan tegas: bahwa data pribadi pengguna tidak akan pernah digunakan untuk melatih model dasar AI-nya. For more context on this story, see our ongoing breaking AI news.
Apa Kata Kebijakan Baru
Bahasa yang diperbarui muncul dalam kebijakan privasi yang terdapat dalam versi pra-rilis final iOS 27, yang dikirimkan ke publik pada hari Senin, 14 September. Menurut kebijakan tersebut, Apple dapat "menyimpan seluruh interaksi Anda dengan Siri dan fungsi dikte, termasuk data audio dan transkrip permintaan Siri yang Anda ketik dan ucapkan, serta tanggapan Siri."
Apple menekankan bahwa data tersebut tidak ditautkan ke Akun Apple pengguna, dan menyatakan bahwa pihaknya “mengambil langkah-langkah untuk memastikan bahwa data pribadi tidak disimpan atau digunakan oleh Apple” – sebuah formulasi yang tidak sesuai dengan izin yang dijelaskan di dalamnya. Beberapa data yang dikumpulkan mungkin ditinjau oleh apa yang disebut kebijakan hanya sebagai "personel peninjau", dengan materi audio yang didengarkan secara eksklusif oleh karyawan Apple.
Perusahaan membingkai program sebagai keikutsertaan. Saat pengguna mengaktifkan Siri AI, sebuah dialog meminta mereka untuk membantu meningkatkan asisten, dan pengembang yang memiliki akses ke kandidat rilis melaporkan bahwa opsi penolakan mudah untuk dilewatkan: tombol "Jangan sekarang" yang secara visual tidak mencolok di layar yang tidak dapat ditutup sepenuhnya. Pengguna yang ikut serta dapat membalikkan pilihannya nanti di bawah Pengaturan, lalu Analisis & Peningkatan.
Pengeditan Tenang pada Janji Tanda Tangan
Perubahan kebijakan didahului dengan perubahan yang lebih tenang. Pedoman yang diterbitkan Apple tentang AI yang bertanggung jawab sebelumnya menyatakan, dalam kalimat lengkap, bahwa “data pribadi dan interaksi pribadi Anda tidak pernah digunakan untuk melatih model dasar kami.” Akhiran definitif kalimat tersebut telah dihapus dan diganti dengan peringatan: "kecuali Anda secara eksplisit memilih untuk membantu memperbaikinya."
Revisi ini lebih penting daripada kata-katanya, karena bertentangan dengan arsitektur yang telah dipasarkan Apple selama dua tahun. Private Cloud Compute, sistem server di belakang Siri AI dan sebagian besar fitur Apple Intelligence, dijual dengan janji tertentu: cloud AI yang menangani permintaan secara pribadi seperti model di perangkat, dengan data pengguna tidak pernah disimpan dalam jangka panjang atau diekspos ke pihak ketiga. Menggunakan rekaman Siri sebagai materi pelatihan — dan, untuk pertama kalinya di iOS 27, merutekan beberapa permintaan Private Cloud Compute melalui server Google — menjanjikan hal yang lebih mirip dengan perilaku asisten cloud yang pernah ditentang oleh Apple.
Perangkat Keras yang Selalu Mendengarkan Meningkatkan Taruhannya
Waktunya tidak tepat karena alasan kedua. Selain iPhone terbarunya, Apple minggu ini memperkenalkan dua model Apple Watch yang dirancang untuk mendengarkan terus menerus. Perangkat tersebut dapat menghasilkan transkrip percakapan lima belas detik sebelumnya sesuai permintaan, ditambah "Rekap Siri" harian yang merangkum percakapan pemakainya — sebuah fitur yang menurut Apple juga berjalan di Private Cloud Compute.
Mikrofon yang selalu aktif memberi asisten yang sekarang dapat mempertahankan interaksi untuk pelatihan model adalah kombinasi yang telah diperingatkan oleh para pendukung privasi, dan hal ini berasal dari perusahaan yang membangun pemasaran modernnya dengan menolak melakukan hal ini.
Gema Skandal Penilaian Siri 2019
Apple pernah ke sini sebelumnya. Pada tahun 2019, perusahaan mengalami kontroversi privasi yang paling merugikan ketika kontraktor yang dipekerjakan oleh subkontraktor menjelaskan pekerjaan mereka menilai rekaman audio Siri – cuplikan yang sering kali berisi percakapan intim, informasi medis, dan detail pribadi lainnya, ditangani di bawah kendali yang longgar. Apple menangguhkan program tersebut, meminta maaf, dan kemudian memperkenalkan kembali tinjauan manusia sebagai fitur keikutsertaan dengan perlindungan yang lebih ketat.
Kebijakan baru ini melanjutkan pengumpulan data dengan cakupan yang lebih luas – interaksi penuh daripada sampel klip audio, transkrip di samping rekaman, dan tujuan pelatihan eksplisit – sambil mengandalkan mekanisme izin serupa yang akan dilewati banyak pengguna tanpa membaca.
Apa yang Terjadi Selanjutnya
Regulator di Eropa dan Amerika Serikat telah berulang kali meneliti bagaimana dialog persetujuan untuk pelatihan AI disajikan, dan layar keikutsertaan dengan tombol setuju yang menonjol dan opsi penolakan dengan kontras rendah adalah jenis desain yang menarik perhatian tersebut. Untuk saat ini, posisi Apple adalah bahwa data tetap berada di dalam sistemnya sendiri, dipisahkan dari identitas pengguna, dan hanya ditinjau berdasarkan aturan khusus karyawan.
Pergeseran yang lebih dalam ini bersifat strategis. Melatih model AI yang kompetitif memerlukan data percakapan berkualitas tinggi dalam jumlah besar, dan Apple – yang memasuki persaingan AI modern lebih lambat dibandingkan para pesaingnya – tampaknya telah memutuskan bahwa sumber daya paling berharga yang belum dimanfaatkan adalah ratusan juta percakapan Siri yang terjadi setiap hari. Perusahaan yang pernah menjadikan privasi sebagai alasan untuk membeli iPhone telah menyimpulkan bahwa mereka tidak mampu lagi membiarkan data tersebut di atas meja. Apakah pengguna setuju untuk menyerahkannya, satu tombol "Jangan sekarang" pada satu waktu, akan menentukan berapa banyak yang didapat Apple.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
