Apple mengambil garis keras terhadap pendamping AI dan aplikasi kencan di platformnya. Dalam pengumuman kepada pengembang pada hari Senin, perusahaan tersebut mengatakan bahwa mereka sedang menyesuaikan kebijakan App Store untuk mempersulit anak di bawah umur untuk mengakses aplikasi kencan online atau aplikasi pendamping AI yang terlibat dalam konten seksual atau romantis – dan mulai 16 November, pengembang akan diminta untuk mengajukan deskriptor konten baru sehingga peringkat usia aplikasi mereka mencerminkan fitur mereka secara akurat.
Hasilnya: aplikasi apa pun yang menawarkan fitur kencan atau hubungan romantis kini harus memiliki peringkat 18+. Hal ini tidak hanya mencakup layanan kencan yang sudah jelas, yang biasanya hanya diperuntukkan bagi orang dewasa, namun juga kategori aplikasi pendamping AI yang berkembang pesat – dan di sinilah kebijakan baru ini memberikan dampak yang paling parah. For more context on this story, see our ongoing latest AI developments.
Mengapa Aplikasi Pendamping AI Menjadi Target Sebenarnya
Aplikasi pendamping AI sering kali dipasarkan kepada pengguna muda. Character.AI, Replika, dan layanan serupa memungkinkan orang membuat teman, kekasih, pacar, dan karakter fantasi AI, sehingga mengaburkan batas antara chatbot dan hubungan. TechCrunch mencatat bahwa pada musim panas lalu, aplikasi pendamping AI teratas di Apple App Store dan Google Play telah diunduh 220 juta kali secara global – sebuah skala yang menjadikannya titik fokus perdebatan mengenai keselamatan anak.
Nama-nama terbesar dalam kategori ini telah menghadapi pengawasan ketat atas bagaimana anak di bawah umur berinteraksi dengan persona AI yang romantis. Sistem deskriptor konten baru dirancang untuk menampilkan fitur-fitur tersebut dalam daftar aplikasi itu sendiri, sehingga orang tua dan sistem jaminan usia dapat menyaringnya. Grok dari xAI, yang meluncurkan pendamping AI animasi 3D tahun lalu dengan kemampuan NSFW yang tidak dapat dibuka, menggambarkan alasan Apple meresmikan aturan tersebut: fitur yang awalnya lucu dapat berubah menjadi konten dewasa tanpa perubahan apa pun pada peringkat aplikasi.
Cara Kerja Sistem Baru
Mulai tanggal 16 November, pengembang harus menyertakan deskriptor konten baru saat mengirimkan aplikasi, untuk memastikan bahwa peringkat usia mencerminkan apa yang sebenarnya dilakukan aplikasi dan bukan apa yang diklaim pemasarannya. Apple mengatakan aplikasi yang menawarkan fitur kencan dan hubungan romantis akan membutuhkan peringkat 18+ secara keseluruhan.
Persyaratan tersebut menjangkau lebih jauh dari apa yang terlihat pada pandangan pertama. Sebagian besar layanan kencan besar sudah membatasi platform mereka untuk orang dewasa, namun kebijakan Apple kini mewajibkan peringkat 18+ untuk setiap aplikasi dengan fitur kencan atau hubungan romantis — termasuk layanan kecil yang sebelumnya mengandalkan gerbang usia yang dilaporkan sendiri, dan chatbot AI yang fitur pendampingnya ditambahkan ke aplikasi yang memulai kehidupan dengan tujuan lain.
Perubahan kebijakan ini juga tidak hanya mencakup masalah percintaan. Aplikasi sekarang perlu menunjukkan kapan mereka membagikan lokasi pengguna di dunia nyata dengan orang atau grup lain sebagai bagian dari fungsinya — sebuah pengungkapan yang dirancang untuk mengatasi risiko privasi ketika berbagi lokasi disembunyikan di dalam fitur sosial. Apple menandai satu keputusan lokal: di Brasil, aplikasi berbagi lokasi keluarga dapat meminta peringkat resmi dari Kementerian Kehakiman dan Keamanan Publik pemerintah, bukan peringkat standar A16, sesuai dengan hukum setempat.
Bagian dari Dorongan Keselamatan Anak yang Lebih Luas
Perubahan ini penting karena peringkat usia adalah hal yang menjadi dasar tindakan alat orang tua Apple. Perusahaan ini telah meluncurkan teknologi jaminan usia secara global bersamaan dengan perluasan kontrol orang tua dan fitur keselamatan anak, dan sistem tersebut mengandalkan peringkat yang akurat untuk menyaring apa yang dapat diunduh oleh anak di bawah umur. Dengan mewajibkan pengembang untuk menyatakan fungsi romantis atau seksual secara eksplisit, Apple menutup ruang di mana sebuah aplikasi dapat memiliki peringkat ramah remaja sementara karakter AI-nya berperilaku seperti pasangan romantis.
Aturan baru ini merupakan yang terbaru dari serangkaian perubahan yang dilakukan Apple untuk melindungi anak di bawah umur. Bersama-sama, hal ini menandai perubahan dalam tata kelola App Store: alih-alih mengandalkan pengembang untuk menyatakan sendiri usia yang sesuai, Apple semakin mewajibkan pengungkapan yang terperinci dan menerapkan peringkat yang sesuai dengan fungsionalitas.
Bagi perusahaan AI, waktunya sangatlah penting. Regulator di beberapa negara bagian AS telah menerapkan kewajiban mereka sendiri pada penyedia chatbot, khususnya terkait anak di bawah umur dan permainan peran romantis atau seksual. Dengan mewajibkan peringkat 18+ untuk aplikasi pendamping, Apple secara efektif mencegah perdebatan tersebut di platformnya sendiri — dan meningkatkan standar kepatuhan untuk kategori yang tumbuh lebih cepat dibandingkan infrastruktur keselamatannya.
Yang Perlu Dilakukan Pengembang
Pengembang yang memiliki fitur kencan atau fungsi pendamping AI di aplikasinya memiliki waktu hingga 16 November untuk mengajukan deskriptor konten baru. Aplikasi yang menambahkan fitur romantis atau seksual tanpa pembaruan rating akan dikenakan penghapusan atau perubahan rating yang dipaksakan dalam Tinjauan Aplikasi. Fungsi berbagi lokasi harus diungkapkan dengan cara yang sama. Untuk sektor pendamping AI, yang berkembang pesat dengan pendaftaran yang santai dan tidak banyak hambatan, rating khusus dewasa akan mengubah audiens yang dapat dituju – dan, menurut para pengkritiknya, pada akhirnya mencocokkan produk dengan risikonya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
