Apple melukis garis keras di sekitar rakan AI dan aplikasi temu janji pada platformnya. Dalam satu pengumuman kepada pembangun pada hari Isnin, syarikat itu berkata ia sedang melaraskan dasar App Store untuk menyukarkan lagi kanak-kanak bawah umur untuk mengakses apl dating dalam talian atau apl pendamping AI yang terlibat dalam kandungan seksual atau romantis — dan mulai 16 November, pembangun akan dikehendaki memfailkan deskriptor kandungan baharu supaya penilaian umur apl mereka mencerminkan ciri mereka dengan tepat.
Hasilnya: mana-mana apl yang menawarkan ciri temu janji atau perhubungan romantik kini mesti mempunyai rating 18+. Itu bukan sahaja merangkumi perkhidmatan temu janji yang jelas, yang biasanya telah mengehadkan diri mereka kepada orang dewasa, tetapi kategori apl pendamping AI yang berkembang pesat — dan di situlah dasar baharu itu paling sukar. For more context on this story, see our ongoing more AI stories.
Mengapa Aplikasi AI Companion Menjadi Sasaran Sebenar
Apl pendamping AI sering dipasarkan kepada pengguna yang lebih muda. Character.AI, Replika dan perkhidmatan yang serupa membolehkan orang ramai mencipta rakan AI, kekasih, teman lelaki dan teman wanita serta watak fantasi, mengaburkan garis antara chatbot dan hubungan. TechCrunch menyatakan bahawa pada musim panas lalu, apl pendamping AI teratas merentas Apple App Store dan Google Play telah dimuat turun sebanyak 220 juta kali di seluruh dunia — skala yang telah mengubahnya menjadi titik fokus perdebatan keselamatan kanak-kanak.
Nama-nama terbesar kategori itu telah pun menghadapi penelitian tentang cara kanak-kanak di bawah umur berinteraksi dengan persona AI yang romantis. Sistem deskriptor kandungan baharu direka bentuk untuk memaparkan ciri tersebut dalam penyenaraian apl itu sendiri, jadi ibu bapa dan sistem jaminan umur boleh menapisnya. Grok xAI, yang melancarkan rakan AI animasi 3D tahun lepas dengan keupayaan NSFW yang boleh dibuka kunci, menggambarkan sebab Apple memformalkan peraturan: ciri-ciri yang bermula sebagai suka bermain boleh menjadi kandungan dewasa tanpa sebarang perubahan pada penilaian aplikasi.
Bagaimana Sistem Baharu Berfungsi
Mulai 16 November, pembangun mesti menyertakan deskriptor kandungan baharu semasa menyerahkan apl, memastikan penilaian umur mencerminkan perkara yang sebenarnya dilakukan oleh apl dan bukannya dakwaan pemasarannya. Apple berkata aplikasi yang menawarkan ciri temu janji dan perhubungan romantis memerlukan penilaian 18+ secara keseluruhan.
Keperluan itu menjangkau lebih jauh daripada yang mungkin pertama kali muncul. Kebanyakan perkhidmatan temu janji utama sudah mengehadkan platform mereka kepada orang dewasa, tetapi dasar Apple kini mewajibkan penilaian 18+ untuk setiap apl dengan ciri temu janji atau perhubungan romantis — termasuk perkhidmatan yang lebih kecil yang sebelum ini bergantung pada gerbang umur yang dilaporkan sendiri, dan bot sembang AI yang ciri pasangannya telah ditambahkan pada apl yang memulakan kehidupan dengan tujuan lain.
Perubahan dasar juga melangkaui percintaan. Apl kini perlu menunjukkan apabila mereka berkongsi lokasi dunia sebenar pengguna dengan orang atau kumpulan lain sebagai sebahagian daripada fungsi mereka — pendedahan yang direka untuk menangani risiko privasi apabila perkongsian lokasi disembunyikan dalam ciri sosial. Apple membenderakan satu ukiran tempatan: di Brazil, apl perkongsian lokasi keluarga boleh meminta penarafan rasmi daripada Kementerian Kehakiman dan Keselamatan Awam kerajaan dan bukannya penilaian A16 standard, selaras dengan undang-undang tempatan.
Sebahagian daripada Tolak Keselamatan Kanak-kanak yang Lebih Luas
Perubahan itu penting kerana penarafan umur ialah alat ibu bapa Apple bertindak. Syarikat itu telah melancarkan teknologi jaminan umur secara global bersama kawalan ibu bapa yang diperluas dan ciri keselamatan kanak-kanak, dan sistem tersebut bergantung pada penilaian yang tepat untuk menapis perkara yang boleh dimuat turun oleh kanak-kanak di bawah umur. Dengan menghendaki pembangun mengisytiharkan fungsi romantis atau seksual secara eksplisit, Apple menutup ruang di mana aplikasi boleh membawa penilaian mesra remaja manakala watak AInya berkelakuan seperti pasangan romantis.
Peraturan baharu itu adalah yang terbaharu dalam siri perubahan yang dibuat Apple untuk melindungi kanak-kanak di bawah umur. Bersama-sama, mereka menandakan peralihan dalam tadbir urus App Store: daripada bergantung pada pembangun untuk mengisytiharkan sendiri umur yang sesuai, Apple semakin memerlukan pendedahan terperinci dan menguatkuasakan penilaian yang sepadan dengan fungsi.
Bagi syarikat AI, masa adalah penting. Pengawal selia di beberapa negeri AS telah bergerak untuk mengenakan kewajipan mereka sendiri ke atas penyedia bot sembang, terutamanya di kalangan kanak-kanak bawah umur dan lakonan romantis atau seksual. Dengan memerlukan 18+ penilaian untuk apl pendamping, Apple secara berkesan mendahului sebahagian daripada perdebatan itu pada platformnya sendiri — dan meningkatkan bar pematuhan untuk kategori yang berkembang lebih pantas daripada infrastruktur keselamatannya.
Perkara Yang Pembangun Perlu Lakukan
Pembangun dengan ciri temu janji atau fungsi pendamping AI dalam apl mereka mempunyai masa sehingga 16 November untuk memfailkan deskriptor kandungan baharu. Apl yang menambah ciri romantis atau seksual tanpa penilaian yang dikemas kini menghadapi penyingkiran atau perubahan penilaian paksa dalam Semakan Apl. Fungsi perkongsian lokasi mesti didedahkan dengan cara yang sama. Bagi sektor pendamping AI, yang telah berkembang maju dalam pendaftaran kasual, geseran rendah, penilaian dewasa sahaja mengubah khalayak yang boleh ditangani - dan, pengkritiknya akan berpendapat, akhirnya memadankan produk dengan risikonya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
