Apple trekt een harde grens rond AI-metgezellen en dating-apps op zijn platform. In een aankondiging aan ontwikkelaars op maandag zei het bedrijf dat het het App Store-beleid aanpast om het voor minderjarigen moeilijker te maken om toegang te krijgen tot online dating-apps of AI-begeleidende apps die zich bezighouden met seksuele of romantische inhoud - en vanaf 16 november zullen ontwikkelaars verplicht zijn om nieuwe inhoudsbeschrijvingen in te dienen, zodat de leeftijdsclassificaties van hun apps de kenmerken ervan nauwkeurig weerspiegelen.

Het resultaat: elke app die dating- of romantische relatiefuncties aanbiedt, moet nu een beoordeling van 18+ hebben. Dat omvat niet alleen de voor de hand liggende datingservices, die zich doorgaans al beperken tot volwassenen, maar ook de snelgroeiende categorie van AI-begeleidende apps – en dat is waar het nieuwe beleid het hardst bijt. Voor meer context over dit verhaal, zie ons meer AI-verhalen.

Waarom AI Companion-apps het echte doelwit zijn

AI-begeleidende apps worden vaak op de markt gebracht voor jongere gebruikers. Met Character.AI, Replika en soortgelijke diensten kunnen mensen AI-vrienden, geliefden, vriendjes en vriendinnetjes en fantasiekarakters creëren, waardoor de grens tussen chatbot en relatie vervaagt. TechCrunch merkte op dat de beste AI-begeleidende apps in de Apple App Store en Google Play sinds afgelopen zomer wereldwijd 220 miljoen keer zijn gedownload – een schaal die ze tot een brandpunt van debatten over de veiligheid van kinderen heeft gemaakt.

De grootste namen uit de categorie zijn al onder de loep genomen over de manier waarop minderjarigen omgaan met romantische AI-persona's. Het nieuwe contentdescriptorsysteem is ontworpen om deze functies in de app-lijst zelf weer te geven, zodat ouders en leeftijdsverzekeringssystemen ze eruit kunnen filteren. Grok van xAI, dat vorig jaar 3D-geanimeerde AI-compagnons lanceerde met ontgrendelbare NSFW-mogelijkheden, illustreert waarom Apple de regels formaliseert: functies die als speels beginnen, kunnen overgaan in inhoud voor volwassenen zonder enige verandering in de beoordeling van een app.

Hoe het nieuwe systeem werkt

Vanaf 16 november moeten ontwikkelaars de nieuwe inhoudsbeschrijvingen opnemen bij het indienen van apps, zodat leeftijdsclassificaties weerspiegelen wat een app daadwerkelijk doet en niet wat de marketing beweert. Apple zei dat apps die dating- en romantische relatiefuncties aanbieden, over de hele linie een beoordeling van 18+ nodig hebben.

Deze eis reikt verder dan op het eerste gezicht lijkt. De meeste grote datingservices beperken hun platforms al tot volwassenen, maar het beleid van Apple maakt de 18+-classificatie nu verplicht voor elke app met dating- of romantische relatiefuncties - inclusief de kleinere services die voorheen afhankelijk waren van zelfgerapporteerde leeftijdsgrenzen, en AI-chatbots waarvan de begeleidende functies zijn toegevoegd aan apps die met andere doeleinden zijn begonnen.

De beleidswijziging gaat ook verder dan romantiek. Apps zullen nu moeten aangeven wanneer ze de echte locatie van een gebruiker delen met een andere persoon of groep als onderdeel van hun functionaliteit - een openbaarmaking die is ontworpen om privacyrisico's aan te pakken wanneer het delen van locaties verborgen is in een sociale functie. Apple heeft één lokale uitzondering gemarkeerd: in Brazilië kunnen apps voor het delen van gezinslocaties een officiële beoordeling aanvragen bij het ministerie van Justitie en Openbare Veiligheid van de overheid in plaats van de standaard A16-beoordeling, in overeenstemming met de lokale wetgeving.

Onderdeel van een bredere push voor kinderveiligheid

De verandering is van belang omdat de ouderlijke hulpmiddelen van Apple op leeftijdsclassificaties inwerken. Het bedrijf heeft technologie voor leeftijdsgarantie wereldwijd uitgerold, naast uitgebreide functies voor ouderlijk toezicht en kinderveiligheid, en deze systemen vertrouwen op nauwkeurige beoordelingen om te filteren wat minderjarigen kunnen downloaden. Door van ontwikkelaars te eisen dat ze expliciet romantische of seksuele functionaliteit vermelden, sluit Apple de ruimte af waarin een app een tienervriendelijke beoordeling zou kunnen krijgen terwijl de AI-personages zich gedroegen als romantische partners.

De nieuwe regels zijn de laatste in een reeks wijzigingen die Apple heeft aangebracht om minderjarigen te beschermen. Samen markeren ze een verschuiving in het bestuur van de App Store: in plaats van te vertrouwen op ontwikkelaars die zelf de juiste leeftijd aangeven, eist Apple steeds meer gedetailleerde openbaarmakingen en het afdwingen van beoordelingen die overeenkomen met de functionaliteit.

Voor AI-bedrijven is de timing aanzienlijk. Regelgevers in meerdere Amerikaanse staten zijn bezig hun eigen verplichtingen op te leggen aan aanbieders van chatbots, vooral als het gaat om minderjarigen en romantische of seksuele rollenspellen. Door een beoordeling van 18+ te eisen voor begeleidende apps, loopt Apple effectief vooruit op een deel van dat debat op zijn eigen platform – en legt het de nalevingslat hoger voor een categorie die sneller groeide dan de veiligheidsinfrastructuur.

Wat ontwikkelaars moeten doen

Ontwikkelaars met datingfuncties of AI-companion-functionaliteit in hun apps hebben tot 16 november de tijd om de nieuwe inhoudsbeschrijvingen in te dienen. Apps die romantische of seksuele kenmerken toevoegen zonder een bijgewerkte beoordeling, verwijderen gezichten of gedwongen beoordelingswijzigingen in App Review. De functionaliteit voor het delen van locaties moet op dezelfde manier worden bekendgemaakt. Voor de AI-companion-sector, die gedijt op informele aanmeldingen met weinig wrijving, verandert een beoordeling voor alleen volwassenen het bereikbare publiek – en, zo zouden de critici beweren, het product eindelijk op de risico’s ervan afstemt.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →