Apple drar en hård linje kring AI-kompanjoner och dejtingappar på sin plattform. I ett tillkännagivande till utvecklare på måndagen sa företaget att det justerar App Store-policyerna för att göra det svårare för minderåriga att komma åt onlinedejtingappar eller AI-kompanjonsappar som engagerar sig i sexuellt eller romantiskt innehåll – och från och med den 16 november kommer utvecklare att behöva lämna in nya innehållsbeskrivningar så att deras appars åldersklassificeringar exakt återspeglar deras funktioner.
Resultatet: alla appar som erbjuder funktioner för dejting eller romantiska relationer måste nu ha ett betyg på 18+. Det täcker inte bara de uppenbara dejtingtjänsterna, som vanligtvis redan begränsar sig till vuxna, utan den snabbt växande kategorin av AI-kompanjonsappar - och det är där den nya policyn biter hårdast. For more context on this story, see our ongoing AI industry coverage.
Varför AI Companion-appar är det verkliga målet
AI-kompanjonsappar marknadsförs ofta mot yngre användare. Character.AI, Replika och liknande tjänster låter människor skapa AI-vänner, älskare, pojkvänner och flickvänner, och fantasikaraktärer, vilket suddar ut gränsen mellan chatbot och relation. TechCrunch noterade att från och med förra sommaren hade de bästa AI-kompanjonsapparna i Apple App Store och Google Play laddats ner 220 miljoner gånger globalt – en skala som har förvandlat dem till en samlingspunkt för debatter om barnsäkerhet.
Kategoriens största namn har redan ställts inför granskning över hur minderåriga interagerar med romantiska AI-personligheter. Det nya innehållsdeskriptorsystemet är utformat för att visa dessa funktioner i själva applistan, så att föräldrar och åldersförsäkringssystem kan filtrera bort dem. xAI:s Grok, som lanserade 3D-animerade AI-kompanjoner förra året med upplåsbara NSFW-funktioner, illustrerar varför Apple formaliserar reglerna: funktioner som börjar som lekfulla kan skuggas in i vuxet innehåll utan någon förändring av en apps betyg.
Hur det nya systemet fungerar
Från och med den 16 november måste utvecklare inkludera de nya innehållsbeskrivningarna när de skickar in appar, för att säkerställa att åldersklassificeringarna återspeglar vad en app faktiskt gör snarare än vad dess marknadsföring påstår. Apple sa att appar som erbjuder dejting och romantiska relationsfunktioner kommer att behöva ett betyg på 18+ över hela linjen.
Det kravet sträcker sig längre än det kanske först verkar. De flesta större dejtingtjänster begränsar redan sina plattformar till vuxna, men Apples policy gör nu betyget 18+ obligatoriskt för varje app med funktioner för dejting eller romantiska relationer – inklusive de mindre tjänsterna som tidigare förlitade sig på självrapporterade åldersgränser och AI-chatbotar vars följeslagare lades till appar som startade livet med andra syften.
Policyändringen sträcker sig också bortom romantik. Appar kommer nu att behöva indikera när de delar en användares verkliga plats med en annan person eller grupp som en del av deras funktionalitet – ett avslöjande utformat för att ta itu med integritetsrisker när platsdelning är dold i en social funktion. Apple flaggade en lokal avvikelse: i Brasilien kan appar för familjeplacering begära ett officiellt betyg från regeringens ministerium för justitie och allmän säkerhet istället för standard A16-betyget, i linje med lokal lag.
Del av en bredare satsning på barnsäkerhet
Förändringen är viktig eftersom åldersklassificeringar är vad Apples föräldraverktyg agerar på. Företaget har rullat ut åldersförsäkringsteknologi globalt tillsammans med utökade föräldrakontroller och barnsäkerhetsfunktioner, och dessa system förlitar sig på korrekta betyg för att filtrera vad minderåriga kan ladda ner. Genom att kräva att utvecklare uttryckligen deklarerar romantisk eller sexuell funktionalitet, stänger Apple utrymmet där en app kan ha ett tonårsvänligt betyg medan dess AI-karaktärer betedde sig som romantiska partners.
De nya reglerna är de senaste i en rad ändringar som Apple har gjort för att skydda minderåriga. Tillsammans markerar de ett skifte i App Store-styrningen: istället för att förlita sig på att utvecklare själv deklarerar lämpliga åldrar, kräver Apple i allt högre grad detaljerade avslöjanden och upprätthåller betyg som matchar funktionalitet.
För AI-företag är timingen betydande. Tillsynsmyndigheter i flera amerikanska delstater har rört på sig för att införa sina egna skyldigheter för chatbot-leverantörer, särskilt kring minderåriga och romantiska eller sexuella rollspel. Genom att kräva 18+ betyg för medföljande appar föregriper Apple effektivt en del av den debatten på sin egen plattform – och höjer efterlevnadsribban för en kategori som växte snabbare än dess säkerhetsinfrastruktur.
Vad utvecklare behöver göra
Utvecklare med dejtingfunktioner eller AI-kompanjonsfunktion i sina appar har fram till den 16 november på sig att lämna in de nya innehållsbeskrivningarna. Appar som lägger till romantiska eller sexuella drag utan en uppdaterad klassificering tas bort eller tvingas ändra betyg i appgranskning. Funktionalitet för platsdelning måste avslöjas på samma sätt. För AI-kompanjonssektorn, som har frodats av tillfälliga registreringar med låg friktion, ändrar ett betyg endast för vuxna den adresserbara publiken – och, skulle dess kritiker hävda, matchar produkten till dess risker.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
