Apple zieht eine harte Linie gegenüber KI-Begleitern und Dating-Apps auf seiner Plattform. In einer Ankündigung an die Entwickler am Montag teilte das Unternehmen mit, dass es die App Store-Richtlinien anpasst, um Minderjährigen den Zugriff auf Online-Dating-Apps oder KI-Begleit-Apps mit sexuellen oder romantischen Inhalten zu erschweren – und ab dem 16. November müssen Entwickler neue Inhaltsbeschreibungen einreichen, damit die Altersfreigaben ihrer Apps ihre Funktionen genau widerspiegeln.
Das Ergebnis: Jede App, die Dating- oder romantische Beziehungsfunktionen anbietet, muss jetzt eine Altersfreigabe von 18+ haben. Dabei geht es nicht nur um die offensichtlichen Dating-Dienste, die sich in der Regel bereits auf Erwachsene beschränken, sondern auch auf die schnell wachsende Kategorie der KI-Begleit-Apps – und hier greift die neue Richtlinie am härtesten. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.
Warum AI Companion Apps das eigentliche Ziel sind
KI-Begleit-Apps werden häufig an jüngere Benutzer vermarktet. Mit Character.AI, Replika und ähnlichen Diensten können Menschen KI-Freunde, Liebhaber, Freunde und Freundinnen sowie Fantasy-Charaktere erstellen und so die Grenze zwischen Chatbot und Beziehung verwischen. TechCrunch stellte fest, dass die Top-KI-Begleit-Apps im Apple App Store und bei Google Play bis zum letzten Sommer weltweit 220 Millionen Mal heruntergeladen wurden – eine Größenordnung, die sie zu einem Brennpunkt der Debatten über die Sicherheit von Kindern gemacht hat.
Die größten Namen der Kategorie wurden bereits einer genauen Prüfung unterzogen, wie Minderjährige mit romantischen KI-Persönlichkeiten interagieren. Das neue Inhaltsbeschreibungssystem soll diese Funktionen im App-Eintrag selbst sichtbar machen, sodass Eltern und Alterssicherungssysteme sie herausfiltern können. Grok von xAI, das letztes Jahr 3D-animierte KI-Begleiter mit freischaltbaren NSFW-Funktionen auf den Markt brachte, zeigt, warum Apple die Regeln formalisiert: Funktionen, die zunächst spielerisch sind, können zu Inhalten für Erwachsene werden, ohne dass sich die Bewertung einer App ändert.
Wie das neue System funktioniert
Ab dem 16. November müssen Entwickler bei der Einreichung von Apps die neuen Inhaltsbeschreibungen angeben, um sicherzustellen, dass Altersfreigaben widerspiegeln, was eine App tatsächlich tut und nicht, was in ihrem Marketing behauptet wird. Apple sagte, dass Apps, die Dating- und romantische Beziehungsfunktionen anbieten, durchweg eine Altersfreigabe von 18+ benötigen.
Diese Anforderung reicht weiter, als es zunächst erscheinen mag. Die meisten großen Dating-Dienste beschränken ihre Plattformen bereits auf Erwachsene, aber die Richtlinie von Apple schreibt jetzt die Altersfreigabe 18+ für jede App mit Dating- oder Liebesbeziehungsfunktionen vor – einschließlich der kleineren Dienste, die zuvor auf selbst gemeldeten Altersgrenzen beruhten, und KI-Chatbots, deren Begleitfunktionen zu Apps hinzugefügt wurden, die ursprünglich für andere Zwecke ins Leben gerufen wurden.
Der Politikwechsel geht auch über die Romantik hinaus. Apps müssen nun im Rahmen ihrer Funktionalität angeben, wann sie den realen Standort eines Benutzers mit einer anderen Person oder Gruppe teilen – eine Offenlegung, die darauf abzielt, Datenschutzrisiken zu begegnen, wenn die Standortfreigabe innerhalb einer sozialen Funktion verborgen ist. Apple hat auf eine lokale Ausnahme hingewiesen: In Brasilien können Familien-Apps zur Standortfreigabe im Einklang mit den örtlichen Gesetzen anstelle der standardmäßigen A16-Bewertung eine offizielle Bewertung vom Ministerium für Justiz und öffentliche Sicherheit der Regierung beantragen.
Teil einer umfassenderen Kindersicherheitsoffensive
Die Änderung ist wichtig, da die Kindersicherungstools von Apple auf Altersfreigaben reagieren. Das Unternehmen hat weltweit Alterssicherungstechnologien sowie erweiterte Kindersicherungs- und Kindersicherheitsfunktionen eingeführt. Diese Systeme basieren auf genauen Bewertungen, um zu filtern, was Minderjährige herunterladen können. Indem Apple von Entwicklern verlangt, explizit romantische oder sexuelle Funktionen anzugeben, schließt es den Raum, in dem eine App eine jugendfreundliche Einstufung erhalten könnte, während sich ihre KI-Charaktere wie romantische Partner verhielten.
Die neuen Regeln sind die jüngsten in einer Reihe von Änderungen, die Apple zum Schutz Minderjähriger vorgenommen hat. Zusammen markieren sie einen Wandel in der App Store-Governance: Anstatt sich darauf zu verlassen, dass Entwickler selbst angemessene Altersangaben angeben, verlangt Apple zunehmend detaillierte Offenlegungen und erzwingt Bewertungen, die der Funktionalität entsprechen.
Für KI-Unternehmen ist der Zeitpunkt von entscheidender Bedeutung. Aufsichtsbehörden in mehreren US-Bundesstaaten sind dazu übergegangen, Chatbot-Anbietern eigene Verpflichtungen aufzuerlegen, insbesondere in Bezug auf Minderjährige und romantische oder sexuelle Rollenspiele. Indem Apple eine Mindestbewertung von 18 für Begleit-Apps vorschreibt, kommt Apple dieser Debatte auf seiner eigenen Plattform effektiv zuvor – und legt die Compliance-Messlatte für eine Kategorie höher, die schneller gewachsen ist als die Sicherheitsinfrastruktur.
Was Entwickler tun müssen
Entwickler mit Dating-Funktionen oder KI-Begleitfunktionen in ihren Apps haben bis zum 16. November Zeit, die neuen Inhaltsdeskriptoren einzureichen. Apps, die romantische oder sexuelle Funktionen hinzufügen, ohne dass eine aktualisierte Bewertung erforderlich ist, werden entfernt oder Bewertungsänderungen in App Review erzwungen. Die Standortfreigabefunktion muss auf die gleiche Weise offengelegt werden. Für den KI-Companion-Sektor, der von gelegentlichen, unkomplizierten Anmeldungen lebt, verändert eine Einstufung nur für Erwachsene die Zielgruppe – und, so würden Kritiker argumentieren, gleicht das Produkt endlich seine Risiken aus.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
