Apple twardo kreśli linię wobec towarzyszy AI i aplikacji randkowych na swojej platformie. W poniedziałkowym oświadczeniu skierowanym do programistów firma poinformowała, że dostosowuje zasady App Store, aby utrudnić nieletnim dostęp do aplikacji randkowych online lub aplikacji towarzyszących AI, które zawierają treści o charakterze seksualnym lub romantycznym. Od 16 listopada programiści będą zobowiązani do przesyłania nowych deskryptorów treści, aby oceny wiekowe ich aplikacji dokładnie odzwierciedlały ich funkcje.
Skutek: każda aplikacja oferująca funkcje randkowe lub romantyczne relacje musi teraz mieć kategorię wiekową 18+. Dotyczy to nie tylko oczywistych usług randkowych, które zazwyczaj ograniczają się już do dorosłych, ale także szybko rozwijającą się kategorię aplikacji towarzyszących AI – i to właśnie tam nowa polityka jest najbardziej uciążliwa. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
Dlaczego aplikacje towarzyszące AI są prawdziwym celem
Aplikacje towarzyszące AI są często kierowane do młodszych użytkowników. Character.AI, Replika i podobne usługi pozwalają ludziom tworzyć przyjaciół, kochanków, chłopaków i dziewczyny oraz postacie fantasy, zacierając granicę między chatbotem a relacją. TechCrunch zauważył, że zeszłego lata najpopularniejsze aplikacje towarzyszące sztucznej inteligencji ze sklepów Apple App Store i Google Play zostały pobrane 220 milionów razy na całym świecie – a to skala, która uczyniła je centralnym punktem debat na temat bezpieczeństwa dzieci.
Największe nazwiska w tej kategorii zostały już poddane analizie pod kątem interakcji nieletnich z romantycznymi postaciami AI. Nowy system deskryptorów treści ma za zadanie wyświetlać te funkcje w samym wykazie aplikacji, aby rodzice i systemy kontroli wieku mogły je odfiltrować. Grok firmy xAI, który w zeszłym roku wypuścił na rynek animowane 3D towarzysze AI z możliwością odblokowania funkcji NSFW, pokazuje, dlaczego Apple formalizuje zasady: funkcje, które na początku są zabawne, mogą przejść w treści dla dorosłych bez zmiany oceny aplikacji.
Jak działa nowy system
Od 16 listopada programiści muszą uwzględniać nowe deskryptory treści podczas przesyłania aplikacji, upewniając się, że oceny wiekowe odzwierciedlają rzeczywiste działanie aplikacji, a nie to, co twierdzi marketing. Apple twierdzi, że aplikacje oferujące funkcje randkowe i romantyczne relacje będą musiały mieć kategorię wiekową 18+.
Wymóg ten sięga dalej, niż mogłoby się początkowo wydawać. Większość głównych serwisów randkowych ogranicza już swoje platformy do obsługi osób dorosłych, ale zasady Apple nakładają teraz obowiązek oznaczenia kategorii powyżej 18 lat w przypadku każdej aplikacji z funkcjami randkowymi lub romantycznymi związkami — w tym mniejszych usług, które wcześniej opierały się na zgłaszanych przez siebie bramkach wiekowych, oraz chatbotów AI, których funkcje towarzyszące dodano do aplikacji, które rozpoczęły życie w innych celach.
Zmiana polityki wykracza także poza romans. Aplikacje będą teraz musiały wskazywać, kiedy w ramach swojej funkcjonalności udostępniają rzeczywistą lokalizację użytkownika innej osobie lub grupie. Ta informacja ma na celu eliminowanie zagrożeń prywatności, gdy udostępnianie lokalizacji jest ukryte w funkcji społecznościowej. Apple wskazał jedno lokalne wyjątek: w Brazylii aplikacje do rodzinnego udostępniania lokalizacji mogą żądać oficjalnej oceny od rządowego Ministerstwa Sprawiedliwości i Bezpieczeństwa Publicznego zamiast standardowej oceny A16, zgodnie z lokalnym prawem.
Część szerszego działania na rzecz bezpieczeństwa dzieci
Zmiana ma znaczenie, ponieważ narzędzia Apple dla rodziców działają na podstawie ocen wiekowych. Firma wprowadziła na całym świecie technologię sprawdzania wieku, a także rozszerzoną kontrolę rodzicielską i funkcje bezpieczeństwa dzieci, a systemy te opierają się na dokładnych ocenach w celu filtrowania tego, co mogą pobierać nieletni. Wymagając od programistów wyraźnego deklarowania funkcji romantycznych lub seksualnych, Apple zamyka przestrzeń, w której aplikacja może mieć ocenę przyjazną nastolatkom, podczas gdy jej postacie AI zachowują się jak romantyczni partnerzy.
Nowe zasady są najnowszymi z serii zmian wprowadzonych przez firmę Apple w celu ochrony nieletnich. Razem oznaczają zmianę w zarządzaniu App Store: zamiast polegać na programistach, którzy sami deklarują odpowiedni wiek, Apple coraz częściej wymaga szczegółowych ujawnień i egzekwowania ocen odpowiadających funkcjonalności.
Dla firm zajmujących się sztuczną inteligencją moment jest znaczący. Organy regulacyjne w wielu stanach USA zaczęły nakładać własne obowiązki na dostawców chatbotów, szczególnie w odniesieniu do nieletnich oraz odgrywania ról romantycznych lub seksualnych. Wymagając od aplikacji towarzyszących ocen powyżej 18 lat, Apple skutecznie uprzedza część tej debaty na własnej platformie i podnosi poprzeczkę zgodności w kategorii, która rosła szybciej niż jej infrastruktura bezpieczeństwa.
Co programiści muszą zrobić
Programiści posiadający w swoich aplikacjach funkcje randkowe lub funkcje towarzyszące AI mają czas do 16 listopada na przesłanie nowych deskryptorów treści. Aplikacje, które dodają elementy romantyczne lub seksualne bez konieczności usuwania twarzy z oceną lub wymuszania zmian w ocenach w Przeglądzie aplikacji. Funkcjonalność udostępniania lokalizacji musi być ujawniana w ten sam sposób. W przypadku sektora towarzyszącego sztucznej inteligencji, który prosperował dzięki przypadkowym rejestracjom o niskim współczynniku tarcia, ocena tylko dla dorosłych zmienia grupę odbiorców, do której można się zwrócić – i, jak twierdzą jego krytycy, w końcu dopasowuje produkt do związanego z nim ryzyka.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
