Apple na své platformě dělá tvrdou linii kolem společníků AI a seznamovacích aplikací. V oznámení vývojářům v pondělí společnost uvedla, že upravuje zásady App Store, aby nezletilým ztížila přístup k online seznamovacím aplikacím nebo doprovodným aplikacím AI, které se zabývají sexuálním nebo romantickým obsahem – a od 16. listopadu budou vývojáři povinni ukládat nové deskriptory obsahu, aby věková hodnocení jejich aplikací přesně odrážela jejich funkce.
Výsledek: každá aplikace nabízející funkce seznamování nebo romantických vztahů musí nyní nést hodnocení 18+. To se týká nejen zjevných seznamovacích služeb, které se již obvykle omezují na dospělé, ale také rychle rostoucí kategorie doprovodných aplikací umělé inteligence – a to je místo, kde jsou nové zásady nejtěžší. For more context on this story, see our ongoing AI news.
Proč jsou AI Companion Apps skutečným cílem
Doprovodné aplikace AI jsou často nabízeny mladším uživatelům. Character.AI, Replika a podobné služby umožňují lidem vytvářet AI přátele, milence, přítele a přítelkyně a fantasy postavy, čímž se stírá hranice mezi chatbotem a vztahem. TechCrunch poznamenal, že od loňského léta byly nejlepší doprovodné aplikace umělé inteligence v Apple App Store a Google Play celosvětově staženy 220 milionůkrát – což je měřítko, které z nich udělalo ústřední bod debat o bezpečnosti dětí.
Největší jména kategorie již čelila zkoumání toho, jak nezletilí komunikují s romantickými osobnostmi AI. Nový systém deskriptorů obsahu je navržen tak, aby se tyto funkce objevily v samotném výpisu aplikace, takže je rodiče a systémy pro zajištění věku mohou odfiltrovat. Společnost xAI Grok, která loni uvedla na trh 3D animované společníky AI s odemykatelnými možnostmi NSFW, ilustruje, proč Apple formalizuje pravidla: funkce, které začínají jako hravé, se mohou přenést do obsahu pro dospělé, aniž by se změnilo hodnocení aplikace.
Jak nový systém funguje
Od 16. listopadu musí vývojáři při odesílání aplikací zahrnout nové deskriptory obsahu, aby bylo zajištěno, že věková hodnocení odrážejí to, co aplikace skutečně dělá, a nikoli to, co tvrdí její marketing. Apple uvedl, že aplikace nabízející funkce pro seznamování a romantické vztahy budou vyžadovat obecné hodnocení 18+.
Tento požadavek sahá dále, než by se na první pohled mohlo zdát. Většina hlavních seznamovacích služeb již své platformy omezuje na dospělé, ale podle zásad společnosti Apple je nyní hodnocení 18+ povinné pro každou aplikaci s funkcemi seznamování nebo romantických vztahů – včetně menších služeb, které se dříve spoléhaly na samy hlášené věkové hranice, a chatbotů AI, jejichž doprovodné funkce byly přidány do aplikací, které začaly život s jinými účely.
Změna politiky také přesahuje rámec romantiky. Aplikace nyní budou muset v rámci své funkce uvést, kdy sdílejí skutečnou polohu uživatele s jinou osobou nebo skupinou – toto oznámení je navrženo tak, aby řešilo rizika ochrany soukromí, když je sdílení polohy skryté v rámci sociální funkce. Apple označil jedno místní omezení: v Brazílii mohou rodinné aplikace pro sdílení polohy požadovat oficiální hodnocení od vládního ministerstva spravedlnosti a veřejné bezpečnosti namísto standardního hodnocení A16, v souladu s místními zákony.
Součást širšího zájmu o bezpečnost dětí
Na této změně záleží, protože věkové hodnocení je to, podle čeho jednají rodičovské nástroje Apple. Společnost celosvětově zavedla technologii zajištění věku spolu s rozšířenou rodičovskou kontrolou a funkcemi pro bezpečnost dětí a tyto systémy spoléhají na přesné hodnocení, aby filtrovaly, co si nezletilí mohou stáhnout. Požadavkem, aby vývojáři výslovně deklarovali romantickou nebo sexuální funkcionalitu, Apple uzavírá prostor, kde by aplikace mohla nést hodnocení pro mladistvé, zatímco její AI postavy se chovaly jako romantičtí partneři.
Nová pravidla jsou poslední ze série změn, které Apple provedl na ochranu nezletilých. Společně znamenají posun ve správě App Store: namísto spoléhání se na vývojáře, kteří sami deklarují vhodný věk, Apple stále více vyžaduje podrobné informace a vynucování hodnocení, která odpovídají funkčnosti.
Pro společnosti AI je načasování důležité. Regulační orgány v mnoha státech USA ukládají poskytovatelům chatbotů své vlastní povinnosti, zejména pokud jde o nezletilé a romantické nebo sexuální hraní rolí. Požadováním hodnocení 18+ pro doprovodné aplikace Apple účinně předchází části této debaty na své vlastní platformě – a zvyšuje laťku shody pro kategorii, která rostla rychleji než její bezpečnostní infrastruktura.
Co musí vývojáři udělat
Vývojáři s funkcemi seznamování nebo doprovodnými funkcemi umělé inteligence ve svých aplikacích mají do 16. listopadu nahlásit nové deskriptory obsahu. Aplikace, které přidávají romantické nebo sexuální rysy bez aktualizovaného odebrání obličeje hodnocení nebo vynucených změn hodnocení v aplikaci Kontrola aplikací. Funkce sdílení polohy musí být zveřejněna stejným způsobem. Pro doprovodný sektor umělé inteligence, kterému se dařilo díky příležitostným registracím s nízkým třením, hodnocení pouze pro dospělé mění adresné publikum – a jeho kritici by argumentovali, že nakonec produkt odpovídá jeho rizikům.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
