Appleは、自社プラットフォーム上のAIコンパニオンと出会い系アプリに関して強硬な一線を引いている。同社は月曜日の開発者向けの発表で、未成年者が性的またはロマンチックなコンテンツを含むオンライン出会い系アプリやAIコンパニオンアプリにアクセスするのをより困難にするためにApp Storeのポリシーを調整していると述べた。また、11月16日からは、開発者はアプリの年齢レーティングがその機能を正確に反映するため、新しいコンテンツ記述子を提出することが義務付けられる予定だ。

その結果、デートや恋愛関係の機能を提供するアプリはすべて 18 歳以上のレーティングを付ける必要があります。その対象となるのは、一般的にすでに成人に限定されている明らかな出会い系サービスだけでなく、急速に成長しているカテゴリの AI コンパニオン アプリも対象となっており、そこが新しいポリシーが最も厳しいところだ。 この件の詳細は、AIニュースをご覧ください。

AI コンパニオン アプリが本当の標的となる理由

AI コンパニオン アプリは、若いユーザー向けにマーケティングされることがよくあります。 Character.AI、Replika、および同様のサービスを使用すると、人々は AI の友人、恋人、ボーイフレンドやガールフレンド、ファンタジー キャラクターを作成でき、チャットボットと人間関係の間の境界線があいまいになります。 TechCrunch は、昨年夏の時点で、Apple App Store と Google Play のトップ AI コンパニオン アプリが世界で 2 億 2,000 万回ダウンロードされていると指摘しました。この規模で、アプリは子供の安全に関する議論の焦点となっています。

このカテゴリーの大手企業は、未成年者がロマンチックな AI ペルソナとどのように交流するかについて、すでに厳しい監視にさらされている。新しいコンテンツ記述子システムは、アプリのリスト自体にこれらの機能を表示するように設計されているため、保護者や年齢保証システムがそれらの機能を除外できます。 xAI の Grok は、ロック解除可能な NSFW 機能を備えた 3D アニメーション AI コンパニオンを昨年リリースしましたが、これは Apple がルールを正式化する理由を示しています。最初は遊び心から始まった機能が、アプリの評価を変更することなくアダルト コンテンツに変化する可能性があります。

新しいシステムの仕組み

11 月 16 日以降、開発者はアプリを提出するときに新しいコンテンツ記述子を含める必要があり、年齢レーティングがマーケティング上の主張ではなくアプリの実際の動作を反映していることが保証されます。 Appleは、デートや恋愛関係の機能を提供するアプリには全面的に18歳以上のレーティングが必要になると述べた。

この要件は、見た目よりもさらに広範囲に及びます。ほとんどの大手出会い系サービスはすでにプラットフォームを成人に制限しているが、Appleの方針では現在、デートや恋愛関係の機能を備えたすべてのアプリに18歳以上の評価を義務付けている。これには、これまで自己申告による年齢ゲートに依存していた小規模なサービスや、他の目的で始めたアプリにコンパニオン機能が追加されたAIチャットボットも含まれる。

政策変更は恋愛だけにとどまらない。アプリは今後、機能の一部としてユーザーの現実世界の位置情報を他の人やグループと共有する場合にそれを示す必要があります。これは、位置情報の共有がソーシャル機能内に隠されている場合のプライバシー リスクに対処するために設計された開示です。 Appleは、地元のカーブアウト1社に警告を発した。ブラジルでは、家族向け位置情報共有アプリは、現地の法律に従って、標準のA16レーティングではなく、政府の法務・公安省に公式レーティングを要求することができる。

より広範な子供の安全推進の一環

Appleのペアレンタルツールは年齢評価に基づいて動作するため、この変更は重要だ。同社は、拡張されたペアレンタルコントロールや子供の安全機能とともに、年齢保証テクノロジーを世界的に展開しており、これらのシステムは、未成年者がダウンロードできるものをフィルタリングするために正確な評価に依存しています。開発者にロマンチックな機能や性的な機能を明示的に宣言することを要求することで、Apple は、AI キャラクターがロマンチックなパートナーのように振る舞う一方で、アプリが 10 代向けの評価を提供できる領域を閉ざそうとしています。

新しい規則は、Appleが未成年者を保護するために行った一連の変更の最新のものである。これらは共に、App Store のガバナンスにおける変化を示しています。Apple は、開発者が適切な年齢を自己宣言することに依存するのではなく、ますます詳細な開示と、機能に見合った評価の強制を要求しています。

AI企業にとって、今は重要なタイミングだ。米国の複数の州の規制当局は、特に未成年者やロマンチックまたは性的なロールプレイに関して、チャットボットプロバイダーに独自の義務を課す動きを見せている。 Apple は、コンパニオン アプリに 18 歳以上のレーティングを義務付けることで、自社のプラットフォームに関する議論の一部を効果的に先取りし、安全インフラストラクチャよりも急速に成長したカテゴリのコンプライアンスの基準を引き上げています。

開発者が行う必要があること

アプリにデート機能や AI コンパニオン機能を備えた開発者は、11 月 16 日までに新しいコンテンツ記述子を提出する必要があります。更新された評価の顔の削除やアプリレビューでの強制的な評価の変更を行わずに、ロマンチックまたは性的な機能を追加するアプリ。位置共有機能も同様に開示する必要があります。カジュアルで摩擦の少ないサインアップで成長してきた AI コンパニオン業界にとって、成人専用の評価は対象となる視聴者を変えることになり、批判者たちは最終的に製品をそのリスクに見合ったものにする、と主張するだろう。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →