אפל מותרת קו קשה סביב שותפי AI ואפליקציות היכרויות בפלטפורמה שלה. בהכרזה למפתחים ביום שני, החברה אמרה שהיא מתאימה את מדיניות ה-App Store כדי להקשות על קטינים לגשת לאפליקציות היכרויות מקוונות או אפליקציות AI נלוויות העוסקות בתוכן מיני או רומנטי - ומה-16 בנובמבר, מפתחים יידרשו להגיש מתארי תוכן חדשים כדי שדירוג הגיל של האפליקציות שלהם ישקף במדויק את התכונות שלהם.

התוצאה: כל אפליקציה המציעה תכונות של היכרויות או יחסים רומנטיים חייבת כעת לשאת דירוג של 18+. זה מכסה לא רק את שירותי ההיכרויות הברורים, שבדרך כלל כבר מגבילים את עצמם למבוגרים, אלא את הקטגוריה הצומחת במהירות של אפליקציות נלוות לבינה מלאכותית - ושם המדיניות החדשה נושכת הכי קשה. For more context on this story, see our ongoing AI news.

מדוע אפליקציות AI Companion הן היעד האמיתי

אפליקציות נלוות בינה מלאכותית משווקות לעתים קרובות למשתמשים צעירים יותר. Character.AI, Replika ושירותים דומים מאפשרים לאנשים ליצור חברים, מאהבים, חברים וחברות בינה מלאכותית, ודמויות פנטזיה, ומטשטשים את הגבול בין צ'טבוט למערכת יחסים. TechCrunch ציין שנכון לקיץ שעבר, האפליקציות הנלוות הבינה המלאכותית המובילות ב-Apple App Store ו-Google Play הורדו 220 מיליון פעמים ברחבי העולם - קנה מידה שהפך אותן למוקד של דיונים בנושא בטיחות ילדים.

השמות הגדולים ביותר של הקטגוריה כבר עמדו בפני בדיקה מדוקדקת לגבי האופן שבו קטינים מתקשרים עם פרסונות AI רומנטיות. מערכת מתאר התוכן החדשה נועדה להציג את התכונות הללו ברישום האפליקציה עצמה, כך שהורים ומערכות הבטחת גיל יוכלו לסנן אותן. Grok של xAI, שהשיקה בשנה שעברה נלווים של AI מונפש בתלת-ממד עם יכולות NSFW הניתנות לפתיחה, ממחישה מדוע אפל מייסדת את הכללים: תכונות שמתחילות כשובבות יכולות להתבטא בתוכן למבוגרים ללא כל שינוי בדרוג האפליקציה.

איך המערכת החדשה עובדת

החל מה-16 בנובמבר, מפתחים חייבים לכלול את מתארי התוכן החדשים בעת שליחת אפליקציות, כדי להבטיח שדירוג הגיל משקף את מה שהאפליקציה עושה בפועל ולא את מה שהשיווק שלה טוען. אפל אמרה שאפליקציות המציעות תכונות של היכרויות ויחסים רומנטיים יצטרכו דירוג של 18+ על פני השטח.

הדרישה הזו מגיעה רחוק יותר ממה שהיא עשויה להיראות לראשונה. רוב שירותי ההיכרויות הגדולים כבר מגבילים את הפלטפורמות שלהם למבוגרים, אבל המדיניות של אפל מחייבת כעת את הדירוג של 18+ לכל אפליקציה עם תכונות היכרויות או יחסים רומנטיים - כולל השירותים הקטנים יותר שהסתמכו בעבר על שערי גיל שדווחו על עצמם, וצ'אטבוטים של בינה מלאכותית שהתכונות הנלוות שלהם נוספו לאפליקציות שהחלו את החיים עם מטרות אחרות.

שינוי המדיניות משתרע גם מעבר לרומנטיקה. אפליקציות יצטרכו כעת לציין מתי הן חולקות מיקום של משתמש בעולם האמיתי עם אדם או קבוצה אחרת כחלק מהפונקציונליות שלהן - גילוי נאות שנועד לטפל בסיכוני פרטיות כאשר שיתוף מיקום מוסתר בתוך תכונה חברתית. אפל סימנה חריגה מקומית אחת: בברזיל, אפליקציות לשיתוף מיקום משפחתי יכולות לבקש דירוג רשמי ממשרד המשפטים וביטחון הציבור של הממשלה במקום הדירוג הסטנדרטי A16, בהתאם לחוק המקומי.

חלק מדחיפה רחבה יותר לבטיחות ילדים

השינוי חשוב מכיוון שדירוג הגיל הוא מה שהכלים ההוריים של אפל פועלים לפיו. החברה פרסמה טכנולוגיית הבטחת גיל ברחבי העולם לצד בקרת הורים מורחבת ותכונות בטיחות ילדים, ומערכות אלו מסתמכות על דירוגים מדויקים כדי לסנן את מה שקטינים יכולים להוריד. על ידי דרישה מהמפתחים להצהיר במפורש על פונקציונליות רומנטית או מינית, אפל סוגרת את המרחב שבו אפליקציה יכולה לשאת דירוג ידידותי לבני נוער בזמן שדמויות הבינה המלאכותית שלה מתנהגות כמו שותפים רומנטיים.

הכללים החדשים הם האחרונים בסדרה של שינויים שביצעה אפל כדי להגן על קטינים. יחד, הם מסמנים שינוי בממשל של App Store: במקום להסתמך על מפתחים שיצהירו בעצמם על גילאים מתאימים, אפל דורשת יותר ויותר גילויים מפורטים ואכיפת דירוגים התואמים את הפונקציונליות.

עבור חברות בינה מלאכותית, העיתוי משמעותי. רגולטורים במספר מדינות בארה"ב החלו להטיל חובות משלהם על ספקי צ'טבוט, במיוחד לגבי קטינים ומשחק תפקידים רומנטי או מיני. על ידי דרישת 18+ דירוגים עבור אפליקציות נלוות, אפל למעשה מקדימה חלק מהדיון הזה בפלטפורמה שלה - ומעלה את רף התאימות לקטגוריה שצמחה מהר יותר מתשתית הבטיחות שלה.

מה מפתחים צריכים לעשות

למפתחים עם תכונות היכרויות או פונקציונליות נלווית של AI באפליקציות שלהם יש עד 16 בנובמבר להגיש את מתארי התוכן החדשים. אפליקציות שמוסיפות תכונות רומנטיות או מיניות ללא דירוג מעודכן בפני הסרה או שינויי דירוג כפויים ב-App Review. יש לחשוף את הפונקציונליות של שיתוף מיקום באותו אופן. עבור מגזר נלווי הבינה המלאכותית, ששגשג בהרשמות מזדמנות, עם חיכוך נמוך, דירוג למבוגרים בלבד משנה את הקהל שניתן להתייחס אליו - ולטענת המבקרים שלו, סוף סוף מתאים את המוצר לסיכונים שלו.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →