עורך הדין העירוני של סן פרנסיסקו הורה לאפל ולגוגל להסיר אפליקציות עירום של בינה מלאכותית מחנויות האפליקציות שלהן, והזהיר כי הפלטפורמות מפרות את חוקי קליפורניה האוסרים על שירותים שיוצרים פורנוגרפיה מזויפת עמוקה. הדרישה מסלימה עימות הולך וגובר סביב כלי AI שהופכים תמונות רגילות של אנשים אמיתיים לתמונות מפורשות, משבר שגרם לקורבן לא פרופורציונלי של נשים וילדים.
היקף הבעיה
אפליקציות עירום משתמשות בבינה מלאכותית גנרטיבית כדי להקל באופן טריוויאלי להסיר בגדים מתמונות של אנשים אמיתיים, לשנות את תכונותיהם, למקם אותם בתנוחות מיניות ולהחליף פנים על גופם העירום של אנשים אחרים. הטכנולוגיה התפשטה במהירות ברחבי חנויות האפליקציות לנייד, והתוצאות משמשות כדי להציק, להשפיל ולאיים על קורבנות עם השלכות הרסניות.
עו"ד העירייה של סן פרנסיסקו, דייוויד צ'יו, אמר ל-Wired כי משרדו נחרד לחלוטין מהאופן שבו הפכה טכנולוגיית העירום לכל מקום, והביאה לקורבן בעיקר נשים וילדים בקנה מידה מדאיג ככל שכלים נוספים הציפו את השוק. התמונות, לדבריו, משמשות כדי להרוס מוניטין, לפגוע בבריאות הנפש, ולהסיר את הקורבנות מאוטונומיה, כאשר כמה מטרות הופכות להתאבדות.
מה דורשים המכתבים
משרדו של צ'יו שלח מכתבים רשמיים לשתי החברות והזהירו כי חנויות האפליקציות שלהן מפרות את חוקי קליפורניה האוסרים על שירותים תומכים שיוצרים פורנוגרפיה מזויפת עמוקה, לפי Wired. הוא ביקש מגוגל להסיר חמש אפליקציות ומאפל להסיר שמונה. האפליקציות הספציפיות לא זכו לשמות בדיווח הציבורי כדי להימנע מהסחף אנשים לעברן, אך Wired ציין כי אפליקציה אחת שסומנה צברה יותר ממיליון הורדות ופרסמה בגלוי תכונות ליצירת תמונות מיניות של נשים או הפקת סרטונים בחינם ולא מצונזר.
משרדו של צ'יו העריך כי אפל וגוגל ככל הנראה הרוויחו מיליוני דולרים בעמלות בכך שאפשרו לאפליקציות המזיקות להישאר בחנויות שלהן במקום לנקוט בפעולה חזקה יותר או לפתח מערכות זיהוי טובות יותר. פרקליט העירייה אפיינה את המצב כמרוויח ממטרד ציבורי, וטען כי לאפשר לאפליקציה כזו להישאר זמינה אינה מקובלת.
גוגל מגיבה, אפל שומרת על שתיקה
בהצהרה ל-Ars Technica, דובר גוגל דן ג'קסון אישר כי חמש האפליקציות שסימנו על ידי Chiu הושעו מחנות Google Play בשל הפרת מדיניות נגד תוכן מזיק. ג'קסון אמר ש-Google Play אינה מתירה אפליקציות המכילות תוכן מיני וכי החברה נוקטת כל הזמן בצעדים יזומים כדי לזהות ולהסיר אפליקציות עם תוכן מזיק. כאשר מדווחים על הפרות, אמר ג'קסון, גוגל חוקרת ומבצעת פעולה מהירה, שכללה השעיית מאות אפליקציות מפרות והגבלת מונחי חיפוש קשורים כמו nudify בחנות שלה.
התגובה של אפל הייתה שונה באופן ניכר. בעוד שהחברה הסירה כמה אפליקציות שסומנו על ידי חוקרים בעבר, היא שמרה על שתיקה במיוחד על רקע הקריאות לאפליקציות עירום של המשטרה בצורה אגרסיבית יותר ב-App Store שלה. יצרנית האייפון לא סיפקה מיד תגובה פומבית מפורטת לדרישותיו של פרקליט העירייה.
משחק הזיהוי של החתול והעכבר
האתגר של שיטור האפליקציות הללו מורכב מהטקטיקות המתפתחות שלהן. Wired דיווחה כי חוקרים הזהירו לאחרונה שכמה אפליקציות מזיקות השתפרו בהתחמקות מהסרת חנויות אפליקציות על ידי פרסום רק של תכונות החלפת פנים תוך הסתרת יכולות ההרחה שלהן. במאמר טרום-דפוס של מאי, חוקרים זיהו 420 אפליקציות המשווקות ככלים גנריים להחלפת פנים ובדקו 155 מהן. בלמעלה מ-70 אחוז מהמקרים, ניתן היה להשתמש באפליקציות כדי ליצור תמונות מיניות, להדגים באיזו קלות מסתתרת פונקציונליות מזיקה מאחורי שיווק תמים.
פער הזיהוי הזה אומר שגם כאשר חנויות אפליקציות מחפשות באופן יזום אחר כלי Nudify, רבים חומקים על ידי הצגת עצמם כתוכנת בידור או עריכת תמונות בלתי מזיקה. ממצאי החוקרים מצביעים על כך שסביר להניח שהמספר האמיתי של אפליקציות בעייתיות במחזור גבוה בהרבה מהשלוש עשרה שסומנו על ידי משרדו של צ'יו.
התקדים של הגרוק
פיצוץ אפליקציית Nudify מצטלב גם עם ויכוח רחב יותר על תוכן מזיק שנוצר בינה מלאכותית. השבוע, xAI הגישה תביעה המאשרת כי היא מצאה מקרים של חומרי התעללות מינית בילדים שנוצרו על ידי גרוק ותמונות אינטימיות ללא הסכמה המכוונות למבוגרים. כדי לטפל בשימוש לרעה, xAI תבעה את המשתמש שאחראי לכאורה להנחות את גרוק ליצור את התוכן הלא חוקי.
המקרה של גרוק מעלה שאלה קוצנית יותר עבור חנויות אפליקציות: האם צ'אטבוטים של AI שניתן להניע אותם לייצר תוכן לא חוקי צריכים בעצמם להיות נתונים להסרה. על פי הדיווחים, אפל אמרה לסנטורים באפריל שהיא איימה באופן פרטי להסיר את Grok מחנות האפליקציות, לפי NBC News, אך אפליקציית xAI נותרה זמינה היום. כל עוד ניתן להשתמש ב-Grok כדי ליצור תוכן לא חוקי, חנויות אפליקציות ימשיכו כנראה להתמודד עם לחץ לנקוט בפעולה, בדיוק כפי שצ'יו דרש עבור אפליקציות ניודיפיקציה עצמאיות.
נקודת מפנה לאחריות פלטפורמה
הצו של סן פרנסיסקו מייצג את אחת ההתערבויות הממשלתיות האגרסיביות ביותר עד כה המתמקדות בחנויות אפליקציות על תוכן מזיק שנוצר בינה מלאכותית. על ידי הפעלת חוקי הפורנוגרפיה המזויפים של קליפורניה, צ'יו בודק האם חוקי המדינה יכולים לחייב את מפעילי הפלטפורמות לקחת אחריות על כלי הבינה המלאכותית המופצים דרך השוק שלהם.
התוצאה עשויה להוות תקדים לאופן שבו תחומי שיפוט אחרים ניגשים לבעיה, והאם נטל השיטור של תמונות לא הסכמה שנוצרו על ידי AI נופל על מפתחים, מפעילי פלטפורמות או שניהם. עבור מיליוני האנשים, בעיקר נשים ונערות, שהכלים הללו מכוונים אליהם, ההימור משתרע הרבה מעבר לתיאוריית הרגולציה.
הישאר לפני AI
לסיקור מתמשך של אתיקה של בינה מלאכותית, אחריות על הפלטפורמה והמאבקים הרגולטוריים על מדיה סינתטית מזיקה, עקוב אחר AI Buzz Wire לדיווח על הנושאים שמעצבים את השפעת הבינה המלאכותית על החברה.
קרא עוד חדשות על אתיקה של AI →
