יותר מ-250 פרסומות נוספות המכילות חומר של התעללות מינית בילדים רצו על פני הפלטפורמות של Meta בשבועות שלאחר שהחברה פרסמה כלי AI חדשים שנועדו לזהות ולחסום בדיוק סוג זה של תוכן, כך עולה ממחקר של עמותת Tech Transparency Project ששותף עם WIRED ופורסם ביום שלישי. הממצא מערער את טענת החברה כי הקרנת הפרסומות המופעלות על ידי בינה מלאכותית סגרה במידה רבה את הפער, והיא מגיעה כאשר מחוקקים אומרים שהם מתכננים לחקור.
הנתונים החדשים מרחיבים חשיפה מוקדמת יותר. בחודש שעבר, Meta מחקה בערך 50 מודעות שפורסמו בפייסבוק, באינסטגרם וב-Threads שכללו ישירות חומר של התעללות מינית בילדים, בעקבות דיווח קודם של WIRED. באותה עת, החברה אמרה שרוב המודעות הפוגעניות פורסמו לפני שהיא פרסה את כלי זיהוי הבינה המלאכותית החדשים. במקום הירידה הצפויה, החוקרים אומרים שהם מצאו עוד מאות מהפרסומות בשבועות האחרונים - כולל כמה זהות לאלו שמטה הסירה זה עתה. לסיקור רציף של בטיחות הפלטפורמה וחדשות הבינה המלאכותית, עקוב אחר AI Buzz Wire.
קנה המידה של הכישלון
בסך הכל, חוקרים ב-Tech Transparency Project תיעדו יותר מ-350 ממודעות הווידאו הפוגעניות הרצות בפלטפורמות של Meta מאז סוף השנה שעברה, המשתרעות על פני פייסבוק, אינסטגרם, מסנג'ר, Threads ורשת הפרסום הרחבה יותר של Meta. בניגוד לקבוצה הראשונית של 53 מודעות שהקבוצה זיהתה, האצווה החדשה יותר כללה תמונות של ילדים אמיתיים ולא סינתטיות בלבד. WIRED אישרה שתמונת מקור אחת הגיעה מהאתר הרשמי של משפחת מלוכה אירופאית; חוקרים אומרים שתצלום שפורסם רשמית של בן משפחה קטין עבר מניפולציות לסרטון המתאר מעשה מיני. החוקרים לא נותנים את שמו של המלוכה כדי להגן על הקורבן ואומרים שהם יצרו קשר עם גורמים רשמיים במדינה הרלוונטית.
קייטי פול, מנהלת הקבוצה, אמרה ל-WIRED שהבעיה אינה מוגבלת לתמונות הנוצרות בינה מלאכותית. "מה שאנחנו מדברים עליו כאן הוא לא רק חומר של התעללות מינית בילדים שנוצר על ידי בינה מלאכותית", אמרה, וציינה שנראה שתמונות רבות נלקחו מהרשת הפתוחה לפני שנעשה בהם שימוש במודעות. "יש הרבה נזק שיכול לנבוע מכל זה בזמן שמטה גורפת כסף בתהליך". החוקרים זיהו את הזהויות בעולם האמיתי של ארבעה קטינים שתמונותיהם שימשו במודעות.
משפך לאפליקציות ניודיפיקציה
המודעות עוקבות אחר דפוס עקבי, על פי הדיווח. רבים פותחים בתמונה תמימה של נערה או נערה מתבגרת - החוקרים מצאו רק תמונה אחת עם ילד - ועליה טקסט המכריז שהתמונה היא "לא רק תמונה" ושאין "אין הגבלה" על מה שניתן לעשות איתה. כאשר הסרטון הקצר מופעל, פניו של הילד עוברים לסרטון מפורש. לחיצה דרך מובילה לאפליקציות להחלפת פנים בינה מלאכותית ו"עירום" הזמינות בחנויות האפליקציות של אפל וגוגל, רבות מקושרות למפתחים סיניים. WIRED זיהה בנפרד מאות מודעות עירום קשורות המתארות מבוגרים בפלטפורמות של Meta.
ביקורות איטיות וגילויים חסרים
המדיניות של Meta קובעת כי החברה בוחנת את כל המודעות הרצות בפלטפורמות שלה, והמודעות הפרו את הכללים שלה בנושא ניצול ילדים, ניצול מבוגרים וערום. בפועל, דיווחו החוקרים, לפעמים לקח ל-Meta עד שבוע לסקור מודעות חיות שדווחו באמצעות הכלים של החברה עצמה - שבמהלכן הפרסומות צברו מאות צפיות נוספות, לפי צילומי מסך שנבדקו על ידי WIRED. כאשר חלק מהמודעות הוסרו, רישומי ההסרה שלהן היו חסרים בתחילה כל חשיפה שהן מפרות את מדיניות ההתעללות המינית בילדים של החברה; הפרטים האלה הופיעו רק לאחר ש-WIRED שאל את Meta לגבי אי ההתאמה.
החוקרים דיווחו על כל מודעה שמצאו למרכז הלאומי ל-CyberTipline של ילדים נעדרים ומנוצלים ובאמצעות כלי הדיווח של Meta. ספריית המודעות של Meta עצמה מראה שהמודעות הוצגו ביחד ליותר מ-29,000 חשבונות ברחבי מדינות האיחוד האירופי וכ-7,000 חשבונות בבריטניה, כאשר יותר מ-250 הופיעו בארה"ב, 120 באוסטרליה ו-80 בהודו - נתונים שסביר להניח שממעיטים בטווח ההגעה הכולל, מכיוון שחלק מהמדינות חסרות נתוני ביצועים מפורטים של מודעות.
מטה מגיבה
מטה דחה את משמעות הממצאים. "אנחנו לא סובלים אפליקציות ניוד או כל סוג של ניצול ילדים, בין אם אמיתי ובין אם נוצר בינה מלאכותית", אמרה דוברת החברה טרייסי קלייטון ל-WIRED, והוסיפה כי החברה הסירה בעבר מאות אלפי פרסומות בשל הפרת מדיניות העירום שלה. Meta אמרה שרבות מהמודעות שמצאו החוקרים כבר הוסרו, שרובן קיבלו פחות מ-200 הופעות, וכי היא גבתה פחות מ-5,000 דולר בתשלומי פרסומות. החברה גם אמרה שהסרטונים שנוצרו על ידי AI מציגים מבוגרים בעוד שהקליפים שבהם מעורבים קטינים היו קצרים או מטושטשים, מה שהקשה על הזיהוי, ושהיא מדווחת על תוכן ניצול ילדים ל-NCMEC.
מחוקקים ורגולטורים מהלך
מחוקקים ורגולטורים רבים אומרים כעת שהם חוקרים או בודקים את המודעות בעקבות הדיווח של WIRED. הסנאטור של וירג'יניה, מארק וורנר, ששלח למנכ"ל Meta, מארק צוקרברג, מכתב לאחר הדיווח הקודם, אמר שזה "מאכזב שמטה ממשיכה להריץ מודעות הכוללות חומר של התעללות מינית בילדים ותמונות אינטימיות ללא הסכמה לאחר שהובאו לידיעתם". התובע הכללי של מישיגן אמר כי המשרד "בוחן באופן פעיל את הנושא", התובע הכללי של פלורידה פרסם כי משרדו חוקר, והרגולטור של eSafety באוסטרליה אמר כי הוא "מודאג מאוד" וביקש מידע מ-Meta ברמה בכירה.
הבדיקה מוסיפה לחץ על חברה שכבר משלמת עד 16.7 מיליארד דולר כדי ליישב תביעות בטענה שהרשתות החברתיות שלה פגעו בילדים, וערעור על החלטת בית המשפט בניו מקסיקו שתחייב אותה לשפר את תהליכי הדיווח שלה ב-CSAM. השאלה הרחבה יותר עבור תעשיית הבינה המלאכותית היא האם מתינות אוטומטית יכולה לעמוד בקצב של שימוש לרעה שהוא עצמו יותר ויותר בסיוע בינה מלאכותית - והוכחות לכך שמערכת זיהוי לא הצליחה לתפוס מאות פרסומות מפרות שבועות לאחר ציטוט, שכן התיקון ייכנס ישירות לוויכוחים הללו.
הישאר לפני AI
עקבו אחר ההתפתחויות האחרונות בינה מלאכותית וחדשות בינה מלאכותית כאשר הרגולטורים והפלטפורמות נאבקות בנזקים המופעלים על ידי בינה מלאכותית.
קרא עוד חדשות AI →
