Дослідники виявили, що перевірка реклами Meta за допомогою штучного інтелекту не змогла зупинити сотні реклами жорстокого поводження з дітьми

Згідно з дослідженням некомерційної організації Tech Transparency Project, опублікованим у вівторок, на платформах Meta протягом кількох тижнів після того, як компанія запустила нові інструменти штучного інтелекту, призначені для виявлення та блокування саме такого вмісту, з’явилося понад 250 додаткових рекламних оголошень із матеріалами про сексуальне насильство над дітьми. Цей висновок підриває твердження компанії про те, що її перевірка реклами за допомогою штучного інтелекту значною мірою усунула прогалину, і це відбувається, коли законодавці кажуть, що планують провести розслідування.

Нові дані доповнюють попередню інформацію. Минулого місяця Meta видалила приблизно 50 оголошень, розміщених у Facebook, Instagram і Threads, які безпосередньо включали матеріали сексуального насильства над дітьми, після попереднього звіту WIRED. У той час компанія заявила, що більшість образливих оголошень було опубліковано до того, як вона розгорнула нові інструменти виявлення штучного інтелекту. Замість очікуваного спаду, дослідники кажуть, що за останні тижні вони виявили ще сотні реклами, включаючи деякі ідентичні тим, які щойно видалила Meta. Щоб постійно отримувати інформацію про безпеку платформи та останні новини AI, слідкуйте за AI Buzz Wire.

Масштаб невдачі

Загалом дослідники проекту Tech Transparency Project задокументували понад 350 образливих відеореклам, які показувалися на платформах Meta з кінця минулого року, охоплюючи Facebook, Instagram, Messenger, Threads і широку рекламну мережу Meta. На відміну від початкового набору з 53 оголошень, які ідентифікувала група, нова партія включала зображення реальних дітей, а не чисто штучних. WIRED підтвердив, що одне вихідне зображення надійшло з офіційного веб-сайту європейської королівської родини; Дослідники кажуть, що офіційно оприлюднена фотографія неповнолітнього члена сім’ї була підроблена у відео, яке зображує статевий акт. Дослідники не називають королівську особу, щоб захистити жертву, і кажуть, що зв’язалися з офіційними особами відповідної країни.

Кеті Пол, директор групи, сказала WIRED, що проблема не обмежується зображеннями, створеними штучним інтелектом. «Те, про що ми тут говоримо, — це не просто створений штучним інтелектом матеріал про сексуальне насильство над дітьми», — сказала вона, зазначивши, що багато зображень, здається, були взяті з відкритого Інтернету перед використанням в рекламі. «Все це може завдати великої шкоди, поки Meta заробляє гроші». Дослідники ідентифікували реальні особистості чотирьох неповнолітніх, чиї зображення були використані в рекламі.

Воронка в додатки для нудифікації

Згідно зі звітністю, оголошення дотримуються послідовної моделі. Багато відкриваються на нешкідливому зображенні дівчинки-підлітка — дослідники знайшли лише одне, на якому зображений хлопчик — із текстом, який заявляє, що це «не просто фото» і що «немає обмежень» на те, що з ним можна робити. Під час відтворення короткого відео обличчя дитини перетворюється на відверте відео. Натискання веде до додатків зі штучним інтелектом для зміни обличчя та «оголення», доступних у магазинах додатків Apple і Google, багато з яких пов’язані з китайськими розробниками. WIRED окремо виявив сотні пов’язаних рекламних оголошень із зображенням дорослих на платформах Meta.

Повільні перевірки та відсутність інформації

У політиці Meta зазначено, що компанія переглядає всі оголошення, які показуються на її платформах, і реклама порушує її правила щодо експлуатації дітей, дорослих і оголеного тіла. На практиці, як повідомили дослідники, Meta іноді займав до тижня, щоб перевірити реальні оголошення, про які повідомлялося за допомогою власних інструментів компанії, протягом яких оголошення накопичували сотні додаткових переглядів, згідно зі знімками екрана, розглянутими WIRED. Коли деякі рекламні оголошення було видалено, спочатку в записах про видалення не було жодних відомостей про порушення політики компанії щодо сексуального насильства над дітьми; ці деталі з’явилися лише після того, як WIRED запитав Мету про невідповідність.

Дослідники повідомляли про кожну знайдену рекламу в Національний центр з питань зниклих і експлуатованих дітей CyberTipline і через інструменти звітності Meta. Власна рекламна бібліотека Meta показує, що реклама разом відображалася в понад 29 000 облікових записах у країнах Європейського Союзу та близько 7 000 облікових записах у Сполученому Королівстві, причому понад 250 з’являлися в Сполучених Штатах, 120 в Австралії та 80 в Індії — цифри, які, ймовірно, занижують загальне охоплення, оскільки в деяких країнах відсутні точні дані про ефективність реклами.

Мета відповіді

Мета заперечив важливість знахідок. «Ми не терпимо додатків для створення нудифікації чи будь-якої експлуатації дітей, як реальної, так і створеної штучним інтелектом», — сказала WIRED представник компанії Трейсі Клейтон, додавши, що компанія раніше видалила сотні тисяч реклами за порушення політики щодо нудифікації. Meta повідомила, що багато реклами, яку виявили дослідники, уже були видалені, що більшість отримала менше 200 показів, і що вона зібрала менше 5000 доларів США в якості платежів за рекламу. Компанія також повідомила, що створені штучним інтелектом відео зображують дорослих, тоді як ролики за участю неповнолітніх були короткими або розмитими, що ускладнювало виявлення, і що вона повідомляє NCMEC про вміст експлуатації дітей.

Законодавці та регулятори рухаються

Кілька законодавців і регуляторів тепер кажуть, що вони розслідують або вивчають рекламу після звіту WIRED. Сенатор від Вірджинії Марк Уорнер, який надіслав генеральному директору Meta Марку Цукербергу листа після попереднього звіту, сказав, що «розчаровує те, що Meta продовжує показувати рекламу з матеріалами сексуального насильства над дітьми та інтимними зображеннями без згоди після того, як це стало відомо». Генеральний прокурор Мічигану заявив, що офіс «активно вивчає це питання», генеральний прокурор Флориди повідомив, що його офіс проводить розслідування, а регулятор eSafety Австралії заявив, що «дуже стурбований» і запросив інформацію в Meta на високому рівні.

Перевірка посилює тиск на компанію, яка вже сплачує до 16,7 мільярдів доларів за врегулювання позовів про те, що її соціальні мережі завдали шкоди дітям, і оскаржує рішення суду Нью-Мексико, яке вимагатиме від неї вдосконалення процесів звітування про CSAM. Більш широке питання для індустрії штучного інтелекту полягає в тому, чи може автоматизована модерація встигати за порушеннями, які самі все більше залучаються за допомогою штучного інтелекту — і докази того, що система виявлення не змогла вловити сотні рекламних оголошень, що порушують правила, через кілька тижнів після цитування, оскільки виправлення буде використано безпосередньо в цих дебатах.

Будьте попереду ШІ

Слідкуйте за останніми розробками штучного інтелекту та останніми новинами щодо штучного інтелекту, оскільки регулятори та платформи борються зі шкодою, створеною штучним інтелектом.

Читати більше новин AI →