Согласно исследованию некоммерческой организации Tech Transparency Project, опубликованному во вторник, более 250 дополнительных рекламных объявлений, содержащих материалы о сексуальном насилии над детьми, появились на платформах Meta в течение нескольких недель после того, как компания представила новые инструменты искусственного интеллекта, предназначенные для обнаружения и блокировки именно такого рода контента. Это открытие опровергает заявление компании о том, что ее проверка рекламы с помощью искусственного интеллекта в значительной степени закрыла пробел, и законодатели заявляют, что планируют провести расследование.

Новые цифры расширяют ранее раскрытую информацию. В прошлом месяце Meta удалила около 50 рекламных объявлений, размещенных в Facebook, Instagram и Threads, которые напрямую содержали материалы о сексуальном насилии над детьми, после предыдущего сообщения WIRED. Тогда компания заявила, что большая часть оскорбительной рекламы была опубликована до того, как она внедрила новые инструменты обнаружения искусственного интеллекта. Вместо ожидаемого снижения, исследователи говорят, что за последние недели они обнаружили еще сотни рекламных объявлений, в том числе идентичных тем, которые Meta только что удалила. Чтобы постоянно освещать вопросы безопасности платформ и последние новости искусственного интеллекта, подписывайтесь на AI Buzz Wire.

Масштаб неудачи

В общей сложности исследователи Tech Transparency Project задокументировали более 350 оскорбительных видеообъявлений, транслируемых на платформах Meta с конца прошлого года, охватывая Facebook, Instagram, Messenger, Threads и более широкую рекламную сеть Meta. В отличие от первоначального набора из 53 рекламных объявлений, выявленных группой, новая партия включала изображения реальных детей, а не чисто синтетические. WIRED подтвердил, что одно исходное изображение взято с официального сайта европейской королевской семьи; Исследователи говорят, что официально опубликованная фотография несовершеннолетнего члена семьи была превращена в видео, изображающее половой акт. Исследователи не называют имена членов королевской семьи, чтобы защитить жертву, и говорят, что связались с официальными лицами соответствующей страны.

Кэти Пол, директор группы, рассказала WIRED, что проблема не ограничивается изображениями, созданными ИИ. «То, о чем мы здесь говорим, — это не просто созданные искусственным интеллектом материалы о сексуальном насилии над детьми», — сказала она, отметив, что многие изображения, похоже, были взяты из открытой сети перед использованием в рекламе. «От всего этого может быть много вреда, пока Мета зарабатывает деньги». Исследователи установили реальные личности четырех несовершеннолетних, чьи изображения использовались в рекламе.

Воронка к приложениям для нудификации

Согласно отчетам, реклама соответствует единому шаблону. Многие начинаются с безобидной фотографии девочки-подростка или девочки-подростка (исследователи нашли только одну с изображением мальчика), наложенной на текст, заявляющий, что изображение «не просто фотография» и что «нет никаких ограничений» на то, что с ним можно делать. При воспроизведении короткого видеоролика лицо ребенка превращается в откровенное видео. При переходе по ссылкам в магазинах приложений Apple и Google появляются приложения для замены лиц и «обнажения» ИИ, многие из которых связаны с китайскими разработчиками. WIRED отдельно выявил сотни подобных рекламных объявлений с изображением взрослых на платформах Meta.

Медленные проверки и отсутствие раскрытия информации

В политике Meta говорится, что компания проверяет всю рекламу, которая показывается на ее платформах, и эта реклама нарушает ее правила, касающиеся эксплуатации детей, эксплуатации взрослых и наготы. На практике, как сообщили исследователи, Meta иногда требовалось до недели, чтобы просмотреть живую рекламу, о которой сообщалось через собственные инструменты компании, — в течение которой реклама накапливала сотни дополнительных просмотров, согласно скриншотам, просмотренным WIRED. Когда некоторые объявления были удалены, в их записях об удалении изначально не было никаких сведений о том, что они нарушали политику компании в отношении сексуального насилия над детьми; эти подробности появились только после того, как WIRED спросил Мету о несоответствии.

Исследователи сообщали о каждой найденной рекламе в CyberTipline Национального центра по делам пропавших и эксплуатируемых детей, а также через инструменты отчетности Meta. Собственная библиотека объявлений Meta показывает, что реклама в совокупности отображалась на более чем 29 000 учетных записях в странах Европейского Союза и около 7 000 учетных записей в Соединенном Королевстве, причем более 250 появлялись в США, 120 в Австралии и 80 в Индии — цифры, которые, вероятно, занижают общий охват, поскольку в некоторых странах отсутствуют подробные данные об эффективности рекламы.

Мета-ответы

Мета опровергла значимость результатов. «Мы не терпим приложения для обнажения тела или любую эксплуатацию детей, как реальную, так и сгенерированную искусственным интеллектом», — заявила WIRED представитель компании Трейси Клейтон, добавив, что ранее компания удалила сотни тысяч рекламных объявлений за нарушение своей политики обнажения. Мета сообщила, что многие из обнаруженных исследователями рекламных объявлений уже были удалены, большинство из них получили менее 200 показов и что компания собрала менее 5000 долларов в виде рекламных платежей. Компания также заявила, что в видеороликах, созданных с помощью искусственного интеллекта, были показаны взрослые, в то время как клипы с участием несовершеннолетних были короткими или размытыми, что затрудняло обнаружение, и что она сообщает NCMEC о контенте, связанном с эксплуатацией детей.

Законодатели и регулирующие органы принимают меры

Многие законодатели и регулирующие органы теперь заявляют, что проводят расследование или изучают рекламу после сообщения WIRED. Сенатор от Вирджинии Марк Уорнер, который направил генеральному директору Meta Марку Цукербергу письмо после предыдущего сообщения, заявил, что «разочаровывает то, что Meta продолжает показывать рекламу, в которой представлены материалы о сексуальном насилии над детьми и интимные изображения, полученные без согласия», после того, как на это было доведено их внимание. Генеральный прокурор Мичигана заявил, что офис «активно изучает этот вопрос», генеральный прокурор Флориды сообщил, что его офис ведет расследование, а регулятор электронной безопасности Австралии заявил, что он «очень обеспокоен» и запросил информацию у Meta на высшем уровне.

Расследование усиливает давление на компанию, которая уже заплатила до 16,7 миллиардов долларов за урегулирование судебных исков, утверждающих, что ее социальные сети причинили вред детям, и обжалует решение суда Нью-Мексико, которое потребует от нее усовершенствовать процессы отчетности CSAM. Более широкий вопрос для индустрии искусственного интеллекта заключается в том, сможет ли автоматическая модерация идти в ногу со злоупотреблениями, которые сами по себе все чаще осуществляются с помощью искусственного интеллекта. И доказательства того, что система обнаружения не смогла отловить сотни нарушающих рекламных объявлений через несколько недель после того, как об исправлении было упомянуто, будут непосредственно использованы в этих дебатах.

Будьте впереди ИИ

Следите за последними разработками в области искусственного интеллекта и последними новостями в области искусственного интеллекта, пока регуляторы и платформы борются с вредом, причиняемым искусственным интеллектом.

Читать больше новостей об искусственном интеллекте →