研究人员发现，Meta 的人工智能广告筛选未能阻止数百个虐待儿童广告

自 8 月以来，研究人员在 Meta 平台上发现了超过 250 个包含儿童性虐待内容的广告，尽管新的人工智能工具可以阻止这些广告。

根据周二发布的非营利性技术透明度项目的研究显示，在 Meta 推出旨在检测和阻止此类内容的新人工智能工具后的几周内，超过 250 个包含儿童性虐待内容的广告在该公司的平台上出现。这一发现削弱了该公司的说法，即其人工智能驱动的广告筛选已在很大程度上缩小了差距，而立法者表示他们计划进行调查。

新数据延续了之前的披露。据《连线》杂志此前报道，上个月，Meta 删除了 Facebook、Instagram 和 Threads 上发布的约 50 个直接包含儿童性虐待内容的广告。当时，该公司表示，大多数滥用广告是在部署新的人工智能检测工具之前发布的。研究人员表示，他们最近几周发现了数百个广告，其中包括一些与 Meta 刚刚删除的广告相同的广告，而不是预期的下降。如需持续报道平台安全和最新的人工智能新闻，请关注 AI Buzz Wire。

失败的规模

自去年底以来，技术透明度项目的研究人员总共记录了超过 350 个在 Meta 平台上运行的滥用视频广告，涵盖 Facebook、Instagram、Messenger、Threads 和 Meta 更广泛的广告网络。与该组织最初确定的 53 个广告不同，新批次包含真实儿童的图像，而不是纯粹合成的图像。《连线》证实，其中一张来源图片来自欧洲王室的官方网站；研究人员表示，官方发布的一名未成年家庭成员的照片被修改成一段描述性行为的视频。研究人员没有透露这位王室成员的名字，以保护受害者，并表示他们联系了相关国家的官员。

该组织的负责人凯蒂·保罗 (Katie Paul) 告诉《连线》杂志，问题不仅限于人工智能生成的图像。 “我们在这里谈论的不仅仅是人工智能生成的儿童性虐待材料，”她说，并指出许多图像在用于广告之前似乎是从开放网络获取的。 “当 Meta 在此过程中大赚一笔时，这一切可能会带来很多伤害。”研究人员确定了广告中使用的四名未成年人的真实身份。

裸体应用程序的漏斗

据报道，这些广告遵循一致的模式。许多人打开一张青春期前或十几岁女孩的无伤大雅的照片——研究人员只发现了一张以男孩为主角的照片——上面覆盖着文字，声明该图像“不仅仅是一张照片”，而且对它可以做什么“没有限制”。当短视频播放时，孩子的脸就会变成露骨视频。点击进入苹果和谷歌应用商店中的人工智能换脸和“裸体”应用程序，其中许多与中国开发商相关。《连线》杂志分别在 Meta 平台上发现了数百个描绘成年人的相关裸体广告。

审核缓慢且信息披露缺失

Meta 的政策规定，该公司会审查在其平台上投放的所有广告，这些广告违反了其有关儿童剥削、成人剥削和裸体的规定。研究人员报告说，在实践中，Meta 有时需要长达一周的时间来审查通过公司自己的工具报告的实时广告，根据《连线》审查的屏幕截图，在此期间，广告积累了数百次额外的观看次数。当一些广告被删除时，它们的删除记录最初没有任何披露它们违反了公司的儿童性虐待政策；这些细节是在《连线》向 Meta 询问这一差异后才出现的。

研究人员通过 Meta 的报告工具向国家失踪和受虐儿童中心的 CyberTipline 报告了他们发现的每一条广告。 Meta 自己的广告库显示，这些广告总共向欧盟国家的 29,000 多个帐户和英国的约 7,000 个帐户展示，其中超过 250 个出现在美国，120 个出现在澳大利亚，80 个出现在印度——这个数字可能低估了总覆盖面，因为一些国家缺乏详细的广告效果数据。

元响应

梅塔反驳了这一发现的意义。公司发言人特雷西·克莱顿 (Tracy Clayton) 告诉《连线》杂志：“我们不会容忍裸体应用程序或任何形式的儿童剥削，无论是真实的还是人工智能生成的。”他补充说，该公司此前已删除了数十万个违反裸体政策的广告。 Meta 表示，研究人员发现的许多广告已经被删除，大多数广告的展示次数不到 200 次，并且收取的广告费用不到 5,000 美元。该公司还表示，人工智能生成的视频以成年人为主角，而涉及未成年人的视频则简短或模糊，使得检测更加困难，并向 NCMEC 报告了儿童剥削内容。

立法者和监管者采取行动

多名立法者和监管机构现在表示，在《连线》杂志报道后，他们正在调查这些广告。弗吉尼亚州参议员马克·华纳 (Mark Warner) 在早些时候的报道后给 Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg) 发了一封信，他表示，“令人失望的是，Meta 在引起他们的注意后，仍然继续投放含有儿童性虐待内容和未经同意的亲密图像的广告。”密歇根州总检察长表示，该办公室正在“积极调查此事”，佛罗里达州总检察长表示，其办公室正在调查，澳大利亚电子安全监管机构表示“高度关注”，并已要求 Meta 高层提供信息。

此次审查给这家公司带来了更大的压力，该公司已经支付了高达 167 亿美元的费用来解决指控其社交网络伤害儿童的诉讼，并对新墨西哥州法院的一项裁决提出上诉，该裁决要求该公司改进其 CSAM 报告流程。人工智能行业面临的更广泛的问题是，自动审核是否能够跟上滥用行为的步伐，而滥用行为本身也越来越多地由人工智能辅助——而有证据表明，检测系统在被引用作为解决方案几周后未能捕获数百个违规广告，这将直接引发这些争论。