OpenAI 破坏了与强迫劳动和人口贩运有关的柬埔寨 ChatGPT 诈骗团伙

OpenAI 破坏了位于柬埔寨的 ChatGPT 诈骗网络，该网络利用人工智能进行受害者欺诈并管理强迫劳动院内的运营。

OpenAI 在一份报告中披露，该公司已破坏了在柬埔寨波贝运作的由 ChatGPT 驱动的协调诈骗网络，该网络详细介绍了犯罪团伙目前如何将商业人工智能模型嵌入到强迫劳动营地的日常运营中。

该披露于 7 月 31 日发布，标题为“扰乱刑事诈骗行动”，描述了一个犯罪集团不仅使用 ChatGPT 欺骗全球受害者，还管理与贩运相关的企业的内部运作。该案例提供了一个窗口，让我们了解大型语言模型如何被重新用作有组织犯罪的运营基础设施。如需持续报道人工智能的滥用和防护栏，请关注 AI Buzz Wire 的最新人工智能发展。

网络如何运作

根据 OpenAI 的调查结果，该犯罪企业依靠 ChatGPT 翻译受害者的联系信息、生成欺诈性投资界面并起草虚假法律通知。运营商通过 WhatsApp 和 Telegram 等消息平台瞄准个人，循环实施三个阶段的欺骗生命周期。

该计划通常以旨在建立信任的浪漫提议开始，然后转向虚假的加密货币投资平台，最后在早期宣传失败时升级为虚假执法罚款的威胁。运营商并没有将自己局限于单一的欺诈垂直领域——他们将浪漫的设置与虚假的黄金交易台相结合，并将目标重新引入赌博渠道，从而最大限度地增加支付路径的数量。

这次行动的与众不同之处在于其人工智能使用的规模和纪律。该集团并没有运行一些一次性提示，而是系统化了生成模型，以跨多种语言进行大量令人信服的本地化通信。

强迫劳动维度

最令人不安的调查结果并非来自受害者面临的欺诈行为，而是来自该组织的内部活动。调查过程中恢复的提示日志显示，运营商使用 ChatGPT 在位于泰国-柬埔寨边境附近的实体骗局内执行管理任务。

这些日志包括翻译管理通讯、记录工人债务、记录签证逾期居留以及跟踪纪律罚款。一些条目提到了强迫拘留、逃亡工人和人口贩运网络。这一细节与多年来对东南亚骗局的报道一致，这些骗局经常以欺诈性的行政要约引诱求职者，然后没收护照，并在暴力威胁下迫使他们从事网络犯罪劳动。

换句话说，人工智能模型承担着双重职责：作为针对外部受害者的武器，同时充当被俘虏劳动力的管理软件。

OpenAI 的回应

OpenAI 表示，它已识别并切断了与该行动相关的账户，阻止了该集团对其模型的访问。该公司将这次破坏描述为更广泛努力的一部分，旨在发现和拆除滥用其平台进行金融犯罪和侵犯人权的网络。

该案例凸显了人工智能提供商面临的日益严峻的挑战。恶意行为者不再仅仅将商业语言模型视为外部武器——他们将其部署为操作中间件，将其编织到犯罪企业的后台机器中。检测这种滥用行为需要超越明显的面向受害者的提示。

一个新的检测问题

对操作的安全分析表明，对诈骗相关提示进行简单的关键字过滤已经不够了。行政用例——翻译备忘录、跟踪债务、记录出勤情况——孤立地读起来很平常，而且比公开的欺诈脚本更难标记。

根据对此次中断的报道，检测这种性质的滥用越来越需要跨平台情报共享和对管理提示的行为分析，即使个别请求看起来是良性的，犯罪活动也会留下明显的操作痕迹。要求模型“翻译此经理消息”的提示本质上并不可疑，但来自与已知化合物相关联的帐户的数百个此类提示形成了一种模式。

大局观

柬埔寨的行动是最新的信号，表明生成人工智能的滥用范围已远远超出深度造假和垃圾邮件。随着技术的成熟，价值最高的滥用可能是最不明显的：人工智能悄悄地运行着非法业务的后勤工作，从受害者翻译到劳动力管理。

对于 OpenAI 及其竞争对手来说，这种转变引发了关于监控责任应延伸到何种程度的难题。提供者可以暂停账户，但潜在的化合物、贩运网络和强迫劳动条件仍然存在。破坏数字层会有所帮助，但不会拆除维持这些操作的物理基础设施。

此次披露也是在更广泛的监管时刻到来的。随着新的透明度规则的生效，以及人工智能公司在解释其模型的使用方式方面面临的压力越来越大，像这样的案例可能会影响执法优先事项和未来系统中构建的技术保障提供商。

它还突出了令人不舒服的不对称性。使 ChatGPT 对合法企业有价值的相同语言功能（翻译、起草、摘要）也正是使其对跨国界和跨语言运营的犯罪企业具有吸引力的原因。一个可以帮助小企业接触十几个国家客户的模式也可以轻松帮助诈骗集团瞄准各大洲的受害者。区别不在于技术，而在于围绕技术的基础设施，而这正是提供商可见性最低的地方。