Pangram 是一家以标记机器生成文本而闻名的人工智能检测公司,已正式推出 Pangram Image 1.0 和 Pangram Image Flash 1.0,该公司表示,这两个模型为检测人工智能生成和人工智能编辑的图像和视频设定了新的技术水平。该公告于 11 月 4 日发布在 Pangram 自己的博客上,并被 Engadget、Unite.AI 和 Yahoo Tech 转载,该公告将该公司几个月前发布的研究预览转换为具有 API 支持的通用产品。

此次发布之际,无论是对于休闲滚动者还是对于平台所依赖的审核系统来说,合成媒体确实变得很难与真实内容区分开来。 Pangram 的赌注是,专门针对当今前沿发生器的输出进行训练的专用检测模型可以恢复部分丢失的信号。

前沿图像检测,准确率达 99.96%

旗舰版 Pangram Image 1.0 模型根据该公司自行建立的基准进行评估:100 张真实照片,每张都与 12 个前沿 AI 图像生成器使用与原始照片密切匹配的提示生成的合成版本进行镜像,总共 1,200 张合成图像。在该评估集上,Pangram 报告的准确度为 99.96%,如果该数字经得起独立审查,则该模型将远远领先于该公司与之比较的商业和学术探测器。

除了简单的真假判断之外,该模型还输出热图,准确定位人工智能内容在图像中出现的位置。这对于完全合成图像和未修改的照片之间日益常见的中间立场很重要:使用人工智能生成的背景的营销图像、使用生成工具修饰的照片或将真实主题与生成元素混合在一起的合成图像。

Pangram 还声称,新模型对于能够可靠地击败幼稚检测器的各种转换(社交媒体压缩、故意模糊和噪声以及低上传分辨率)具有鲁棒性。该公司表示,其之前的研究预览要求图像至少为 512x512 像素,而 Image 1.0 接受低至 256x256 的输入,并在旧阈值以下显示降低置信度的免责声明。

视频检测和 DF26 上的 29 点飞跃

配套模型 Pangram Image Flash 1.0 针对的是视频,正是在这一点上,该公司的声明最为引人注目。 Pangram 引用了最近的一项学术研究 DF26,该研究发现,在区分人们说话的真实视频和人工智能生成的视频时,人类的表现并不比随机的好多少,而现有的自动检测器也好不了多少。在同一个 DF26 基准测试中,Pangram 报告的得分为 98.7%,比第二好的检测器高出 29 分。

为了以商业市场而非学术界为基准,Pangram 从 129 个真实社交媒体视频构建了一个困难的比较集,使用 14 个不同的前沿视频生成器生成每个视频的合成镜像 - 每个生成器 100 个视频,以每个源视频的第一个真实帧为种子,并由生成的动作描述驱动。在生成的 1,529 个视频中,该公司将 Flash 1.0 与多种主要 AI 视频检测服务进行了比较。镜像方法旨在消除内容偏差:每个真实视频及其合成双胞胎共享相同的场景和主题,因此检测器无法通过了解哪些主题或美学与人工智能内容相关来欺骗测试。

Flash 模型还执行逐帧分析,从而可以在真实的镜头中标记人工智能编辑的片段——这一功能旨在解决部分操纵视频而不是完全合成剪辑这一日益严重的问题。

从文本检测到完整的合成媒体堆栈

Pangram 在人工智能文本检测方面建立了声誉,其分类器广泛应用于教育和出版领域,雅虎科技对此发布的报道称该公司是该类别的黄金标准。扩展到图像和视频是一种自然的扩展,它将 Pangram 定位为试图监管跨格式合成媒体的平台、新闻编辑室和企业的一站式商店。

新型号附带了对图像和视频检测的 API 支持,以及一个 Chrome 扩展,可在用户滚动源时对图像和视频进行检测,从而将检测从后台审核工具转移到更接近消费者级保护的工具。 Pangram 表示,它还针对学术数据集对模型进行了基准测试,包括 X-AIGD、Mirage-Test、AIGenImages2026、与 RAISE 配对的 Synthbuster 以及 Community Forensics。

检测军备竞赛仍在继续

有一点值得强调:Pangram 公告中的每个数字都来自 Pangram 自己的评估,并根据其自己的基于镜像的基准进行评估。独立验证是检测工具最终赢得信任的方式,人工智能检测的历史上充斥着精度低于他们从未见过的生成器的工具。 Pangram 本身在其帖子中也承认了这一点,感谢社区尝试研究预览并发现其弱点。

尽管如此,此次发布还是一个有意义的标志,表明检测技术在响应生成视频的快速改进方面已经取得了多大进展。如果报告的 DF26 结果通过了第三方测试,人类可以感知的结果与机器可以验证的结果之间的差距只会扩大——这正是 Pangram 所押注的市场。

对于平台和发布商来说,实际的收获是低分辨率下的高精度检测(包括帧级视频分析)正在作为商品 API 提供。合成媒体问题的下一阶段可能不再是关于是否可能进行检测,而是更多地关于谁部署它以及在互联网管道的哪一层。

保持人工智能领先地位

合成媒体、检测工具和采用它们的平台是移动目标——保持所有这些的最新状态。

阅读更多人工智能新闻 →