기계 생성 텍스트에 플래그를 지정하는 것으로 가장 잘 알려진 AI 감지 회사인 Pangram은 공식적으로 Pangram Image 1.0과 Pangram Image Flash 1.0을 출시했습니다. Pangram은 이 두 모델이 AI 생성 및 AI 편집 이미지와 비디오를 감지하는 새로운 최첨단 모델을 제시한다고 밝혔습니다. 11월 4일 Pangram의 자체 블로그에 게시되고 Engadget, Unite.AI 및 Yahoo Tech가 수집한 이 발표는 회사가 몇 달 전에 발표한 연구 미리 보기를 API 지원을 통해 일반적으로 사용 가능한 제품으로 변환합니다.

이번 출시는 캐주얼 스크롤러와 플랫폼이 의존하는 중재 시스템 모두에서 합성 미디어가 실제 콘텐츠와 구별하기가 정말로 어려워지는 시점에 이루어졌습니다. Pangram은 오늘날의 프론티어 생성기의 출력에 대해 특별히 훈련된 전용 탐지 모델이 손실된 신호 중 일부를 복원할 수 있다고 확신합니다.

99.96% 정확도의 프론티어 이미지 감지

주력 Pangram Image 1.0 모델은 회사가 자체적으로 구축한 벤치마크에 대해 평가되었습니다. 100장의 실제 사진은 원본 사진과 거의 일치하는 프롬프트를 사용하여 12개의 최첨단 AI 이미지 생성기가 생성한 합성 버전으로 각각 미러링되어 총 1,200개의 합성 이미지입니다. 해당 평가 세트에서 Pangram은 99.96%의 정확도를 보고합니다. 이 수치는 독립적인 조사를 통해 유지된다면 회사가 비교한 상업 및 학술 탐지기보다 모델이 훨씬 앞서게 될 것입니다.

단순한 진짜인지 가짜인지 판단하는 것 외에도 이 모델은 AI 콘텐츠가 이미지 내에서 나타나는 위치를 정확히 파악하는 히트맵을 출력합니다. 이는 완전 합성 이미지와 손길이 닿지 않은 사진 사이의 점점 더 일반적인 중간 지점, 즉 AI 생성 배경이 있는 마케팅 이미지, 생성 도구로 수정된 사진 또는 실제 피사체와 생성된 요소를 혼합한 합성에 중요합니다.

Pangram은 또한 새로운 모델이 소셜 미디어 압축, 고의적인 흐림 및 노이즈, 낮은 업로드 해상도 등 순진한 탐지기를 확실하게 물리치는 종류의 변환에 강력하다고 주장합니다. 회사는 이전 연구 미리 보기에 최소 512x512 픽셀의 이미지가 필요했지만 Image 1.0은 256x256까지의 입력을 허용하며 이전 임계값 아래에 감소된 신뢰도 면책 조항이 표시되었다고 밝혔습니다.

DF26의 비디오 감지 및 29포인트 도약

동반 모델인 팬그램 이미지 플래시 1.0은 영상을 겨냥한 것으로 회사의 주장이 가장 눈에 띄는 부분이 바로 여기에 있다. Pangram은 최근 학술 연구인 DF26을 인용합니다. 이 연구에서는 사람들이 말하는 실제 비디오와 AI로 생성된 비디오를 구별할 때 인간이 무작위보다 거의 나을 것이 없으며 기존의 자동화된 감지기도 그다지 나을 것이 없다는 사실을 발견했습니다. 동일한 DF26 벤치마크에서 Pangram은 98.7%의 점수를 보고했는데, 이는 차선책 검출기에 비해 29포인트 도약한 것으로 설명됩니다.

학계가 아닌 상업 시장을 벤치마킹하기 위해 Pangram은 129개의 실제 소셜 미디어 비디오에서 어려운 비교 세트를 구성했습니다. 14개의 서로 다른 프론티어 비디오 생성기를 사용하여 각각의 합성 미러를 생성했습니다. 생성자당 100개의 비디오, 각 소스 비디오의 첫 번째 실제 프레임을 시드하고 생성된 동작 설명에 따라 구동되었습니다. 결과로 나온 1,529개의 비디오에서 회사는 Flash 1.0을 여러 주요 AI 비디오 탐지 서비스와 비교했습니다. 미러 방법론은 콘텐츠 편견을 제거하도록 설계되었습니다. 각각의 실제 비디오와 합성 트윈은 동일한 장면과 주제를 공유하므로 감지기는 어떤 주제나 미학이 AI 콘텐츠와 상관관계가 있는지 학습하여 테스트를 조작할 수 없습니다.

Flash 모델은 또한 프레임별 분석을 수행하여 실제 영상 내에서 AI 편집 세그먼트에 플래그를 지정할 수 있습니다. 이는 완전히 합성된 클립이 아닌 부분적으로 조작된 비디오의 증가하는 문제를 겨냥한 기능입니다.

텍스트 감지에서 전체 합성 미디어 스택까지

Pangram은 분류자가 교육 및 출판 분야에서 널리 사용되는 AI 텍스트 감지 분야에서 명성을 얻었으며 Yahoo Tech의 출시 보도에서는 이 회사가 해당 카테고리의 표준으로 묘사되었습니다. 이미지와 비디오로 확장하는 것은 자연스러운 확장이며 Pangram은 다양한 형식의 합성 미디어를 감시하려는 플랫폼, 뉴스룸 및 기업을 위한 원스톱 상점으로 자리매김합니다.

새 모델에는 이미지 및 비디오 감지를 위한 API 지원과 사용자가 피드를 스크롤할 때 이미지 및 비디오에 감지를 적용하는 Chrome 확장 기능이 함께 제공됩니다. 즉, 감지 기능을 백오피스 조정 도구에서 소비자 등급 보호에 더 가까운 도구로 이동합니다. Pangram은 또한 X-AIGD, Mirage-Test, AIGenImages2026, RAISE와 결합된 Synthbuster 및 Community Forensics를 포함한 학술 데이터 세트에 대해 모델을 벤치마킹했다고 말했습니다.

계속되는 탐지 군비 경쟁

한 가지 주의할 점은 강조할 가치가 있습니다. Pangram 발표의 모든 수치는 자체 미러 기반 벤치마크에서 수행된 Pangram 자체 평가에서 나온 것입니다. 독립적인 검증은 탐지 도구가 궁극적으로 신뢰를 얻는 방법이며, AI 탐지의 역사는 한 번도 본 적이 없는 생성기에 비해 정확도가 떨어지는 도구로 가득 차 있습니다. Pangram 자체도 게시물에서 연구 미리 보기를 시도하고 약점을 찾아준 커뮤니티에 감사를 표하며 많은 것을 인정했습니다.

그럼에도 불구하고 이번 출시는 생성 비디오의 급속한 발전에 대응하여 감지 기술이 얼마나 발전했는지 보여주는 의미 있는 지표입니다. 보고된 DF26 결과가 제3자 테스트를 통과한다면 인간이 인지할 수 있는 것과 기계가 검증할 수 있는 것 사이의 격차는 더욱 커질 것입니다. 이것이 바로 Pangram이 베팅하고 있는 시장입니다.

플랫폼과 게시자에게 실질적인 이점은 프레임 수준 비디오 분석을 포함하여 저해상도에서 고정밀 감지 기능이 상용 API로 제공된다는 것입니다. 합성 미디어 문제의 다음 단계는 탐지가 가능한지 여부보다는 이를 배포하는 사람과 인터넷 배관의 어느 계층에 있는지에 대한 것입니다.

AI보다 앞서 나가세요

합성 미디어, 탐지 도구 및 이를 채택하는 플랫폼은 움직이는 목표물이므로 최신 상태를 유지하세요.

AI 뉴스 자세히 보기 →