Anthropic은 Claude 모델에서 생성된 텍스트에 눈에 보이지 않는 워터마크를 적용하기 시작할 것이라고 회사가 이번 주에 확인했으며, 새로운 유럽 투명성 규칙에 대응하여 기계가 읽을 수 있는 출처 신호를 추가하는 최신 AI 제공업체가 되었다고 확인했습니다.
업데이트된 지원 페이지에 자세히 설명된 변경 사항은 Claude가 제작한 콘텐츠에 다른 곳에 복사하고 붙여넣어도 유지되도록 설계된 숨겨진 서명이 포함된다는 것을 의미합니다. 이는 8월 2일 발효된 유럽연합의 AI법 투명성 규정(AI Act Transparency Code)에 대한 직접적인 대응으로, AI 기업은 생성되거나 편집된 콘텐츠를 다른 시스템이 감지할 수 있는 방식으로 표시해야 합니다.
워터마크 작동 방식
Anthropic은 8월 2일 이후 출시되는 모든 모델에는 컴퓨터 생성 텍스트와 파일 모두에 워터마크를 적용하는 기술이 자동으로 포함될 것이라고 말했습니다. 파일의 경우 회사는 일부 카메라 제조업체와 이미지 편집 도구에서 미디어 생성 방법을 기록하기 위해 이미 사용하고 있는 콘텐츠 자격 증명 프레임워크인 C2PA 개방형 표준을 채택하고 있습니다.
텍스트 워터마크는 나중에 적용되는 것이 아니라 모델 수준에 내장됩니다. Anthropic의 지원 문서에 따르면 "워터마크는 텍스트의 일부이기 때문에 다른 곳에 복사하여 붙여넣을 때 텍스트와 함께 이동하며 일부 편집을 통해 지속될 수 있습니다. 워터마킹은 모델 수준에서 적용됩니다. 즉, 텍스트가 어떤 Claude 제품이나 표면에서 나오든 상관없이 워터마크가 표시된다는 의미입니다."
회사는 워터마킹 지원을 구형 모델에도 확대할 계획이라고 덧붙였습니다. 이 기능은 Claude 플랫폼 API, Claude 채팅 앱, Claude Code, Claude Cowork 및 Claude Tag를 포함한 Anthropic의 제품 라인 전체에 적용됩니다.
마크를 제거하기 위해 사용자가 정확히 얼마나 많은 편집을 수행해야 하는지는 완전히 명확하지 않으며 Anthropic은 해당 기술을 공개적으로 자세히 설명하지 않았습니다. 텍스트 워터마킹은 문구를 조금만 변경해도 깨지기 쉬운 통계 패턴을 깨뜨릴 수 있기 때문에 기술적으로 어렵습니다. 이는 해당 분야의 연구자들이 오랫동안 해오던 과제입니다.
사용자는 선택 해제할 수 없습니다.
특히 Claude 사용자는 워터마크를 비활성화할 수 없습니다. 설정은 요청별로 전환되는 것이 아니라 모델 자체에 의해 적용됩니다. 즉, Claude 표면을 통해 텍스트를 생성하는 사람은 누구나 원하는지 여부를 표시하게 됩니다.
이러한 입장은 일부 전문 사용자들의 반발을 불러일으킬 가능성이 높습니다. Claude를 사용하여 콘텐츠 초안을 작성하는 작가, 개발자 및 기업은 깨끗하고 표시되지 않은 출력에 익숙해졌으며 일부는 인터넷에서 텍스트를 따르는 보이지 않는 서명이 불편할 수 있습니다. Anthropic은 규제 준수가 그러한 선호보다 중요하다고 결론을 내린 것으로 보입니다.
광범위한 업계 쟁탈전의 일부
Anthropic은 혼자 행동하지 않습니다. EU의 투명성 요구 사항은 규제 기관이 두드리기 전에 출처 신호를 추가하기 위해 AI와 콘텐츠 플랫폼 간의 경쟁을 시작했습니다.
지난주 AI 음악 플랫폼 Suno는 AI 생성 오디오에 대한 법적 소송이 제기된 후 자사 서비스에서 생성된 트랙을 표시하기 시작할 것이라고 밝혔습니다. 지난 달 뉴스레터 플랫폼인 Substack은 AI 생성 콘텐츠를 표시하기 위해 탐지 회사인 Pangram과 파트너십을 맺었고, Substack CEO인 Chris Best는 AI를 사용하여 플랫폼에 저품질 자료를 넘치게 하는 사람들을 가리키는 용어인 "Claudefishing"을 공개적으로 외쳤습니다.
압력은 Anthropic의 직접적인 경쟁사를 훨씬 넘어 확장됩니다. TechCrunch의 보고에 따르면 Black Forest Labs, Google, Meta, Microsoft, OpenAI 및 Synthesia는 모두 EU의 투명성 규정을 준수하기 위해 노력하고 있으며 이는 워터마킹이 차별화 요소가 아닌 빠르게 업계의 기본 기대 사항이 되고 있음을 나타냅니다.
출처가 갑자기 급한 이유
워터마크에 대한 추진은 두 가지 공통된 우려를 반영합니다. 첫 번째는 규제입니다. EU AI법이 현재 시행 중이며 이를 준수하지 않는 기업은 상당한 처벌을 받을 가능성이 있습니다. 출처 기반 시설을 조기에 마련하는 것이 시행 압력을 받아 개조하는 것보다 저렴합니다.
두 번째는 평판이다. AI가 생성한 텍스트, 이미지, 오디오 및 비디오가 소셜 플랫폼에 범람함에 따라 게시자와 플랫폼은 인간의 작업을 몰아내고 신뢰를 약화시키는 저품질 합성 콘텐츠인 "AI 슬롭"에 대한 반발이 커지고 있습니다. 보이지 않는 워터마크는 조정만으로는 해결할 수 없는 질문에 대한 기술적 답변을 제공합니다. 이 질문은 기계가 작성한 것입니까?
AI 안전을 중심으로 브랜드를 구축한 Anthropic의 경우 워터마크를 채택하는 것도 신뢰성을 높이는 조치입니다. 책임감 있는 대안으로 자신을 마케팅하는 회사는 지연되는 모습을 보이기보다는 투명성을 선도하려는 강력한 인센티브를 갖습니다.
더 어려운 질문은 아직 해결되지 않은 상태로 남아 있습니다. 워터마크는 탐지 도구가 실제로 워터마크를 찾는 경우, 그리고 컨텐츠가 오픈 웹에서 이동할 때 발생하는 편집, 형식 재지정 및 세탁을 견딜 수 있을 만큼 마크가 강력하다고 입증되는 경우에만 도움이 됩니다. Anthropic은 모델 수준에 신호를 삽입하는 것이 가장 내구성 있는 접근 방식이라고 확신합니다. 실제로 유지되는지 여부는 앞으로 몇 달 안에 신속하고 공개적으로 테스트될 것입니다.
AI 정책과 업계를 재편하는 도구에 대한 지속적인 보도를 보려면 AI Buzz Wire의 AI 속보 보도를 즐겨찾기에 추가하세요.
