클로드가 AI 생성 콘텐츠에 표식을 남기는 방식과 그 한계

AI가 만든 텍스트와 이미지가 일상적인 콘텐츠와 뒤섞이면서, 어떤 내용이 어디서 왔는지를 알려주는 신호의 중요성이 커지고 있다. 앤트로픽은 EU AI법 제50조 2항에 따른 'AI 생성 콘텐츠 투명성 실천 강령'에 생성형 AI 모델과 시스템의 공급자로서 서명했고, 이 약속을 클로드에 어떻게 적용할지에 대한 계획을 공개했다. 핵심은 클로드가 생성한 콘텐츠에 기계가 읽을 수 있는 표식을 심어, 사람이 아닌 도구가 관여했다는 사실을 사후에 확인할 수 있게 하겠다는 것이다.

언제, 어디에 표식이 붙나

적용 시점의 기준선은 2026년 8월 2일이다. 이 날짜 이후 EU에 출시되는 클로드 모델은 출시 시점부터 기계 판독 표식을 지원한다. 생성된 텍스트에는 삽입형 워터마크가, 지원되는 파일에는 디지털 서명된 출처(provenance) 메타데이터가 붙는다. 그 이전에 출시된 모델에는 법이 정한 전환 기간이 적용되며, 앤트로픽은 기존 모델에도 표식 기능을 추가하는 작업을 진행 중이라고 밝혔다. 즉 지금 당장 모든 클로드 출력에 표식이 붙는 것은 아니라는 점을 실무자는 염두에 둬야 한다.

표식은 특정 제품에 국한되지 않는다. API 형태의 클로드 플랫폼을 비롯해 클로드, 클로드 코드, 클로드 코워크, 클로드 태그 등 지원 모델을 사용하는 모든 창구에 적용되며, 지역상으로도 클로드가 제공되는 전 세계 어디서나 동작한다. AWS, 구글 클라우드, 마이크로소프트 파운드리 같은 클라우드 파트너를 통해 접근할 때도 삽입형 워터마크가 적용된다. 다만 서명된 출처 메타데이터는 플랫폼이 제공하는 기능에 따라 지원되지 않을 수 있고, 일부 기능에서는 특정 표식 유형이 빠질 수 있다.

두 가지 표식 기법

클로드는 상호 보완적인 두 방식을 쓴다. 하나는 텍스트에 삽입되는 워터마크다. 지원 모델이 텍스트를 생성할 때 사람이 인지할 수 없는 워터마크를 문장 자체에 짜 넣는데, 의미나 품질, 가독성은 바뀌지 않는다. 텍스트의 일부이기 때문에 복사·붙여넣기로 옮겨도 함께 따라가고, 일부 편집을 거쳐도 유지될 수 있다. 모델 수준에서 적용되므로 어떤 제품을 통해 나온 텍스트든 동일하게 담긴다는 점이 특징이다.

다른 하나는 파일에 붙는 서명된 출처 메타데이터다. .svg, .png, .jpg 같은 지원 파일 유형을 생성하면 C2PA(콘텐츠 출처·진위 연합) 개방 표준을 따르는 메타데이터가 첨부된다. 이 서명 라벨이 있으면 해당 파일이 클로드를 거쳐 처리됐음을 알리는 동시에, 파일이 변조됐는지를 확인할 수 있는 근거가 된다. 앤트로픽은 사용자와 제3자가 이 워터마크와 메타데이터를 검출할 수 있도록 하는 방안도 준비 중이며, 구체적인 검출 메커니즘은 추후 기술 문서로 공개하겠다고 밝혔다.

신호이지 증명은 아니다

실무적으로 가장 중요한 대목은 표식의 한계다. 표식이 검출됐다는 것은 '해당 콘텐츠가 클로드를 거쳤을 수 있다'는 신호일 뿐, 콘텐츠의 완전한 출처를 확정해 주지는 않는다. 사람들은 교정, 번역, 요약, 파일 변환 용도로 클로드를 쓰는 경우가 많은데, 이때 원래 아이디어나 데이터가 다른 곳에서 왔더라도 결과물에는 클로드 표식이 남는다. 반대로 클로드가 처리한 뒤 내용이 수정·발췌되거나 다른 자료와 결합될 수도 있어, 표식의 존재가 텍스트 전체의 저작 주체를 말해주지는 않는다.

표식이 없다고 해서 AI가 관여하지 않았다고 단정할 수도 없다. 표식 지원 이전에 출시된 모델로 생성됐거나, 텍스트가 심하게 편집·의역·번역되거나 다른 글에 섞였거나, 신뢰할 만한 신호를 담기엔 분량이 너무 짧은 경우 검출이 안 될 수 있다. 파일 역시 형식 변환, 재저장, 스크린샷 과정에서 메타데이터가 벗겨질 수 있고, 특정 표식 유형을 지원하지 않는 플랫폼·기능·파일 형식을 통해 만들어졌다면 애초에 표식이 없을 수 있다.

결국 이 표식 체계는 콘텐츠 진위 판별의 만능 도구가 아니라, 출처를 추정하게 해 주는 보조 신호에 가깝다. 자사 제품에 클로드를 탑재해 서비스하는 기업이라면 제50조가 자신들에게 무엇을 요구하는지 독립적으로 평가해야 한다. 앤트로픽은 강령상 약속에 따라 파트너의 투명성 의무 이행을 돕고 표식·검출 방식에 대한 기술 가이드를 순차적으로 제공하겠다는 입장이지만, 검출을 실제 워크플로에 어떻게 연동하고 표식의 확률적 성격을 어디까지 신뢰할지는 각 도입 주체가 판단해야 할 몫으로 남는다.