생성형 인공지능(AI)으로 제작된 콘텐츠에 대한 워터마크의 적용이 업계 전반으로 확산하고 있다. 이는 AI 생성물을 보다 투명하게 식별하겠다는 의도로 시작되었지만, 해당 기술이 완벽한 판별장치로 기능하기에는 여러 한계점이 지적되고 있다.

최근 앤스로픽은 유럽연합(EU) AI법의 시행에 발맞춰 자사의 클로드 모델에 기계 판독용 워터마크를 도입했다. 이 워터마크는 일반 사용자에게는 인식되지 않지만, 특정 탐지 도구를 통해 식별 가능한 형태로 텍스트 내부에 미세한 흔적을 남기는 방식이다. 앤스로픽은 앞으로 모든 AI 모델에 대한 워터마크 적용 계획을 세우고 있으며, 제3자가 이를 확인할 수 있는 기술 문서 및 도구도 공개할 예정이다.

이와 함께 구글과 오픈AI를 비롯한 다른 AI 기업들도 워터마크 도입을 지속하고 있다. 구글은 '신스 ID'를 통해 자사의 생성 모델이 만든 텍스트와 이미지에 워터마크를 적용하고, 오픈AI는 이미지의 출처 정보를 기록하기 위한 'C2PA' 메타데이터를 사용하고 있다. 이러한 흐름 속에서 AI 음악 서비스 및 뉴스레터 서비스 등에서도 생성된 콘텐츠의 식별을 위한 기술이 도입되고 있다.

하지만 전문가들은 이러한 워터마크가 단어와 문장 구조의 수정만으로도 쉽게 우회될 수 있다는 점에서, 완전한 신뢰성을 보장하기 어렵다고 경고하고 있다. 앤스로픽의 텍스트 워터마크는 특정 단어가 선택될 확률을 조정하여 전체 글에 통계적 패턴을 부여하는 방법을 사용하고 있으며, 탐지기는 이 패턴을 분석하여 워터마크의 존재 여부를 판단하게 된다. 그러나 이 과정에서 단어를 자유롭게 바꿔 쓰면 탐지를 피할 가능성이 크다는 지적이 이어지고 있다.

AI 탐지업체 GPT제로의 최고기술책임자(CTO)인 알렉스 추이는 "언어의 구조를 변경하는 강도 높은 변형을 가하면 워터마크는 무용지물이 될 수 있다"라고 언급하며, 구글 역시 신스 ID 공개 당시 짧은 글이나 변형된 텍스트에서 탐지 성능이 저하될 수 있음을 경고했다.

워터마크 도입으로 인해 품질 저하를 우려하는 목소리도 늘고 있다. 추이는 텍스트 품질에 영향이 미칠 수 있으며, 원래 선택되었던 단어의 확률이 인위적으로 조정된다면 내용의 충실성에 부정적 영향을 끼칠 수 있다고 덧붙였다.

게다가 워터마크를 무력화하는 기술도 활발히 연구되고 있다. 특히, 스위스 취리히연방공대의 연구팀은 워터마크가 적용된 AI에 반복적으로 질의하여 해당 규칙을 추정하는 실험을 통하여, 50달러 미만의 비용으로 기존 워터마크를 제거하는 데 80% 이상의 성공률을 기록했다. 이러한 기술 발전은 일반 사용자에게도 접근 가능한 도구를 통해 워터마크 제거가 가능해지고 있음을 시사한다.

결국 AI 콘텐츠의 식별과 워터마크 기술은 급속도로 발전하고 있으나, 완전한 해결책으로 자리잡기에는 여전히 많은 과제가 남아 있다. 기업들은 이러한 기술들을 심도 깊이 연구하며 진행 상황을 지켜보아야 할 것이다.