유튜브가 최근 공적 인물인 정치인과 언론인을 겨냥하여 AI 기반의 딥페이크 탐지 도구를 확대 적용하기로 결정했다. 이는 합성 콘텐츠의 확산을 막기 위한 노력의 일환으로 해석된다. 그러나 기술 전문가들은 이러한 탐지 중심의 접근 방식만으로는 날로 발전하는 생성형 AI 기술에 효과적으로 대응하기 어려울 것이라고 경고하고 있다.

11알 해시그래프 그룹의 공동 창립자이며 CEO인 스테판 다이스는 딥페이크 문제 해결에 있어 “빅테크가 해결하기 힘든 추격전”으로 변모하고 있다고 지적했다. 그는 “현재 가짜 이미지, 영상, 음성을 만들어내는 AI 기술이 탐지 시스템보다 더 빠르고 발전하고 있다”며, 새로운 탐지 기술이 등장할 때마다 다음 세대 딥페이크가 이를 회피하도록 학습하는 패턴이 형성된다고 설명했다. 이로 인해 플랫폼이 진정한 위협이 되는 콘텐츠를 발견하는 시점에는 이미 심각한 피해가 발생했을 가능성이 농후하다고 덧붙였다.

다이스는 딥페이크 대응 방침이 ‘가짜를 발굴하는 것’에서 ‘진위를 증명하는 것’으로 전환되어야 한다고 주장했다. 그는 “정확한 해결책은 합성 콘텐츠가 확산된 이후 가짜를 추적하는 것이 아니라, 최초 생성 시점부터 무슨 콘텐츠가 진짜인지를 명확히 증명하는 것”이라고 강조했다. 이는 기존의 암호학 기술을 통해 이미 인터넷 분야에서 널리 적용되고 있는 원리와 같다는 설명이다.

그는 “암호학은 은행 시스템, 메시징 서비스, 사이버 보안, 그리고 디지털 아이덴티티와 같은 인터넷 기반의 핵심 기술을 뒷받침하고 있다”며, 동일한 원리를 미디어 콘텐츠에도 적절히 적용할 수 있다고 밝혔다. 분산원장 기술과 같은 시스템을 도입하면 콘텐츠의 생성 출처 및 수정 여부를 암호학적으로 입증할 수 있다는 것이다.

다이스는 “콘텐츠에 생성 시점의 암호학적 증명을 삽입함으로써, 해당 콘텐츠가 언제, 어디서 생산됐으며, 이후에 변경됐는지를 확실하게 확인할 수 있다”고 밝혔다. 그는 딥페이크를 끝없이 탐지하려고 하기보다는 콘텐츠의 진위를 수학적으로 즉시 검증하는 보다 효과적인 방법이 가능하다고 강조했다.

결국 유튜브가 정치인과 언론인을 위한 딥페이크 탐지 도구의 적용을 확대하는 것은 긍정적인 조치임에도 불구하고, 이러한 탐지 중심 접근만으로는 실제 위협에 대처하기에 부족할 것이라는 분석이 지배적이다. 기술의 발전 속도와 범위가 넓어짐에 따라, 문제 해결의 패러다임 전환이 절실히 요구된다.