소셜 미디어 플랫폼 X(구 트위터)가 전쟁 관련 인공지능(AI) 생성 영상을 게시할 때 출처를 표기하지 않을 경우 광고 수익을 중단하는 새로운 정책을 발표했다. 이번 조치는 미국, 이스라엘, 이란 간 갈등이 격화됨에 따라 허위 정보와 가짜 영상의 확산을 방지하기 위한 제도적 장치로 마련되었다.

X의 제품 책임자인 니키타 비어는 최근 자신의 계정에서 "AI로 제작된 전쟁 관련 동영상을 게시할 때 AI 제작 여부를 명시하지 않으면 광고 수익 공유 프로그램에서 90일 동안 퇴출된다"고 경고했다. 추가로, 같은 위반이 반복될 경우 수익 프로그램에서 영구 제명될 수 있음을 강조했다. 비어는 "전쟁 상황에서는 사람들이 진실한 정보에 접근할 수 있어야 하며, 오늘날의 AI 기술로는 사람들을 오도할 수 있는 콘텐츠를 쉽게 생성할 수 있다"고 정책의 배경을 설명했다.

현재 온라인에서는 비디오 게임 장면을 이란의 미사일 공격으로 둔갑시키거나, 미 항공모함이 격침되는 모습을 조작한 영상이 수백만 회 조회되는 등의 사례가 증가하고 있다. 더불어 이란의 드론 공격으로 카타르에 있는 미군 레이더 시설이 파괴되었다는 주장이 제기된 사진은 사실상 바레인 지역의 위성사진을 AI로 변형한 것이라는 점이 확인되기도 했다. 이러한 가짜 영상과 허위 정보의 범람은 소셜 미디어 플랫폼들이 수익 화 통제를 강화하게 만든 중요한 원인이다.

따라서 X 이용자는 전쟁 관련 콘텐츠를 업로드할 때 메뉴에서 'AI로 제작됨'이라는 표기를 반드시 추가해야 한다. 이 정책은 전쟁과 관련된 콘텐츠에 한정되며, 일반적인 정치 및 경제 분야의 허위 정보에는 적용되지 않는다. X는 AI 도구의 메타데이터와 집단지성 기반 사실 확인 시스템인 '커뮤니티 노트'를 통해 위반 게시물을 감지할 계획이다.

일론 머스크가 X를 인수한 이후, 허위 정보 검증 및 제재 기능이 여러 차례 축소되거나 완화되었으나, 전쟁 관련 콘텐츠에 대한 별도의 제재 기준을 도입하여 사용자 보호에 나선 점은 주목할 만하다. 이처럼 전쟁 관련 허위 정보를 통제하기 위한 X의 새로운 정책은 향후 소셜 미디어의 콘텐츠 생태계와 정보 유통 방식에 중요한 영향을 미칠 것으로 예상된다.