최근 인공지능(AI)을 이용한 딥페이크 성범죄 사례가 증가함에 따라, 미국의 한 17세 여학생이 AI 개발사를 상대로 소송을 제기했다. 이 사건은 뉴저지주에 거주하는 여학생이 사회 관계망 서비스(SNS)에 게시한 수영복 사진이 남학생에 의해 변형되어 가짜 나체 사진으로 변환된 것을 계기로 촉발됐다.

피해 여학생은 자신의 수영복 사진이 AI 소프트웨어 '클로드오프(Cloth Off)'를 통해 불법적으로 변형되어, 같은 반 남학생들이 이를 채팅방에서 공유한 사실을 알렸다. 그녀는 이로 인해 자신의 이미지가 낯선 사람들에게 유포될 수 있다는 두려움에 시달리고 있으며, 자신의 사진이 AI 모델 훈련에 사용될까 걱정하고 있다.

여학생 측은 클로드오프를 개발한 'AI/로보틱스 벤처 스트래티지 3'와 해당 소프트웨어의 접근을 허용한 메신저 앱 텔레그램을 피고로 추가하며, 법원에 모든 누드 이미지를 삭제하고 AI 훈련에 사용하지 못하도록 명령해 줄 것을 요청했다. 그녀는 이러한 AI 이미지 생성 행위가 아동 성적 학대 콘텐츠에 해당한다며 강력한 대응을 요구하고 있다.

반면 피고 기업 측은 자신들의 소프트웨어 약관에 따라 미성년자 이미지는 처리할 수 없으며, 그런 시도가 있을 경우 계정이 정지된다고 주장하였다. 그들은 어떠한 데이터도 저장하지 않고 있음을 강변하며, 이 사건은 그들의 운영 방침에 전혀 해당되지 않는다고 덧붙였다.

더욱이 클로드오프 링크가 아동 포르노 제작에 사용되고 있다는 경고에도 불구하고, 이 회사는 지속적으로 법적인 도전에 직면하고 있다. 샌프란시스코의 검사 데이비드 치우는 클로드오프 및 주요 딥페이크 사이트들을 상대로 소송을 진행중이며, 이미 몇몇 사이트는 폐쇄된 상태다. 치우 검사는 범죄자들이 법적 책임을 다할 때까지 소송을 중단하지 않을 것이라고 밝혔다.

딥페이크 중 성범죄가 전 세계적으로 증가하고 있는 가운데, 조사에 따르면 올해 8월까지 딥페이크 성범죄로 입건된 피의자는 936명으로, 지난해 동일 기간의 수치를 크게 초과하였다. 놀라운 점은 이러한 피의자 중 약 60%가 10대라는 점이다. 이와 관련하여 10대의 범죄율이 급증하고 있는 모습은 사회 전반에 걸쳐 심각한 우려를 일으키고 있다.

결국, 이 사건은 AI 기술이 비윤리적인 방식으로 사용될 수 있는 위험성을 명확히 드러내고 있으며, 사회가 이러한 범죄에 대처할 수 있는 법적 체계를 강화할 필요성을 환기시키고 있다. 이 여학생의 소송이 어떻게 마무리될지는 귀추가 주목된다.