일론 머스크가 설립한 AI 스타트업 xAI의 챗봇 '그록(Grok)'이 성적 딥페이크 사진 생성 논란에 대응하여 일부 이미지 생성 기능을 유료 구독자만 사용할 수 있도록 제한하게 되었다. 최근 그록은 소셜 미디어 플랫폼 엑스(X, 구 트위터)에서 사용자가 이미지 생성을 요청할 경우 "유료 구독이 필요하다"라는 안내 메시지를 표시하고 있다. 그동안 이 기능은 무료로 제공되었으나, 이제는 월 8달러를 지불한 프리미엄 구독자만 접근할 수 있다.

이러한 조치 이후, 그록이 생성한 성적 딥페이크 이미지의 수가 눈에 띄게 감소한 것으로 나타났지만, 문제는 여전히 남아 있다. 그록 앱 내에서는 구독 없이도 이미지 생성이 가능하므로, 논란이 완전히 종료된 것은 아니다. 특히, 그록은 최근 몇 주간 여성과 아동을 성적 대상으로 한 딥페이크 이미지를 대량으로 생성하여 심각한 사회적 이슈로 대두됐다. 이러한 이미지 대부분은 당사자의 동의 없이 생성된 것으로, 유럽의 주요국가들과 말레이시아, 인도 등에서는 관련 콘텐츠 단속에 나서고 있는 상황이다.

이와 관련하여 유럽연합(EU) 측은 유료 구독 제한 조치가 근본적인 해결책이 되지 못한다고 비판하고 있다. EU 집행위원회 대변인은 "무료든 유료든 문제의 이미지를 차단하는 데 한계가 있다"며 "근본적 개선이 필요하다"고 지적하였다. 또한, 영국 총리실 대변인도 "이번 제한은 실효성이 떨어지며, 이는 여성혐오 및 성폭력 피해자에게 모욕적"이라고 언급했다.

미국의 상원의원 3명은 애플과 구글의 최고경영자에게 그록 앱과 엑스 앱을 앱스토어에서 삭제할 것을 요청하는 서한을 발송하기도 했다. 이들은 "머스크가 불법적 가능성이 있는 행동을 해결할 때까지 앱스토어에서 즉시 제거해야 한다"고 경고한 상황이다.

그록은 원래 아동 성적 대상화 콘텐츠 생성에 대한 제한 장치를 갖추고 있었으나, 일부 사용자들이 이러한 보호 기능을 우회한 사례가 확인되었다. 이후 xAI는 논란이 되는 이미지를 삭제하고 긴급 수정에 착수하였다. 더불어 xAI가 작년 8월에 도입한 '스파이시 모드'는 성인용 콘텐츠 생성을 허용하지만, 노출 수준이 과다할 경우 자동으로 블러 처리되는 기능을 포함하고 있어, 공개 직후 유명 인물 등을 대상으로 한 합성 콘텐츠 생성 가능성 때문에 논란을 야기한 바 있다.

이러한 일련의 조치는 첨단 기술이 사회에 미치는 영향과 그에 따른 윤리적 문제를 다시 한번 일깨워주며, AI 기술의 안전한 사용을 위한 보다 근본적인 접근이 필요하다는 점을 시사하고 있다.