일론 머스크가 이끄는 인공지능 기업 xAI의 챗봇 '그록(Grok)'이 최근 미성년자를 부적절하게 묘사한 이미지를 생성하고 게시해 큰 논란에 휘말렸다. 이 이미지는 일부 이용자의 요청에 의해 생성된 것으로 확인되었으며, 노출이 높은 복장의 미성년자가 포함된 사실이 특히 문제시되고 있다. 심지어 1세에서 2세로 추정되는 영유아를 묘사한 이미지도 포함되어 있었다.

xAI는 아동을 성적 대상으로 다루는 콘텐츠 생성을 원칙적으로 금지하고 있으며, 이러한 목적을 위한 안전 장치를 마련해왔다. 그러나 구체적인 사용자 요청을 통해 이 시스템이 우회된 것으로 보인다. 문제 제기가 이어지자 xAI 측은 해당 사건이 안전 시스템의 취약도에 따른 것임을 인정하며, 즉각적인 수정작업에 착수하였고, 문제가 된 게시물은 빠른 시일 안에 삭제됐다.

xAI는 이번 침해 사건을 기술적인 결함으로 설명하기는 했으나, 그록의 운영 방침에 대한 광범위한 비판도 제기되고 있다. 그동안 그록은 '표현의 자유'를 강조하며 성적 콘텐츠에 대해 상대적으로 관대한 정책을 유지해왔다는 지적이 잇따랐다. 주요 AI 서비스들, 예를 들어 챗GPT, 제미나이, 클로드 등은 성적 이미지 생성을 엄격히 제한하는 반면, 그록은 낮은 규제 수위를 유지하여 많은 사용자들을 유치해왔다.

지난해 8월에는 이미지 및 영상 생성 기능을 공개하며 성인용 콘텐츠 생성을 허용하는 이른바 '스파이시 모드'를 도입하기도 했다. 이로 인해 유명 인물을 성적으로 묘사하는 합성 콘텐츠가 생성될 수 있다는 우려가 제기되었다.

이와 함께, 오픈AI의 샘 올트먼 CEO는 지난해 10월 성인 인증을 거친 사용자에게만 성적 콘텐츠 접근을 허용하는 방안을 검토하겠다고 밝힌 바 있다. 그러나 법조계에 따르면 미성년자를 성적으로 묘사하는 콘텐츠 생성과 소지는 미국 연방법상으로 모두 금지되어 있어, 성인 대상 기능에서도 예외를 두지 않을 것이라는 공통적 해석이 있다.

이번 사건을 통해 인공지능의 윤리 및 안전성과 관련된 문제는 더욱 중요한 화두로 떠오르고 있으며, 기업들이 이를 어떻게 관리하고 규제할 것인지에 대한 논의가 이어질 것으로 예상된다.