일론 머스크가 이끄는 xAI의 챗봇 그록(Grok)이 여성과 아동을 대상으로 하는 성적 이미지 생성을 두고 논란에 휘말리며, 여러 국가의 규제 당국이 강력한 조사를 시작했다. 7일 보도된 연합뉴스에 따르면, 영국 정부는 그록이 동의 없이 성적 이미지를 생성하고 유포하는 문제에 대해 시급한 해결을 요구하고 있다.

리즈 켄들 영국 과학혁신기술부 장관은 "이것은 표현의 자유 문제로 국한되지 않으며, 법적 준수 사안이다"라며, AI로 생성된 이미지 또한 불법 사적 이미지 유포에 해당한다고 강조했다. 그는 "온라인안전법에 따라 사적인 이미지를 오용하거나 유포하는 행위는 범죄로 정의된다. 이는 AI로 생성된 이미지를 포함하며, 각 플랫폼은 이에 대한 책임을 다해야 한다"고 밝혔다.

영국 미디어 및 통신 규제 기관인 오프콤(OfCom)은 최근 그록이 사람들의 옷을 벗기는 이미지를 생성하고 있다는 우려를 조사 중임을 알렸다. 오프콤은 xAI와 엑스(X)가 영국 사용자를 보호하기 위해 법적 의무를 제대로 이행하고 있는지를 파악하기 위해 긴급히 연락을 취했다. 켄들 장관은 오프콤의 조사가 시급한 것이라고 동의하며, 필요한 법적 조치를 지지한다고 덧붙였다.

그록은 표현의 자유를 내세워 성적 콘텐츠 생성을 제한하지 않고 있으며, 최근 아동을 성적으로 그린 생성 이미지에 대한 논란이 커지고 있다. 사용자가 사진을 변형할 수 있는 기능을 제공함에 따라 비키니 합성 및 딥페이크 성적 이미지 제작이 악용되고 있는 상황이다. 특히 일부 이용자들은 미성년자 사진을 성적으로 변형해 유포하기도 했다. 머스크의 13번째 자녀를 출산한 인플루언서 애슐리 세인트 클레어는 자신의 어린 시절 사진이 그록을 통해 비키니 사진으로 변형되어 게시되었다며, "동의 없는 이미지 변형은 명백한 성범죄"라고 비판했다.

이러한 논란 이후 머스크는 "그록이 불법 콘텐츠 제작에 사용된다면 그 책임은 모두에게 해당된다"는 경고를 했다. 유럽연합(EU)은 이 문제를 심각하게 보고 있으며, 집행위원회는 그록이 어린이 이미지를 성적 콘텐츠로 생성하는 것은 불법이라는 입장을 내놓았다. 프랑스는 이미 아동 성 착취물 제작 및 유포 혐의로 엑스에 대한 검찰 수사를 확대하기로 결정했다. 아시아에서도 대응이 이어지고 있으며, 인도 규제 당국은 엑스에 대해 성적 콘텐츠 제거 및 사용자 단속을 지시했고, 말레이시아도 관련 조사를 착수했다.

이러한 규제의 현실화 속에 xAI는 "안전장치의 허점을 확인하고 긴급 수정 중"이라고 발표했다. 그러나 일부 외신들은 논란 이후에도 문제가 계속되고 있다고 보도하고 있다. 전문가들은 AI 챗봇의 자유와 이용자 보호 간 균형을 유지하는 것, 그리고 플랫폼 책임 범위를 둘러싼 논쟁이 이번 사건을 계기로 더욱 커질 것이라고 전망하고 있다.