일론 머스크가 이끄는 인공지능 스타트업 xAI의 챗봇 '그록(Grok)'의 이미지 및 영상 생성 도구 '그록이매진(Grok Imagine)'이 출시를 앞두고 있다. 그러나 해당 도구의 '스파이시 모드'가 성인용 영상을 생성할 수 있는 기능으로 인해 윤리적 논란에 휘말리고 있다. 다른 생성형 AI들이 유명인의 이미지 사용을 차단하기 위해 많은 제한을 두고 있는 것과는 달리, 그록이매진은 이러한 제한이 거의 없어 우려의 목소리가 증가하고 있다.

xAI는 4일 그록의 iOS 버전을 출시하며, 이미지 및 영상 생성 기능을 커스텀(Custom), 노말(Normal), 펀(Fun), 스파이시(Spicy) 등 네 가지 프리셋으로 구분하였다. 특히 스파이시 모드에서는 성인용 이미지를 생성할 수 있는 반면, 일정 수준 이상의 노출이 있을 경우 시스템이 자동으로 블러 처리를 해 검열하는 기능이 포함되어 있다. 유료 구독자만 이 기능을 사용할 수 있으며, 사용자는 몇 초 만에 관련 이미지와 15초 분량의 영상을 생성할 수 있다.

상황이 이러한 가운데, IT 전문 매체 더버지가 그록이매진을 테스트한 결과, 특별한 요청 없이도 유명 팝 가수 테일러 스위프트의 상반신 노출 영상이 자동 생성되었다. 텍스트 요청 '스위프트가 코첼라에서 남성들과 축하하는 모습'을 입력하자 30장이 넘는 이미지가 생성되었고, 그중 노출이 심한 복장의 이미지를 선택한 후 스파이시 모드를 통해 해당 영상을 제작하는 데 성공했다.

이와 같은 사례는 그록이매진 기능이 다른 생성형 AI 도구와 비교해 법적 및 윤리적 문제를 일으킬 소지가 있음을 엿보게 한다. 구글 비오(Veo)나 오픈AI의 소라(Sora)와 같은 다른 도구들은 음란물 생성 방지 및 유명인에 대한 딥페이크 차단을 위해 안전장치가 마련되어 있는 반면, 그록은 그러한 안전장치 없이 성인 콘텐츠 생성이 가능하다는 점에서 비판을 받고 있다.

또한 아동의 이미지 생성에 대한 우려도 제기되고 있다. 더버지는 "그록이 아동의 모습을 사실적으로 생성할 수 있었고, 또한 스파이시 모드 적용이 가능했다"라고 전하며, 다행히도 해당 이미지에는 선정적인 요소가 없었다고 덧붙였다. 그러나 그록의 이용약관에서는 '인물의 음란한 묘사를 금지'하는 조항이 명시되어 있음에도 불구하고, 현재 이러한 규정이 제대로 시행되지 않고 있는 것으로 보인다.

머스크는 이미 생성된 이미지 수가 3400만 장을 넘었다고 밝혔다며, 이 기능이 본격적으로 사용자들 사이에 퍼지고 있음을 강조했다. 그록이매진의 기능은 높은 관심을 모으고 있으나, 앞으로와 윤리적 기준을 지키는 것에 대해서도 귀추가 주목되고 있다.