중국의 생성형 인공지능 서비스가 사용자와의 대화 중 욕설이 포함된 이미지를 생성하면서 논란이 일고 있다. 텐센트는 해당 사례가 다중 대화 처리 과정에서 발생한 비정상 출력 때문이라고 해명하며 긴급 조치를 취했다고 밝혔다.

중국의 한 변호사는 최근 '위안바오'라는 텐센트의 AI 서비스를 이용해 새해 인사용 이미지를 제작하려고 했고, 이 과정에서 불만을 제기했다. 그러나 후속으로 생성된 이미지에는 "새해 복 많이 받으세요, 승진하시길 바랍니다"라는 긍정적인 문구 대신 욕설이 포함된 결과물이 나왔다. 이 사건은 소셜미디어를 통해 확산되면서 텐센트에 대한 비판의 목소리가 커지게 됐다.

텐센트는 공식 입장에서 "모델이 여러 번의 대화를 처리하는 과정에서 비정상적인 출력이 발생했다"며 사과의 뜻을 전했다. 회사는 관련 문제를 긴급하게 수정하고 사용자 경험을 개선하기 위한 조치를 시행했다고 밝혔다. 이번 사건은 중국의 AI 분야가 성장을 거듭하고 있는 가운데 발생했다는 점에서 사회적으로 중요한 이슈로 다뤄지고 있다.

AI 기술의 발전과 상용화가 가속화되고 있는 지금, 별도의 대규모 언어 모델(LLM)을 보유한 텐센트뿐만 아니라 바이두, 알리바바 등 주요 기술기업들도 비슷한 서비스 확장에 나서고 있다. 그러나 전문가들은 AI의 맥락 오인 및 감정 표현이 부적절하게 반영되는 '비정상 출력' 문제가 여전히 해결해야 할 과제로 남아 있다고 지적하고 있다.

광저우일보는 "기술 자체에는 잘못이 없지만 이를 방치하는 것은 책임 방기"라며 AI가 인류의 지식과 감정뿐만 아니라 윤리적인 가치 또한 계승해야 한다고 강조했다. 이는 AI의 발전에 따른 사회적 책임과 윤리를 재고하는 계기가 될 것으로 보인다.

이처럼, AI 기술의 발전과 그로 인한 부작용은 많은 이들에게 경각심을 주고 있으며, 향후 더 나은 사용자 경험을 제공하기 위한 기술적, 윤리적 기준 설정이 필요할 것으로 보인다. 텐센트의 사건처럼 사용자와의 신뢰를 쌓는 것이 기업의 중요한 과제가 될 것이다.