중국 당국이 불법으로 생성된 인공지능(AI) 콘텐츠에 대한 단속을 강화하고 있다. 특히, 인터넷정보판공실(CAC)은 출처를 명시하지 않고 뉴스를 제공한 1인 미디어 '쯔메이티'(自媒體) 9만 8000개에 대한 제재를 발표했다. 쯔메이티는 위챗이나 웨이보 같은 소셜미디어 플랫폼에서 활동하는 개인 운영자의 콘텐츠 채널을 가리키며, 많은 경우 AI가 생성한 콘텐츠임을 숨기고 조회수를 증가시키려 했던 것으로 알려졌다.

더불어, 국가시장감독관리총국(SAMR)은 AI 관련 온라인 광고 생태계에 대한 6개월간의 대대적 단속을 실시하기 시작했다. 이 단속은 광고 시장의 투명성을 확보하고 AI 오남용을 방지하기 위한 조치로 볼 수 있다. 지난해, 중국의 온라인 광고 시장 규모는 7930억 위안(약 170조 원)에 달하며, 바이트댄스, 텐센트, 알리바바와 같은 대형 테크 기업들이 시장의 절반 이상을 차지하고 있다.

중국 당국은 AI 오남용 및 자동화된 봇을 이용한 트래픽 조작이 새로운 위험 요소로 대두되고 있음을 인식하고 있으며, 이에 따라 시스템적이고 광범위한 단속 캠페인을 전개하고 있다. 캠페인은 규제 강화, 플랫폼 책임의 확대, 신규 광고 형태의 감독, 모니터링 기술의 발전, 콘텐츠 기준 강화를 주요 목표로 삼고 있다. 이와 같은 조치들은 지난 춘제 연휴 기간에도 70만 8000건 이상의 AI 생성 허위 콘텐츠를 삭제한 전례가 있다.

바이트댄스는 캡컷, 캣박스, 드리미나 등 AI 기반 서비스를 운영하며 이들 서비스에 대한 시정 명령을 받은 바 있다. 특히, 문제의 서비스는 사이버 보안법과 AI 생성 콘텐츠 규정을 위반한 것으로 지적되고 있다. 이로 인해 바이트댄스는 저작권을 침해한 AI 콘텐츠 53만 8000개가 삭제되고, 관련 계정 4000여 개에 대한 제재를 단행했다.

중국에서 인공지능을 활용한 콘텐츠 제작은 빠르게 발전하고 있지만, 그에 따른 법적 기준과 윤리가 뒤따르지 못하는 현상이 발생하고 있다. 특히, AI를 활용한 영상 제작 도구인 '시댄스 2.0'은 저작권 문제로 글로벌 출시가 지연되고 있는 상황이다. 이 AI 도구는 몇 장의 사진과 짧은 명령어만으로 유명 배우나 인기 드라마를 연상케 하는 15초짜리 영상을 생성할 수 있어 큰 주목을 받았으나, 콘텐츠 업계에서는 저작권에 대한 우려가 제기되고 있다.

중국은 향후 더욱 강력한 규제와 감독을 통해 불법 AI 콘텐츠의 생성 및 유통을 저지하고, 건전한 온라인 환경을 조성하기 위한 노력을 강화할 것으로 예상된다. 당국의 이러한 조치는 전 세계적으로 정보의 신뢰성과 온라인 콘텐츠의 질을 확보하기 위한 중요한 이정표가 될 것이다.