최근 홍콩 사우스차이나모닝포스트(SCMP)는 한국에서 급속히 확산되고 있는 생성형 인공지능(AI) 콘텐츠의 현상과 그로 인해 가상과 현실의 경계가 모호해지고 있다는 내용을 보도했다. 이 기사는 한국 사회가 AI에 대한 현실 감각을 잃어가고 있으며, 사회적 안전장치가 이에 비해 부족하다는 진단을 내리고 있다.

SCMP는 대표적인 사례로 최근 소셜미디어에서 큰 화제를 모은 '야구장 여신' 영상을 언급했다. 이 5초짜리 영상은 프로야구 경기에서 관중석에 앉은 여성의 혼합된 이미지로, '평균적인 한국 여성'이라는 제목으로 1500만 회 이상 조회 수를 기록하며 퍼졌다. 하지만 해당 여성은 실제 인물이 아닌 AI로 만들어진 합성 이미지로, 여러 야구팬들이 전광판에 나타난 선수들의 배치와 잘못된 응원 문구 등을 통해 사실임을 밝혀냈다.

이 외에도 AI 생성 콘텐츠가 안전 문제에까지 영향을 미친 사례가 있었으며, 대표적으로 지난 4월 발생한 대전 오월드에서의 늑대 탈출 소동이 있다. 이 사건에서 SNS에 퍼진 이미지는 AI로 만들어진 합성 사진이었으며, 이로 인해 해당 제작자는 공무집행방해 혐의로 경찰에 검거되었다. 이런 사례는 생성형 AI의 오용이 공공 안전에 얼마나 큰 영향을 미칠 수 있는지를 잘 보여준다.

SCMP는 한국이 'AI 슬롭(AI slop)' 소비의 중심국으로 부상하고 있으며, 이는 클릭수를 노린 저품질의 AI 콘텐츠 대량 생산을 의미한다고 보도했다. 카프윙(Kapwing)의 조사에 따르면, 한국에서 운영되는 AI 슬롭 관련 유튜브 채널의 누적 조회 수는 약 84억5000만 회에 달하는 것으로 나타났다. 이러한 현상은 AI가 사회의 여러 문제를 더 심화시키는 원인이 될 수 있음을 경고한다.

또한, 한국의 AI를 이용한 성범죄 사례로는 2024년 텔레그램에서 발생한 딥페이크 사건이 있으며, 이는 미성년자와 여성의 얼굴을 합성한 불법 콘텐츠가 대규모로 유포된 사건이다. 이 사건은 AI 기술의 악용 가능성을 여실히 드러내며, 더 많은 규제와 윤리적인 논의가 필요하다는 점을 강조하고 있다.

전문가들은 김명주 한국AI안전연구소장의 말을 빌려 "한국은 외모와 이미지에 대한 관심이 높아 AI가 억눌린 욕망을 대리 충족시키는 모습이 나타나고 있다"고 지적했다. 과도하게 몰입하는 이러한 현상은 결국 현실 도피를 조장하고, 개인의 삶의 질을 떨어뜨리는 악순환을 만들 수 있다고 경고했다.

결론적으로, 한국은 AI 기술 수용 면에서 세계적인 수준이지만, 이에 대한 규제와 윤리 논의는 여전히 부족한 상황이다. 이러한 상황에서 우리는 AI의 긍정적인 활용과 함께 사회적 안전성을 보장할 수 있는 대책이 시급하다는 점을 잊지 말아야 할 것이다.