최근 인공지능(AI) 기술의 빠른 발전과 확산에 따라, AI로 생성된 이미지들이 여러 사회적 문제를 야기하고 있다. 특히, 인도주의 단체들이 AI로 만든 빈곤 관련 이미지를 사용하면서 발생한 윤리적 논란이 주목받고 있다. 이로 인해 인권 보호의 원칙이 위협받고 있다는 지적이 나온다.

영국 일간지 가디언의 보도에 따르면, 일부 자선단체들은 AI 생성 이미지를 활용하여 빈곤과 기아 상황을 묘사하고 있다. 이러한 AI 이미지는 제작 비용이 저렴하고 초상권 문제에 대한 걱정이 없기 때문에 많은 단체들이 선호하고 있지만, 그 과정에서 '빈곤 포르노'라는 비판을 받고 있다. 벨기에 앤트워프 열대의학연구소의 연구원은 "AI로 생성된 빈곤 이미지들은 감정적 자극의 도구로 이용되고 있으며, 아프리카와 인도에 대한 부정적인 고정관념을 되풀이하고 있다"고 언급했다.

또한, 자선단체 플랜 인터내셔널(Plan International)은 아동 결혼 반대 캠페인에서 AI 이미지를 사용하여 멍든 눈의 소녀나 임신한 10대 소녀의 모습을 담았다. 이러한 사례는 유엔이 분쟁 지역 성폭력 생존자의 증언을 재현한 AI 영상을 공개했던 사례와 함께 진실성과 정보를 왜곡할 가능성에 대한 논란을 불러일으켰다.

AI 기술의 발전으로 개인의 일상에서도 이러한 문제가 발생하고 있다. SNS에서 'AI 노숙자'라는 장난이 유행하면서, 더욱 위험한 상황으로 이어질 수 있다는 경고가 나왔다. 예를 들어, 한 10대 소녀가 AI로 생성한 이미지를 부모에게 보내며 집에 침입한 남자가 있다고 거짓 신고해 경찰이 출동하는 사건이 발생했다. 이럼으로써 귀중한 경비 자원이 실제 긴급 상황에 투입될 수 없게 됐다는 비판이 이어졌다.

오픈AI의 샘 올트먼 CEO는 "AI 기술이 인증 방식과 진위를 무효화하고 있으며, 미래에는 현실과 구별할 수 없는 영상 통화도 등장할 것"이라고 경고했다. 이러한 상황들은 AI 기술이 가져오는 편리함 뒤에 숨겨진 위험성을 드러내고 있으며, 사회 전체가 이에 대한 경각심을 가질 필요가 있다는 주장에 힘을 싣고 있다.

AI가 사회의 다양한 층으로 침투함에 따라, 우리는 기술 발전의 혜택을 누리는 동시에 윤리적 기준을 세우고 인권 감수성을 잃지 않기 위한 노력이 필요하다.