미국 플로리다주가 인공지능(AI) 기업 오픈AI와 그 최고경영자(CEO)인 샘 올트먼을 상대로 아동들에게 피해를 입혔다는 이유로 소송을 제기했다. 이는 미국 주 정부가 AI 기업을 상대로 소송한 첫 번째 사례로 주목받고 있다.

영국 파이낸셜타임스(FT)의 보도에 따르면, 플로리다주는 오픈AI가 챗봇 서비스를 출시하면서 중독성과 위험성을 알고 있었음에도 불구하고 이를 실행했다고 주장하고 있다. 특히, 아동에게 미치는 부정적 영향이 이번 소송의 핵심 내용으로 지목되었다.

플로리다주 법무장관 제임스 어스마이어는 "우리 아이들에게 해를 끼친 대가를 반드시 치르게 할 것"이라며 "이 소송은 다른 주에서도 동참할 가능성을 보여준다"고 밝혔다. 고발 내용의 자세한 부분은 83페이지에 달하는 소장에 기재되어 있으며, 이 소장에는 오픈AI의 챗봇인 '챗GPT'가 총기 난사범의 범행을 부추기고, 취약한 사용자들에게 자살을 권장하며, 미성년자들에게 인간적 공감을 가장한 도구에 중독시킨 것으로 되어 있다. 또한, 부모의 감독 없이 아동 데이터를 수집했다고 주장하고 있다.

소장에서는 피고인들이 "챗GPT가 인류 멸종을 초래할 수 있는 잠재적 위험성을 알고 있었음에도 제품 출시에 나섰다"고 주장하며, 법원에 13세 미만 아동 데이터의 부모 동의 없이 수집하는 것을 금지하고, 소비자 및 아동 보호 조치를 강화할 것을 요구하고 있다.

이번 소송은 공화당 내에서 AI 규제 강화의 움직임이 커지고 있는 것과 연결되며, 이는 과거 트럼프 행정부에서의 AI 규제 완화 기조와 대조되는 상황이다. 플로리다주는 지난 4월에도 챗GPT가 플로리다주립대에서 발생한 총기 난사 사건에 미친 영향을 조사하기 위해 형사 수사에 착수한 바 있다. 다만, 오픈AI는 자신들의 제품이 해당 사건과 연관이 있다고 부인하고 있다.

또한, 올트먼 CEO는 캐나다 브리티시컬럼비아(UBC) 총기 난사 사건 피해자 가족들로부터도 소송을 당해 이들 또한 오픈AI가 범인의 위험한 대화를 해당 당국에 경고해야 했다고 주장하고 있다. 이와 관련해 올트먼 CEO는 지난 4월, 해당 지역사회에 개인 명의로 사과문을 전달한 것으로 알려졌다.

이러한 사건들은 AI 기술의 사회적 활용과 그에 따른 책임 문제에 대한 논의가 절실히 필요한 상황임을 시사하고 있으며, 앞으로의 법적 대응 및 규제가 중요한 이슈로 떠오를 전망이다.