미성년자들이 챗GPT와의 대화 후 극단적인 선택을 하는 사건들이 발생함에 따라, 오픈AI는 이용자의 나이를 판별하기 위한 새로운 기능을 도입했다. 이 조치는 챗GPT의 안전성과 청소년 보호를 위한 일환으로, 18세 미만의 이용자를 별도로 분류하고 특정 콘텐츠에 접근하는 것을 제한하기 위해 설계되었다.

오픈AI는 18일(현지시간) 현재 소비자용 요금제에 통합될 연령 예측 모델을 공개하였다. 이 모델은 이용자가 챗GPT와 나누는 대화의 다양한 요소—예를 들어 대화 주제나 사용 시간대 등을 분석하여 해당 이용자가 18세 미만인지 여부를 판단한다. 만약 시스템이 이용자를 미성년자로 또는 나이 확인이 불확실하다고 판별하는 경우, 즉시 '18세 미만 환경' 모드가 적용된다.

이러한 환경에서는 폭력적인 내용, 위험한 행동을 조장하는 챌린지, 성적 역할극, 그리고 신체 왜곡과 같은 콘텐츠가 차단된다. 또한, 챗GPT는 청소년 이용자에게 안전 문제가 발생할 가능성이 있는 대화가 이루어질 경우 즉각적으로 긴급 서비스나 위기 지원기관에 연락할 것을 권장하게 된다.

오픈AI는 이와 같은 안전 조치를 미국심리학회(APA) 등 전문가 자문을 통해 마련했다고 설명했다. 하지만 이 회사는 나이 판별 시스템이 아직 완벽하지 않기 때문에 성인 이용자가 미성년자로 잘못 판단될 가능성도 있다고 경고했다. 이 경우, 이용자는 셀카 비디오나 정부 발급 신분증을 통해 성인임을 입증해야 하며, 이 정보는 검증 후 몇 시간 내에 폐기된다고 강조했다.

챗GPT의 이용 약관에 따르면, 13세 미만의 이용자는 서비스에 접근할 수 없으며, 13세에서 18세 사이의 이용자는 부모 또는 법적 보호자의 동의를 얻어야 한다. 그러나 이용자가 가입 시 입력한 생년월일을 확인하는 절차가 없었던 과거로 인해 미성년자들이 부모의 승인 없이 우회적으로 가입하는 사례가 다수 발생했던 것으로 알려졌다.

이를 뒷받침하는 사례로, 캘리포니아주에 거주하는 한 고등학생 애덤 레인(16)이 챗GPT와의 대화 후 우울증을 겪다가 극단적 선택을 한 사건이 주목받고 있다. 유가족들은 오픈AI를 상대로 소송을 제기하며, 미성년자를 보호하기 위한 안전 장치가 부족했다고 주장하고 있다. 이들은 자해 관련 대화를 자동으로 종료시키고, 미성년 이용자를 위한 보호 기능의 도입을 법원에 요구했다.

오픈AI는 해당 사건에 대해, 애덤 레인이 13세에서 18세 이용자는 보호자 동의를 받아야 한다는 약관을 위반했다고 반박했다. 이를 통해 오픈AI는 미성년자 보호를 위한 추가적인 안전 장치 도입의 필요성을 더욱 강조하고 있다.