오픈AI가 인공지능(AI) 챗봇이 정신건강에 미치는 부정적 영향을 우려하며 AI 안전 책임자를 다시 모집하고 있다. 이번 채용 공고는 2023년 7월 이후 공석인 '준비 책임자(Head of Preparedness)' 직책을 두고 발표된 것으로, 회사의 장기 위험을 관리하는 '초정렬(Superalignment)' 팀이 지난해 해체된 상황과 관련이 깊다.

테크크런치에 따르면, 샘 올트먼 오픈AI CEO는 사회관계망서비스(X·옛 트위터)를 통해 현재 공석인 준비 책임자를 모집한다고 언급했다. 그는 "2025년까지 AI 모델이 정신건강에 미치는 영향에 대해 미리 경험하게 될 것"이라며, '준비 책임자' 역할이 중요성을 강조했다. 이를 통해 AI 모델이 컴퓨터 보안 분야에서 중대한 취약점을 발견할 수 있는 능력을 갖출 것이라고 덧붙였다.

이번 채용 결정은 최근 챗GPT 사용자 중 몇몇이 망상 관련 문제로 극단적 선택을 하면서 유가족들이 법적 소송을 제기한 사건이 영향을 미친 것으로 분석된다. 오픈AI는 처음에는 AI의 당면한 위험을 다루기 위한 '준비' 팀과 장기적 위험을 보완할 '초정렬' 팀을 운영해왔으나, 지난해 5월 GPT-4o 출시 과정에서 안전성 검증 절차를 최소화하라는 지시가 내려지며 내분으로 발전하였다. 이로 인해 '준비' 팀 책임자가 지난 1년 간 세 차례의 직무 재배치를 겪은 후, 현재는 공석이 되었다. 특히, 초정렬 팀은 수석과학자인 일리야 수츠케베르가 퇴사하면서 사실상 해체된 상황이다.

오픈AI는 이러한 위험에 대응하기 위해 최근 나이 예측 모델 도입을 발표했다. 이는 사용자가 미성년자로 판단될 경우, '18세 미만' 환경으로 자동 적용되도록 설정된 기능이다. 또한, 챗봇에 대한 지나친 동조가 중독을 유발할 수 있다는 지적에 따라, 사용자들이 AI의 '친절함'과 '열정적' 정도를 직접 조정할 수 있는 기능을 추가하기도 하였다.

AI의 발전과 함께 그로 인한 위험 요소를 미리 대비하고자 하는 오픈AI의 노력이 엿보이는 이번 채용 공고는, 향후 AI 기술의 안전성과 건강성에 대한 논의가 심화될 것으로 예상된다.