인공지능(AI) 분야의 권위자들과 세계 각국의 정치 인사들이 '초지능(Superintelligence)' 개발을 즉각 중단해야 한다는 공동 성명에 서명했다. 22일(현지시간) 미 CNBC 방송에 따르면, 이 성명에는 800명이 넘는 저명한 인사들이 참여했으며, 유명 AI 석학들인 요슈아 벤지오 몬트리올대 교수, 제프리 힌튼 토론토대 교수, 스튜어트 러셀 UC버클리대 교수와 애플의 공동 창립자인 스티브 워즈니악, 전 미국 국가안보보좌관 수전 라이스 등이 포함되어 있다.

리처드 브랜슨 버진 그룹 창립자와 마이크 멀린 전 미 합참의장, 영국 해리 왕자와 메건 마클 부부 등도 참여해 초지능 개발에 대한 우려를 표현했다. 또한, 도널드 트럼프 전 대통령의 측근들인 스티브 배넌과 정치 평론가 글렌 벡 역시 이번 성명에 동참해 보수 진영 내에서도 AI에 대한 불안감이 커지고 있음을 시사했다.

이번 성명의 배경에는 미중 AI 경쟁이 심화되는 상황에서 인공지능 스타트업 딥시크의 발전이 큰 영향을 미친 것으로 분석된다. 특히, 앤드루 야오 칭화대 교수와 장야친 칭화대 인공지능산업연구원장과 같은 중국의 저명한 과학자들도 서명에 참여한 바 있다.

AI의 초지능 단계는 인간의 지능을 초월하는 것으로 정의된다. 최근 xAI와 오픈AI를 포함한 여러 기업들은 보다 진보된 대형 언어 모델(LLM)을 개발하기 위한 치열한 경쟁을 벌이고 있다. 메타는 자사의 LLM 부서를 '메타 초지능 연구소'로 명명하기도 했다.

그럼에도 불구하고 이들 전문가들은 초지능의 emergence에 대한 여러 우려를 제기하고 있다. 성명에서는 "초지능의 출현이 인류의 경제적 역할 상실, 시민권 및 존엄성의 훼손, 국가 안보 위협, 심지어 인류 멸종 위험에 이르기까지 다양한 문제를 초래할 수 있다"고 경고했다. 이들은 대중의 지지와 과학계의 합의가 이루어지기 전까지 초지능 개발을 즉각 중단할 것을 촉구하고 있다.

미래생명연구소(FLI)의 맥스 테그마크 창립자는 파이낸셜타임스에 "인간성을 공유하는 것이 우리를 하나로 묶고 있으며, 많은 이들이 지금 우리가 스스로 만들어내는 기계가 최대 위협일 수 있음을 인식하기 시작하고 있다"고 강조했다.

이러한 경과들은 AI의 미래와 그것이 사회에 미치는 영향에 대한 치열한 논의를 촉발하고 있으며, AI 기술 발전에 따르는 윤리적 고려가 중요하다는 점을 다시 한번 일깨우고 있다.