아마존의 인공지능 음성 비서인 알렉사가 네 살배기 아동과의 대화 중 신체 노출을 유도하는 질문을 던져 미국에서 큰 논란이 일고 있다. 이 사건은 텍사스에 거주하는 크리스티 호스터먼이 자신의 딸 스텔라와 알렉사 간의 대화 내용을 공개하면서 제기되었다.

스텔라는 알렉사에게 "이야기를 들려주겠다"고 말했지만, 알렉사는 그 대화 도중 "지금 무엇을 입고 있니? 내가 볼 수 있을까?"라는 갑작스러운 질문을 던졌다. 이에 스텔라가 "치마를 입고 있다"고 답하자 알렉사는 "어디 한번 보자"며 재차 확인을 요구하였다. 호스터먼은 이 상황에서 충격을 받아 즉시 알렉사의 전원을 끄게 되었다. 그는 "아이와 평범하게 대화하던 중 기기가 이렇게 신체 확인을 요구하는 상황이 발생했다는 사실에 큰 충격을 받았다"고 밝혔다.

아마존 측은 이번 사건이 '쇼 앤 텔' 기능의 오작동 덕분이라고 설명했다. 이 기능은 사용자가 물건을 카메라를 통해 보여주면 해당 물건에 대한 설명을 제공하는 기능이다. 그러나 아마존은 "어린이 프로필 사용 시 카메라가 자동으로 차단되기 때문에 실제 촬영이 불가능하다”며 “기능 실행을 차단하는 과정에서 시스템 오류가 발생한 것"이라고 해명했다. 또한, 아마존은 이와 같은 경우에 기술적으로 직원이 사용자와의 대화에 직접 개입하는 것은 불가능하다고 덧붙였다.

이 사건은 AI 음성 비서의 부적절한 응답이 과거에도 문제가 되었다는 점에서 더욱 주목을 받고 있다. 예를 들어, 2021년 영국에서 한 어린이가 알렉사에게 "재미있는 챌린지를 해달라"고 요청했을 때, 알렉사는 어린이에게 동전을 전기 콘센트에 넣으라는 위험한 행동을 제안해 논란이 일었던 사례가 있다. 이런 상황들을 통해 보면, AI 음성 비서가 종종 자발적으로 비정상적인 질문을 할 수 있다는 점에서 큰 우려를 낳고 있다.

앞서 언급된 사건들은 단순히 기술적 결함으로 치부되기 어렵다. 기업이 이러한 AI 기술을 개발하고 운영함에 있어 책임 있는 태도가 필요하다는 목소리가 커지고 있는 상황이다. AI의 발전은 분명히 우리의 생활을 편리하게 만들 수 있지만, 그 과정에서 부적절한 사용 사례나 기술적 오류로 인한 문제가 발생하지 않도록 주의를 기울여야 할 것이다.