구글의 인공지능 요약 기능인 'AI 오버뷰'가 부정확한 건강 정보를 제공해 사람들의 건강을 위험에 빠뜨릴 수 있다는 우려가 제기됐다. 영국 일간 가디언이 보도한 바에 따르면, 구글의 AI 오버뷰는 특정 주제나 질문에 대한 핵심 정보를 요약해 검색 결과의 최상단에 표시하는 기능으로, 구글은 이를 유용하고 신뢰할 만하다고 주장해왔다. 그러나 전문가들은 이 정보의 신뢰성에 의문을 제기하고 있다.

예를 들어, 구글의 AI 오버뷰는 췌장암 환자에게 고지방 음식을 피하라고 조언했지만, 이는 실제로는 권고 사항의 정반대라는 지적이 있다. 췌장암 자선단체인 '췌장암 영국'의 안나 주얼 연구·지원 담당자는 "이 정보를 따라 충분한 열량을 섭취하지 않으면 항암 치료나 생명-saving 수술을 견디지 못할 수 있다"고 경고했다. 이는 곧患者의 생명에 심각한 위협이 될 수 있다.

또한, 간 질환자를 위한 혈액 검사 정상 범위를 검색할 경우, 잘못된 정보가 제공되어 실제로는 건강 상태가 좋지 않은 환자들이 긍정적으로 오해하게 만든 사례도 확인됐다. 간 질환 자선단체 '영국 간 신탁'의 파멜라 힐리 대표는 "심각한 간 질환이 있을 경우, 정상으로 간주되어 후속 진료를 소홀히 할 위험이 있다"고 지적했다. 이와 관련해 가디언은 여러 보건 단체와 의료 전문가들의 우려를 바탕으로 구글의 AI 오버뷰가 부정확한 건강 정보를 제시하고 있음을 조사해 확인했다.

이로 인해 구글 측은 'AI 오버뷰'의 품질 개선을 지속하고 있다고 밝혔으며, 제공되는 정보의 대다수는 근거 기반이라고 주장했다. 하지만 대변인은 제시된 사례들이 "불완전한 스크린샷"이라는 점을 강조하며, "AI 오버뷰는 신뢰할 수 있는 출처와 연결되며 전문가의 조언을 탐색하도록 유도하고 있다"고 덧붙였다.

현재 이러한 문제는 소셜미디어와 검색 플랫폼에서 건강 정보의 정확성을 중시하는 목소리가 더욱 커지고 있다는 신호로 해석될 수 있다. 소비자와 환자들이 더욱 신뢰할 수 있는 정보를 원하고 있는 만큼, 플랫폼 제공자들은 보다 신중하게 정보를 제공해야 할 필요성이 대두되고 있다.

이러한 사태는 의학적으로 민감한 주제에서 부정확한 정보가 주는 위험성을 다시 한 번 상기시키며, AI 기반 정보 제공 소스의 개선과 맥락에 맞는 정보를 선제적으로 삽입할 필요성을 일깨워주고 있다. 과연 구글이 이 문제를 어떻게 해결해 나갈지 지켜볼 일이다.