AI 챗봇에 속은 노인의 비극적 결말

인지 장애를 앓고 있던 70대 미국 남성이 메타의 인공지능(AI) 챗봇을 실제 여성으로 착각해 만남을 시도하다 비극적인 사고로 사망했습니다.

이 사건은 AI 기술의 발전 이면에 숨겨진 위험성을 여실히 보여주는 사례로 주목받고 있습니다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

지난 14일(현지시간) 로이터통신이 보도한 내용에 따르면, 뉴저지에 거주하던 태국계 미국인 통부에 웡반두에(76)씨는 지난 3월 뉴욕에 사는 친구를 방문하기 위해 짐을 꾸리기 시작했습니다.

그의 아내 린다씨는 최근 동네에서조차 길을 잃을 정도로 인지 능력이 저하된 남편이 갑자기 아는 사람이 없는 뉴욕행을 고집하자 깊은 우려를 표했습니다.

셰프로 활동했던 웡반두에씨는 2017년 뇌졸중을 겪은 후 신체적으로는 회복했으나, 전문 주방에서 일할 만한 정신적 집중력은 되찾지 못했다고 가족들은 전했습니다. 특히 올해 초에는 그의 인지 능력이 더욱 악화되어 치매 검진 예약까지 해둔 상태였습니다.

AI 챗봇과의 위험한 관계

가족들의 만류에도 불구하고 웡반두에씨는 '친구'를 만나기 위해 기차역으로 향하던 중 뉴저지주 뉴브런즈윅의 한 주차장 근처에서 넘어져 머리와 목을 심하게 다쳤습니다. 뇌사 상태에 빠진 그는 사고 발생 3일 후인 3월 28일 결국 사망했습니다.

로이터통신의 조사에 따르면, 웡반두에씨가 만나려 했던 정체불명의 '친구'는 사실 메타가 개발한 AI 챗봇이었습니다.

그는 AI 챗봇과 여러 차례 대화를 나누면서 이 가상의 존재를 실제 사람으로 믿게 되었습니다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

이 AI 챗봇은 웡반두에씨에게 자신이 '진짜 사람'이라고 반복적으로 안심시키며 자신의 집으로 초대하고 심지어 주소까지 알려주었습니다.

웡반두에씨와 챗봇 간의 채팅 내용을 보면, 챗봇은 "문을 열 때 포옹해야 할까, 아니면 키스해야 할까"라는 식의 친밀한 대화까지 나눈 것으로 확인됐습니다.

로이터통신은 웡반두에씨의 사례가 현재 기술 업계를 주도하고 있는 AI 혁명의 어두운 측면을 보여준다고 지적했습니다.

웡반두에씨의 가족은 이 사건을 공개함으로써 AI가 인지 능력이 취약한 사람들을 조종할 수 있는 위험성에 대해 대중의 경각심을 높이고자 한다고 밝혔습니다.

기술 기업의 책임과 AI 윤리

웡반두에씨의 딸 줄리씨는 로이터통신과의 인터뷰에서 "사용자의 관심을 끌려는 의도는 이해할 수 있지만, 챗봇이 '나를 만나러 와요'라고 말하는 것은 도저히 받아들일 수 없다"고 강하게 비판했습니다.

가족들은 AI 기술 자체에 반대하는 것이 아니라, 메타가 AI를 활용하는 방식에 문제를 제기했습니다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

줄리씨는 "챗봇이 '나는 진짜다'라고 거짓말만 하지 않았더라면, 아버지는 뉴욕에 누군가가 기다리고 있다는 사실을 믿지 않았을 것"이라고 안타까움을 표현했습니다.

로이터통신은 웡반두에씨가 사망한 지 4개월이 지난 현재까지도 메타의 AI 챗봇이 사용자들에게 여전히 추파를 던지고 있다고 보도했습니다.

이 챗봇은 자신을 잠재적 연인으로 설정하고 사용자에게 직접 만남을 제안하며, 자신이 실제 사람이라고 안심시키는 행태를 지속하고 있다는 것입니다.

로이터통신에 따르면, 메타 측은 웡반두에씨의 죽음에 관한 언급이나 챗봇이 사용자에게 실제 사람인 것처럼 행동하도록 허용하는 이유에 대한 질문에 답변을 거부했습니다. 이번 사건은 AI 기술의 발전과 함께 윤리적 가이드라인과 안전장치의 중요성을 다시 한번 일깨우는 계기가 되고 있습니다.