AI 딥페이크 기술 악용한 투자 사기 사건 발생

경기남부경찰청 사이버수사과가 인공지능 기술을 악용해 제작된 가짜 뉴스 영상을 통한 투자 사기 사건에 대해 수사에 착수했습니다.

지난 14일 경찰은 EquiloomPRO(이퀄룸)라는 인공지능 기반 투자 플랫폼을 빙자한 사기 웹사이트에 대해 입건 전 조사(내사)를 시작했다고 발표했습니다.

AI로 만든 동영상 / 페이스북

문제가 된 것은 이재명 대통령이 직접 특정 투자 플랫폼을 추천하는 내용의 AI 가짜 뉴스 영상입니다. 

해당 영상에서는 현재 활동 중인 국내 언론사 앵커가 등장해 이퀄룸을 소개하고 이어서 이 대통령이 나와 투자를 권유하는 모습이 담겨 있습니다.

영상에는 이 대통령은 "삶을 바꿀 기회"라며 "월 30만원 투자 시 2400만~3000만원을 벌 수 있다고 보장한다"고 말하는 모습이 담겼습니다. 또한 18세 이상의 우리나라 국민이라면 누구든 이퀄룸에 투자해 큰 수익을 낼 수 있다는 내용의 인터뷰도 포함되어 있습니다.

부자연스러운 발음과 어법으로 드러난 조작 흔적

경찰과 전문가들은 영상의 여러 부분에서 조작 흔적을 발견했습니다. 특히 이 대통령이 어법에 맞지 않는 말을 하거나 발음을 어눌하게 하는 장면들이 포착되었는데 이는 우리말을 잘 모르는 외국인이 AI를 이용해 제작한 것으로 추정됩니다.

사기업체는 공식 사이트 방문자들에게 이름과 이메일, 휴대전화 번호 등 개인정보를 입력하게 한 후 최소 35만원 이상의 금액을 입금하도록 유도하고 있는 것으로 확인되었습니다.

경찰은 최근 이 사건을 자체적으로 인지하고 지난 13일 투자 사기 사건으로 내사에 착수했습니다. 

특히 대통령의 얼굴과 목소리가 나오는 AI 가짜 뉴스를 제작했다는 점에서 사안의 심각성을 인정하고 수사를 진행하고 있습니다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

경찰 관계자는 "이퀄룸에 대한 내사에 들어갔다는 것 외에는 말해줄 수 없다"면서도 "경찰이 확인한 동영상과 인터뷰는 모두 합해 2건 정도"라고 밝혔습니다.