경기북부경찰청이 인공지능(AI)으로 제작한 가짜 경찰 출동 영상을 유튜브에 게시한 30대 남성을 구속했다고 발표했습니다.

지난 2일 경기북부경찰청 사이버수사대는 전기통신 기본법 위반 등의 혐의로 30대 남성 A씨를 구속했다고 밝혔습니다. A씨는 '순찰 24시'라는 유튜브 채널을 통해 실제 경찰 보디캠 영상처럼 보이는 AI 생성 콘텐츠를 제작해 유포한 혐의를 받고 있습니다.

경기북부경찰청 제공

A씨가 제작한 영상에는 '여장남자 여성 탈의신 신고 출동', '중국인 난동 체포 영상' 등이 포함되어 있으며, 마치 실제 112 신고 현장에서 경찰관이 보디캠으로 촬영한 것처럼 제작되었습니다. 채널 소개란에는 '실제 경찰과 무관하며 실화 바탕 각색 AI'라고 명시했지만, 개별 영상에는 AI 제작 사실을 알리는 표시가 없었습니다.

특히 A씨는 AI 제작임을 나타내는 워터마크를 의도적으로 제거하여 시청자들이 실제 경찰 영상으로 오인하도록 했습니다. 이러한 영상들은 유튜브를 비롯해 인스타그램, 틱톡, 페이스북 등 다양한 플랫폼에 숏폼 형태로 확산되면서 총 조회수 3000만 회를 넘어섰습니다.

경찰 관계자는 "초기 제작된 영상은 조작 티가 많이 났지만, 시간이 흐르면서 영상 품질이 크게 향상되었다"고 설명했습니다. 이들 영상은 대부분 챗GPT나 그록 등의 AI 도구를 활용해 제작된 것으로 확인되었습니다.

A씨의 유튜브 채널에 올라온 경찰 보디캠 허위 영상 / 유튜브 캡처

수사 과정에서 A씨의 추가 범죄 행위도 드러났습니다. A씨는 무허가 사설 선물거래 및 해외선물 투자리딩방 운영에 참여하여 '바람잡이' 역할을 하며 3000만원의 부당 이익을 취한 혐의도 받고 있습니다. 또한 유료 구독형 SNS 채널을 운영하면서 AI로 제작한 음란물을 판매하기도 했습니다.

경찰은 이번 사건이 공권력에 대한 국민 신뢰를 심각하게 훼손한다고 판단하여 A씨를 구속했다고 밝혔습니다. 현재 해당 유튜브 계정의 모든 콘텐츠는 삭제된 상태입니다.

경기북부경찰청은 올해 10월까지를 공동체 신뢰를 저해하는 허위정보 관련 범죄 집중 단속기간으로 설정하고, A씨와 유사한 사례들을 적극 수사하고 있다고 전했습니다.