글로벌 동영상 플랫폼 유튜브가 AI 기술을 악용한 허위 광고 콘텐츠 척결에 본격 나섰습니다.

크리에이터의 얼굴과 목소리를 무단으로 복제해 제작된 AI 생성 영상을 탐지하고, 피해를 당한 크리에이터에게 직접 삭제 요청권을 부여하는 새로운 시스템을 도입했습니다.

지난 21일(현지시간) 테크크런치를 비롯한 해외 매체들의 보도에 따르면, 유튜브는 유사성 감지(Likeness-detection) 기술을 정식 출시했다고 발표했습니다. 

사진=인사이트

이 기술은 크리에이터의 얼굴, 목소리 등 개인적 특징을 허가 없이 사용한 AI 생성 콘텐츠를 자동으로 식별하고 관리하는 시스템입니다.

해당 기술 개발의 배경에는 AI 생성 콘텐츠를 통한 허위 정보 유포 문제가 있습니다. 특히 크리에이터가 특정 상품이나 서비스를 추천하는 것처럼 조작된 영상들이 소비자들을 기만하는 사례가 급증했기 때문입니다.

실제로 전자부품 브랜드 일레크로우(Elecorw)가 유명 유튜버 제프 기어링(Jeff Geerling)의 목소리를 AI로 복제해 자사 제품 홍보에 무단 사용한 사건이 대표적인 예시로 꼽힙니다.

유튜브는 자사 채널을 통해 유사성 감지 기술의 구체적인 사용 방법을 공개했습니다.

크리에이터들은 먼저 '유사성'(Likeness) 탭에 접속해 데이터 처리 동의 절차를 거쳐야 합니다. 이후 화면에 나타나는 QR코드를 스마트폰으로 스캔하면 신원 확인 웹페이지로 연결됩니다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

해당 페이지에서는 사진이 포함된 신분증과 셀프카메라 영상을 업로드해야 합니다.

신원 확인이 완료된 크리에이터들에게는 도구 사용 권한이 부여됩니다. 권한을 받은 크리에이터는 자신과 유사성이 감지된 모든 영상을 확인할 수 있으며, 유튜브 개인정보 보호 지침에 따라 삭제를 요청하거나 영상을 보관할 수 있는 선택권을 갖게 됩니다. 

또한 크리에이터가 원할 경우 이 기술 사용을 중단할 수도 있으며, 이 경우 유튜브는 24시간 후부터 해당 크리에이터의 영상 검색을 중단합니다.

이번에 공식 출시된 유사성 감지 기술은 올해 초부터 시범 운영되어 왔습니다.

유튜브는 지난해 크리에이티브 아티스트 에이전시(CAA)와의 협력을 통해 유명인, 운동선수, 크리에이터들이 플랫폼 내 AI 생성 콘텐츠를 식별할 수 있도록 지원하는 프로그램을 발표한 바 있습니다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

유튜브의 이러한 움직임은 관련 법안에 대한 지지와도 맞닿아 있습니다.

회사는 지난 4월 '노 페이크 법'(NO FAKES Act) 입법안에 대해 공식적인 지지 의사를 표명했습니다.

이 법안은 개인의 이미지나 음성을 모방해 타인을 속이거나 유해한 콘텐츠를 생성하는 AI 복제본 문제 해결을 목표로 하고 있습니다.

유튜브 관계자는 "이번 기능 출시로 첫 번째 변화의 물결이 시작됐다"며 "기능 적용 대상 크리에이터들은 화요일 아침 부로 이메일을 받았다"고 설명했습니다.