“뭐가 진짜야”... 구분하기 어려운 AI 콘텐츠, 틱톡 ‘AI 라벨’로 적극 대응 나선다

인사이트 사진 제공 = 틱톡

AI(인공지능) 기술의 발전으로 우리는 상상 속 세계를 현실에서 만나는 놀라운 시대에 살고 있다. AI 콘텐츠는 우리에게 무한한 창의성과 즐거움을 선사하고 생산성을 극대화시켜 준다.

그러나 AI 기술이 고도화되면서 딥페이크(딥러닝을 활용한 이미지 합성 기술)를 이용한 범죄, 가짜뉴스 확산 등 AI 콘텐츠를 악용하는 사례도 늘고 있다.

이에 법적 규제와 디지털 미디어 리터러시 능력 함양은 물론 AI 콘텐츠를 유통하는 플랫폼들도 적절한 사회적 책임을 져야 한다는 여론이 형성됐다.

"제대로 보고 제대로 즐기자" 캠페인 통해 AI 콘텐츠에 대해 경각심을 주는 틱톡

인사이트 사진 제공 = 틱톡

플랫폼들의 사회적·도덕적 책임을 두고 이목이 쏠리는 상황, 글로벌 엔터테인먼트 플랫폼 TikTok이 앞장서 적극 대응에 나섰다.

틱톡은 AI 생성 콘텐츠에 대해 이용자들이 경각심을 갖고 다양한 콘텐츠를 더 안심하고 즐길 수 있도록 '제대로 보고 제대로 즐기자'라는 캠페인을 한 달여간 진행 중이다.

캠페인 영상을 보면 SBS 전 아나운서 박선영이 나와 '한강에 생긴 빙산에 펭귄과 북극곰이 출몰한다'는 뉴스 속보를 전한다.

인사이트 YouTube '틱톡 TikTok Korea'

생생한 뉴스에 실제 박 아나운서인 줄 알았지만 이 모든 것은 AI로 생성된 가짜였다. 이후 등장한 '진짜' 박 아나운서는 "지금은 AI로 무엇이든 만들 수 있는 시대이므로 AI 생성 콘텐츠를 구별할 줄 알아야 한다"며 틱톡의 'AI 생성' 콘텐츠 라벨링 기능을 소개한다.

이 캠페인은 틱톡 콘텐츠의 투명성과 안전성을 보장하는 장치를 홍보하기 위해 제작됐다. AI로 생성된 가짜뉴스를 통해 사용자들에게 AI 생성 콘텐츠의 현실성과 그 위험성을 효과적으로 전달하고자 했다.

안전한 콘텐츠 생태계 구축을 위한 틱톡의 노력

인사이트 사진 제공 = 틱톡

틱톡은 지난 2020년부터 틱톡 커뮤니티 가이드라인에 합성 미디어 정책을 추가하는 등 AI 생성 콘텐츠의 부작용을 방지하기 위해 다양한 노력을 기울여 왔다.

캠페인에서 소개된 기능 외에도 틱톡이 안전한 콘텐츠 생태계를 만들기 위해 어떤 활동들을 해왔는지 알아보자.

1. 크리에이터들에게 "AI 생성 콘텐츠" 라벨링 기능 지원

인사이트 사진 제공 = 틱톡

틱톡은 AI로 만들거나 편집한 콘텐츠를 식별해서 'AI 생성'이라고 자동으로 콘텐츠에 라벨을 부착하는, 앞선 캠페인에 소개된 라벨링 기능을 가지고 있다.

이외에도 틱톡은 크리에이터들이 AI 생성 콘텐츠에 직접 라벨을 붙일 수 있게 지원하는 '토글 버튼'을 도입했다.

크리에이터들이 콘텐츠 업로드 단계에서 AI 생성 콘텐츠 라벨을 활성화 시키면 해당 동영상 좌하단에 '크리에이터가 AI 생성으로 라벨 지정함'이라는 표시가 뜨는 방식이다.

이 기능으로 영상에 AI 라벨을 부착한 크리에이터가 전 세계에서 3,700만 명을 넘어섰다.

2. 국내외 전방위적인 업계 파트너십 구축

인사이트 사진 제공 = 틱톡

또 틱톡은 C2PA(콘텐츠 출처 및 진위 확인을 위한 연합)와 파트너십을 맺고 '콘텐츠 자격증명' 기술을 도입했다. 이는 동영상 플랫폼 중 최초다.

이 기술은 타사 플랫폼에서 제작된 AI 생성 콘텐츠에도 자동으로 'AI 생성' 라벨을 붙일 수 있도록 해준다.

뿐만 아니라 틱톡은 어도비(Adobe)가 주도하는 CAI(Content Authenticity Initiative, 콘텐츠 진위성 이니셔티브)에도 참여한다. 또 KBS 및 교육부와 함께 디지털 성범죄 예방 캠페인에 함께하는 등 적극적으로 업계와 협력하고 있다.

3. 누구나 확인할 수 있는 커뮤니티 가이드라인

인사이트 사진 제공 = 틱톡

끝으로 틱톡은 시청자들이 콘텐츠 기술 발전의 속도에 걸맞는 안전한 콘텐츠 공유 및 시청 생태계를 만드는데 참여하도록 노력하고 있다.

누구나 확인할 수 있도록 웹에 공개된 틱톡 커뮤니티 가이드라인에 의하면 '콘텐츠의 의미를 바꾸고 시청자가 현실 사건의 진실을 오해할 수 있는 방식으로 구성한 콘텐츠'는 '오해의 소지가 있는 AIGC(AI 생성 콘텐츠) 또는 편집된 미디어'라고 규정되어 있다. 가이드라인을 위반한 콘텐츠들은 이용자들이 얼마든지 쉽게 신고할 수 있다.

즉, 딥페이크 영상이나 가짜뉴스는 'AI 생성 콘텐츠'라는 라벨이 붙거나 아예 허용되지 않는다. 적절하게 라벨을 표기한 경우에도 유해한 콘텐츠는 불허하기 때문에 이용자들은 안심하고 콘텐츠를 즐길 수 있다.

건강한 콘텐츠 문화를 위한 모두의 노력

인사이트 사진 제공 = 틱톡

틱톡은 새로운 AI 및 기타 디지털 기술을 활용하는 창의성을 환영하면서도 AI 생성 콘텐츠 또는 편집된 미디어에는 라벨을 표기해야 한다는 입장을 고수하고 있다.

AI 기술의 발전은 우리에게 무한한 가능성을 열어주는 동시에 새로운 도전을 안겼다. 이에 동영상 플랫폼을 주도하는 틱톡은 변화의 시대에 발맞춰 안전하고 건강한 콘텐츠 문화를 만들기 위해 끊임없이 노력하고 있다.

이용자들은 틱톡이 제공하는 AI 생성 콘텐츠 라벨을 확인하고 더 현명한 콘텐츠 소비자가 되어보는 것이 좋겠다.