구글에 'ai girl'을 검색하면 나오는 사진 / 구글 갈무리

[인사이트] 김소영 기자 = "미녀 룩북 유튜버에 반했는데 알고보니 AI 였다"

요즘 인스타그램이나 유튜브, 틱톡 등 각종 SNS에는 섹시한 옷을 입고 요염한 포즈를 취한 AI걸 사진이나 영상을 어렵지 않게 만나볼 수 있다.

워낙 고퀄리티라, 해시태그를 살피기 전 이들이 실제 인물이라고 착각하는 이들도 적지 않다.

문제는 선정적인 AI 이미지가 대거 양산돼 유포될 수 있다는 우려가 지속되고 있다는 점이다.

구글에 'ai girl'을 검색하면 나오는 사진 / 구글 갈무리

생성형 AI는 명령만으로 이미지나 동영상을 지속해서 만들어낼 수 있다.

여기에 관심을 끌기 위해 무분별하게 선정적인 콘텐츠가 양산되다 보면 인터넷을 이용하는 청소년들에게 악영향을 끼칠 수 있다.

대부분의 AI 콘텐츠는 연령 제한없이 SNS에서 누구나 볼 수 있는 게 현실이다.

구글에 'ai girl'을 검색하면 나오는 사진 / 구글 갈무리

이를 막을 만 한 조치나 법령도 미흡해 제도 마련이 시급하다는 지적이 나온다.

한편 방송통신심의위원회가 2020년 6월부터 지난 8월까지 불법 성적 허위 영상물에 대해 총 9006건의 시정 요구를 했지만 실제로 삭제된 영상은 4.55％(410건)에 불과한 것으로 나타났다.