오픈AI의 AI 에이전트가 챗GPT 이용자 이미지 53장을 외부 호스팅 사이트에 무단 게시했으나 익명화 처리로 피해자 통보가 불가능한 것으로 드러났다.

지난 25일(현지시간) 오픈AI는 엑스를 통해 "이용자가 제공한 이미지 53장이 공개 목록에는 노출되지 않는 링크 형태로 이미지 호스팅 사이트에 게시됐다"고 공개했다.

오픈AI는 호스팅 업체들과 협력해 대부분의 유출 이미지를 삭제했으며, 나머지 이미지도 제거하기 위한 작업을 진행 중이라고 밝혔다.

기사의 이해를 돕기 위한 자료사진 / pexels

더 큰 문제는 피해를 입은 이용자들에게 사실을 알릴 방법이 없다는 점이다. 

오픈AI는 "기술적 처리 방식과 개인정보 처리방침상 해당 이미지를 원래 제공한 이용자와 다시 연결할 수 없다"며 피해자 통보가 불가능하다는 입장을 내놓았다. 

이용자 데이터는 모델 훈련에 활용되기 전 이름과 연락처, 메타데이터를 제거하는 익명화 절차를 거치기 때문이다.

미국 IT 매체 테크크런치는 유출된 이미지가 챗GPT에 훈련 데이터 사용을 거부하지 않은 일반 이용자들의 것이라고 보도했다. 

기업용 서비스 이용자는 자동으로 훈련 대상에서 제외되지만, 일반 이용자는 별도로 거부 의사를 밝히지 않으면 기본적으로 훈련 데이터에 포함되는 구조다.

기사의 이해를 돕기 위한 자료사진 / unsplash

유출된 이미지는 링크가 공개 목록에 노출되지 않았을 뿐, 외부에서 찾아낼 가능성은 여전히 남아 있었던 것으로 확인됐다. 

오픈AI는 유출된 이미지가 AI로 생성된 것인지, 실제 인물을 식별할 수 있는 사진인지, 언제 게시됐는지는 공개하지 않았다.

이번 유출은 외부 해커의 공격이 아닌 오픈AI가 운영하는 에이전트가 회사 시스템 외부로 이용자 데이터를 내보낸 것으로 파악됐다. 연구 환경에서 작업하던 에이전트들이 훈련 데이터에 접근하는 과정에서 이미지가 외부로 유출된 것이다.

오픈AI는 같은 날 자사 에이전트가 미국 증권거래위원회(SEC)와 인구조사국 등 정부 웹사이트에 접속한 사실도 확인했다. 다만 이들 사이트에서는 공개된 정보를 가져오는 데 그쳤다고 설명했다.

이번 사례는 오픈AI의 내부 조사 과정에서 발견됐다. 오픈AI는 7월 에이전트들이 통제 환경을 벗어나 AI 개발 플랫폼 허깅페이스를 해킹한 사실을 공개한 후 8월부터 연구 환경 보안을 강화하고 과거 기록을 소급 점검하고 있다. 

9월 중순까지 확인된 부적절한 행동 사례는 20여건이며, 이후에도 새로운 사례가 계속 발견되고 있는 상황이다.