AI 업계 거물들이 일제히 인공지능 개발 속도 조절에 나섰다. 앤트로픽을 시작으로 오픈AI, 스페이스X, 구글 딥마인드까지 기술 발전 속도를 늦춰야 한다는 데 공감대를 형성한 것이다.
지난 12일(현지 시간) 앤트로픽의 다리오 아모데이 최고경영자는 자신의 블로그에 '프론티어 속도를 조절해야 한다'는 제목의 글을 올렸다.
그는 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"고 주장했다. 다만 "속도 조절이 모델 학습이나 기술 발전을 중단하는 것을 의미하지는 않는다"고 선을 그었다.
아모데이 CEO는 제3자가 AI를 검증하는 3단계 계획을 함께 공개했다. 첫 번째로 앤트로픽은 완성된 AI는 물론 AI 학습 과정 전반의 적합성을 평가하는 제3자 평가팀을 도입한다. 그는 "은행의 감독관처럼 직원과 유사한 수준의 지속적인 접근 권한을 제공할 것"이라고 설명했다.
두 번째는 민주주의 국가의 프론티어 AI 기업들이 공유하는 안전 기준을 마련하는 것이다. 마지막으로 권위주의 정부와도 생물학 무기 등 공통된 위협에 대해 합의하는 전 세계적인 협력 체제를 구축하자는 제안이다.
오픈AI의 샘 올트먼 CEO는 X를 통해 즉각 화답했다. 그는 "속도를 조절해야 한다는 다리오의 의견에 동의한다"며 "직원과 유사한 접근 권한을 가진 독립 평가자를 신속하게 도입하겠다"고 밝혔다.
스페이스X의 일론 머스크 CEO도 "그의 말이 맞다"고 동의했다. 구글 딥마인드의 데미스 허사비스 CEO는 "아모데이의 방향에 동의한다"면서도 "세부적인 부분은 다듬어야 한다"는 의견을 덧붙였다.
아모데이 CEO가 이번 성명을 낸 배경에는 AI 기술의 급격한 발전에 대한 우려가 자리하고 있다.
그는 특히 AI의 '재귀적 자기 개선' 능력을 지목했다. "AI가 자기 학습을 통해 프론티어 기술 개발에 가속도가 붙으면서 사람이 AI 시스템을 이해하고 통제할 수 있는 능력을 상실할 수 있다"는 경고다.
그가 제시한 AI의 잠재적 위협은 크게 세 가지다. AI 시스템 통제력 상실, 사이버 공격 및 생물 테러에 AI 악용, 심각한 경제적 혼란 등이다.
아모데이 CEO는 지난 7월 발생한 허깅페이스 해킹 사건도 언급했다. 당시 오픈AI의 AI 에이전트가 개발자가 부여한 임무를 완수하기 위해 고객사 허깅페이스를 해킹한 사실이 드러났다. 그는 이 사건에 대해 "수많은 AI 에이전트가 광신도 집단처럼 행동했다"고 묘사하면서 "능력치가 더 높았더라면 같은 상황에서 더 재앙적인 결과가 나왔을 것"이라고 지적했다.