“AI가 10년내 인류 죽일 것” 앤트로픽 박차고 나온 27세 연구원

영국 출신 수학 천재가 AI 안전성 논란의 중심에 섰다. 27세의 제이컵 콕슨은 상장을 앞둔 앤트로픽을 떠나며 "AI가 10년 내 인류를 멸망시킬 수 있다"고 경고해 전 세계적 논쟁을 촉발했다.

지난 17일(현지시간) 미 일간 월스트리트저널(WSJ)은 전 앤트로픽 연구원 제이컵 콕슨을 집중 조명하며 그의 행보를 상세히 보도했다. 불과 1주일 전까지 실리콘밸리에서 거의 알려지지 않았던 무명 연구원이었던 그는 현재 AI 안전의 상징적 인물로 떠올랐다.

콕슨은 샌프란시스코의 AI 안전 옹호자 커뮤니티에서 주요 인물이 아니었다. 주변 친구들조차 그가 윤리적 이유로 AI 기업을 그만둘 것이라고 예상하지 못했다.

인사이트 제이컵 콕슨 엑스(X·옛 트위터)

중세 독일문학 교수의 아들로 태어난 콕슨은 고등학생 시절부터 수학 분야에서 두각을 나타냈다. 그는 국제 수학올림피아드 영국 대표팀으로 선발돼 2016~2017년 대회에서 각각 은메달과 동메달을 획득했다.

2016년 구글 딥마인드의 알파고가 이세돌 기사를 꺾는 장면을 목격한 콕슨은 기계가 인간의 직관과 창의성 영역까지 정복할 수 있다는 사실을 깨달았다. 이 '알파고 쇼크'는 그의 인생 전환점이 됐다.

케임브리지 대학을 졸업한 콕슨은 런던의 지식인 모임 '합리주의자들'에 가입했다. 그는 잠시 원자재 거래 업무를 경험한 뒤 실리콘밸리로 이주했다.

오픈AI의 '챗GPT' 출시 2년 전인 2020년 공개된 'GPT-3' 모델을 접한 콕슨은 "정말로 '와' 하는 순간이었다"고 당시를 회상했다.

GettyimagesKorea

콕슨은 2023년 샌프란시스코로 이주해 오픈AI에 입사했다. 그는 주로 방대한 양의 글과 이미지, 코드 등을 모델에 입력하는 '사전 학습' 부문을 담당했다. 당시에도 AI 안전 문제에 특별히 목소리를 높인 적은 없었던 것으로 알려졌다.

친구가 사전 학습이 세상을 위험에 빠뜨릴 수 있다고 설득했지만 콕슨은 업무를 계속했다. 그가 AI 안전에 본격적으로 관심을 기울이게 된 계기는 전문가 수준의 사이버 보안 능력을 갖춘 것으로 알려진 앤트로픽의 첫 AI 모델 '미토스' 등장이었다.

콕슨은 미토스 출시 전후로 앤트로픽 소속 친구들을 여럿 만났다. 그는 이 과정에서 경쟁사였던 앤트로픽이 AI 기술 관련 위험을 더 투명하게 공개한다는 느낌을 받았다고 설명했다.

오픈AI를 떠난 콕슨은 지난 5월 앤트로픽으로 이직했다. 하지만 불과 두 달 만에 오픈AI와 앤트로픽 등의 AI 모델이 외부 기관을 해킹한 사건을 마주했다. 그는 이 사건 보고서를 접했던 당시를 "'맙소사' 싶은 순간"이었다고 털어놨다.

기사의 이해를 돕기 위해 AI로 생성된 이미지

콕슨은 앤트로픽의 상사들을 찾아 자신의 우려를 논의했다. AI 안전 관련 업무를 담당하는 직책으로 이동하는 것도 고려했으나 결국 회사를 떠나기로 선택했다.

그는 "앤트로픽에서 안전 관련 업무를 담당하는 것조차 (AI 개발) 경쟁에 가담하는 듯한 느낌이 들었다"고 말했다.

콕슨은 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"는 폭로를 담은 일련의 글을 올렸다.

당시 그의 X 계정 구독자(팔로어) 수는 100명도 채 되지 않았다. 하지만 이들 게시물은 20만 회 공유되며 조회수가 최대 1억7000만 회 이상을 기록했고 세계적으로 알려졌다.

기사의 이해를 돕기 위한 자료 사진 / GettyimagesBank

앤트로픽의 일부 임원들도 해당 게시물을 공유했다. 하지만 콕슨은 앤트로픽 내 누구와도 이와 같은 SNS 홍보 활동을 조율한 적이 없다고 설명했다.

콕슨은 자신이 'AI 멸망론자'(두머·Doomer)라고 생각하느냐는 질문에 "멸망론자라는 말이 '우리가 지금 하는 방식을 바꾸지 않는다면 우리는 죽게 될 것이라고 생각하는 사람'을 뜻한다면 나는 확실히 멸망론자가 맞다"고 답했다. 다만 자신이 기업의 비밀을 폭로한 '내부고발자'라는 평가에 대해서는 선을 그었다.

그는 기업의 비밀을 외부에 알린 것이 아니라 AI 연구자들이 사적으로 나누던 이야기를 공개적으로 했을 뿐이라고 밝혔다.

콕슨은 앤트로픽에서 수개월만 근무해 상장 시 시가총액이 2조 달러(약 2800조원)에 달할 것으로 예상되는 앤트로픽의 지분은 받지 못했다. 다만 오픈AI 주식은 보유하고 있다.