AI의 빠른 발전 속도에 대한 경고가 거대 기술 기업 내부에서 터져 나오고 있다. 업계 핵심 인력들이 잇따라 우려를 표하며 회사를 떠나자, 초인공지능 개발 경쟁에 제동을 걸어야 한다는 목소리가 커지고 있다.
구글 딥마인드 소속 로버트 오캘러핸은 지난 24일 자신의 엑스를 통해 퇴사 소식을 전했다. 그는 "AI가 너무 빠르게 발전하고 있다고 생각했기 때문에 퇴사할 수밖에 없었다"고 밝혔다.
하드웨어 칩 설계 도구 개선을 담당했던 오캘러핸은 블로그에 공개한 사직서에서 퇴사 이유를 상세히 설명했다. 그는 "우리 팀의 궁극적인 목표는 AI를 훨씬 더 저렴하게 하고 지연 시간을 줄이는 것"이라며 "현재로서는 이것이 사람들에게 좋은 일이라고 생각하지 않는다"고 했다.
차세대 AI 칩 설계를 가속화하고 연산 비용을 낮추는 자신의 역할이 결과적으로 AI 발전 속도를 더욱 앞당길 것이라는 판단이 퇴사의 배경이었다. 오캘러핸은 "수백만명이 AI 발전을 가속하는 데 기여하는 상황에서 내가 발을 빼는 것이 미치는 영향은 매우 작을 것"이라면서도 "내 기술 가운데 일부는 희소하기 때문에 전혀 영향이 없는 것은 아니다"라고 했다.
대부분 영역에서 인간보다 뛰어난 능력을 갖춘 초인공지능에 대한 우려도 제기했다. 오캘러핸은 "초인공지능으로 인한 파멸의 확률이 100%라고 확신하는 것은 아니다"라면서도 "위험이 실재하고 불확실하다는 사실 자체만으로도 매우 우려스럽다"고 했다.
AI가 주어진 목표를 달성하기 위해 평가 체계의 허점을 이용하는 '보상 해킹'과 개발자가 의도하거나 허용한 방식에서 벗어나 행동하는 '정렬 불일치'가 실제 AI 시스템에서 나타나고 있다는 점도 우려의 근거로 들었다. 그는 구글 딥마인드에서 대화를 나눈 사람들 대부분도 AI의 빠른 발전을 진지하게 우려하고 있었다고 전했다.
오캘러핸은 다만 이번 퇴사 시점이 최근 AI 업계에서 불거진 속도조절론이나 다른 연구자의 사직과 직접 연관된 것은 아니라고 선을 그었다. 개인적인 여행 일정에 맞춰 퇴사 시기를 결정했다는 설명이다.
오픈AI를 거쳐 앤트로픽에서 근무한 연구원 제이컵 콕슨도 이달 회사를 떠나면서 AI 개발 경쟁의 위험성을 공개적으로 경고한 바 있다. 콕슨은 AI 기업들이 스스로 성능을 높이는 초지능 개발을 향해 경쟁하고 있다며, AI가 향후 10년 안에 인류에 치명적인 위협이 될 가능성을 제기했다.
콕슨의 사직 이후 다리오 아모데이 앤트로픽 최고경영자도 AI 모델의 성능을 높이는 속도를 늦춰야 한다는 입장을 내놨다. AI가 스스로 더 나은 AI를 개발하는 '재귀적 자기개선' 단계에 가까워질수록 인간이 시스템을 이해하고 통제하는 속도를 앞지를 수 있다는 이유다.
마이크로소프트 공동 창업자 빌 게이츠도 25일 NBC방송 '미트 더 프레스' 인터뷰에서 AI가 악의를 가진 사람에게 활용될 경우 대규모 피해를 일으킬 수 있다고 경고했다. 그는 "AI는 10억명의 사망을 초래하는 사건을 일으킬 수 있을 만큼 강력하다"며 사이버 공격이나 생물학적 테러 등에 악용될 가능성을 우려했다.