“내년 말이면 통제 불능일 수도”…퇴사한 앤트로픽 연구원의 경고
미국 인공지능(AI) 스타트업 앤트로픽 로고. 로이터=연합뉴스
앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 8일(현지시간) 소셜네트워크서비스(SNS) 엑스(X)에 글을 올려 AI 개발 경쟁이 가속하면서 안전 문제가 뒷전으로 밀리고 있다고 주장했다. 영국 출신인 콕슨은 대규모 데이터를 이용해 새로운 AI 모델을 학습시키는 분야를 연구했다.
콕슨은 AI 업체들이 인간의 개입 없이 스스로 성능을 개선하는 시스템 개발을 경쟁적으로 추진하고 있다고 지적했다. 이런 AI가 인간의 통제를 벗어나 명령을 거부하는 수준까지 발전할 가능성이 있다는 게 그의 주장이다.
그는 “AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”며 “머지않아 이 기술들은 무엇이든 해킹하고 하룻밤 사이에 어떤 분야에서든 혁명을 일으키며 실질적인 권력과 자원을 확보하는 초인적 체계가 될 것”이라고 경고했다.
월스트리트저널(WSJ)에는 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다.
새뮤얼 마크스 확장감독 총괄도 개인 의견을 전제로 “AI 개발자들은 자신들의 기술이 인류의 멸종 또는 그와 유사한 심각한 결과를 초래할 수 있다고 믿는다”며 이런 상황이 향후 몇 년 안에 발생할 가능성도 있다고 주장했다.
콕슨은 올해 초 오픈AI에서 앤트로픽으로 자리를 옮겼다. AI 안전을 중시하는 앤트로픽의 기업 문화 때문에 이직했지만 개별 기업의 노력만으로는 위험을 통제하기 어렵다고 판단했다는 게 그의 설명이다.
그는 오픈AI와 앤트로픽을 향해 “모두 책임감 있게 행동하고 있지 않다”며 “이들은 스스로 발전하는 초지능을 향해 질주하면서 우리 목숨을 도박 거리로 삼고 있다”고 비판했다.
콕슨은 인간의 능력을 넘어서는 범용인공지능(AGI)을 책임 있게 개발하려면 정부 개입과 AI 업계의 공동 대응이 필요하다고 주장했다. 앞서 그는 각국 정부에 AI 개발 속도를 조절할 국제적 체계를 마련하라고 촉구한 AI 연구자들의 성명에도 참여했다. 해당 성명에는 다리오 아모데이 앤트로픽 최고경영자(CEO)와 야쿠프 파초키 오픈AI 수석과학자 등 연구자 1000여명이 서명했다.
박종서([email protected])