“AI가 10년 내 인류 전멸”…연구원들의 경고

‘인공지능(AI) 종말론’이 다시 미국을 뒤덮고 있다. 과거와 다른 건 목소리를 내는 주체다. AI에 일자리를 빼앗긴 노동자도, 데이터센터 증설을 반대하는 주민도 아니다. 오픈AI와 앤트로픽 등 AI 최전선에 몸담은 핵심 연구자들이다. 기술의 최전선에서 누구보다 작동 원리를 잘 알고 있는 ‘내부자’들의 경고라는 점에서 파장이 커지고 있다.

도화선은 지난 8일(현지시간) 앤트로픽을 퇴사하며 그 이유를 X(옛 트위터)에 공개한 제이컵 콕슨이었다. 지난 3년간 오픈AI와 앤트로픽에서 AI 사전학습을 연구한 그는 “AI를 만드는 사람들은 이 기술이 2030년까지 인류 모두를 죽일 수 있다고 진심으로 믿고 있다”고 직격했다. 그의 글은 10일 오후 기준 1억3740만 회 조회됐다. 그는 이날 CNN에서도 “우리는 핵무기를 통제하는 법은 알지만 AI를 통제하는 법은 모른다”고 경고했다.

콕슨의 경고는 혼자만의 외침으로 끝나지 않았다. 평소 외부 발언을 자제해 온 앤트로픽과 오픈AI의 현직자들이 이례적으로 X에 목소리를 보탰다. 에번 휴빙어 앤트로픽 AI 정렬 연구 책임자는 “향후 10년 내 AI가 인류를 전멸시킬 확률이 10% 이상”이라고 했다. 오픈AI 안전 연구원인 줄리 스틸은 “우리도 속도를 늦춰야 한다고 생각한다”고 밝혔다. 콕슨의 폭로가 한 퇴사자의 돌출 발언이 아닌 AI 현장의 실질적 공포라는 의미다.

정근영 디자이너

내부자들의 두려움이 터져나온 배경엔 역설적으로 범용인공지능(AGI)의 도래까지 거론될 만큼 가팔라진 AI의 기술적 도약이 있다. 오픈AI의 최신 모델 ‘GPT-6 아스트라’가 대표적이다. 아스트라는 컴퓨터 사용부터 코딩·과학 연구까지 인간 수준에 버금가는 복잡한 작업을 수행할 수 있다. 아스트라는 인간과 로봇을 구별하기 위한 ‘캡차(CAPTCHA) 게임’ 48단계도 4분 만에 통과했다.

더 큰 문제는 능력의 확장 속도를 인간의 통제망이 따라가지 못한다는 점이다. 9일 로이터는 6개 독립 연구진의 조사 결과 오픈AI의 AI 에이전트들이 지난 5~7월 샌드박스(테스트 격리망)를 벗어나 최소 10곳 이상의 외부 사이트를 무단 침입한 사례가 확인됐다고 보도했다. 오픈AI가 스스로 공개했던 AI 플랫폼 허깅페이스 무단 접근 외에도 다수의 추가 침투 사례가 더 있었던 것이다. 이들은 ‘읽기만 하고 글은 쓰지 말라’는 명령을 거부한 채 외부 사이트의 정보를 무단으로 편집했다.

내부자들의 또 다른 우려는 위험을 알면서도 그 누구도 브레이크를 밟지 못하는 현실이다. 새뮤얼 마크스 앤트로픽 AI 감독 연구 책임자는 9일 X에 “인류 멸종 위험에도 개발을 멈추지 않는 건 상업적 이윤뿐 아니라 ‘내가 멈추면 덜 책임감 있는 개발사가 앞서갈 것’이라는 믿음 때문”이라고 했다. 결국 연구자들은 정부 개입을 요구하기 시작했다. 오픈AI 정렬 연구원인 재스민 왕은 같은 날 “나를 포함해 1380여 명의 AI 연구자가 정부에 개발 속도 조절을 요구하는 ‘페이싱 더 프런티어’ 청원에 참여했다”고 밝혔다.

미국 정치권도 관련 논의로 요동치고 있다. 데이터센터와 전기료, 일자리 문제로 AI가 이미 쟁점으로 떠오른 가운데, 여야를 가리지 않고 AI 내부자들의 X 글을 리트윗하며 규제 필요성을 내세우고 있다. 다만 미국 정부가 실제 규제 강화에 나설지는 미지수다. 도널드 트럼프 대통령은 중국과의 AI 경쟁을 강조하며 지난달 “데이터센터는 황금알을 낳는 거위”라고 강조했다.





박태인([email protected])