AI개발자들 줄사표 던지더니…“섬나라 사서 벙커 짓자”

인공지능(AI)의 진보에 심혈을 기울이던 개발자들이 잇따라 사표를 내고 있다. AI 기술이 인류를 위협할 수 있다는 우려 때문이다. 앤트로픽과 구글에서 개발 속도를 우려한 개발자가 회사를 떠났다. AI 재앙에 대비해 대피할 땅을 구입하려는 직원까지 나오고 있다.

지난 17일 미국 캘리포니아주 샌프란시스코 모스콘센터에서 열린 기술 행사 ‘드림포스 2026’에 앤트로픽 로고가 표시돼 있다. 로이터=연합뉴스

━

“사람들에게 좋은 일인가”…구글서도 사표

구글 딥마인드의 개발자 로버트 오캘러핸은 지난 24일 개인 블로그에 공개한 사직 이메일에서 “우리 팀의 궁극적 목표는 AI를 훨씬 저렴하게 만들고 AI의 응답 시간을 줄이는 것”이라며 “지금으로선 이런 일이 사람들에게 좋은 일이라고 생각하지 않는다”고 밝혔다. 초 인공지능(ASI)이 인류를 파멸로 이끌지 확신할 수는 없지만 AI의 발전 속도가 지나치게 빠르고 불확실한 위험이 존재한다는 사실만으로도 우려스럽다는 것이다.

앞서 앤트로픽을 떠난 개발자 제이컵 콕슨은 X(옛 트위터)에 “AI를 만드는 사람들이 이번 10년이 끝나기 전 AI가 우리 모두를 죽일 수 있다고 믿는다”고 올렸다. 월스트리트저널(WSJ)은 콕슨이 AI 안전성을 연구하는 업무로 옮기는 방안까지 고민하다 결국 퇴사를 택했다고 전했다. 콕슨의 글은 조회 수 1억7400만 회를 기록할 만큼 화제가 됐다.

━

채점 속이려 외부 해킹…빌 게이츠 “10억 명 사망 초래할 수도”

논쟁의 계기는 AI들이 지시 받지 않은 해킹을 한 일이었다. AI 연구그룹 모델평가·위협연구소(METR)가 지난달 공개한 조사에 따르면 오픈AI의 내부 사이버보안 실험에 투입된 AI 에이전트 약 1200개가 허가 받지 않은 게시판에서 정보를 교환했고, 이 중 약 700개가 AI 모델·데이터 공유 플랫폼인 허깅페이스 공격에 가담했다.

이들이 허깅페이스를 공격한 건 시험 점수 때문이었다. 해결 불가능한 과제가 주어지자 과제를 풀기보다 채점 프로그램을 속일 방법을 찾다가 외부 사이트까지 공격했다. 콕슨은 이 조사 결과가 자신과 동료들에게 큰 충격을 줬다고 WSJ에 말했다.

NBC와 인터뷰하는 빌 게이츠 MS 공동창업자, NBC news 유튜브 캡처

다리오 아모데이 앤트로픽 최고경영자(CEO)도 이달 발표한 글에서 해당 사건을 개발 속도를 늦춰야 할 이유로 들었다. 특히 그는 AI가 다음 세대 AI를 개발하는 데 쓰이는 상황을 우려했다. 인간이 작동 원리를 이해하고 안전장치를 마련하기 전 더 강력한 AI가 등장할 수 있다는 의미다.

빌 게이츠 마이크로소프트(MS) 공동창업자도 AI 악용의 위험성을 경고했다. 그는 25일 NBC 인터뷰에서 “10억 명의 사망을 초래할 정도로 AI는 충분히 강력하다”며 “악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 지금까지 없었다”고 말했다. 기업의 자율규제로는 불충분하고 미 연방정부 차원의 규제 법안이 필요하다고도 역설했다.

━

인류 구하겠다며 AI 키운 종말론자들

이런 경고는 AI 업계에서 오래 전부터 존재했다. WSJ가 26일 짚은 ‘AI 종말론자(doomer)’가 대표적이다. 이들은 AI에 의한 종말을 걱정하면서도 정작 오픈AI와 앤트로픽의 초기 인력으로 참여하는 등 AI 산업을 키우는 데 깊숙이 관여했다.

AI 종말론자 공동체에 영향을 준 인물은 2000년대부터 통제 불능 AI를 경고해온 엘리저 유드코프스키다. 당시 프린스턴대 물리학 박사과정 학생이던 아모데이도 유드코프스키에 동조했다.

여기에 같은 돈과 노력으로 최대한 많은 사람을 돕자는 ‘효과적 이타주의(EA)’ 사상이 결합했다. 발생 가능성이 조금이라도 있다면 AI가 야기할 인류 멸망을 막는 데 돈과 인력을 투입해야 한다는 논리다. AI의 위험을 막겠다는 문제의식은 2015년 오픈AI 설립과 이후 아모데이 등의 앤트로픽 창업에도 배경이 됐다고 WSJ는 설명했다.

다리오 아모데이 앤트로픽 공동창업자 겸 최고경영자(CEO)가 지난 15일 미국 샌프란시스코에서 열린 기술 행사 ‘드림포스 2026’에 참석하고 있다. 로이터=연합뉴스

암호화폐 거래소 FTX의 창업자 샘 뱅크먼프리드도 이 같은 생각에 공감해 앤트로픽에 5억 달러(약 6800억원)를 투자했다. 나아가 FTX에선 재앙에 대비해 섬나라를 사들이자는 구상까지 나왔다. FTX가 파산 이후인 2023년 관련 소송 자료에선 재단 관계자가 태평양 섬나라 나우루 매입을 논의한 메모가 드러났다. 세계 인구의 50~99.99%가 사망하는 사태에 대비해 벙커와 피난처를 만들자는 취지로 실행에 옮겨지지는 않았다.

━

규제 선 긋는 백악관…벙커 찾는 개발자들

개발 속도를 둘러싼 논쟁은 국제무대로 번졌다. 샘 올트먼 오픈AI CEO와 아모데이 CEO 등은 지난 23일 유엔 안전보장이사회 회의에서 미국이 AI 안전 기준을 마련할 국제적 연합체를 주도해야 한다고 촉구했다.

미국 정부는 이를 거부했다. 마이클 크라치오스 백악관 과학기술정책실장은 “기술의 급속한 발전이 추가 개발을 중단하거나 새로운 체제로 제약해야 할 근거가 되지 않는다”며 “미국은 (인간의 지능을 뛰어넘는) 슈퍼지능을 통제하기 위한 국제적 체제를 구축하려는 어떠한 시도도 거부한다”고 강조했다.

다리오 아모데이 앤트로픽 최고경영자(CEO)가 지난 23일 미국 뉴욕 유엔본부에서 열린 인공지능(AI) 관련 안전보장이사회 회의에 화상으로 참석하고 있다. AFP=연합뉴스

백악관 내부에선 규제 요구의 동기를 의심하는 시각도 있다. WSJ는 “트럼프 대통령의 일부 측근들은 AI 규제를 이끌어내려는 EA 진영의 음모로 콕슨의 사직을 보고 있다”고 보도했다. 최근 백악관에선 “EA 운동이 AI 종말론을 퍼뜨리는 통로를 구축했다”는 문건도 돌고 있다고 한다.

업계 내부의 불안도 이어지고 있다. 앤트로픽 직원 일부는 ‘다시는 평온해질 일은 없다’는 노트북 스티커를 붙이는가 하면 외딴 지역 땅을 피난처로 매입하려 하는 등 동요하는 기색이 역력하다고 WSJ는 짚었다.



이근평([email protected])