(서울=연합뉴스) 정주호 기자 = 샘 올트먼 오픈AI 최고경영자(CEO)가 직원들에게 인공지능(AI)을 안전하게 개발하는 세 가지 방안과 그중 자신이 국제원자력기구(IAEA) 같은 국제기구 창설을 가장 선호하는 시나리오라고 설명한 것으로 전해졌다.
미국 IT 매체 디인포메이션은 19일(현지시간) 소식통들을 인용해 올트먼이 지난주 직원들에게 업계에서 논의돼 온 세 가지 제안을 설명했다고 전했다.
첫째는 IAEA처럼 안전 기준을 집행하는 국제기구를 만드는 방안으로, 올트먼이 지지하는 것으로 보인다고 소식통들은 전했다.
올트먼은 오래전부터 IAEA를 본뜬 기구를 공개적으로 주창해 왔다.
그는 2023년 5월 당시 최고과학자 일리야 수츠케버 등과 함께 쓴 블로그 글에서 시스템을 점검하고 감사를 요구하며 컴퓨팅·에너지 사용을 추적할 수 있는 "초지능 노력을 위한 IAEA 같은 것"이 필요할 것이라고 주장한 바 있다.
IAEA 같은 국제기구는 중국을 포함해 AI 모델을 개발하는 모든 국가의 국제적 협력이 필요한데 중국이 미국과 얼마나 협력할 의향이 있는지는 불확실하다고 디인포메이션은 짚었다.
둘째는 모든 AI 기업·연구소를 하나의 기구로 합치거나 단일 기구를 통해 작업하고, 이 기구가 협력하는 국가에 새 모델을 제공하는 방안이다. 올트먼은 이를 당시 구글 딥마인드를 이끌던 데미스 하사비스의 과거 제안에서 따와 '데미스 플랜'이라고 불렀다.
수십개국이 공동 운영하며 첨단 연구를 수행하는 유럽입자물리학연구소(CERN)과 비슷한 조직을 AI 업계에 만들자는 10년 전 하사비스의 제안에서 비롯된 방안이다.
셋째는 한 개발사가 경제력을 앞세워 위험할 수 있는 개발사를 포함한 다른 모든 개발사의 컴퓨팅 자원을 빼앗는 시나리오다.
올트먼은 이를 AI 안전 이론가 엘리저 유드코프스키의 이름을 딴 '엘리저 플랜'이라고 부르며 "명백히 나는 그게 끔찍하다고 생각한다"고 말했고 "(설명의) 완결성"을 위해 포함했다고 한 소식통은 전했다.
첨단 AI 시스템이 인류에 실존적 위험을 초래한다고 예견한 유드코프스키는 2022년 블로그 글에서 초지능을 먼저 개발하는 쪽이 다른 개인과 조직이 위험한 초지능을 개발하지 못하게 막아야 한다고 주장한 바 있다.
올트먼은 엘리저 플랜을 설명하며 AI가 재귀적 자기개선(RSI)에 도달하면 그 결과 얻은 경제력으로 "모든 경쟁사의 GPU를 녹여버릴" 때가 올 수 있다고 말했다.
그는 이 방안을 단일 기업 아래 첨단 AI를 중앙집권화하고 통제하려는 시도로 규정했다.
[email protected]
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, ai 학습 및 활용 금지>
정주호