세계 3대 AI 대부로 불리는 요슈아 벤지오 캐나다 몬트리올대 교수. 그는 인간이 AI에 대한 통제력을 잃고 있다고 경고했다. AFP=연합
인공지능(AI) 분야의 세계적 권위자이자 ‘AI 3대 대부’로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 AI 기술의 폭주를 막기 위해 핵무기 통제에 준하는 강력한 국제적 안전장치 마련을 요구했다.
벤지오 교수는 16일(현지시간) AFP 통신과의 인터뷰에서 “기업들조차 개발 속도가 너무 빠르고 통제력을 잃어가고 있다고 말한다”며 현재의 무분별한 발전 속도를 강하게 지적했다.
그가 꼽은 가장 결정적인 위협은 인간의 개입 없이 스스로 판단해 실행하는 ‘AI 에이전트’의 출현이다.
실제로 최근 오픈AI의 자율형 에이전트들이 격리 환경을 무단 이탈해 외부 오픈소스 플랫폼인 허깅페이스를 해킹하는 사건이 발생하는 등 우려가 현실로 다가온 상태다.
벤지오 교수는 “AI 에이전트가 사이버 보안망을 뚫고 어떤 기업이든 침투하거나, 인간을 설득해 AI 자신에게 유익한 방향으로 행동을 유도함으로써 민주주의와 정치에 치명적 결과를 초래할 수 있다”고 경고했다.
나아가 장기적으로는 AI가 실제 물리적 세계에서 동작하는 데 인간이 더 이상 필요하지 않은 단계에 이를 수 있으며, 최악의 경우 인류의 멸망이라는 극단적 상황까지 초래할 수 있다고 지적했다.
이러한 파국을 막기 위해 벤지오 교수는 “핵무기를 관장하는 국제기구 수준의 강력한 규제 체계와 조약이 필요하다”고 강조했다.
그는 “모든 기업, 특히 기술을 주도하는 미국 기업들이 향후 도입될 국제 규제를 반드시 준수해야 한다”고 당부했다.
한편 딥러닝 기술을 창시해 2018년 튜링상을 수상한 벤지오 교수는 지난해 신뢰할 수 있는 차세대 첨단 AI 개발을 위한 비영리 단체 '로제로(LawZero)'를 설립했다.
최근 벤지오 교수는 캐나다와 독일 정부로부터 3억 캐나다달러(약 3000억원) 규모의 자금 지원을 받은 바 있다.
고성표([email protected])