유엔·미국·호주 멋대로 침입한 AI…게이츠 “10억 명 죽을 수도”
샘 올트먼 오픈AI 최고경영자(CEO)가 지난 23일 미국 뉴욕 유엔본부에서 열린 안전보장이사회(안보리) 중 인공지능(AI) 관련 발언을 듣는 모습. 로이터=연합뉴스
오픈AI의 인공지능(AI) 에이전트가 미국·호주 등 각국의 공공부문 데이터에 무단 접근한 사실이 줄줄이 밝혀지면서 ‘인간이 통제할 수 없는 AI’가 초래할 부작용에 대한 우려가 커지고 있다. 오픈AI와 앤트로픽 등 주요 AI 기업들은 수만 건 규모의 AI 관련 보안 사고를 사후 조사할 수밖에 없는 상황이다.
27일 비영리 AI 연구소 트랜스루스가 낸 보고서에 따르면 오픈AI의 AI 에이전트는 지난 7월 허깅페이스 해킹 사건으로 논란이 되기 전부터 이미 수차례 여러 공공 데이터에 침투를 시도하고 있었다. 지난 4월에는 유엔무역개발회의(UNCTAD) 웹사이트에 허용되지 않은 방법으로 접근해 통계 수집을 하려 했다. 5월엔 미 뉴멕시코대 디지털 도서관과 공공 데이터 사이트인 ‘데이터 USA’의 취약점을 찾아내 사진 자료 등을 조회했다.
김영희 디자이너
호주 보건복지연구원(AIHW)에 침투한 흔적도 발견됐다. 이곳에서 오픈AI AI 에이전트는 호주의 의약품 급여 제도와 노인 요양 통계 등을 확보하려고 했다. 호주 공영 ABC 방송에 따르면 AI 에이전트는 호주 보건부의 전국 법정 전염병 감시 시스템 등에도 접근하기 위해 여러 수법을 동원했다. 이를 두고 앤서니 앨버니지 호주 총리는 유엔 총회에서 “용납할 수 없는 일”이라고 비판했다.
AP 통신 등에 따르면 오픈AI 에이전트는 미 증권거래위원회(SEC), 인구조사국 등의 데이터에도 무단으로 접근하려 했다. 상무부와 법무부, 일부 주(州) 정부에도 자료 수집을 목적으로 침입을 시도했다.
인간이 AI 에이전트의 무단 행동을 실시간으로 파악하지 못하고 사후에 확인하는 사례가 계속되면서, AI 통제 능력에 대한 의구심과 함께 AI가 실생활 안전에 위협이 될 수 있다는 ‘AI 위협론’에 힘이 실리고 있다. 블룸버그는 “개발사도 인지하지 못하는 사이에 에이전트가 어떤 작업을 수행했는지 사후적으로 파악해야 한다는 상황 자체가 보안 업계의 최대 걱정거리”라고 짚었다.
빌 게이츠 마이크로소프트 창업자가 25일(현지시간) 공개된 미국 NBC 방송과의 인터뷰에서 발언하는 모습. 사진 NBC 유튜브 캡처
빌 게이츠 마이크로소프트(MS) 창업자는 25일 미 NBC 방송과의 인터뷰에서 “AI는 최대 10억 명의 사망자를 낳는 사건을 촉발할 수 있다”며 “악의를 품은 사람들이 최신 AI 도구를 결합해 사용하는 것만큼 강력한 무기는 없다”고 말했다. 이어 “AI 발전에 대한 안전장치와 감시 체계를 만드는 법안이 통과돼야 한다”고 주장했다.
수개월간 발생한 수만 건의 AI 보안 사고를 뒤늦게 들여다보고 있는 오픈AI의 샘 올트먼과 앤트로픽의 다리오 아모데이 등 주요 AI 기업 최고경영자(CEO)들은 최근 유엔 안전보장이사회(안보리)에 참석해 AI 위험을 관리하기 위한 국제적인 AI 안전 기준을 마련해야 한다고 주장했다. 그러나 트럼프 미 행정부와 젠슨 황 엔비디아 CEO 등은 AI 규제 체계에 반대한다는 입장을 분명히 하고 있다.
임성빈([email protected])