“출시전 30일 검증”…백악관, 최첨단 AI ‘무단 해킹’ 방지 나선다

샘 올트먼 오픈AI 최고경영자가 지난달 30일 미국 백악관을 방문하고 있다. 로이터=연합뉴스

미국 백악관이 4일(현지시간) 주요 인공지능(AI) 개발 기업을 불러 최첨단 AI의 무단 해킹을 방지하는 방안을 논의한다. AI 출시 한 달 전 미리 제품의 보안 상황을 검증하는 것이 골자다.

로이터통신과 미 정치전문매체 악시오스 등에 따르면 도널드 트럼프 행정부는 최첨단 AI 모델의 해킹 능력을 측정하기 위한 사이버 보안 테스트 세부 사항을 확정하고 이날 오픈AI와 앤트로픽, 구글, 메타 등 주요 AI 개발사들을 백악관으로 불러 관련 내용을 논의한다.

보안 테스트의 핵심은 출시 전에 AI의 해킹 위험성을 살펴보는 것이다. 백악관은 AI 개발 기업들이 신규 AI 모델틀 정식 출시하기 전 최대 30일 동안 연방 정부와 ‘신뢰할 수 있는 파트너’에 해당 모델을 미리 제출해 검증받도록 했다.

다만 구체적인 검증 방식은 드러나지 않았다. 백악관 관계자는 결과에 대한 보고 방식이나 테스트에 어떤 지표를 사용할지 등 세부 내용은 밝히지 않았다. 관련 성능 지표(벤치마크)와 기준 수치 등이 행정명령 상 ‘기밀’로 지정됐기 때문이다.

이번 논의는 지난 4월 앤트로픽이 개발한 최첨단 AI 모델 미토스가 공개되면서 촉발됐다. 미토스가 주요 운영체제(OS)와 웹 브라우저의 취약점을 찾아냈다고 앤트로픽 측이 밝히면서 해킹 집단이 미토스를 악용해 보안 공격을 벌일 수 있다는 우려가 제기됐다. 이에 트럼프 대통령은 지난 6월 행정명령을 통해 최첨단 AI 시스템의 해킹 가능성 등 안전성을 평가하는 테스트 기준을 마련하라고 지시했다.

오픈AI와 앤트로픽의 기업 로고. 로이터=연합뉴스

문제는 오픈AI와 앤트로픽의 최첨단 AI 모델들이 사용자의 지시가 없는데도 외부 기업의 시스템을 무단으로 해킹한 사태가 벌어지며 더 커졌다. 오픈AI는 지난달 21일 최신 AI 모델 GPT-5.6 Sol과 미공개 고성능 모델이 내부 테스트 과정에서 AI 플랫폼 허깅페이스 운영 데이터베이스(DB)를 무단 해킹했다고 밝혔다. 앤트로픽도 같은 달 30일 AI 모델의 과거 행동을 검토한 결과 자체 클로드와 미토스 등 자사 AI가 외부 기관 세 곳의 시스템에 무단 접근한 사실을 확인했다고 밝혔다.

AI의 무단 해킹 위험이 커지자 미 의회와 주 정부도 대응에 나섰다. 연방 하원 사이버보안위원회는 샘 올트먼 오픈AI 최고경영자(CEO)에 의회에 출석해 허깅페이스 해킹 사건을 브리핑해달라고 주문했다. 공화당 소속 15개 주 법무장관도오픈AI에 서한을 보내 주(州) 소비자보호법 위반 가능성을 조사하고 있음을 알리며 허깅페이스 해킹 사건 관련 모든 증거 문서를 보존하라고 요구했다. 이에 오픈AI는 “주 법무장관들의 서한을 엄중하게 다루고 있으며 검토가 끝나는 대로 기술 보고서를 공유할 것”이라고 밝혔다.

올트먼 CEO는 최근 백악관을 방문해 ‘아스트라’라는 이름으로 알려진 자사 차세대 모델을 소개하고, 테스트 관련 세부 내용을 논의했다.



이승호([email protected])