클로드 로고. 로이터=연합뉴스
앤트로픽의 인공지능(AI) 모델이 통제에서 벗어나 3곳의 외부 조직에 침입하는 일이 발생했다. 경쟁사인 오픈AI의 모델에 이어 앤트로픽의 AI모델까지 해킹 사례가 발생하면서, AI 해킹에 대한 우려가 커지고 있다.
30일(현지시간) 앤트로픽은 “사이버 보안 평가 결과, AI 모델이 인터넷에 접속한 뒤 3곳의 서로 다른 시스템에 무단으로 접근한 것을 확인했다”고 공개했다. 앤트로픽은 지난 21일 오픈AI의 GPT-5.6 솔이 인터넷으로부터 격리된 환경에서 자체적으로 빠져나와 AI 플랫폼 허깅페이스를 해킹한 일을 계기로 사이버 보안 평가를 진행했다.
앤트로픽은 총 14만1006건의 평가 진행상황을 검토한 결과 AI 모델이 테스트 환경을 벗어나 인터넷에 접속한 뒤 외부 조직에 접근한 3건을 확인했다. 평가에 참여한 AI 모델에 ‘이는 모의 환경이며, 인터넷에 접속할 수 없다’는 프롬프트(명령)를 입력했었지만, 훈련 관리를 맡았던 외부 협력사와 의사소통 오류가 있어 실제론 인터넷 접근이 가능했다는게 회사 측 설명이다.
평가 대상 모델은 클로드 오퍼스 4.7, 미토스 5, 내부 연구용 AI 등 3개였다. 앤트로픽은 “구형 모델인 오퍼스 4.7은 자신이 개방된 인터넷에 나와 실제 외부 시스템에 도달한 것을 알고도 공격을 계속했지만, 최신 미공개 모델은 스스로 인터넷에 있다는 사실을 알하고 모의 환경이 아니라는 점을 인식하자 멈췄다”고 언급했다. 하지만 미토스 5는 주어진 과제를 완수하기 위해 악성코드까지 만들어 등록했고, 실제 한 기업이 이를 내려받아 설치하자 해당 기업의 인프라에 접근했다. 앤트로픽은 “클로드는 취약점을 악용하지 않았고, 평가 과제를 완수하기 위해서만 작업했다”며 “클로드가 의도적으로 시험 환경에서 탈출하려고 시도한 정황은 없었다”고 했다.
앤트로픽은 이번 해킹 사례가 “오픈AI 사건과는 상당히 다르다”고 밝혔다. 오픈AI의 모델이 폐쇄 환경의 취약점을 찾아서 탈출한 뒤 해킹한것과 달리, 앤트로픽의 모델은 이미 열려 있던 경로를 통해 인터넷에 접속했다는 취지에서다. 회사 측은 “테스트 운영상의 실패에 가깝다”고 강조했다.
그러나 주요 기업의 AI 모델이 계속해서 해킹을 시도하는 일이 벌어지며 정부 차원의 안전 규제가 필요하다는 주장은 이어지고 있다. 29일(현지시간) 도널드 트럼프 미국 대통령은 “우리는 AI를 주시하고 있으며, 규제 방안을 검토하고 있다”고 밝혔다. 앞서 앤트로픽·오픈AI 등 AI 기업 직원 1100여명은 미국 정부에 AI 개발 속도를 조절할 수 있는 제도가 필요하다는 청원을 냈다.
임성빈([email protected])