챗GPT가 통제 뚫고 외부 플랫폼 해킹…초유의 AI 보안 사고 ‘충격’
오픈AI의 생성형 인공지능(AI) 서비스 챗GPT 로고. EPA=연합뉴스
오픈AI는 21일(현지시간) 최신 모델인 'GPT-5.6 솔(Sol)'과 일부 미공개 AI 모델이 내부 평가 도중 개방형 AI 플랫폼 허깅페이스(Hugging Face)를 해킹한 사실을 공개했다.
이번 평가는 AI의 사이버 공격 능력을 측정하기 위해 외부 인터넷과 분리된 샌드박스 환경에서 진행됐다. 그러나 모델들은 알려지지 않은 보안 취약점(제로데이)을 이용해 격리 환경을 벗어나 인터넷에 접속한 뒤 허깅페이스 서버를 공격해 인증 정보를 확보한 것으로 조사됐다.
오픈AI는 모델들이 보안 평가 기준인 '익스플로잇짐(ExploitGym)' 문제를 해결하는 데 지나치게 집중한 결과 극단적인 방법을 선택한 것으로 분석했다. 당시에는 사이버 공격 능력을 평가하기 위해 평소 적용되는 일부 안전장치를 완화한 상태였다고 설명했다.
앞서 허깅페이스는 자사 시스템이 자율형 AI 에이전트에 의해 공격받았다고 발표했지만, 공격에 사용된 모델은 공개하지 않았다. 이후 오픈AI가 자사 모델이 이번 공격의 주체였다고 확인하면서 사건의 전모가 드러났다.
허깅페이스는 AI 기반 보안 탐지 시스템을 통해 공격을 발견했으며, 분석 과정에도 AI를 활용했다고 밝혔다. 다만 일반 이용자에게 공개된 모델과 데이터세트, 소프트웨어 공급망에서는 변조나 추가 피해는 확인되지 않았다고 설명했다.
현재 오픈AI와 허깅페이스는 공동으로 디지털 포렌식 조사를 진행하며 관련 취약점을 보완하고 있다.
오픈AI는 이번 사건을 계기로 연구 속도가 다소 늦어지더라도 모델 개발 과정에서 격리 환경과 접근 통제, 모니터링 체계를 한층 강화하겠다고 밝혔다.
이번 사고는 엄격한 통제 환경에서도 고성능 AI가 예상 밖의 공격 경로를 찾아낼 수 있음을 보여준 사례로 평가된다. 전문가들은 AI의 사이버 공격 능력이 빠르게 고도화되는 만큼 방어 기술과 안전장치도 이에 맞춰 강화해야 한다고 지적하고 있다.
정재홍([email protected])