28일(현지시간) 오픈AI는 자사 AI모델이 오픈소스 플랫폼 허깅페이스를 해킹하는 과정에서 4개 서비스의 4개 계정에 접근했다고 밝혔다. 이 가운데 한 곳은 외부 중계 경로로 썼고, 다른 한 곳은 데이터 저장소로 활용했다. 나머지 두 곳은 단순 읽기 전용으로만 접근했다는 게 오픈AI의 설명이다. 지난 21일 오픈AI가 허깅페이스 해킹 사실을 공개할 때보다 활동 범위가 더 넓었던 것이다.
이날 로이터통신 등은 중계 경로로 쓰인 곳이 미국 클라우드 플랫폼 ‘모달랩스’의 고객사 시스템이라고 보도했다. 오픈AI는 “허깅페이스 같은 플랫폼 차원 보안 침해나 그와 유사한 심각도·규모를 지닌 다른 활동은 발견되지 않았다”고 설명했다. 이번 해킹은 오픈AI의 최신 AI모델인 GPT-5.6 Sol과 고성능 미공개 모델을 내부 테스트하면서 발생했다.
고성능 AI에 대한 우려는 점점 커지고 있다. 앤트로픽은 자사의 AI모델 미토스 프리뷰가 축소 버전의 AES(고급 암호와 표준)에 대한 새 공격 기법을 발견했다고 밝혔다. AES란 2001년 미국 국립표준기술연구소가 채택한 키 암호와 알고리즘이다. 인터넷 통신망과 금융 거래, 국가 기밀 보호 등 전 세계 보안 시스템의 표준으로 통한다. 앤트로픽은 “인간 전문가보다 200~800배 빠르게 공격 취약점을 파악할 수 있다”며 “(AI가) 대부분 자율적으로 결과를 달성했다”고 설명했다.
AI가 고도화하면서 인간 통제를 벗어나는 ‘탈옥’ 문제에 관한 경각심도 커지고 있다. 미 하원에선 AI가 통제를 벗어나 생명이나 경제에 위협이 될 때 정부가 즉시 구동을 중단·통제할 수 있게 하는 ‘킬 스위치 법안’이 23일 발의됐다. 빅테크 개발자들 중심으로 ‘최첨단 AI 개발의 속도 조절’이라는 제목의 성명이 나오기도 했다. 오픈AI·앤트로픽·구글 등 12개사 직원 1170여 명은 “(미 정부는) AI 개발 속도를 조절하는 기술적·제도적 수단을 개발하는 국제 협력을 지원하라”고 촉구했다.
서지원([email protected])