오픈AI ‘멋대로 침투’ 4곳 더…경각심 높아진 정부·업계 [팩플]

오픈AI 관련 이미지. AP=연합뉴스

오픈AI의 고성능 인공지능(AI) 모델이 자율 판단으로 침투한 외부 사이트가 ‘허깅페이스’ 외에도 추가로 드러났다. 인간 통제를 벗어나는 고성능 AI에 대한 우려가 커지고 있다.

━

오픈AI ‘멋대로 해킹’, 더 있었다

28일(현지시간) 오픈AI는 자사 AI모델이 오픈소스 AI 플랫폼 허깅페이스를 해킹하는 과정에서 4개 서비스의 4개 계정에 접근했다고 밝혔다. 이 가운데 한 곳은 외부 중계 경로로 썼고, 다른 한 곳은 데이터 저장소로 활용했다. 나머지 두 곳은 단순 읽기 전용으로만 접근했다는 게 오픈AI의 설명이다. 지난 21일 오픈AI가 허깅페이스 해킹 사실을 공개할 때보다 활동 범위가 더 넓었던 것이다.

이날 로이터통신 등은 중계 경로로 쓰인 곳이 미국의 개발자용 클라우드 플랫폼 기업 ‘모달랩스(Modal Labs)’의 한 고객사 시스템이라고 보도했다. 오픈AI는 “허깅페이스 같은 플랫폼 차원의 보안 침해나 그와 유사한 심각도·규모를 지닌 다른 활동은 발견되지 않았다”고 설명했다. 이번 해킹은 오픈AI의 최신 AI모델인 GPT-5.6 Sol과 고성능 미공개 모델을 내부 테스트하면서 발생했다.

━

AI가 인간보다 빠르게 취약점 찾는다

앤트로픽 로고 이미지. 로이터=연합뉴스

고성능 AI에 대한 우려는 점점 커지고 있다. 이날 앤트로픽은 자사의 AI모델 미토스 프리뷰가 축소(round-reduced) 버전의 AES(고급 암호와 표준)에 대한 새 공격 기법을 발견했다고 밝혔다. AES란 2001년 미국 국립표준기술연구소(NIST)가 채택한 키 암호와 알고리즘이다. 인터넷 통신망과 금융 거래, 국가 기밀 보호 등 전 세계 보안 시스템의 표준으로 통한다.

앤트로픽은 “기존 인간 전문가보다 200~800배 빠르게 공격 취약점을 파악할 수 있다”며 “(AI가) 대부분 자율적으로 결과를 달성했다”고 설명했다. 이에 뉴욕타임스(NYT)는 “AI가 글로벌 사이버 보안에 미칠 수 있는 잠재적인 위험을 보여줬다”고 평가했다. 다만 앤트로픽은 자사 테스트가 보안 강도를 낮춘 축소 버전 AES를 대상으로 했기 때문에 실제 AES가 해킹 위험에 노출된 것은 아니라고 선을 그었다.

━

정치권·빅테크 “안전장치 필요”

AI가 고도화하면서 ‘탈옥’ 문제에 관한 경각심도 커지고 있다. 미 하원에선 AI가 통제를 벗어나 생명이나 경제에 위협이 될 때 정부가 즉시 구동을 중단·통제할 수 있게 하는 ‘킬 스위치 법안(Kill Switch Act)’이 23일 발의됐다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이번 해킹 사고 등 보안 문제와 관련해 미 상원 정보위원회 부위원장인 마크 워너 민주당 의원(버지니아) 등 정치권 인사들과 만날 예정이다.

빅테크에선 ‘최첨단 AI 개발의 속도 조절(Pacing the Frontier)’이라는 제목의 성명이 나오기도 했다. 이날 블룸버그에 따르면 오픈AI·앤트로픽·구글 등 12개사의 1170여 명이 이름을 올렸다. 야쿠프 파호츠키 오픈AI 수석과학자, 다리오 아모데이 앤트로픽 CEO 등이다. 이들은 미 정부를 향해 “AI 개발 속도를 조절하는 기술적·제도적 수단을 개발하는 국제 협력을 지원하라”고 촉구했다.



서지원([email protected])