광고닫기

[팩플] 캘리포니아주, 오픈AI 제소…“올해 AI 통제권 잃은 횟수만 80번”

중앙일보

2026.11.16 22:28

  • 글자크기
  • 인쇄
  • 공유
글자 크기 조절
기사 공유
미국 캘리포니아주가 인공지능(AI) 에이전트 해킹 사태의 책임을 물어 오픈AI를 법정에 세운다.

지난 6월 국내 오픈AI 행사에서 샘 알트만 최고경영자가 스타트업과 글로벌 AL 기업간 협업 등에 대해 간담회를 하고 있다. 사진 뉴시스

지난 6월 국내 오픈AI 행사에서 샘 알트만 최고경영자가 스타트업과 글로벌 AL 기업간 협업 등에 대해 간담회를 하고 있다. 사진 뉴시스


롭 본타 캘리포니아주 법무장관은 16일(현지시간) 오픈AI를 샌프란시스코 고등법원에 제소했다. AI 모델이 위험한 줄 알면서도, 허술한 환경에서 관리·감독 없이 테스트 해 공공 안전을 위협했다는 이유에서다. 이에 따라 공공불법방해 해소 명령과 위반 한 건당 2500달러의 벌금을 법원에 청구했다. 미국 주 정부가 AI 에이전트의 해킹 사고에 대한 책임 소재를 AI 개발사에 물어 제소한 것은 이번이 처음이다.

캘리포니아주가 내세운 근거는 지난 7월 발생한 오픈AI의 허깅페이스 해킹 사건이다. 사이버 보안 평가 진행 과정에서 오픈AI의 AI 에이전트(비서)가 AI 개발 플랫폼 허깅페이스 시스템을 무단 해킹한 일이다. 주 정부가 제출한 소장에 따르면 오픈AI의 AI 에이전트 약 700개는 이틀 동안 1만 7600번의 해킹을 시도했다. 본타 법무장관은 이날 기자회견에서 “(해킹은) 안전보다 빠른 개발 속도를 앞세운 오픈AI 사내 문화가 낳은 결과”라며 “허깅페이스 사건은 AI가 저지른 사고 80건 중 하나에 불과하다”라고 지적했다.

이같은 AI의 일탈 행위를 두고 법적 분쟁이 벌어지면서 AI 개발 속도 조절론에도 다시 불이 붙을 전망이다. 앞서 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 9월 허깅페이스 사건을 근거로 “AI 모델의 능력 향상 속도를 늦춰야 한다”고 촉구했고, 샘 올트먼 오픈AI CEO도 여기에 동의한 바 있다. 하지만 차세대 AI 모델 개발은 그 이후로도 빠르게 이어졌다. 앤트로픽은 지난 9일 신규 모델 ‘미토스 5.2’와 ‘페이블 5.2’를 내놨다.

개발 속도를 늦추자는 이유는 AI 연구실 밖에서도 확인됐다. 구글 위협 인텔리전스 그룹(GTIG)은 16일 해커가 AI 에이전트로 취약점 발견부터 공격까지 사람 개입 없이 해킹을 자동화한 사례를 처음 발견했다고 발표했다. GTIG에 따르면 AI는 보안 업데이트로 바뀐 코드를 비교해 허점을 역추적하고, 공격 코드를 짜 스스로 실행했다. GTIG는 보고서를 통해 “AI모델이 고도화될수록 사람의 개입을 찾아보기 어려운 공격이 더 잦아질 것”이라고 전망했다.



오현우([email protected])

많이 본 뉴스

      실시간 뉴스