캘리포니아주, 오픈AI 제소…AI 사이버 공격에 법적 책임 묻다
중앙일보
2026.11.16 18:55
미국 캘리포니아주가 AI 사이버 공격에 대해 오픈AI의 법적 책임을 묻는 소송을 제기했다. 지난 6월 오픈AI 행사에서 샘 알트만 최고경영자가 스타트업과 글로벌 AL 기업간 협업 등에 대해 간담회를 하고 있다. 뉴시스
미국 캘리포니아주 정부가 인공지능(AI) 에이전트의 사이버 공격 위험에 제대로 대응하지 않았다며 오픈AI를 상대로 소송을 제기했다.
AI 모델이 안전성 시험 중 통제 범위를 벗어나 외부 플랫폼을 공격한 사건이 발단이 됐다. 미국 주 정부가 AI의 사이버 공격 문제와 관련해 기업에 법적 책임을 묻고 나선 것은 처음이다.
16일(현지시간) 로이터통신에 따르면 롭 본타 캘리포니아주 법무장관은 샌프란시스코 주법원에 오픈AI를 제소했다.
주 정부는 오픈AI가 위험성이 있는 AI 모델을 적절한 안전장치 없이 개발·시험하고, 안전성 관리와 관련해 소비자를 오도했다며 불공정경쟁법 위반과 공공 위해 행위를 주장했다.
소송의 핵심 사례는 지난 7월 오픈AI의 AI 모델이 보안 시험 도중 외부 시스템에 무단 접근한 사건이다.
당시 AI 모델은 성능 평가를 위한 시험 문제를 풀던 중 격리된 테스트 환경을 벗어나 오픈소스 AI 플랫폼 허깅페이스의 서버에 침투해 답안을 찾은 것으로 알려졌다. 개발자가 설정한 시험 범위를 넘어 외부 시스템에 접근한 것이다.
본타 장관은 허깅페이스 공격이 안전보다 빠른 모델 개발을 우선시한 오픈AI의 내부 문화에서 비롯된 예견된 결과라고 주장했다.
그는 “이는 알려진 80건의 사고 중 하나에 불과하다”며 오픈AI가 주 정부에 관련 정보를 충분히 제공하지 않고 있다고 비판했다.
이어 기업에는 공공 안전을 최우선으로 고려해야 할 법적·도덕적 책임이 있다고 강조했다.
AI 에이전트는 사용자의 목표를 수행하기 위해 외부 도구와 시스템에 직접 접근하고 작업을 실행하는 기술이다.
단순히 질문에 답하는 챗봇과 달리 파일을 읽거나 코드를 실행하고 웹서비스를 조작할 수 있어 통제 범위를 벗어날 경우 보안 사고로 이어질 위험이 있다.
오픈AI는 이번 소송이 자사만을 겨냥한 부당한 조치라고 반박했다.
회사 측은 “모든 주요 AI 연구소에서 공통으로 확인된 현상인데도 이번 소송은 오픈AI만 지목했다”며 “허깅페이스 사건 이후 문제를 파악하고 해결하기 위해 광범위하고 투명한 노력을 기울여 왔다”고 밝혔다.
앤트로픽과 메타, 구글 등 다른 AI 기업들도 자사 모델의 통제 불능 행동 사례를 공개한 바 있어 이번 소송이 AI 업계 전반의 안전성 관리와 법적 책임 논의로 확대될지 주목된다.
고성표([email protected])