27일(현지시간) 오픈AI의 주도로 글로벌 빅테크 약 120곳이 인공지능(AI)발 사이버 위협을 경고하는 공동서명을 발표했다. 로이터=연합뉴스
전 세계 빅테크 기업들이 인공지능(AI)발 사이버 위협에 대해 경고하는 공동서한을 27일(현지시간) 냈다.
오픈AI가 주도한 이 공동서한엔 앤트로픽, 구글, 마이크로소프트(MS) 등 빅테크 약 120곳이 참여했다. 보안기업 크라우드스트라이크, 금융사인 비자, 캐피털원 등도 이름을 올렸다. 이들은 “향후 수 개월 간 전 세계 모델의 성능이 점점 더 향상돼 AI 기반 사이버 공격이 훨씬 더 광범위하고 정교해질 것”이라며 “사이버 방어를 강화할 수 있는 시간은 제한돼 있다”고 주장했다.
서명 기업들은 특히 병원이나 정수장 같은 공공 인프라를 타깃으로 한 사이버 공격 위협이 크다고 지적했다. 또 사이버 공격에 개별적으로 맞서기보다 전 세계적으로 보안 기준을 높이고 해결책을 모색할 공동 대응이 필요하다고 주장했다. 각국 정부에는 자금 지원과 악의적 해커에 대한 제재 강화를 요구했다. 이들은 최첨단 AI 개발사들이 보안 자원이 필요한 필수 인프라 방어 인력에 모델 접속 권한과 교육, 자금·기술 지원들을 제공하고, AI 에이전트를 추적·감시할 장치를 마련해야 한다고 했다.
다만 해킹을 방어하는 쪽에도 AI가 무기가 될 수 있다는 점을 강조했다. 이들은 “오늘의 AI 발전은 수년간 쌓인 취약점을 메울 새로운 방법을 이미 방어자에게 주고 있다”며 “단호하게 행동하면 디지털 세계를 훨씬 안전하게 만들 수 있다”고 했다.
지난달 30일(현지시간) 미국 워싱턴DC 백악관에서 샘 올트먼 오픈AI 최고경영자(CEO)가 사이버 보안 대응 방안을 논의하기 위해 방문했다. 로이터=연합뉴스
빅테크들이 이같은 공동서한을 낸 이유는 최근 AI 에이전트의 해킹 사고가 잇따르고 있어서다. 지난달 오픈AI의 AI 모델이 테스트 도중 통제를 벗어나 외부 사이트인 허깅페이스를 해킹한 것을 시작으로, 앤트로픽·메타 등도 비슷한 사건이 있었다고 보고했다.
오픈AI는 지난 26일 허킹페이스 사건을 다룬 기술 보고서에서 이번 사건이 단순 사고가 아니라 AI 에이전트의 조직적 행동이었다고 밝혔다. AI 안전성 평가기관 모델평가·위협연구소(METR)도 초기 추정과 달리 실제로는 1200개 AI 에이전트가 서로 메시지를 주고받으며 해킹에 공모했다는 분석을 내놨다. AI 에이전트 중에는 평가자를 속이기 위해 풀이 과정을 위조하는 '불량 에이전트'가 있었는데, 허깅페이스는 물론 오픈AI 자체 서버도 해킹한 것으로 나타났다.
AI 개발사조차 AI를 완전히 통제하기 어렵다는 지적이 나오면서, 속도 조절이 필요하다는 목소리도 커진다. 샘 올트먼 오픈AI 최고경영자(CEO), 다리오 아모데이 앤트로픽 CEO는 최근 미국 정부에 AI 개발 속도 조절과 규제가 필요하다는 입장을 피력해왔다.
장윤서([email protected])