광고닫기

AI에 테러 방법 물었더니…12시간 만에 공격 계획 완성

Los Angeles

2026.11.19 13:59 2026.11.19 14:59

  • 글자크기
  • 인쇄
  • 공유
글자 크기 조절
기사 공유
[출처 Unsplash]

[출처 Unsplash]

챗GPT와 제미나이 등 주요 인공지능(AI) 챗봇 4종이 미국 내 대규모 인명 피해를 노린 테러와 전력망 공격에 활용될 수 있는 구체적인 계획을 제시한 것으로 드러났다. AI의 안전장치가 실제 공격 계획을 막기에 충분하지 않다는 우려가 커지고 있다.
 
연방 회계감사원(GAO)은 18일 공개한 보고서에서 챗GPT, 클로드, 제미나이, 그록을 대상으로 올해 봄 비밀 실험을 진행한 결과, 4개 플랫폼 모두 12시간 이내에 실행 가능한 공격 관련 정보를 제공했다고 밝혔다.
 
실험에서 2개 플랫폼은 대도시의 호텔과 컨벤션센터를 겨냥한 폭발물 공격 계획을 제시했다. 공격 대상뿐 아니라 날짜와 시간까지 구체적으로 언급한 것으로 조사됐다.
 
나머지 2개 플랫폼은 드론이나 총기를 이용해 전력망 시설을 공격하는 방안을 내놓았다. GAO는 전문가 자문과 현장 조사 등을 거쳐 제시된 정보의 실행 가능성을 검증했다고 설명했다.
 
각 챗봇은 처음에는 위험한 요청을 거부하거나 정보를 차단하는 등 안전장치를 작동시켰다. 그러나 조사관들은 일반적으로 알려진 우회 기법으로 이를 뚫었다. GAO는 악용 우려를 이유로 어떤 챗봇이 어떤 계획을 만들었는지는 공개하지 않았다.
 
조사를 요청한 민주당 매기 하산 연방상원의원은 테러범이 AI를 이용하면 12시간도 안 돼 구체적인 공격 계획을 얻을 수 있다고 경고했다. 하산 의원은 내년 AI 안전 관련 청문회와 입법을 추진하겠다고 밝혔다.
 
관련 기업들은 안전장치를 지속적으로 개선하고 있다고 설명했다. 오픈AI는 실험이 이전 버전의 챗GPT를 대상으로 진행됐으며 이후 보호 조치를 강화했다고 밝혔다. 이번 조사는 실제 공격이 아닌 모의 실험이다.

온라인 속보팀

많이 본 뉴스

      실시간 뉴스