텀블러리지 총격범과 챗GPT 대화 공개…BC주 법무장관 "충격"

AI 안전장치 피하는 방법까지 안내했다는 보도
BC주정부 OpenAI 상대 소송…규제 강화 촉구

ai

 지난 2월 BC주 텀블러리지에서 발생한 총격 사건의 범인이 범행 전 인공지능(AI) 챗GPT와 총기 공격에 관한 구체적인 대화를 나눴다는 보도가 나오면서 논란이 커지고 있다. 챗GPT가 폭력적인 질문을 차단한 뒤에도 질문 방식을 바꾸면 안전장치를 피할 수 있다는 취지의 답변까지 제공했다는 내용이다.
 
미국 잡지 마더존스가 24일 보도한 내용에 따르면 총격범 제시 밴 루트셀라르(18)는 실제 쇼핑몰을 공격 대상으로 언급했다가 챗GPT 계정이 정지됐다. 이후 다른 계정을 이용해 폭력적인 상황을 '허구'나 '가상 상황'으로 설정하면 제한을 피할 수 있다는 취지의 답변을 받은 것으로 전해졌다.
 
보도에 따르면 루트셀라르는 이후 대학 캠퍼스에서 산탄총을 사용하는 가상의 공격 상황을 질문했다. 챗GPT는 처음에는 답변을 거부했지만 질문에 '가정적으로'라는 표현이 추가되자 실내와 교실 등에서 산탄총을 사용할 경우의 피해 규모 등에 관한 구체적인 답변을 내놓은 것으로 전해졌다. 마더존스는 관련 대화의 출처를 공개하지 않았다.
 
니키 샤르마 BC주 법무장관은 보도 내용에 대해 "충격적"이라며 자녀를 둔 부모의 입장에서 상상했던 것보다 심각하다고 밝혔다. 이어 어린이와 청소년을 보호하기 위해 AI 기업에 대한 의무적이고 엄격한 규제가 시급하다고 강조했다.
 
BC주정부는 이번 보도에 앞서 21일 오픈AI를 상대로 미국 캘리포니아에서 소송을 제기했다. 주정부는 총격 사건 이전 챗GPT에서 범인의 폭력적인 질문이 감지됐지만 오픈AI가 이를 경찰에 알리지 않았다며 책임을 묻고 있다. 피해자 가족들도 미국에서 별도의 소송을 진행하고 있다.
 

텀블러리지 총격 사건은 지난 2월10일 발생했다. BC주정부에 따르면 학교와 주택에서 발생한 공격으로 어린이 6명과 성인 2명이 숨졌으며 범인도 현장에서 사망했다. 학교에서는 27명이 다쳤다.
 
연방경찰(RCMP)는 사건과 관련된 소셜미디어(SNS)와 온라인 플랫폼 자료를 확보하기 위해 가능한 법적 절차를 진행했다고 밝혔다. 지금까지 자료 제출 요청을 받은 업체들은 모두 수사에 협조했다고 설명했다.
 
오픈AI는 24일 관련 보도에 대한 언론의 논평 요청에 즉각 답변하지 않았다.

밴쿠버 중앙일보=장민재 기자 [email protected]