24일(현지시간) 우크라이나군이 공개한 사진에 우크라이나 도네츠크주에 설치한 대(對)드론 그물이 담겼다. AFP=연합뉴스
뉴욕타임스(NYT)는 24일(현지시간) 우크라이나 당국자를 인용해 “지난달 우크라이나 남동부 자포리자 소재 주유소를 타격한 드론 잔해를 분석한 결과, AI가 해당 드론을 전적으로 조종한 사실을 확인했다”고 보도했다. 우크라이나는 이 드론이 사전에 설정한 대략적인 위치까지 이동한 뒤 AI를 통해 표적을 식별하고 충돌한 것으로 보고 있다. 당시 주유소의 프로판 탱크가 폭발하며 대학생을 포함한 민간인 3명이 숨졌다.
우크라이나가 확보한 드론에는 목표물을 추적하고 비행경로를 유지할 수 있도록 지형 이미지가 저장됐다. 프로판 탱크 등 특정 유형의 표적을 식별해 공격하도록 훈련된 사실도 확인됐다고 우크라이나 당국은 밝혔다. 다만 외부와 통신할 수 있는 안테나는 없었다. 대신 목표물을 스스로 식별할 수 있도록 엔비디아의 초소형 컴퓨터 ‘젯슨 오린’을 탑재했다. 이를 토대로 우크라이나 방공 지휘관들은 자율형 AI 시스템이 해당 드론을 유도했다고 판단했다.
엔비디아는 드론에 탑재한 젯슨오린이 자사 제품임을 NYT에 확인했다. 다만 엔비디아는 해당 컴퓨터가 “학생·개발자·스타트업 등에 판매해 광범위한 용도로 활용하는 소비자용 제품”이라며 “군사 용도로 설계한 제품이 아니다”라고 밝혔다. 이어 “해당 제품을 현재 러시아에 직접 수출하지 않고 있지만, 재판매 업체를 통해 확보할 수 있을 것으로 보인다”고 설명했다. 미국은 군사적 용도로 쓰는 제품에 대해 대러 수출을 제한하고 있다.
우크라이나 역시 자율형 AI 무기 개발을 시도하고 있는 것으로 알려졌다. 지난달 해임된 미하일로 페도로우 우크라이나 전 국방장관은 언론 인터뷰에서 우크라이나가 크림반도를 비롯한 러시아 점령지에서 자율형 AI 시스템을 시험했다고 밝혔다.
지난 6월 미국 네바다주 라스베이거스에서 열린 행사에 전시된 엔비디아 로고. 로이터=연합뉴스
기존 군사용 드론은 사람이 무선 통신이나 광섬유 케이블을 통해 직접 조종하거나, 사전에 입력한 좌표에 따라 비행한다. 반면 자율형 AI 시스템을 탑재한 드론은 인간의 실시간 개입 없이 AI가 표적을 식별하고 공격할 수 있다. 전통적인 소프트웨어가 사람이 입력한 단계별 규칙에 따라 작동한다면, AI 시스템은 머신러닝을 통해 방대한 데이터에서 패턴을 학습해 판단한다. 예상치 못한 상황에 대응할 수 있다는 장점이 있다. 하지만 AI가 어떤 상황에서 어떤 결정을 내릴지 인간이 완전히 예측하거나 통제하기 어렵다는 한계도 있다.
특히 전장에서 AI가 공격 대상을 어떻게 판단할지 예측하기 어려워 민간인 피해로 이어질 가능성도 제기된다. 국제적십자사(ICRC)와 인권단체들은 인간의 통제 없이 작동하는 자율무기 사용에 강하게 반대하고 있다.
미 싱크탱크 전략국제문제연구소(CSIS) 산하 와드와니 AI센터의 카테리나 본다르 수석 연구원은 이번 사례에 대해 “러시아가 자율형 AI를 실험하고 있다는 가장 확실한 증거”라며 “러시아 드론에 탑재한 AI 시스템으로 민간인 사망자가 발생한 사실이 확인된 최초의 사례”라고 지적했다.
자포리자 방공 사령관인 세르히 미나예우 대령도 자율형 AI 시스템을 탑재한 드론의 등장에 대해 “이는 전 세계에 대한 위험”이라며 “몇 년 안에 영화 ‘터미네이터’ 속에 사는 것 같은 상황에 부닥치게 될 것”이라고 말했다. 이어 “농담이 아니다. 기계들이 공격 여부를 결정하고 있다”고 강조했다. NYT는 “살상 로봇이 하늘을 돌아다니며 생사를 결정하고 인간을 단순한 데이터로 환원하는 디스토피아적 미래를 예고한다”고 평가했다.
전민구([email protected])