“살상용 무기로는 안 된다.”(앤스로픽)
미 국방부(전쟁부)와 AI 기업 앤스로픽의 충돌이 근본적인 질문을 던지고 있다. ‘군사 분야에서 AI를 어디까지 쓸 수 있을까’. 앤스로픽은 AI 챗봇 ‘클로드’를 서비스하는 회사다.
파이낸셜타임스(FT)는 24일(현지시간) 피트 헤그세스 미 국방장관이 다리오 아모데이 앤스로픽 최고경영자(CEO)를 만나 “클로드를 합법적인 군사 작전에 쓰는 것에 동의하지 않으면 국방부 공급망에서 배제하겠다”고 위협했다고 보도했다. 27일까지 답하라는 구체적인 ‘데드라인’도 제시했다. ‘큰 손’ 국방부가 기밀 작전에서 유일한 AI로 채택한 클로드를 내칠 수 있다고 경고한 셈이다. 국방부는 오픈AI(챗GPT)나 구글(제미나이) 같은 경쟁사로 공급망 교체까지 검토 중이다.
갈등의 발단은 지난달 3일 미국이 베네수엘라를 공습해 니콜라스 마두로 대통령을 체포한 군사 작전이었다. 당시 국방부는 클로드와 팔란티어의 플랫폼 등을 작전에 활용했다. 이 과정에서 베네수엘라 군인 등 다수 사상자가 나오자 앤스로픽이 AI 기술의 오남용 가능성에 우려를 나타내며 제동을 걸었다.
국방부는 AI를 정보 분석, 표적 식별, 작전 계획 수립 등 전력 증강의 핵심 수단으로 보고 있다. 모든 군사 용도로 AI를 제한 없이 쓸 수 있는 권한을 요구하는 이유다. 미 정치전문 매체 악시오스에 따르면 국방부는 개별 상황마다 앤스로픽과 협상할 수 없을 뿐더러, 긴박한 작전을 펼치는 도중 AI 기능이 갑자기 차단될 위험을 우려하고 있다.
앤스로픽 만큼은 아니지만, 경쟁사들도 ‘살상 목적의 AI 직접 사용 금지’ 같은 안전장치를 두고 있다. 기술 오·남용에 따른 법적 책임과 평판 리스크(위험)를 우려해서다. 하지만 국방부가 민간 기업의 윤리 강령보다 군사적 효율성을 앞세울 경우, 향후 미국이 주도하는 AI 생태계가 ‘안보 우선주의’로 재편될 가능성이 크다. 미국 IT 전문매체 테크크런치는 “국가 안보와 기업 윤리가 충돌하는 사상 초유의 법적·윤리적 분쟁으로 번질 수 있다”고 전망했다.
한편 앤스로픽은 이날 ‘책임 있는 확장 정책(RSP) 버전 3.0’을 공개했다. 기존 RSP에선 클로드가 위험하다고 분류될 경우 개발을 늦추겠다고 했는데, 경쟁사보다 충분한 기술적 우위가 없다고 판단할 경우엔 개발을 늦추지 않겠다는 식으로 바꿨다. 안전 기준을 완화하는 것으로 해석돼 월스트리트저널(WSJ)은 “극적인 방향 전환”이라고 짚었다.
김기환([email protected])