美 국방부 “AI 빗장 풀어라”…앤스로픽 압박에 ‘전쟁과 AI’ 논란

“국가 안보를 위해 인공지능(AI) 빗장을 풀어라.”(미국 국방부)
“살상용 무기로는 안 된다.”(앤스로픽)

미 국방부(전쟁부)와 AI 기업 앤스로픽의 충돌이 근본적인 질문을 던지고 있다. ‘군사 분야에서 AI를 어디까지 쓸 수 있을까’. 앤스로픽은 AI 챗봇 ‘클로드’를 서비스하는 회사다. AI 업계는 물론 방위산업(방산)에 강점을 가진 한국에도 중요한 이슈라 관심을 모은다.

파이낸셜타임스(FT)는 24일(현지시간) 피트 헤그세스 미 국방장관이 다리오 아모데이 앤스로픽 최고경영자(CEO)를 만나 “클로드를 합법적인 군사 작전에 쓰는 것에 동의하지 않으면 국방부 공급망에서 배제하겠다”고 위협했다고 보도했다. 27일까지 답하라는 구체적인 ‘데드라인’도 제시했다. ‘큰 손’ 국방부가 기밀 작전에서 유일한 AI로 채택한 클로드를 내칠 수 있다고 경고한 셈이다. 국방부는 오픈AI(챗GPT)나 구글(제미나이) 같은 경쟁사로 공급망 교체까지 검토 중이다.

국방부는 미국 최대 규모 단일 기술 수요처로 꼽힌다. 공급망에서 특정 회사를 제외하는 건 통상 적대국과 연계한 기업에 적용하는 극단적 조치다. 공급망에서 배제되면 국방 관련 신규 사업 참여가 제한될 수 있을 뿐더러, 다른 정부기관과 계약은 물론 동맹국과 공동 방산 프로젝트를 수주할 때도 부정적 영향을 미칠 수 있다.

하지만 아모데이 CEO는 대규모 자국민 감시나 자율 살상 무기에의 활용을 용납할 수 없다는 기존 입장을 재확인하며 국방부 요구를 사실상 거부한 것으로 알려졌다. 앤스로픽은 AI 영리화를 반대하는 오픈AI 출신이 모여 2021년 설립한 회사다. ‘안전과 윤리’가 핵심 가치다. 보안과 정확도에 강점이 있어 기업용 AI 시장에서 점유율 1위다.

앤스로픽은 이날 홈페이지를 통해 ‘책임 있는 확장 정책(RSP) 버전 3.0’을 공개했다. 기존 RSP에선 클로드가 위험하다고 분류될 경우 개발을 늦추겠다고 했는데, 경쟁사보다 충분한 기술적 우위가 없다고 판단할 경우엔 개발을 늦추지 않겠다는 식으로 바꿨다. 월스트리트저널(WSJ)은 “AI 업계에서 가장 안전을 중시하는 기업 중 하나였던 것과 비교하면 극적인 방향 전환”이라고 짚었다. 다만 앤스로픽 관계자는 “미 국방부 협상과는 무관하다”고 말했다.

갈등의 발단은 지난달 3일 미국이 베네수엘라를 공습해 니콜라스 마두로 대통령을 체포한 군사 작전이었다. 당시 국방부는 클로드와 팔란티어의 플랫폼 등을 작전에 활용했다. 이 과정에서 베네수엘라 군인 등 다수 사상자가 나오자 앤스로픽이 AI 기술의 오남용 가능성에 우려를 나타내며 제동을 걸었다.

국방부는 AI를 정보 분석, 표적 식별, 작전 계획 수립 등 전력 증강의 핵심 수단으로 보고 있다. 클로드의 윤리 원칙이 거추장스럽다는 입장이다. 모든 군사 용도로 AI를 제한 없이 쓸 수 있는 권한을 요구하는 이유다. 미 정치전문 매체 악시오스에 따르면 국방부는 개별 상황마다 앤스로픽과 협상할 수 없을 뿐더러, 긴박한 작전을 펼치는 도중 AI 기능이 갑자기 차단될 위험을 우려하고 있다.

앤스로픽 만큼은 아니지만, 경쟁사도 ‘살상 목적의 AI 직접 사용 금지’ 같은 안전장치를 두고 있다. 기술 오·남용에 따른 법적 책임과 평판 리스크(위험)를 우려해서다. 하지만 국방부가 민간 기업의 윤리 강령보다 군사적 효율성을 앞세울 경우, 향후 미국이 주도하는 AI 생태계가 ‘안보 우선주의’로 재편될 가능성이 크다. 미국 IT 전문매체 테크크런치는 “국가 안보와 기업 윤리가 충돌하는 사상 초유의 법적·윤리적 분쟁으로 번질 수 있다”고 전망했다.

한국 방산 업계에도 영향을 줄 수 있다. 수출 경쟁력을 높이기 위해 AI를 탑재한 무기 체계 도입에 속도를 내고 있어서다. 미 국방부가 앤스로픽을 배제하고 특정 AI 모델 사용을 강제할 경우, 신규 사업 수주에 참여할 때 변수로 작용할 가능성이 있다.



김기환([email protected])