앤트로픽 '윤리적 AI' 입장 고수…국방부, 구글·오픈AI·xAI와 협업 논의
美국방부, AI기업 앤트로픽과 계약해지 검토…윤리문제 충돌
앤트로픽 '윤리적 AI' 입장 고수…국방부, 구글·오픈AI·xAI와 협업 논의
(서울=연합뉴스) 송광호 기자 = 미국 국방부가 니콜라스 마두로 베네수엘라 대통령 체포·압송작전에 활용된 인공지능(AI) '클로드'를 개발한 앤트로픽사와 계약 해지를 검토하고 있다고 미국 정치전문매체 악시오스가 14일(현지시간) 보도했다.
AI를 전장에서 활용하는 '윤리 문제' 등을 놓고 미 국방부와 앤트로픽이 대립하면서다.
보도에 따르면 국방부는 무기 개발, 정보수집, 전장에서의 작전 수행 등 민감한 분야에서 합법적으로 AI를 쓰고자 앤트로픽과 지난 수 개월간 협상을 진행했으나 지지부진한 상황이다.
앤트로픽은 미국인에 대한 전방위적인 감시, 완전 자율형 무기 체계 사용 등에서 자사의 AI 프로그램인 클로드를 사용해선 안된다는 입장을 고수해왔다.
영리화에 비판적이었던 오픈 AI 출신 직원들이 설립한 앤트로픽은 평소 '안전하고 윤리적인 AI'를 표방하며 자사 모델이 살상 무기 개발이나 폭력적인 군사 작전에 직접적으로 사용되는 것을 제한하는 엄격한 가이드라인을 유지해 왔다.
국방부 측은 앤트로픽이 주장하는 금지영역에 상당한 '회색지대'가 존재한다는 입장이다.
개별 사례가 발생할 때마다 매번 앤트로픽과 협상을 진행할 수도 없을 뿐 아니라 '클로드'가 예기치 않게 특정 애플리케이션을 차단하도록 내버려 두는 것도 현실적으로는 불가능하다는 것이다.
정부 고위 관계자는 악시오스에 "관계를 축소하거나 완전히 끊는 것을 포함해 모든 가능성이 열려 있다"라면서도 "만약 결별이 정답이라고 판단된다면, 그들을 대신할 질서 있는 대체 작업이 선행돼야 할 것"이라고 말했다.
이 관계자는 클로드를 즉각 대체하기는 어려울 것이라는 점도 인정했다. "다른 회사들이 정부 전용 애플리케이션 분야에서 아직 뒤처져 있기 때문"이라는 이유에서다.
이처럼 기밀 네트워크에서 사용 중인 앤트로픽사의 '클로드'를 대체하기가 쉽지 않은 상황이지만, 국방부는 다른 인공지능 업체와도 적극적으로 협상 중이다.
현재 오픈 AI(챗GPT), 구글(제미나이), xAI(그록) 측이 거명되고 있다. 이 가운데 1개 회사는 정부 요구를 받아들인 것으로 알려졌고, 나머지 두 회사도 앤트로픽보다는 유연한 입장을 보인 것으로 전해졌다.
이들 3개 회사는 국방부 비(非)기밀 네트워크에선 이미 사용되고 있으나 기밀 네트워크용으로 사용되는 건 현재 앤트로픽의 '클로드'가 유일하다. 국방부는 지난해 여름 앤트로픽과 2억달러(약 2천900억원) 규모의 소프트웨어 사용계약을 체결한 바 있다.
앤트로픽은 여전히 국가 안보 분야에 전념하고 있다는 입장이다.
앤트로픽사의 대변인은 "미국의 국가 안보를 지원하기 위해 최첨단 AI를 사용하는 데 여전히 전념하고 있다"면서 "그것이 바로 우리가 기밀 네트워크에 모델을 올린 최초의 첨단 AI 기업이자, 국가 안보 고객(국방부)을 위한 맞춤형 모델을 최초로 제공한 이유"라고 말했다.
[email protected]
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, ai 학습 및 활용 금지>
송광호