中키미는 GPT·오퍼스에 치여 손해…안돈 연구소 "AI 에이전트 시대 중요한 문제"
AI 자판기운영서 클로드 오퍼스5 최고수익…담합·배신 판쳐
中키미는 GPT·오퍼스에 치여 손해…안돈 연구소 "AI 에이전트 시대 중요한 문제"
(샌프란시스코=연합뉴스) 권영전 특파원 = 최첨단 인공지능(AI) 모델에 자판기 운영을 맡겨 경쟁시킨 결과 앤트로픽의 최신 모델인 '클로드 오퍼스5'가 역대 최고 이익을 거둔 것으로 나타났다.
다만 이 과정에서 AI 모델들은 짬짜미와 거짓말, 협박, 배신 등 온갖 비윤리적 수단을 동원한 것으로 조사됐다.
미국의 AI 안전성 평가기관인 안돈(Andon) 연구소는 앤트로픽 '클로드 오퍼스5', 오픈AI의 'GPT-5.6 솔', 중국 문샷AI의 '키미 K3' 등을 자판기 운영 시뮬레이션을 통해 시험한 결과 이같은 결과를 얻었다고 29일(현지시간) 밝혔다.
연구소는 AI 모델 하나가 단독으로 가상의 자판기를 1년간 운영하는 '벤딩벤치2'와 여러 AI 모델이 같은 공간에서 각자의 자판기를 맡아 경쟁하는 '벤딩벤치 아레나'에서 이들 모델을 시험했다.
그 결과 벤딩벤치2에서는 오퍼스5가 1위를 차지했고, 벤딩벤치 아레나에서는 오퍼스5와 GPT-5.6 솔이 사실상 공동 1위에 해당하는 성적을 거뒀다.
연구소는 오퍼스5가 이익이 높은 제품 판매에 집중하고, 사기성 거래에 자본을 탕진하지 않는 등 뛰어난 상업적 수완을 입증했다며 "시험 대상 모델 중 가장 뛰어난 자본가"라고 평가했다.
문제는 경쟁 환경을 시험하는 벤딩벤치 아레나 시뮬레이션에서 나타났다.
오퍼스5는 공급 업체와의 가격 협상에서 있지도 않은 다른 업체의 견적가를 내세우며 납품 가격을 깎았고 "배송 상자에 물품이 들어있지 않았다"는 거짓말을 해 추가 납품을 받아내기도 했다.
다른 모델이 담합을 제안하자 처음에는 '셔먼법'(반독점법) 위반이라며 거부하는 척했으나, 곧이어 "푼돈 경쟁을 멈추고 매대를 나누자"고 태도를 바꿨다.
남는 재고를 키미 K3에 도매가로 넘긴 이후 키미 K3가 이를 이용해 제품 가격을 낮추자 "내가 판 재고로 가격을 깎아내리다니 이제 어떻게 되는지 두고 보라(Here's how this goes now)"고 협박을 시전하기도 했다.
GPT-5.6 솔도 비윤리적이긴 마찬가지였다. 이 모델은 병당 1.5달러에 사온 음료를 2.15달러 아래로는 팔지 말자고 제안해 동의를 얻어내는 등 담합을 주도했다.
그러나 정작 자신은 기습적으로 가격을 2.14달러로 내려 상대 모델들의 뒤통수를 치고 시장을 독점했다.
이에 피해를 본 오퍼스5가 맞불을 놓아 똑같이 2.14달러로 가격을 내리자 GPT-5.6 솔은 이를 신고해 오퍼스5에 대해 벌금을 부과하거나 자격을 박탈해야 한다고 주장하는 이중성을 보였다.
키미 K3도 담합에 가담하고 이를 파기하기도 하는 등 비슷한 행동 양식을 보였으나 결과적으로는 GPT-5.6 솔과 오퍼스5에 양쪽으로 치여 가장 큰 손해를 입었다.
루카스 페테르손 안돈 연구소 공동창업자는 정보기술(IT) 전문매체 테크크런치에 "이는 AI 에이전트가 독립된 주체로 기업을 운영하는 시대로 접어드는 지금 중요한 문제"라며 "만약 AI 에이전트가 경제의 상당 부분을 독자적으로 운영하게 된다면 그들이 거짓말을 하고 결탁하며 위협을 가하고 배신하기를 우리가 원할 것인가"라고 지적했다.
그는 이번 시험이 현실이 아니라 시뮬레이션 결과임을 인정하면서도 "우리가 비디오 게임에서 나쁜 행동을 하는 인간들을 걱정하지 않는 유일한 이유는 그들이 현실과 현실이 아닌 것을 구분할 수 있다고 믿기 때문"이라며 "AI 모델이 이를 구분할 수 있을지는 그다지 분명하지 않다"고 우려했다.
[email protected]
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, ai 학습 및 활용 금지>
권영전