“AI에 쇼핑 맡겼다가 사기 피해”

BofA·캐피털원 등 은행들 경고
대신 정보 입력·결제, 위험 요인
“문제 발생 시 책임소재 불분명”

AI에 온라인 결제를 맡기는 소비자들이 증가하는 가운데 사기 피해 및 개인정보 유출 가능성을 경고하는 목소리가 나오고 있다. [로이터]

인공지능(AI)이 상품 검색을 넘어 소비자를 대신해 실제 구매와 결제까지 처리하는 ‘AI 쇼핑 에이전트’ 시대가 열리면서 금융권이 사기와 개인정보 유출 위험에 대한 경고에 나섰다.
 
최근 뱅크오브아메리카, 캐피털원, 영국 넷웨스트, 뉴질랜드 ASB뱅크, 호주 커먼웰스뱅크 등이 참여한 은행권 보고서는 AI 쇼핑 에이전트 기술 발전 속도가 소비자 보호장치와 업계 기준 마련을 앞지를 수 있다고 지적했다.
 
AI 에이전트는 일반 챗봇과 달리 이용자의 권한을 받아 직접 행동할 수 있다. 소비자가 원하는 제품을 검색하고 가격을 비교하는 데 그치지 않고 상품을 선택해 주문하거나 각종 양식을 작성하는 것도 가능하다.
 
문제는 결제 단계다. 보고서는 AI 에이전트가 고객의 카드 정보를 요구해 쇼핑몰 웹사이트에 직접 입력하거나, 소비자를 보호장치가 상대적으로 약한 결제수단으로 유도할 가능성을 위험 요인으로 꼽았다.
 
소비자들의 불안도 크다. 은행권은 소비자들이 AI가 자신의 이익을 위해 행동하는지 확신하지 못하고 있으며, AI가 잘못된 제품을 구매하거나 예상보다 많은 돈을 지출하는 것은 물론 가짜 웹사이트에서 결제 하는 등 사기 피해로 돈을 잃을 가능성까지 우려하고 있다고 전했다. 특히 문제가 발생했을 때 누가 피해를 보상하고 어디에 책임을 물어야 하는지도 명확하지 않다는 것이다.
 

AI를 통한 쇼핑은 이미 빠르게 늘고 있다. 영국 소매업체 존 루이스에 따르면 AI 에이전트를 통한 검색 비중은 지난해 0.3%에서 올해 2.5%로 크게 상승했다.
 
은행들은 이에 따라 AI가 거래에 개입했을 경우 이를 소비자에게 명확히 알리고, AI가 어떤 기준으로 구매·결제 결정을 내렸는지 투명성을 높이는 방안을 제안하고 있다. 고객의 금융·개인정보를 보호할 추가 안전장치 마련도 요구했다.
 
AI가 단순한 상품 추천 도구에서 소비자의 ‘대리 구매자’로 진화하면서 온라인 쇼핑의 편리함은 커지고 있지만, 결제 사고가 발생했을 때 책임과 보상 기준을 어떻게 정할지가 금융·유통업계의 새로운 과제로 떠오르고 있다.  

최인성 기자