인공지능(AI) 수요가 폭증하면서 빅테크도 피하기 어려운 인프라 가뭄이 찾아왔다. 주요 AI 기업들은 필사적인 컴퓨팅(연산) 용량 확보에 나섰고, IT 업계에 불었던 AI 토큰 사용량 경쟁도 ‘긴축 모드’로 급선회하고 있다.
29일 파이낸셜타임스(FT)에 따르면 최근 구글은 자사 AI 모델 제미나이를 쓰고 있는 경쟁사 메타에 모델 구매 한도를 제한했다. 메타의 구매 요청 수량이 구글이 제공할 수 있는 컴퓨팅 용량을 넘어섰다는 이유에서다. 구글은 지난 3월에도 메타 측에 “원하는 만큼의 제미나이 용량을 공급할 수 없다”고 통보한 바 있다.
데이터센터와 AI칩, 전력 확보 등에 매년 수십조원을 쏟아붓고 있는 빅테크조차 인프라 병목 상태에 직면했다는 점을 보여주는 상징적인 조치다. 기업들이 업종을 막론하고 업무 전반에 AI 도입을 가속화하면서 AI 컴퓨팅 수요가 폭발적으로 늘어나고 있어서다. 지난 4월 순다 피차이 구글 최고경영자(CEO)는 1분기 실적 발표 자리에서 클라우드 매출이 처음으로 200억 달러(약 30조원)를 돌파하고 대기 중인 계약 금액만 4600억 달러에 달한다고 밝히며 “단기적인 컴퓨팅 공급 제약에 빠졌다. 수요를 다 맞출 수 있었다면 클라우드 매출이 훨씬 더 높았을 것”이라고 인프라 병목 상태를 공식적으로 시인했다.
구글이 사용량에 제한을 걸자, 메타 내부에서 진행 중이던 핵심 AI 프로젝트들도 줄줄이 중단되거나 지연되는 등 차질을 빚고 있다. FT는 “구글의 다른 고객사 대비 메타의 제미나이 수요가 압도적으로 커서 받은 타격도 더 컸다”며 내부 소식통을 인용해 보도했다. 메타는 자체 모델인 ‘라마(Llama)’ 대신 사내 핵심 업무에 제미나이나 클로드 등 경쟁사 모델을 사용해 왔다. 자체 클라우드 없이 구글 등 경쟁사 인프라를 빌려 쓰다 보니, 인프라 병목 문제에 더 취약한 구조다.
상황이 이렇다 보니 인프라는 AI 경쟁의 최대 전략적 자산으로 자리매김했다. AI 챗봇 ‘그록(Grok)’을 개발하기 위해 대규모 AI 데이터센터 ‘콜로서스’를 구축한 스페이스X는 보유한 인프라를 외부 기업들에 임대해 주고 돈을 받는 새 수익원 확보에 나섰다. 이미 구글과는 2029년 중반까지 약 300억 달러(월 9억2000만 달러) 규모 컴퓨팅 자원 공급 계약을 체결했고, 앤트로픽과도 약 450억 달러 규모(월 12억5000만 달러)의 계약을 체결했다.
인프라 가뭄과 이에 따른 AI 사용 비용이 증가하면서 IT 업계는 ‘인공지능(AI)을 누가 더 많이 사용하고 있느냐’로 직원들을 경쟁시키던 ‘토큰맥싱(Tokenmaxxing)’ 기조에서 최대한 토큰(AI 사용량 측정 단위)을 아껴 쓰게 하는 ‘토큰미니마이징(Tokenminimizing)’ 기조로 바뀌고 있다. 우버의 경우 AI 에이전트 시스템을 도입했다가 올해 3월 직원들이 이미 1년치 배정 예산을 다 써버리자 급히 AI 사용량에 제한을 걸었다.
이번에 구글로부터 제미나이 사용을 제한 당한 메타도 인사 고과에 AI 토큰 사용량을 반영하던 기존 시스템을 철회하고 내부에 AI 사용 통제령을 내렸다. 앤드루 보스워스 메타 최고기술책임자(CTO)는 직원들에게 보낸 내부 메모를 통해 “현재 너무 많은 AI 툴이 장부를 갉아먹고 있다. 토큰을 얼마나 많이 썼느냐는 업무 성과나 회사에 미친 영향력을 증명하는 지표가 될 수 없다”고 선을 그었다.