26일 업계에 따르면 구글은 지난 24일(현지시간) 구글리서치 블로그에 터보퀀트 논문을 공개했다. 터보퀀트는 거대언어모델(LLM)의 추론 과정에서 발생하는 메모리 병목 현상을 해결해 AI의 효율성을 극대화하는 기술이다.
쉽게 말해 AI가 사용하는 메모리를 줄이면서도 성능을 유지하는 게 핵심이다. AI 모델은 단어의 의미, 이미지의 특징과 같은 고차원 정보를 처리할 때 막대한 양의 메모리를 소비한다. 이때 AI가 사용자와의 대화를 기억하는 저장장치인 ‘KV캐시’에 병목 현상이 발생한다. 터보퀀트는 벡터 양자화 기술로 데이터를 압축해 정확도 손실 없이 KV캐시의 메모리 사용량을 줄인다.
연구진은 터보퀀트를 구글 젬마와 미스트랄 등에 적용한 결과 데이터 손실 없이 KV캐시 용량을 최소 6분의 1로 줄였다고 밝혔다. 처리 속도는 엔비디아의 H100 그래픽처리장치(GPU)보다 최대 8배 빠르다고 덧붙였다. 향후 자사 AI 모델 제미나이와 검색에 터보퀀트를 적용할 수 있다고 설명했다.
메모리 사용량이 감소할 것이라는 우려에 미국 마이크론 테크놀로지와 샌디스크의 주가는 전날 각각 3.4%·3.5% 하락했다. 한국의 삼성전자는 4.71% 하락한 18만100원에, SK하이닉스는 6.23% 하락한 93만3000원에 장을 마감했다. 반면 인텔·AMD 등 중앙처리장치(CPU) 제조사들의 주가는 급등세를 보였다.
다만 이 같은 하락세가 과도하다는 평가가 많다. 전문가들은 현재 터보퀀트 기술은 논문 수준이고, 실제 상용화까지 시간이 걸린다고 지적한다. 앤드루 잭슨 오터스어드바이저스 애널리스트는 “극심한 메모리 칩 공급 제약을 고려할 때 터보퀀트는 수요에 큰 영향을 미치지 못할 것”이라고 밝혔다.
장기적으로는 메모리 병목 현상이 해결되면 오히려 AI 수요를 확대할 거라는 기대도 있다. 김일혁 KB증권 연구원은 “적은 메모리로도 더 많은 정보를 처리할 수 있게 되면 AI 모델의 사용 범위가 확장된다”며 “기업들이 AI 에이전트나 새로운 기술에 투자하면서 메모리 반도체 수요는 다시 늘어날 수밖에 없다”고 분석했다. JP모건 트레이딩 데스크는 보고서에서 “(메모리) 효율 개선이 더 많은 데이터 처리로 이어질 수 있다”고 평가했다.
구글은 오늘 4월 23일부터 브라질 리우데자네이루에서 열리는 AI 국제학술대회 ‘ICLR 2026’에서 터보퀀트에 대해 발표할 예정이다. 이번 연구에는 한인수 카이스트(KAIST) 전기·전자공학부 교수도 참여했다.
장윤서([email protected])