사람처럼 사고하는 AI 시대…구글도 추론용 AI칩 내놨다

구글이 첫 추론 전용 인공지능(AI) 칩을 내놨다. 인간을 대신해 복잡하고 다양한 업무를 수행하는 AI 에이전트(비서)가 핵심으로 떠오른 만큼 이를 뒷받침하기 위한 칩이 필요하다는 판단에서다.

구글 클라우드는 9일(현지시간) 미국 라스베이거스 만달레이 베이 호텔에서 열린 연례 기술 콘퍼런스 ‘넥스트 2025’(Next 2025)에서 추론 기능에 초점을 맞춘 텐서처리장치(TPU) ‘아이언우드’(Ironwood)를 공개했다. 구글이 내놓은 첫 추론 전용 AI 칩이다. 순다르 피차이 구글 최고경영자(CEO)는 키노트(기조연설)에서 “아이언우드는 구글이 만든 최초의 TPU 대비 3600배 우수한 성능을 달성했다. 우리가 만든 것 중 가장 강력한 칩으로 AI 모델의 다음 개척지를 가능하게 할 것”이라고 밝혔다.

현재 글로벌 AI 산업의 중심축은 전통적인 사전 학습 중심 모델에서 추론 모델로 옮겨가고 있다. 기존 AI 모델이 방대한 데이터에서 패턴을 학습해 확률에 기반한 답변을 생성해 냈다면, 추론 모델은 문제 해결 과정을 단계별로 보여주고 마치 사람의 사고를 따라가듯 답변을 제공한다. 여러 단계를 미리 생각하고 사용자를 대신해 복잡한 작업을 수행해야 하는 AI 에이전트에 필요한 핵심 기술이다. 이를 부하 없이 구동하려면 탄탄한 컴퓨팅 파워가 받쳐줘야 한다. 구글 클라우드는 이 같은 시장 상황을 반영해 새로운 칩을 내놨다. 아이언우드는 지난해 공개된 이전 세대 TPU인 ‘트릴리움’ 대비 연산 능력을 10배 이상 끌어올렸다. 그만큼 처리 속도가 빨라져 복잡한 추론 업무 등에 잘 맞는다.

구글은 이날 추론 AI 모델 제미나이 2.5의 경량화 버전인 제미나이 2.5 플래시도 공개했다. 간단한 질문엔 빠르게 답하고, 복잡한 질문은 더 깊이 생각해 답변을 내놓는 ‘동적 추론 능력’을 갖췄다.

홍상지([email protected])