추천! 더중플 - ‘K-엔비디아’ 노리는 AI 반도체 승부사들
“인공지능(AI) 에이전트가 등장하면서 필요하게 된 추론의 양이 챗GPT가 처음 등장했을 때의 1만배로 증가했다.”
젠슨 황 엔비디아 최고경영자(CEO)가 엔비디아 연례 개발자 회의인 ‘GTC 2026’에서 강조한 말입니다. 추론은 AI가 결과를 도출하는 과정입니다. 챗GPT에 질문하면 챗GPT가 복잡한 연산을 거쳐 최적의 답을 내는 그 과정이죠. 본격적인 추론의 시대가 열리면서 AI 반도체 시장의 절대 강자 엔비디아는 물론 AI 반도체 스타트업들의 진검승부가 시작됐습니다.
오늘의 추천! 더중플은 폭발적으로 성장할 추론 시장을 두고 쟁탈전을 벌이는 AI 반도체 생태계 이야기입니다. AI모델과 AI 반도체가 어떻게 연결되는지, AI 반도체는 어떤 과정을 거쳐 양산되는지와 같은 문과도 이해할 수 있는 기초 강의부터, 지금 이 시점 글로벌 추론 시장을 둘러싼 AI 반도체 생태계의 통찰력 있는 분석까지 팩플이 꾹 눌러 담았습니다. 더 자세한 내용은 더중앙플러스(The Joongang Plus) 구독 후 보실 수 있습니다.
젠슨 황 엔비디아 최고경영자(CEO)가 엔비디아 연례 개발자 회의인 ‘GTC 2026’에서 강조한 말입니다. 추론은 AI가 결과를 도출하는 과정입니다. 챗GPT에 질문하면 챗GPT가 복잡한 연산을 거쳐 최적의 답을 내는 그 과정이죠. 본격적인 추론의 시대가 열리면서 AI 반도체 시장의 절대 강자 엔비디아는 물론 AI 반도체 스타트업들의 진검승부가 시작됐습니다.
오늘의 추천! 더중플은 폭발적으로 성장할 추론 시장을 두고 쟁탈전을 벌이는 AI 반도체 생태계 이야기입니다. AI모델과 AI 반도체가 어떻게 연결되는지, AI 반도체는 어떤 과정을 거쳐 양산되는지와 같은 문과도 이해할 수 있는 기초 강의부터, 지금 이 시점 글로벌 추론 시장을 둘러싼 AI 반도체 생태계의 통찰력 있는 분석까지 팩플이 꾹 눌러 담았습니다. 더 자세한 내용은 더중앙플러스(The Joongang Plus) 구독 후 보실 수 있습니다.
인공지능(AI) 모델이 정신이라면, AI 반도체는 물리적 뇌다. AI 반도체가 수조 번의 수학 계산을 하지 않으면 아무리 뛰어난 AI 모델도 무용지물이고, 똑똑한 AI 모델이 없으면 AI 반도체는 쓸모없는 벽돌에 불과하다. 떼려야 뗄 수 없는 이 둘은 어떻게 연결되어 있을까.
오픈AI와 같은 개발사가 AI 모델을 만드는 ‘학습’ 과정에서 컴퓨터는 수천만, 수조 개가 넘는 복잡한 행렬 곱셈을 빠른 속도로 풀어야 한다. 이때 병렬 처리가 가능한, 즉 풀어야 할 수학 문제가 아무리 많아도 동시에 계산할 수 있는 AI 반도체 그래픽처리장치(GPU)가 필요하다. 계산 하나를 마치고 다음 계산을 하는 중앙처리장치(CPU)는 이런 AI 연산에 비효율적이다.
학습이 완료된 AI 모델을 이용자들이 이용하는 과정을 ‘추론’이라고 한다. 챗GPT에 질문을 하고 답변을 받는 그 과정이다. 팔방미인 GPU는 AI 모델의 학습과 추론을 모두 지원하지만, 그 구조상 학습에 최적화돼 있다. 이는 학습에선 GPU를 상대할 적수가 없지만, 추론에선 약점이 있다는 의미다. 추론할 때는 학습할 때만큼 엄청난 연산량이 필요하지 않은데, 고스펙의 GPU는 가격이 비싸고, 전력 소모량이 많다.
이런 틈을 비집고 ‘가성비’(가격 대비 성능) ‘전성비’(전력 사용량 대비 성능)를 내세운 게 신경망처리장치(NPU)다. 리벨리온, 퓨리오사AI 등 국내 AI 반도체 스타트업들도 개발에 뛰어든 NPU는 학습을 과감하게 포기하고 추론에 특화해 저비용·저전력이면서 고성능을 구현하는 칩이다. 업계 한 관계자는 “비싸도 성능이 뛰어난 포르쉐를 타고 싶은 사람이 있지만, 합리적인 가격대로 적당한 성능의 차를 원하는 사람도 있는 것처럼 AI 반도체도 다양한 수요가 있다”고 설명했다.
이런 NPU는 어떻게 만들어질까. 첫 번째 단계는 칩 설계다. AI 반도체 기업들의 노하우와 경쟁력이 드러나는 가장 핵심적인 과정이다. 이는 마치 손바닥 안에 거대한 도시를 설계하는 일에 비유할 수 있다. 도면 설계가 끝나면 물리적 설계를 고쳐 삼성전자나 TSMC 같은 파운드리(위탁 생산 전문)에 최종 설계 도면을 전달하게 된다. 약 3~4개월 뒤 첫 ‘실리콘 샘플’이 나오게 된다. 업계에선 이를 ‘테이프 아웃’이라고 부른다. 공장에서 갓 나온 이 샘플은 마치 신생아와 같다. AI 모델 연산을 할 수 있도록 영혼을 불어넣는 ‘브링업’과 본격 양산을 위한 준비까지 넘어야 할 산은 아직도 많이 남아 있다.
특히 브링업에선 삼성전자와 SK하이닉스의 주가를 수직 상승시킨 고대역폭메모리(HBM)과 연결하는 과정이 중요하다고 하는데. 한 AI 반도체 엔지니어는 이렇게 말했다.
“AI 반도체가 연산 공정을 담당하는 공장이라면, HBM은 공장을 돌리기 위한 자재 창고다.”
※이어지는 내용은 아래 링크에서 보실 수 있습니다. 기사 링크를 복사해 주소창에 붙여넣으세요.
GPU 잡는 NPU 한국에 있다…AI반도체 2세대 승부사들①
https://www.joongang.co.kr/article/25412093
젠슨황 “AI 추론칩 왕 되겠다”…그 LPU, 원조는 한국이었다②
https://www.joongang.co.kr/article/25414017
더중앙플러스 : 팩플
더 자세한 기사 내용이 궁금하시다면, 주소창에 링크를 붙여넣으세요.
“찬드라 한국말 진짜 잘하더라” 토스 첫 외국인 직원의 ‘비밀 AI’
토스 1회 외국인 PO 말루 찬드라. 사내 유일한 외국인 PO인 탓에 소통에 어려움을 겪던 그는 생성 인공지능(AI)을 활용해 다른 동료들과 그의 사이를 가로막던 언어의 장벽을 100% 무너뜨리는 자신만의 실시간 번역 자동화 도구를 만들었다. 클로드 코드를 써서 그가 물 흐르듯 동료들과 소통하며, 한국어 정말 잘 한다는 오해(?)까지 사게 게 된 비법을 공개한다.
https://www.joongang.co.kr/article/25415095
바이브 코딩으로 엑셀 지옥 끝…‘카카오벤처스’ 문과남 AI 고수 된 비결
소프트웨어 엔지니어링 지식은커녕 코드 한 줄 쓸 줄 몰랐던 조현익 카카오벤처스 심사역은 최근 바이브 코딩(평소 쓰는 말로 코딩)으로 투자 기업 정보들을 한 화면에 볼 수 있는 웹 대시보드를 만들었다. 대시보드 개발팀에 인간은 조 심사역 한 명. 대신 챗GPT·제미나이·클로드 등 내로라하는 ‘일잘러’ AI 에이전트들을 팀원으로 부렸다. 코딩 하면 겁부터 나는 문과 출신 직장인은 이번 리포트에 주목. 바이브 코딩 진입 장벽을 최대한 낮추고, 업무 효율을 위한 프로그램을 뚝딱 만들어낼 문과생을 위한 코딩 비법이 여기 있다.
https://www.joongang.co.kr/article/25411271
국대 GPU 쟁탈전 600억 땄다…업스테이지, AI ‘강타선’ 비결
성 킴(김성훈) 대표가 2020년 창업한 업스테이지는 시작부터 남다른 스타트업이었다. 창업 직후 이례적으로 300억원이 넘는 거액 투자를 유치했으며, 2023년 자체 개발 거대언어모델(LLM) 솔라는 오픈 LLM 순위 세계 1위(허깅페이스 평가)를 차지했다. 지난해에는 국내 AI 개발사 중 처음으로 글로벌 10대 프런티어 모델 개발사(아티피셜 애널리시스 발표)에 선정되기도. 돈도 사람도 부족한 스타트업인데, 어떻게 이 같은 성장을 이뤄냈을까. 업계 안팎에선 시험(벤치마크 평가)만 잘 보는 것은 아닌지, 해외 오픈소프 AI 모델을 잘 가져다 쓴 것은 아닌지 등 여러 가지 의심 섞인 시선도 존재하는 상황. 김성훈 대표를 만나 물었다.
https://www.joongang.co.kr/article/25406634
충격의 ‘AI 국대 선발전’ 해설…네이버는 왜 1차전 실격했나
안방 챔피언의 1차전 탈락은 충격적이었다. 국가대표 AI 프로젝트 1차 평가에서 고배를 마신 네이버 이야기다. 한국만의 독자적인 AI 모델의 필요성을 꾸준히 주장해 온 ‘소버린 AI’의 원조이자 국내 최초 생성 AI 모델인 하이퍼클로바 시리즈를 개발한 네이버였다. 그랬던 네이버가 ‘독자성을 충족하지 못했다’는 이유로 탈락했다. 사실상 실격이다. 이번 논란, 제대로 이해한 이들은 얼마나 될까. 업스테이지는 ‘프롬 스크래치’라 괜찮고, 네이버는 중국산 ‘비전 인코더’라 문제가 됐다고 하는데. 이번 논란의 핵심과 진실은 무엇일까. 팩플이 문과도 이해할 수 있도록 국대 AI를 밑바닥부터 파헤쳤다. 전문용어를 최대한 뺀 담백한 리포트로 국대 AI 논란 완전정복!
https://www.joongang.co.kr/article/25399502
AI 마스터 클래스 PDF북
챗GPT, 제미나이, 클로드, 그록…. 인공지능(AI) 모델들이 하루가 멀다 하고 쏟아지는데, 정작 매일 출근하는 직장인들의 생활은 뭐가 달라졌을까. 주변에 생성 AI 써서 덕봤다는 사람들은 줄줄이 나오는데. 막상 쓰려고 하면 어디서부터 시작해야할지 막막하다. ‘AI 마스터 클래스’ PDF북은 챗GPT, 제미나이부터 클로드, 그록까지 지금 가장 뜨겁게 관심을 모으고 있는 대표 생성 AI 서비스의 실전 활용 법을 다뤘다. AI뿐만 아니라, 노션·슬랙·옵시디언처럼 요즘 많이 쓰지만 막상 편리한 기능을 낱낱이 알기는 어려웠던 생산성 도구 활용법도 함께 소개한다.
이 정도는 너무 쉽다고? MCP 연결하기, X에서 여론 파악하기 같은 상위 1%만을 위한 심화 과정도 담았다. 챗GPT 한 번도 안 써본 사람부터 아직도 인터넷 검색을 수십 번 해가면서 보고서를 쓰고 있는 사람, 인포그래픽을 PPT 수작업으로 한땀 한땀 만들고 있는 사람, 하나하나 버튼을 눌러 메일을 보내고 있는 사람까지. 직장 업무부터 연구조사, 학업에 각 분야에 똑똑해진 생성 AI, 어떻게 쓰면 좋을지 싹 다 정리했다.
https://www.joongang.co.kr/pdf/1019
“찬드라 한국말 진짜 잘하더라” 토스 첫 외국인 직원의 ‘비밀 AI’
토스 1회 외국인 PO 말루 찬드라. 사내 유일한 외국인 PO인 탓에 소통에 어려움을 겪던 그는 생성 인공지능(AI)을 활용해 다른 동료들과 그의 사이를 가로막던 언어의 장벽을 100% 무너뜨리는 자신만의 실시간 번역 자동화 도구를 만들었다. 클로드 코드를 써서 그가 물 흐르듯 동료들과 소통하며, 한국어 정말 잘 한다는 오해(?)까지 사게 게 된 비법을 공개한다.
https://www.joongang.co.kr/article/25415095
바이브 코딩으로 엑셀 지옥 끝…‘카카오벤처스’ 문과남 AI 고수 된 비결
소프트웨어 엔지니어링 지식은커녕 코드 한 줄 쓸 줄 몰랐던 조현익 카카오벤처스 심사역은 최근 바이브 코딩(평소 쓰는 말로 코딩)으로 투자 기업 정보들을 한 화면에 볼 수 있는 웹 대시보드를 만들었다. 대시보드 개발팀에 인간은 조 심사역 한 명. 대신 챗GPT·제미나이·클로드 등 내로라하는 ‘일잘러’ AI 에이전트들을 팀원으로 부렸다. 코딩 하면 겁부터 나는 문과 출신 직장인은 이번 리포트에 주목. 바이브 코딩 진입 장벽을 최대한 낮추고, 업무 효율을 위한 프로그램을 뚝딱 만들어낼 문과생을 위한 코딩 비법이 여기 있다.
https://www.joongang.co.kr/article/25411271
국대 GPU 쟁탈전 600억 땄다…업스테이지, AI ‘강타선’ 비결
성 킴(김성훈) 대표가 2020년 창업한 업스테이지는 시작부터 남다른 스타트업이었다. 창업 직후 이례적으로 300억원이 넘는 거액 투자를 유치했으며, 2023년 자체 개발 거대언어모델(LLM) 솔라는 오픈 LLM 순위 세계 1위(허깅페이스 평가)를 차지했다. 지난해에는 국내 AI 개발사 중 처음으로 글로벌 10대 프런티어 모델 개발사(아티피셜 애널리시스 발표)에 선정되기도. 돈도 사람도 부족한 스타트업인데, 어떻게 이 같은 성장을 이뤄냈을까. 업계 안팎에선 시험(벤치마크 평가)만 잘 보는 것은 아닌지, 해외 오픈소프 AI 모델을 잘 가져다 쓴 것은 아닌지 등 여러 가지 의심 섞인 시선도 존재하는 상황. 김성훈 대표를 만나 물었다.
https://www.joongang.co.kr/article/25406634
충격의 ‘AI 국대 선발전’ 해설…네이버는 왜 1차전 실격했나
안방 챔피언의 1차전 탈락은 충격적이었다. 국가대표 AI 프로젝트 1차 평가에서 고배를 마신 네이버 이야기다. 한국만의 독자적인 AI 모델의 필요성을 꾸준히 주장해 온 ‘소버린 AI’의 원조이자 국내 최초 생성 AI 모델인 하이퍼클로바 시리즈를 개발한 네이버였다. 그랬던 네이버가 ‘독자성을 충족하지 못했다’는 이유로 탈락했다. 사실상 실격이다. 이번 논란, 제대로 이해한 이들은 얼마나 될까. 업스테이지는 ‘프롬 스크래치’라 괜찮고, 네이버는 중국산 ‘비전 인코더’라 문제가 됐다고 하는데. 이번 논란의 핵심과 진실은 무엇일까. 팩플이 문과도 이해할 수 있도록 국대 AI를 밑바닥부터 파헤쳤다. 전문용어를 최대한 뺀 담백한 리포트로 국대 AI 논란 완전정복!
https://www.joongang.co.kr/article/25399502
AI 마스터 클래스 PDF북
챗GPT, 제미나이, 클로드, 그록…. 인공지능(AI) 모델들이 하루가 멀다 하고 쏟아지는데, 정작 매일 출근하는 직장인들의 생활은 뭐가 달라졌을까. 주변에 생성 AI 써서 덕봤다는 사람들은 줄줄이 나오는데. 막상 쓰려고 하면 어디서부터 시작해야할지 막막하다. ‘AI 마스터 클래스’ PDF북은 챗GPT, 제미나이부터 클로드, 그록까지 지금 가장 뜨겁게 관심을 모으고 있는 대표 생성 AI 서비스의 실전 활용 법을 다뤘다. AI뿐만 아니라, 노션·슬랙·옵시디언처럼 요즘 많이 쓰지만 막상 편리한 기능을 낱낱이 알기는 어려웠던 생산성 도구 활용법도 함께 소개한다.
이 정도는 너무 쉽다고? MCP 연결하기, X에서 여론 파악하기 같은 상위 1%만을 위한 심화 과정도 담았다. 챗GPT 한 번도 안 써본 사람부터 아직도 인터넷 검색을 수십 번 해가면서 보고서를 쓰고 있는 사람, 인포그래픽을 PPT 수작업으로 한땀 한땀 만들고 있는 사람, 하나하나 버튼을 눌러 메일을 보내고 있는 사람까지. 직장 업무부터 연구조사, 학업에 각 분야에 똑똑해진 생성 AI, 어떻게 쓰면 좋을지 싹 다 정리했다.
https://www.joongang.co.kr/pdf/1019
강광우([email protected])