저자: 이형수 · 한국인
요약 보기
AI 반도체 랠리의 초입 국면이라는 결론. 엔비디아 GPU가 학습 수요를 독점해 공급이 부족하고, 시장 침투율 10% 전후에서 가장 크게 오르는 버블 구간이라 아직 남았다고 봄. 한미반도체 등 AI 관련주는 이미 크게 올랐고, 엔비디아 실적은 당분간 좋을 것으로 전망. 엔비디아 GPU 수요: 구글·MS 등 빅테크가 GPT 기반 모델 경쟁에 뛰어들며 학습용 GPU 수요가 폭증. A100(약 1만 달러), H100(약 3만 달러) 칩 가격 언급, 서버 1대당 A100 약 12만 달러·H100 약 24만 달러이며 원가의 약 80%가 GPU. 추론 전환과 대체재: 현재는 학습 단계이고 추론 단계로 넘어가면 자체 설계 칩(NPU, 구글 TPU 등)으로 이동할 가능성을 언급. 엔비디아 GPU는 전력 소모가 크고 범용이라 장기적으로 효율이 떨어질 수 있다고 봄. HBM 메모리: SK하이닉스가 HBM 시장의 약 70%를 장악, 삼성전자는 개발이 1~2년 늦었고 HBM 팀을 해체했다가 뒤늦게 투자. HBM 수요와 AI 서버 비중(현재 전체 서버의 약 5%)은 앞으로 계속 성장할 것으로 전망. 국내 밸류체인: 플립칩 BGA 기판은 일본 대비 기술 격차가 크지만 AI 시장에서는 기회가 있을 수 있다고 언급. 삼성전기가 서버용으로 진출, 대덕전자·코리아서킷 등이 PC 쪽 공백을 메우며 진출. 리스크·기타: 단기적으로는 과열 가능성 있음. 빅테크 외 기업(카카오 등)은 파운데이션 모델 대신 API 활용 서비스 개발에 집중할 것으로 봄. 네이버는 하이퍼클로바로 대응 예상. 구글은 검색광고 매출 훼손 우려로 출시를 늦췄다고 해석.
다듬은 글
안녕하십니까, 증시각도기TV 시청자 여러분. 기다리시던 분이 오셨습니다. 이형수 대표님, 어서 오십시오. 안녕하십니까. 증시각도기라는 이름이 약간 패러디 같은데, 그렇게 보셔도 좋을 것 같습니다.
지난번 책이 나오고 석 달쯤 지났는데, 그때 좋은 시점에 책이 나와서 반도체 투자하시는 분들은 꼭 읽어 보시라고 말씀드렸습니다. 그 책을 보신 분들은 아마 IT 투자를 하셨을 겁니다. 돌이켜 보면 저희가 가장 저점일 때 방송을 했고, 책에서 다룬 대표 기업인 한미반도체는 역사적 신고가를 만들었습니다. 중간에 들쭉날쭉하긴 했지만 대체로 IT 주식은 다 올랐습니다. 다만 AI 얘기를 할 때도 반응이 과거 어느 때보다 뜨거워서 저희도 긴가민가했던 게 사실입니다. 그런데 지난주 엔비디아 실적 발표를 보고 미국 투자자들이 모두 깜짝 놀랐습니다. 대만 TSMC에서도 5나노 라인을 풀 캐파로 돌리고 있고, 엔비디아의 H100 같은 제품을 만들려고 라인을 확보하는 분위기라고 합니다.
단기적으로는 과열일 수 있습니다. 그런데 버블은 보통 시장 침투율이 10% 안팎으로 올라갈 때 가장 세게 오릅니다. 스마트폰도 그랬고, 2차전지도 전기차 침투율이 10% 언저리일 때 엄청나게 올랐습니다. AI는 아직 그 10% 침투율에 도달하려면 시간이 남아 있습니다. 주식시장이 먼저 달아오르고, 현장에서의 보편화와 대중화는 그 뒤를 따릅니다. 과거에는 아이디어에서 실전, 대중화까지 시차가 길었는데 점점 짧아지고 있다는 게 중요한 포인트입니다.
지금 엔비디아 GPU가 많이 필요한 이유는 빅테크 기업들이 발등에 불이 떨어졌기 때문입니다. AI는 먼저 데이터를 학습하고, 학습이 어느 정도 끝나면 추론 단계로 넘어가서 서비스가 붙습니다. 지금은 대부분이 추론이 아니라 학습 단계에 있습니다. 학습을 잘하려면 서버에 엔비디아 GPU를 얼마나 많이 넣느냐가 관건입니다. 쉽게 말하면 AI 선수를 양성하는 중이라고 보시면 됩니다. 그리고 여기에 대체재가 거의 없습니다. 범용 GPU로 돌려야 데이터 학습이 가장 잘 되고, 그 공급은 완전히 부족한 상태입니다.
A100은 TSMC 7나노 공정에서 만들어지고 개당 약 1만 달러이고, H100은 4나노 공정에서 만들어지며 개당 약 3만 달러입니다. 이걸 누가 얼마나 많이 서버에 장착하느냐에 따라 AI 성능이 달라지는 구조입니다.
지금은 거의 모든 업체가 GPT 같은 트랜스포머 기반 모델로 가고 있습니다. 2016년 알파고와 이세돌 대국이 AI 트렌드를 딥러닝 쪽으로 확 쏠리게 만든 계기였고, 2014년 무렵 딥러닝이 특이점을 넘으며 기술이 크게 올라왔습니다. 그 이듬해 트랜스포머 모델이 나왔는데, 그 전까지 반도체는 다른 방식에 맞춰 설계돼 있었습니다. 트랜스포머가 갑자기 대세가 되면서 당장 쓸 만한 반도체가 GPU밖에 없으니 쏠림이 일어날 수밖에 없었습니다. 구글, MS뿐 아니라 바이두, 알리바바, 그리고 국내 네이버도 뒤따르고 있습니다.
GPT-3.5는 A100을 대량으로 써서 약 1,750억 개 파라미터를 구현한 것으로 알려져 있습니다. GPT-4는 공개하지 않았지만 학습에 쓰인 컴퓨팅 규모는 GPT-3 대비 약 8배 정도로 추정됩니다. 오픈AI가 비영리에서 MS의 대규모 투자를 받으면서 공개 범위도 줄었습니다. 대규모 투자가 들어가니 서버 발주가 상당할 것이고, 이를 따라잡기 위해 구글이 또 투자하고, 다시 중국과 다른 나라 기업들이 추격하는 구조입니다.
구글은 TPU라는 자체 칩을 설계해 쓰고 있어서 최신 버전은 성능이 A100보다는 좋고 H100보다는 떨어집니다. 장기적으로는 학습이 어느 정도 끝나고 추론 단계로 넘어가면 특정 목적에 맞춘 NPU 같은 전용 칩으로 이동할 가능성이 큽니다. 엔비디아 GPU는 범용 칩이라 전력 소모가 많고 효율성이 떨어지는 측면이 있습니다. 그래도 지금은 엔비디아가 이 시기를 최대한 활용해 비싸게 팔고 있어서, 당분간 실적은 좋을 수밖에 없습니다.
서버 한 대 가격도 중요합니다. A100 기반 서버 한 대가 약 12만 달러, H100 기반 서버는 24만 달러를 넘습니다. 여기서 GPU 가격이 원가의 약 80%를 차지하니 실적이 이렇게 나올 수밖에 없습니다. 여러 대를 병렬로 묶고, 엔비디아의 NVLink 같은 자체 연결 기술로 GPU를 최대한 많이 붙여 쓰는 구조입니다.
트랜스포머 모델은 메모리를 많이 붙일수록 성능이 좋아집니다. 그런데 엔비디아 GPU는 메모리를 아주 짜게 붙입니다. H100 계열도 메모리 용량이 40GB, 80GB 정도여서 체감 성능에 한계가 있습니다. GPU 칩 하나에는 보통 HBM이 붙어서 2.5D 구조로 묶여 나갑니다.
HBM이 필요한 이유는 프로세서 성능이 아무리 좋아도 데이터를 불러오는 속도가 따라가지 못하면 병목이 생기기 때문입니다. 도로로 치면 차는 많이 몰려오는데 도로가 4차선뿐인 셈입니다. HBM은 그 도로를 120차선으로 넓혀 주는 역할을 합니다. D램 칩 여러 개를 TSV라는 실리콘 관통 전극으로 연결해 아파트처럼 쌓아 올리고, 데이터가 어디 있든 고속도로로 빠르게 끌어오는 구조입니다.
이 HBM을 가장 먼저 상용화한 곳이 SK하이닉스입니다. 세계 HBM 시장의 약 50~70%를 장악하고 있다는 추정이 있습니다. 삼성전자는 HBM보다 GDDR 쪽에 초점을 맞추면서 기존 HBM 팀을 해체했다가 뒤늦게 추격하고 있습니다. SK하이닉스가 꾸준히 밀어붙인 덕분에 엔비디아 공급을 잡아 대박이 난 것입니다. 올해 서버 쪽 주문이 줄었다는 얘기도 있었지만, AI 서버가 전체 서버에서 차지하는 비중이 아직 5% 안팎이라 앞으로 성장 여지는 충분합니다.
HBM 패키징과 기판 쪽에서도 한국 기업의 역할이 커질 수 있습니다. 한 곳에서 원스톱으로 처리할 수 있으면 고객 입장에서 편하기 때문입니다. 일본 업체들은 대응이 느린 편이라, 플립칩 BGA 기술 격차가 아직 크긴 하지만 AI 시장만 놓고 보면 기회가 있을 수 있습니다. 일본 기업들이 신중하게 검증하고 움직이는 것은 오랜 업력에서 나오는 품질 관리 방식이라고 볼 수 있습니다. 플립칩 BGA에서 CPU 시장이 가장 컸는데, 쇼티지가 나면서 삼성전기가 서버 쪽으로 진출했고, 그러면서 PC 쪽 공백을 대덕전자, 코리아서킷 같은 업체들이 메우고 있습니다.
GPU 가격이 워낙 비싸서 이 경쟁은 돈 많은 기업만 할 수 있습니다. 예를 들어 1,000개의 GPU가 필요한 대규모 모델을 만들려면 수많은 자금과 인력이 들어갑니다. 국내에서는 네이버가 하이퍼클로바로 파운데이션 모델을 만들 것으로 보이고, 카카오는 파운데이션 모델보다는 API로 GPT를 받아 응용 서비스를 개발하는 쪽에 초점을 맞추는 것 같습니다.
구글이 한동안 챗GPT에 맞서 공개를 늦춘 이유는 검색광고라는 핵심 수익 모델을 훼손할 수 있기 때문입니다. 대부분의 매출이 검색광고에서 나오는데, 질문하면 바로 답이 나오면 광고를 붙일 자리가 없어집니다. 트랜스포머 기술을 구글이 먼저 개발했는데도 오픈AI가 대중화시킨 것은 역사의 아이러니입니다. 그래도 구글이 두 달 만에 반격을 내놓은 것은 속도 면에서 나쁘지 않습니다.
플랫폼 사업은 일단 사람을 최대한 많이 모으는 것이 우선입니다. 사람이 많이 모이면 검색광고, 쇼핑, 여행 등으로 수익화할 길이 열립니다. 지금 AI도 기존 검색 사용자가 GPT 기반으로 넘어가는 시점이기 때문에, 여기서 사람을 못 모으면 밀려날 수밖에 없습니다. 미국은 자본시장이 잘 발달해 있어 이런 구조를 만들면 대규모 투자가 쉽게 붙습니다. IBM이 대규모 감원을 발표하면서 AI 투자를 위해서라고 밝힌 것도 같은 맥락입니다.
정리하면, AI는 아직 시장 침투율 10%에 이르지 않은 초입 구간이며, 학습 단계의 GPU 수요와 HBM 같은 메모리 병목이 당분간 반도체 업계를 움직일 핵심 변수입니다. 주식시장의 과열과 실제 보편화 사이의 시차를 어떻게 읽을지가 투자자에게 중요한 과제가 될 것입니다.
Comments 0