저자: 이형수 · 한국인
요약 보기
엔비디아가 AI 추론 시 KV캐시 병목을 해결하기 위해 HBF 기반 ICMS 전용 메모리를 발표. 루빈 아키텍처(2026 말)에 탑재 예정이며, ICMS용 NAND 수요가 전 세계 아이폰 NAND 수요의 1.5배에 달해 삼성전자·SK하이닉스 등 낸드 공급사에 호재, 스마트폰·PC 제조사에는 부품 부족·가격 인상 우려라고 주장.
다듬은 글
여러분, 엔비디아가 AI 시장의 판을 완전히 뒤집을 만한 거대한 계획 하나를 발표했습니다. 이건 그냥 더 빠른 칩을 내놨다는 차원의 이야기가 아닙니다. 기술 산업 전체의 지형을 바꿀 수도 있는 마스터 플랜입니다. 오늘 이 계획의 모든 것을 파헤쳐 보겠습니다. 이야기는 엔비디아 CEO 젠슨 황의 이 한마디에서 시작됩니다. 우리에게 아주 익숙한 부품, 이 낸드 플래시 말입니다. 이걸 가지고 도대체 무슨 얘기를 하려는 걸까요? 바로 이것이 오늘 우리가 파헤쳐 볼 핵심 질문입니다. 젠슨 황의 이 한마디가 어떻게 기술 전체를 뒤흔드는 지각 변동으로 이어지는지, 그 연결 고리를 하나하나 따라가 보겠습니다.
본격적으로 들어가 보죠. 이걸 제대로 이해하려면 엔비디아가 어떤 문제를 풀려고 하는지부터 알아야 합니다. 요즘 AI를 정말 많이 쓰잖아요. 그런데 이 AI의 성공이 역설적이게도 새로운 문제를 낳고 있습니다. 일종의 교통 체증 같은 거죠. AI가 더 똑똑하고 맥락에 맞는 대답을 하려면 참고 자료가 필요합니다. 이것을 KV 캐시라고 부르는데, AI의 컨닝 페이퍼라고 생각하시면 쉽습니다. 문제는 이 컨닝 페이퍼가 점점 두꺼워져서 거의 백과사전 수준이 되어 버렸다는 겁니다. 기존 메모리인 HBM은 너무 작고, SSD는 너무 느려서 이걸 감당하지 못하는 상황에 이른 거죠.
이렇게 거대한 병목 현상이 생겼을 때 엔비디아는 어떻게 했을까요? 기존 기술을 조금 개선하는 수준에서 그치지 않았습니다. 아예 판을 새로 짰어요. 완전히 새로운 개념의 하드웨어를 만들어 낸 거죠. 바로 ICMS, 추론 맥락 저장 장치입니다. 이름이 좀 어렵죠? 쉽게 말해 아까 말씀드린 그 거대해진 컨닝 페이퍼, 즉 KV 캐시를 저장하기 위해 태어난, 오직 그 목적만을 위한 전용 하드웨어라고 보시면 됩니다.
메모리 기술에는 고질적인 문제가 있었습니다. 트레이드오프죠. HBM처럼 속도가 빠르면 용량이 아주 작고, SSD나 하드디스크처럼 용량이 크면 속도가 확 느려졌습니다. 속도와 용량, 둘 다 가질 수는 없었던 겁니다. 그런데 ICMS는 바로 이 오랜 규칙을 깨버립니다. 기존 DRAM과 SSD 사이에 새로운 층을 만들어 끼워 넣는 거예요. 그러면서 속도는 빠르고 용량은 어마어마한, 두 마리 토끼를 다 잡아 버린 겁니다. 정말 게임 체인저입니다. 얼마나 빠른지 감이 잘 안 오실 수 있으니 비교해 볼게요. 지금 나오는 최고 사양 SSD보다 네 배 이상 빠를 것으로 예상됩니다. 엄청난 속도죠.
그렇다면 이 혁신적인 메모리는 무엇으로 만드는 걸까요? 우리가 아는 DRAM도 아니고, 흔히 쓰는 일반 SSD도 아닙니다. 엔비디아는 아주 익숙한 부품을 가져다 완전히 새로운 방식으로 사용했습니다. 그 정체는 HBF, 고대역폭 플래시일 가능성이 아주 높습니다. HBM을 만드는 핵심 기술이 바로 이것인데, 개념은 의외로 간단합니다. HBM은 DRAM을 아파트처럼 수직으로 착착 쌓아 올린 것입니다. HBF는 똑같은 원리로, 스마트폰이나 SSD에 들어가는 낸드 플래시를 HBM처럼 수직으로 쌓아 올리는 겁니다. 데이터가 다니는 고속도로를 어마어마하게 넓혀 버리는 셈이죠.
그럼 이게 언제쯤 나올까요? 로드맵을 보시죠. 엔비디아는 2026년 말에 루빈이라는 새로운 아키텍처를 내놓을 예정인데, 여기에 ICMS가 필요합니다. 다만 HBM의 본격적인 대량 생산은 2027년 정도로 예상됩니다. 그래서 맨 처음 나오는 1세대 루빈에는 임시방편으로 다른 솔루션이 들어가고, 이후부터 HBM이 본격적으로 탑재될 것으로 보고 있습니다.
이제부터가 진짜 중요한 이야기입니다. 특정 부품, 바로 이 HBF에 대한 어마어마한 신규 수요가 시장에 쏟아져 나온다면 과연 어떤 일이 벌어질까요? 숫자 1.5배에 집중해 보세요. 이 숫자가 얼마나 충격적인 의미를 담고 있는지 곧 알게 되실 겁니다.
엔비디아가 ICMS 때문에 앞으로 필요로 하게 될 낸드 플래시의 양이, 전 세계에서 1년 동안 팔리는 모든 아이폰에 들어가는 낸드를 다 합친 것보다 무려 1.5배나 많을 거라는 겁니다. 상상이 가시나요? 지금 낸드 시장의 가장 큰 손 중 하나가 애플인데, 그보다 더 큰 소비자가 새로 나타나는 셈입니다. 차트를 보시면 규모가 한눈에 들어옵니다. 왼쪽이 전 세계 아이폰 생산에 들어가는 낸드 양이고, 오른쪽이 엔비디아 ICMS에 필요한 양입니다. 시장에 아이폰이라는 거대 소비자가 하나 더 생기는 것, 아니 1.5개가 더 생기는 것이나 마찬가지인 상황입니다.
이게 왜 우리 모두에게 중요할까요? 파급 효과를 보겠습니다. 승자는 명확합니다. 삼성전자나 SK하이닉스 같은 낸드 제조사들은 전례 없는 호황을 맞이하겠죠. 하지만 패자는 누가 될까요? 바로 우리에게 익숙한 스마트폰이나 PC 제조사들입니다. 한정된 낸드를 두고 거인 엔비디아와 생존 경쟁을 벌여야 하는 처지가 된 겁니다. 이는 결국 우리 같은 소비자에게 부품 부족이나 가격 인상으로 이어질 수 있다는 얘기입니다.
마지막으로 한 걸음 물러나 그림을 더 크게 보겠습니다. ICMS라는 퍼즐 조각이 AI 시대를 지배하려는 엔비디아의 거대한 전략 속에서 어떤 의미를 갖는지 말이죠. 엔비디아는 단순히 칩 하나만 파는 회사가 아닙니다. 연산을 담당하는 루빈 GPU, 방금 설명한 맥락 저장을 위한 ICMS, 데이터 처리를 돕는 블루필드 DPU, 그리고 이 모든 것을 빛의 속도로 묶어 주는 네트워킹 기술 스펙트럼X까지, 모든 조각이 서로를 위해 최적화된 하나의 거대한 시스템을 통째로 팔고 있습니다. 경쟁사들이 감히 넘볼 수 없는 깊고 넓은 해자, 즉 성벽 같은 연못을 파고 있는 셈입니다.
엔비디아가 실리콘부터 소프트웨어까지 AI라는 거대한 퍼즐의 모든 조각을 직접 만들고 있는 지금, 과연 다른 누군가가 이 경쟁에 끼어들 수 있을까요? 아니면 우리는 AI의 미래가 단 하나의 회사가 통제하는 거대한 기반 위에 세워지는 것을 그저 지켜봐야 할까요? 한 번쯤 깊이 생각해 볼 만한 질문입니다.
Comments 0