저자: JensenHuang/진행자명시없음,채널FinVid내레이션화자미상 · 외국인
요약 보기
NVIDIA CEO 인터뷰 및 FinVid 해설. AI 수요가 컴퓨팅 공급을 초과해 2028년 상반기까지 부족이 이어지고, 에이전트 AI 확산으로 추론 수요 급증. Vera Rubin 등 로드맵으로 AI 인프라 지출이 2030년대 초까지 연 3~4조달러 도달 전망. 규제 우려는 과도하다는 입장. 마이크론 노조 파업 리스크는 단기 부정 요인으로 언급.
다듬은 글
Jensen, 이거 흥미롭네요. 당신이 여기 올 줄은 몰랐어요. 하지만 어떤 이유에서든 이런 행사를 놓치지는 않을 거라고 생각했습니다. 정말 대단합니다. 여기가 세계 무역의 중심지잖아요. 맞아요. 상업이죠. 당연하죠. 알고 계세요? 그럼 제가 하나 물어볼게요. 세상에 기회를 만들어 주는 것 말이에요. 제가 당신을 보기 전에 신탁·유산 전문 변호사를 찾아가서 이렇게 말했어요. "들어보세요, 제가 2030년에 죽는다는 걸 안다면 제 자녀들을 위해 뭔가 할 수 있는 게 있나요?" 당신은 이 말을 의심하시는군요.
우리 모두 2030년에 죽을까요? 아마 그건 중요하지 않을 거예요. 우리는 2030년에 죽지 않을 겁니다. 세계에는 AI를 제대로 만들 사람이 아주 많아요. 우리는 온갖 종류의 보호 장치를 갖추고, 안전을 위한 기술도 많이 발명할 겁니다. 이런 일은 전 세계에서 일어나고 있어요. 두 회사만 무언가를 개발하는 게 아니에요. 수천 개의 회사가 개발에 참여하고 있습니다. 그래서 우리는 엄청나게 유용하면서도 극도로 안전한 AI를 만들 수 있어요. 둘 다 동시에 얻을 수 있습니다. 이건 엔지니어링 과제이기 때문이에요. 테스트도 엔지니어링 과제입니다. 제품을 만들고 제대로 테스트해야 해요. 출시할 준비가 안 됐다면 보류하고, 준비될 때까지 계속 테스트하고 개선하면 돼요. 이건 상식이죠. 저는 그렇게 믿습니다.
2년 전 당신은 기업들이 당신에게서 무언가를 사면 기대보다 네 배는 더 얻을 수 있을 거라고 말했죠. 늘 그랬듯이 보수적으로 말씀하셨던 거죠, 맞나요? 지금은 기업들이 돈을 벌고 있으니 기대치를 낮추셨고요. 다만 그 이야기를 하고 싶어 하지 않을 뿐이죠. 가장 놀라운 건 지난 6개월 동안 AI가 극도로 유용해졌다는 겁니다. 그리고 유용하니까 사람들이 미친 듯이 컴퓨팅 시스템을, 엔비디아의 'AI 팩토리'를 짓고 있어요. 엔비디아 'AI 팩토리' 1기가와트당 비용은 약 500억~600억 달러입니다. 그런데 이 1기가와트짜리 'AI 팩토리'의 임대료가 1년에 약 500억 달러예요. 1년 동안요. 좋아요. 그러니까 투자수익률은 이제 약 1년이에요. 그리고 엔비디아 시스템의 유연성과 내구성이 워낙 높아서 5~6년보다 훨씬 더 오래 많은 해 동안 사용할 수 있습니다. 그래서 이 투자자본의 수익률은 그야말로 엄청나요. 그래서 다들 짓고 있는 겁니다.
어렵죠. 소위 폐쇄형 프런티어 모델은 아마 세 배 정도 더 많은 일을 할 수 있을 겁니다. 하지만 동시에 개방형 모델과 폐쇄형 모델이 모두 필요하죠, 그렇죠? 최고의 모델은 제품이나 서비스로 임대해서 써야 합니다, 이런 폐쇄형 모델들이요. 그렇지만 모든 국가, 모든 기업, 모든 산업은 자기만의 지능도 만들어야 해요. 자신의 지능을 완전히 남에게 외주 줄 수는 없잖아요. 그래서 이 모든 기업들이 여기 나와 있는 거예요.
세일즈포스와의 파트너십이 그 이유입니다. 세일즈포스는 엔비디아의 NeMo, 트리톤, 그리고 우리 에이전트 기술을 사용해서 세일즈포스 위에서 돌아가는 자체 에이전트를 만들 거예요. 또 이 에이전트들이 극도로 빠르고 그 수도 아주 많을 것이기 때문에, 데이터 처리 계층이 그 위에 올라갑니다. 세일즈포스 안에도 있고, 데이터브릭스에도 있고, 스노우플레이크에도 있어요. 우리는 이 모든 곳의 데이터 처리를 가속하고 있어요. 그래서 번개처럼 빠른 데이터 처리를 얻게 되고, 과업을 완수하도록 도와줄 많은 에이전트를 갖게 됩니다. 이 모든 것이 엔비디아 NeMo 트리톤을 기반으로 하고 있어요. 그러니 세일즈포스도 이제 AI 기업이에요.
그럼 이건 다른 모든 산업혁명과 같을 거예요. 처음에 사람들은 말했죠. "들어보세요, 방직기가 많은 재봉사들을 일자리에서 밀어낼 겁니다." 그들에게는 힘든 상황이었어요. 맞아요. 하지만 4년 뒤에는 일자리가 열 배나 많아졌습니다. 이 서사는 짜증 나고, 불필요하고, 솔직히 말해 그냥 틀렸어요. 사실은 기업의 생산성이 높아지고 인공지능을 쓰면 야망도 커진다는 거예요. 그 야망 덕분에 더 많은 것을 상상하고 이루고 싶어 하게 되죠. 세일즈포스를 보면 그들은 원래 데이터 계층과 애플리케이션 계층이었어요. 이제는 그 위에 에이전트 계층도 있습니다. 세일즈포스의 미래에 대해 그들은 오늘날 그 어느 때보다 훨씬 더 큰 야망을 가지고 있어요. 제가 마크를 봐 왔을 때도 그는 늘 열정적이었는데, 오늘은 그냥 아이디어가 넘쳐나요. 그러니 AI가 그의 회사가 야망을 키우도록 도왔고, 그 결과 그들은 더 높은 곳에 도달할 수 있을 겁니다. 이건 세일즈포스뿐 아니라 모든 세일즈포스 고객사, 모든 산업에서 일어날 일이에요.
에이전트가 소프트웨어 코드를 작성할 수 있다면 엔지니어링이 불필요해질 거라고 생각하는 건 완전히 비합리적입니다. 저는 엔지니어들이 소프트웨어를 전혀 갖고 있지 않던 세대에서 자랐어요. 우리는 온갖 다른 도구를 쓰고 프로토타입을 만들었죠. 그러니 엔지니어링은 소프트웨어보다 먼저 존재했어요. AI가 등장한 뒤에도 엔지니어링은 존재할 겁니다.
인기 팟캐스트에서 이 모든 걸 보고 계시는데 중간에 전화가 왔죠. 좀 이상했어요. 계획된 거였나요? 아니요. 대통령이 전화를 건 거였어요. 제가 무대에 있었고 백스테이지에서 팀원들이 전화기를 공중에 흔드는 게 곁눈질로 보였어요. 무슨 일인지 알아보려고 했죠. 가까이 오더니 "대통령님입니다"라고 하더군요. 그러니 당연히 이 전화는 받지 않을 수 없었죠. 네, 네. 받는 게 현명하죠. 대통령이 전화하면 받아야 해요. 요약하자면 그는 자기가 올린 트윗 몇 개에 대해 이야기하고 싶었던 거예요. 제가 무대에서 친구들과 함께 있다고 말했더니 그가 "그럼 스피커를 켜 봐, 모두에게 말 좀 하고 싶다"라고 하더군요. 그래서 연결했어요. 그 뒤에 일어난 일은 이렇습니다. 좋아요... 괜찮았어요. 그러니까 완전히 계획에 없던 일이었죠. 그는 '신비화(mystification)'라는 표현을 썼어요. 많은 사람들이 이걸 잡아냈는데, 그 패널의 합의는 어떤 것들은 허구라는 거였어요. 이 표현, '허구'에 동의하실 거예요. 우리는... 이걸 어떻게 멈추죠? AI 안전은 실재하는 문제예요. 좋아요. 세상에 안전한 제품을 설계하는 건 진짜 중요한 일이에요. 기업은 가능한 한 빨리 혁신해야 하지만, 안전하지 않은 제품을 출시할 만큼 서둘러서는 절대 안 돼요. 이건 현실입니다. 하지만 기업들이 제품을 출시하기 전에 기초 엔지니어링을 제대로 하도록 새로운 법, 새로운 독점금지법, 새로운 규제가 필요하다는 건 완전히 불필요한 얘기예요. 그리고 제 생각에 대통령이 말하려는 바가 정확히 그거예요. 우리에게 새로운 법이 필요하지 않다는 것이죠. 새로운 것은... 네, 필요 없어요... 법은 이미 충분해요. 제품의 신뢰성과 기능을 규율하는 규칙이 많이 있어요. 그리고 정말 많아요.
어제는 이상한 날이었어요. 그러니까 모두가 OpenAI가 상장하지 않을 거라고 말하면서 당신 주가가 5.5% 떨어졌죠. 그러면 분기 계획을 달성하지 못하게 되는 거잖아요. 블라블라. 1월에 시작하는 28 회계연도의 이익에 대해 14배 배수로 팔리고 있다는 걸 이해한다면, 그리고 이렇게 많은 전망이 있다는 걸 알면, 세계에서 가장 좋은 투자는 무엇일까요? 엔비디아죠. 자, 그럼 전투를 시작해 봅시다. 수십억 달러어치를 사죠.
짐, 들어보세요, 이건 대단한 거예요. 우리는 모든 폐쇄형 모델을 구동하는 유일한 플랫폼이에요. 맞아요. 정말로 모든 폐쇄형 모델이요. 그리고 폐쇄형 모델 부문에서 우리의 점유율은 늘고 있어요. 우리는 엔비디아 자체 NeMo 모델을 포함해 모든 개방형 모델을 구동하는 유일한 플랫폼이에요. 토큰 생성 수요는 1년도 안 돼서 25배 늘었어요. 그리고 공개된 토큰 생성량 중 비중은 30%에서 거의 70%로 늘었어요. 그러니까 이제 AI가 유용하니까 그 수요가 기하급수적으로 늘고 있어요. 이번 주 일어난 어떤 일도 이걸 늦추지는 못할 거예요. 사실 앞으로 일어날 가능성이 큰 일은 이거예요. 우리는 과거에 학습 시스템과 추론 시스템, 거대한 시스템들을 갖고 있었죠. 이제 세 번째 시스템이 생길 거예요. 이 세 번째 시스템은 본질적으로 환경을 시험하는 테스트 랩이에요. 이런 테스트 시스템은 극도로 커질 겁니다. 그래야 기능적이고, 유능하고, 안전하고 보안이 확보된 제품을 가질 수 있으니까요. 그리고 이걸 테스트하려면 거대한 데이터센터가 필요해요. 그러니까 우리는 방금 AI에 대한 또 하나의 새로운 수요를 만들어 낸 거예요. 이건 대단한 일이에요.
우리에게 컴퓨팅 파워가 충분한지 그리고 월가 금융인들이 언제 컴퓨팅 파워를 거래하기 시작하게 만들지에 대해서는 어떤가요? 짐, 최근 몇 년 사이에 큰 돌파구가 있었어요. 이제 사람들은 엔비디아 컴퓨팅이 대체 가능하고 내구성 있는 유일한 시스템이라는 걸 이해해요. 우리가 대체 가능한 이유는 모든 것을 구동하기 때문이에요. 모든 모델, 폐쇄형 모델과 개방형 모델을 구동하죠. 데이터 처리부터 학습, 사후 학습, 그리고 물론 테스트까지 AI 생애주기의 모든 단계를 구동해요. 모든 기업이 우리를 쓰고 있고, 그 결과 이제 담보 자산으로 쓸 수 있는 세계 최초의 컴퓨팅 시스템이 됐어요. 그러니까 컴퓨터를 담보로 쓸 수 있고, 그런 증거가 점점 더 많이 나오고 있어요. 그렇다면 이것은 그런 규모로 자금을 조달할 능력이 없는 모든 기업에게 엄청난 계시가 될 거예요. 자산 자체가 담보가 되니까요. 그래서 이건 우리 모두가 기억하게 될 순간이 될 거예요. 당신을 고용하고 당신의 제품을 산 모든 사람들이 이 전환점을 경험한 순간이라고요. 특히 6년, 7년, 8년, 9년의 내용연수를 감안하면 수익성은 놀라울 거예요.
사람들에게 이걸 설명해 주실 수 있나요? 저는 이 얘기를 하는 것도 지겨워요. 이상한 건 초기 임차인 중 많은 이들이 장기 임대, 장기 계약에 서명했다는 거예요. 그리고 지금 클라우드 사업자들은 조금 후회하고 있어요. 수요 때문에 현물 가격이 올라서 지금 임대료가 그야말로 엄청나거든요. 지금 엔비디아 Grace Blackwell을 GPU 작업 시간당 16달러에 빌릴 수 있어요. 1년 전에는 어떤 건 5달러에 빌려줬죠. 그러니 이제 계약이 끝나면서 모두가 가격을 올리고 있어요. 매출 전망도 올리고 있죠. 투자수익률이 올라가니까 장비를 더 사고, 인프라를 더 만들고 싶어 해요. 그래서 제 생각엔 이 플라이휠이 지금 정말로 돌아가고 있어요.
제가 한 가지 말씀드릴게요. 들어보셨을지 모르겠지만, 엔비디아. 잠깐만요. 거래하지 마세요. 보유하세요, 거래하지 말고요. 제가 하는 게 그거예요. 젠슨, 정말 고맙습니다. CEO이자 공동창업자님을 만나서 반가웠어요. 여러분, 짐 크레이머였습니다. 젠슨 황!
화요일은 유가와 채권 수익률이 오르면서 대부분의 시장이 '빨간 날'이었어요. 유가가 배럴당 100달러를 자신 있게 넘었고, 10년물 국채 금리는 5%를 넘었어요. 모두 수요일 FOMC 회의를 앞둔 상황이었죠. 연준의 금리 결정과 경제전망요약(SEP) 보고서는 수요일 오후 2시(동부시간)에 발표되고, 이어서 오후 2시 30분에 기자회견이 열립니다.
화요일 AI 인프라 서밋에서 엔비디아는 Vera Rubin과 AI 팩토리의 성능 결과와 인상적인 에너지 효율 수치를 공개했어요. 엔비디아는 SemiAnalysis의 Agent X 벤치마크(생성형 추론용)에서 Nvidia Vera Rubin NVL72가 DeepC V4 Pro 기준으로 GB200 NVL72보다 메가와트당 처리량이 최대 30배 높고, 백만 토큰당 비용은 최대 45배 낮다고 밝혔어요. 엔비디아는 전력 소비가 제한된 상황에서 메가와트당 처리량이 AI 팩토리가 벌어들일 수 있는 매출을 결정하고, 백만 토큰당 비용이 그 매출의 마진을 결정한다고 설명했어요. 제가 여러 번 설명했듯이, 엔비디아는 새로운 세대 아키텍처마다 토큰 비용을 의도적으로 낮추고 있고, 이로부터 하드웨어 판매뿐 아니라 비용 하락에 따른 토큰 사용량과 수요의 지속적 성장으로도 큰 이익을 봅니다.
엔비디아는 또 Lambda가 Blackwell 서버에서 Nvidia DSX Max LPS의 첫 검증을 제공했다고 발표했어요. DSX Max LPS는 GPU와 랙의 전력 소비를 지속적으로 모니터링하며 가용 전력을 가장 필요한 곳에 동적으로 배분합니다. Lambda는 보통 16개의 full-power 노드에 배정되는 전력 예산 안에서 19개 노드를 가동해, 클러스터의 토큰 처리량을 24%, 와트당 성능을 23% 높였습니다. DSX Max LPS는 수요에 따라 랙 사이 전력을 재배분해, 같은 시설 전력 소비 안에서 GPU를 최대 40% 더 쓸 수 있게 하고 토큰 처리량을 35% 늘린다고 해요. 엔비디아는 또 Nvidia Grock 3 LPX가 Vera Rubin에 초저지연 결정론적 추론을 더하고 SXM LP S를 보완한다고 밝혔어요. 이 플랫폼은 장문맥 파라미터 4.2조 개가 넘는 모델에서 GB200 NVL72보다 메가와트당 토큰 처리량이 35배 높다고 합니다. 높은 토큰 처리량과 초저지연 추론은 에이전트 작업에 매우 중요하다고 하고요. 그리고 엔비디아와 세일즈포스는 CRM 업무를 위해 특별히 설계된 첫 세일즈포스 모델 Co-pilot을 공개했어요. Co-pilot은 엔비디아 NeMo Megatron 3 Super를 기반으로 하고, 세일즈포스의 약 27년간 CRM 경험에서 나온 합성 데이터로 학습됐습니다. 현재 일부 Agent Force 고객에게 제공되며, 미국 일반 출시는 올해 겨울로 예상돼요. 세일즈포스는 또 정부 고객을 위한 Mission Force에도 엔비디아 모델과 가속 컴퓨팅을 적용하고 있습니다.
한편 Lynx Equity Strategies의 KC Rajkumar는, 지난 주말 고급 AI 개발 속도를 늦추자는 요청 이후에도 자신이 점검한 결과 GPU 배치, 메모리 및 TSMC 주문 취소, 하드웨어 기업의 공급 일정 변경, 부품 공급 차질 등에서 둔화 신호가 전혀 발견되지 않았다고 밝혔어요. 제가 월요일 영상에서 말했듯이, 지난 주말 사건이 큰 영향을 줄 거라고는 예상하지 않습니다. 최선단 기업들이 새 버전 출시를 늦추더라도, 사용량 증가, 에이전트 작업, 기업 도입, 사이버보안 등은 여전히 고려해야 합니다. 오늘날에도 현재 최신 고급 모델의 수요를 충족할 만큼 컴퓨팅 파워는 아직 부족해요. 더 나아가, 말과 행동 사이에는 차이가 있다는 점도 이해해야 합니다.
지난 주말 Dario의 에세이 이후 지금까지 구체적으로 바뀐 것은 Anthropic과 OpenAI가 시스템에 직원에 준하는 접근 권한을 가진 제3자 평가자를 들이기로 약속한 것 정도입니다. 나머지는 아직 추측과 제안 수준입니다. AI 인프라 비용과 관련해서도, 기업들이 보안을 강조하면서 상당한 컴퓨팅 자원이 모델 평가, 모니터링, 튜닝 쪽으로 쏠릴 수 있다고 봅니다. 그렇다면 아직 많은 시장 참여자들이 고려하지 않는 새로운 대규모 컴퓨팅 수요원이 될 수 있습니다.
다만 선도 기업들이 말하는 것과 실제로 하는 것은 다를 수 있습니다. 말과 행동은 전혀 다른 것이니, 지난 월요일 밤 영상에서 말씀드린 대로 그들이 무엇을 하는지 주목해야 합니다.
아직 실질적인 둔화의 징후는 없습니다. 고급 모델 개발이 둔화되더라도 그것이 곧 AI 인프라에 대한 전체 지출의 둔화를 뜻하지는 않습니다. 가장 가능성 높은 시나리오는 새로 생기는 추가 컴퓨팅 파워가 학습보다는 추론 워크로드로 향하는 것입니다. 물론 이것도 고급 모델을 개발하는 기업들이 제안한 대로 실제로 이행한다는 전제에서입니다.
화요일에는 엔비디아의 새로운 GTC 일정 발표도 있었습니다. 젠슨 황은 12월 1일 워싱턴 D.C. GTC에서 연설할 예정이니 달력에 표시해 두십시오. 그 전에 10월 21일 베를린 GTC도 예정되어 있습니다.
같은 화요일 마이크론은 세계 최초의 512GB DDR5 RDIMM 모듈 시연을 발표했습니다. 여러 서버 플랫폼에서 시연되었고, 마이크론은 128GB RDIMM 4개보다 전력 소모가 60% 적다고 주장합니다. 양산은 2027년 하반기로 계획되어 있습니다. 이는 HBM이 아닌 일반 서버용 D램이지만, AI 렌더링, 인메모리 데이터베이스 등 자원 집약적인 데이터센터 작업을 겨냥한 제품입니다.
마이크론 대만 노조는 화요일 회사가 영구적인 이익 공유 제도에 동의하지 않으면 파업을 할 수 있다고 밝혔습니다. 노조는 영업이익의 15%를 직원에게 지속적으로 배분할 것을 다시 요구했습니다. 노조 위원장은 "9월 18일과 21일에 구체적인 제안이 없고 회사가 협상을 질질 끈다고 판단되면 협상 결렬을 선언하고 파업 찬반 투표에 들어가겠다"고 말한 것으로 전해졌습니다. 대만은 마이크론의 주요 생산 거점이므로 이 상황을 주시하는 것이 중요합니다.
마이크론 실적 발표는 9월 30일로 예상되지만, 노조 위원장의 발언으로 볼 때 파업 찬반 투표는 실적 발표 전에 이뤄질 수 있습니다. 따라서 실적 발표 기간에 마이크론 주식을 거래할 계획이라면 이 점을 염두에 두십시오. 파업이 선언되면 단기적으로 주가에 부정적인 영향이 있을 가능성이 큽니다. 그럼에도 이 상황은 결국 해결될 것으로 예상합니다.
앞으로 마이크론은 9월 30일 장 마감 후 실적을 발표할 것으로 보입니다. 그리고 젠슨 황은 GTC에서 다시 연설할 예정입니다. 그는 꽤 진지하게, 엔비디아가 매출 3조 달러 기업이 될 가능성을 언급했습니다. 엔비디아의 시가총액이 그 수준에 도달할 수 있다는 암시이기도 합니다. 결국 그 시점에 시장이 엔비디아에 어떤 배수를 부여할 의향이 있느냐가 관건입니다.
오늘날에는 닷컴 붐 절정기 광케이블처럼 수요 부족으로 놀고 있는 GPU는 없습니다. 당시 기업들은 시간이 지나면 활용 사례와 수요가 생기리라 기대하며 네트워크를 깔았습니다. 오늘날은 정반대 상황을 관찰하고 있습니다. 새 용량은 출시되자마자 바로 활용되기 시작하고, 하이퍼스케일러들은 가용 용량이 생기는 순간 수익화합니다. 언급된 하이퍼스케일러들은 모두 공급 제약을 언급하며, 이미 쌓인 수요를 충족하기 위해 인프라를 확장하고 있습니다.
2026년은 추론 수요의 티핑포인트가 될 것입니다. 그래서 선도 AI 연구소들의 매출이 급증하는 것을 보고 있습니다. Anthropic과 OpenAI가 상장 기업이라면 모두가 그들의 매출 성장을 볼 수 있을 텐데 아쉽습니다. 선도 연구소들의 빠른 매출 성장이야말로 시장의 주목을 끌고, AI 인프라 투자가 명확한 투자 회수 효과가 있다는 것을 이해하게 만드는 첫 증거가 될 수 있다고 생각합니다. 업계 리더들의 매출 성장은 엔비디아 성장의 지속 가능성에 대해 투자자들을 안심시키는 데도 도움이 될 것입니다. 이 매출은 적어도 2028년 상반기, 어쩌면 그 이후까지 컴퓨팅 자원이 충분히 부족하다는 점을 뒷받침하기 때문입니다.
따라서 단기적인 사건과 무관하게, 저는 컴퓨팅 수요라는 장기적 관점을 유지하고 있습니다. 엔비디아는 데이터센터 연결 없이도 실시간 로컬 추론용 하드웨어를 판매할 수 있는 위치를 확보했습니다. 엔비디아는 피지컬 AI에 대해 총체적인 접근을 취하며, 이를 엔비디아 기반 솔루션으로 만들어 가고 있습니다.
생산 측면에서는 Blackwell Ultra가 이미 출시되었고 수요도 여전히 높습니다. Vera Rubin은 고객에게 출하가 시작되었습니다. NVIDIA Groq 3 LPX는 현재 본격 양산 단계에 있습니다. 이후 2027년 Rubin Ultra, 그다음 2028년 Feynman 출시를 기대합니다. 2028년까지 데이터센터를 위한 명확한 제품 로드맵이 있으며, 젠슨 황은 AI 인프라 연간 지출이 3~4조 달러에 이를 것으로 봅니다. 버블 붕괴와 비슷한 사건은 아직 근접하지 않았다고 판단합니다.
이런 이유로 앞으로 성장 기회가 많다고 생각하며, 이 회사의 가치는 앞으로 훨씬 더 커질 것이라고 봅니다.
Comments 0