원문 보기
되게 특이한 점 하나 있습니다. 베라루밍 자체를 TSMC에서 만들거든요. 엔비디아 VK 있죠. 한국에서 맞는 거예요. 패키지라는 업체가 어딘지는 모르겠는데요 기업에 관심 가져면 좋지 않을까라는 생각이 듭니다. 지금 여기가 엔비디아 프라이빗 프로덕트 투어인데요. 정식으로 오픈하기 전에 기자분들 모아 가지고 미리 성공개를 하는 곳입니다. 여기 베라루빈 되게 특이한 점이 하나 있습니다. 베라루빈 자체를 TSMC에서 만들거든요. 엔비디아 BK라 있죠. 한국에서 만든 거예요. 패키징을 한국에서 했던 거 같은데이 집을 만든 거는 TSM 실텐데 패키징은 한국에서 한 거 같아요.
아, 오케이. 저기 그 왜 KR이 좋겠는지 여쭤봤는데 그 엔지니어분들도 왜 KR이 좋겠는지는 모른다고 하시더라고요. TSMC 만들어졌는데 왜 이제 한국계 적혀 있는지는 모른다고 하셔 가지고 어 다른 걸 여쭤보고 왔습니다. 그리고 지금 보고 계신 거는이 AI 노트북들인데요. 사실 뭐 로컬 LRM 돌릴 수 있도록 이제 만들어 놓은 것들인데 제가 개인적으로 흥미로 놓은 건요 칩이에요. 요번에 RTX 스파크라고 칩인데 여기에도 보시면 아 이게 잘 안 보일 것 같은데요 칩에도 코리아가 적혀 있습니다. 겉면에 BKR 2443 아 요게 패키지라는 업체가 어딘지는 모르겠는데요 기업에 관심 가져면 아 좋지 않을까라는 생각이 듭니다.
요비디아 칩을 패키한 곳이 어디는지 아시는 분 있으면 한번 댓글만 부탁드리겠습니다. 제가 이제 키가 한 180 정도 되는데 한 190 정도 되셔 가지고 기체합니다. industry announce the Ruben platform which is Nvidia's latest generation platform for AI factories is now in full production and so that means that uh factories all of our partners all over the world uh are now having this platform in production so that it can start shipping and be available Q3 of this year Ruben is manufactured TSMC then where do you see Korea memory companies should focus the most especially HBM is performance is it bandwid is it quality all those things are important we want to drive all of those things and we we really value our partnerships with all of the memory partners uh in the ecosystem the Korean memory partners that can help provide this amazing technology manych companies are building and using their own AHF MB things companies many of them who are partners and customers seeing opportunities to build specialized silicons.
And so Nvidia has a platform called NVLink Fusion. NVLink Fusion is the connective technology that allows those partners to connect their custom accelerators into Nvidia's platform. So instead of the GPU for instance they would have their own XPU. We announced last year with our partner Amazon with AWS uh that they are going to be deploying their trainium for architecture using NVL link fusion with Nvidia's uh AI infrastructure platform.
As you know many Korean companies especially MP starters are competing on RCU. 음ch the challenge bands chips, compute, memory, networking, rack scale architecture, software and ecosystem. Almost everything. Almost everything. [목을 가다듬음] That's right. And you really have to be able to innovate across the entire stack to achieve the levels of performance, the low token cost, um the uh return on investment that we're able to achieve with the Veruben platform.
naturally my next question every GP require HBM then do you expect HBM demand go decline or KH actually drive even more demand um Ruben we believe is going to be a fantastically popular architecture um and it's going to generate a a lot of demand we're seeing a lot of that demand alreadyck of course uses a different kind of memory.
Ram directly on the on the chip itself. Okay, I understand. Then this is our rest question. What is the biggest difference between MVS concept of AI factory and traditional data center? Ah, it's a great question. So, a lot of the traditional data center was built for cloud computing. So, people want to rent out cores sitting in the cloud somewhere so that they can run their applications.
The AI factory is very different. It's optimized for a specific use case. It's optimized for AI. And so you need some different characteristics in an AI factory than you needed a traditional data center. The first one is a very powerful GPU. The second thing is the CPU. Traditional CPU architectures were optimized to maximize cores.
They want as many cores as possible because they can rent each one of those cores and generate revenue. For AI and for agentic AI, the maximum core count is not the most important thing. It's single threaded performance. You want each one of those cores to be very fast and you want to be able to run all those cores very fast at the same time.
That's not what traditional CPUs were designed for. Avira CPU which we just launched this year at Cometex. It offers 50% more instructions per clock compared to grace. So each Veraus CPU is connected to 1.5 TB LPDDR5 memory. Um and it has 1.2 teraby of memory bandwid. That means that each core gets a tremendous amount of memory bandwid.
Thank you for time. Thank you very much. Thank you 땡큐. 여기 지금 보이는 카이버 컴퓨터 블레이드라고 루빈 CPU를 꽂는 새로용 서버 모듈이라고 합니다. 여기 보시면 엔진 말로는 CPU라고 하시는데요. 여기는이 집이 아 이게 반사대서 잘 안 보이네. 제일 얼굴만 보이죠? 근데 어찌됐든간에여 두 개 밑에 있는 두 개가 CPU고 위에 있는 GPU인데 이게 여기는 TW라고 또 적혀 있어요. 보이시나요? 그래서 얘는 타이어에서 만든 거고 아까 보셨던 거는 한국에서 만든 거예요. 그 차이가 뭔지 모르겠어요.
근데 얘네들이 일종에 뭐 책장 같은 거라고 보시면 됩니다. M디아 여러 수요에 맞게 이제 어느 정도 서버 판들을 결국에 그냥 칩들을 꽂을 수 없잖아요. 서버 판에 꼽은 다음에 그거를 렉으로 만들어야 되는데 그런 것들을 만들어 둔 거라고 보시면 되고 저는 여기 지금 KR만 보다가 여기서 처음으로 DW 적을 봐가지고요. 요것도 혹시 아시는 분 있으면 댓글 부탁드리겠습니다. 엔지니어분들도 잘 모르시겠다고 말씀을 하시네요.요 요 베라루빈이라는이 물건은 일루가 만든 단일 컴퓨팅 제품 중에서 가장 복잡한 기기입니다. 근데 대단한 건 단 두시간 만에 설계할 수 있도록 만들었다는 점이에요.
CPU예 GP6 이렇게 많은 관심들을 받고 있는게 사실 곤이에요. 같은 비용으로 훨씬 더 많은 AI를 돌릴 수 있게 되었다는게 사실 핵심인데요. 한 72개의 GPU가 마치 한 덩어리에 거대한 두뇌처럼 각성되도록 설게 돼 있어요. 뭐 따로 노는게 아니라 하나의 외모리를 쓰는 것처럼 쓰게 돼 있죠. 엘미디아 말로는 베라루빈이 블랙웰보다 뭐 출론 비용을 1로 낮추고 똑같은 AI 훈련에 필요한 이제 숫자들을 한 [콧방귀] GPU의 숫자들을 4분 1로 낮춘다고 합니다. 전기라트당 성능이 여덟배 뭐 하이퍼 스케일러들이 수조 달러를 이제 쏟아붙는 상황에서 그냥 스펙 자라이 아니라 우리는 그만 효율적이다.
실전 아까 미디아 엔지니어 분들한테 여쭤봤을 때도 여기 있는 렉들이 경쟁사들에 비해서 어떤게 가장 큰 강점이냐라고 물어보니까 토큰 코스트라 강조를 해 주는데 그냥 토큰 코스트가 아니라 더 로이스 토큰 코스트라고 이제 강조를 해 주셨습니다. 젠슨장이 새로 만든 단어 중에 하나가 또 토크노믹스라는 단어였어요. 그러니까 AI가 이제 그냥 대답해 주는 AI 생성 시대를지나 가지고 스스로 일을 하는 에이전트 시대로 접어들었잖아요. 젠슨은 실제로 인더스트리 관점에서요 토큰들이 얘네들이 하나하나가 다 토큰들을 만들어 내는데 이게 수익을 만드는 단위라고 했어요.
기업들은 더 많은 AR 팩토리를 만들어 낼 것이고 AR 팩토리는 더 많은 토큰을 만들어 내겠죠. 토큰이 돈이라는 공식이 성립하게 된다면요 GPU가 더 이상 하나 살마다 돈 드는게 아니라 돈을 찍어내는 기계가 되겠는 거죠. 현실판 골드러시라고도 볼 수 있을 것 같습니다. 뭐 생긴 것도 골드색이잖아요. 폭자는 AI가 개발자들 일자리 또 사람들 일자리를 다 빼앗는 것도 아니냐라는 생각을 하는데 오히려 [콧방귀] 젠수상은이 정 반대라고 답을 하더라고요. 지금이 소프트웨어 회사가 생산성을 키우기 가장 좋은 시대라고 합니다. 옛날에 인터넷시 처음 나와서 떠올려 보면 인터넷 소프트웨어 일자리를 없앤게 아니라 오히려 소프트웨어의 수요를 폭발시켰잖아요.
실제로 저도 이제 AI 에이전트를 사용해 가지고 하이전버그를 많이 입력을 하고 있는데요. 저희끼리는 그런 말을 해요. 예전 같았으면 하이젠버그를 못 했을 거라고 말씀을 드리는데 [목을 가다듬음] 왜냐면 지금 하이젠버그에 쓰이고 있는 이제 썸네일 이미지라던가 그런 것들을 전부다 저희가 AI로 만들어 내고 있거든요. 그런 것들을 보다 보면 확실히 이제 에이전트가 새로운 수요를 계속해서 창출해 내고 있는게 아닌가라는 생각이 듭니다. 제순이 한국에 여와서까지 강조했지만 HFM 정말 정말 너무 중요합니다. 브루트컴이 주가가 떨어지면서 한 개 흔들릴 수 있습니다.
하지만 폼은 일시적이지만 클래스는 영어네요. 엔비디아에서도 계속 메모리를 강조한 걸 여러분은 보셨을 겁니다. 그리고 칩이 바뀐 KR이 한국이한 패킹이지인지 아닌지는 확실하지 않지만 분명한 건 엔비디아의 가장 복잡한 칩의 심장부에 우리나라가 들어가겠다는 거. 이거는 국봉이 아니라 이제 우리가 마주한 우리나라의 현재 위치예요. 아무튼 흥미롭게 보셨다면 많은 댓글 부탁드립니다.
Comments 0