원문 보기
AMD GPU 가지고 소프트웨어를 잘 만들어서 AI 모델을 뭐 만들고 돌리고 할 수 있어요라고 하는데 사실 아무도 안 믿으셨어요. AMD가 한국 소프트웨어에서 투자한게 거의 두문 사례대로 알고 있거든요. 에이트 센터 굳이 Nv디 GPU로 만들지 말자. 왜냐면 저희가 소프트웨어 다 제공할 수 있 한 최대 두 배 정도의 추가적인 효율 향상을 이제 제공을 해 드리고 있어.이 AI를 구동하는 인프라를 한 개의 기업이 독점하는 상황이 맞을까? 안드로이드 없으면 갤럭시가 그냥 비싼 깡통폰이듯이 쿠다가 없으면 엔비디아 GPU도 그냥 비싼 깡통 칩이에요.
그래서 엔비디아는 20년 가까이 쿠다 생태계를 쌓아왔고 전 세계 AI 회사들이 여기에 락인되어 있습니다. 빅테크들이 매번 엔비디아 의존을 끊겠다 이렇게 외치는데 그래도 못 끊는 이유 엔비디아가 세계 시총 1인 이유 중에 하나죠. 근데이 쿠다를 정면으로 대체하겠다는 한국 회사가 있습니다. 엔비디아 GPU 영장으로 데이터 센터를 만들겠다. SD가 하면 헛소리인데요. 대부분 처음 들어보실 기업이 텐데 AMD가 직접 투자를 했고요. 짐켈러의 텐스토렌트랑 손을 잡았고 지금 실제로 전라북도에 엔비디아 GPU가 단 한 장도 들어가지 않는 데이터 센터를 짓고 있습니다.
글로벌에서선 이미 딥시크에 가장 큰 접한 글로벌 스타트업이라는 평가를 받고 있고요. 오늘은 빅테크들도 목해트린 쿠다의 락인 구조를 뚫으려는 스타트업 모래 조강원 대표를 만나봤습니다. 먼저 배경을 간단하게 말씀드릴게요. 젠슨왕이 1년 동안 경험이만 거의 30억이 넘는 돈을 쓴다고 합니다. 제가 올해 실리콘 밸리 GTC에 갔을 때 가장 충격적이었던 것 중 하나가 보통 실리콘 밸리 세너제이 대학 근처가 굉장히 좀 환산한 곳이거든요. 사람이 적어요. 근데 사람이 꽉 들어차 있고 엔비디아 2만원 분들도 와 어떻게 이렇게 매년 사람이 많아지나 이렇게 말하면서 안열자리도 없어 가지고 서서 같이 밥을 먹었어요.
삼성도 하이닉스도 전부 참여를 했는데이 왜 그러냐면요. 전 세계 AI 이용해 90%가 엔비디아 거니까 거칠게 말해서 갑 중에 슈퍼 갑이니까 젠순이 대기업들의 대표 상품들 사인을 막 하루 돌아다니시고 초대기업의 2만원 분들께서 그 브라운이랑 그 마실 거 들고 젠슨 대기하고 있고 실제로 이거를 눈앞에서 보니까 와 전 세계 권력 1등이 트럼프라면 산업계의 왕은 젠슨왕이라고 봐도 과한이 아니더라고요. 근데 여러분 GPU를 만든 회사가 사실 엔비디아만 있는 건 아니잖아요. AMD도 만들고 인텔도 만들고 삼성전자도 마먹은 만들 수 있어요. 근데 왜 다들 엔비디아만 쓸까요?
물론 성능 차이도 크지만 그 위에 깔리는 소프트웨어 차이가 정말로 크기 때문이에요. 엔비디아는 쿠다라는 소프트웨어를 20년 동안 만들어 왔어요. 애플 생태의 락인보다도 M비디아 생태의 락인이 훨씬 벗어나기 어렵습니다. 그런데 지금 AIS는 M비디아 GPU 한 장이 5천만 원이 넘습니다. 한 장이요. 데이터 센터 하나에 수만 장이 들어가야 되거든요. 그러다 보니까이 비싼 걸 목구해서 전 세계가 줄을서 있어요. 작년에 미국이 중국의 GPU 수출를 막았는데도 중국이 우회로 막 사들리느라 가격이 진짜 더 폭등을 했고요. 인류여사상 한 회사가 이렇게까지 한 산업을 독점한 사례가 거의 없습니다.
근데 한국에서 그것도 아직까지 직원 70명인 작은 스타터 엔비디아 GPU 영장 데이터 센터를 만들겠다고 말하는 거예요. 자신들의 소프트웨어를 깔면 AMD의 GPU가요. M비디아 GPU처럼 작동한다고. 이게 성공하면 AI의 비용이 절반 이하로 뚝 떨어집니다. 한국의 네이버 카카오보다 거대한 IT 기업이 나올 수도 있습니다. 뭔 소리냐, 가능한 소리냐, 더 자세한 내용을 듣기 위해서 모래 조강호 대표님과 인터뷰를 진행했습니다. AI 데이터 센터를 운용하는 소프트웨어를 만든다고 생각하시면 되는데 더 정확히는 계산을 시켜 주는 소프트웨어를 만들어요.
결국은 AI라고 하는게 계산을 되게 많이 해야 되고 GPU나 요새 MPU 같은 하드웨어들이 나오고 그래서 이제 저희 만드는 소프트웨어는 이쪽 반도체에서는 요런 계산을 요런 식으로 하고 저쪽 반도체에서는 저런 계산을 저런 식으로 해서 전체 모델을 이렇게 잘 실행을 해라라는 것을 이제 지정해 주는 소프트웨어라고 생각하시면 될 거 같고 흔히 생각하시기에는 반도체를 그냥 잘 만들면 GPU라고 치면 좋은 성능이 나올 거라고 생각하시기 쉬운데 사실은 소프트웨어를 어떻게 만드냐에 따라서 뭐 몇백 배 몇 천 배씩 편차가 생기게 되거든요. 제가 몇백 몇 천배라고 말씀드리는게 과장이라고 생각하실 수도 있겠지만은 실제로 엔비리아지 위해서 뭐 소프트웨어를 개발해 보신 분들이라면 다 이해를 하실 거예요.
그럼 쉽게 이유를 한번 보자면 그 다른 AI 회사들이 자동차를 만든다면 모래는 도로랑 주유소 시스템을 만든다 이렇게 이해도 될까요? 맞습니다. 결국은 저희가 만드는게 뭐 내비게이션을 만들고 전체 도로 망에 해당하는 시스템을 만들고 그럼으로써 차들이 이렇게 깔려 있는 도로에서 최대한 효율적으로 움직일 수 있게 관리하는 소프트웨어를 만드는 것입니다. 사실은 뭐 오픈 AI나 구글 같은 디테크들은 후다에 되게 의존적이지 않고 본인들 나름대로 소프트웨어를 구축한게 꽤 오래됐습니다. 재작년부터 시작해서 이제 AMD GPU 같은 좀 대한 하드웨어들이 비테크들에 나품이 되고 있잖아요.
그게 AMD가 비디아의 쿠다에 대응하는 소프트웨어를 완벽히 확보를 했기 때문에 납품이 된 것이 아니고 그 비테크들이 이제 자신감이 있는 거죠. 우리는 사실 엔비디아에도 후다 생태게 그렇게 조속되 있지 않아. 우리가 직접 소프트웨어를 만들 수 있기 때문에 다른 반도체를 가져오더라도 이제 우리가 쓸 수 있을 것 같아. 쿠다가 가지고 있는 한 개는 데이터 센터 스케일에서 주어 나와 버려. 개별리 GPU를 어떻게 효율적으로 활용할 수 있냐를 고민하는 소프트웨어기 때문에 결국 GPU 수천장 수반장 스케일에서는 어떻게 효율적으로 계산을 할 수 있는지를 디테클리 직접 풀어야겠고 그렇게 하다 보니까 결국 이단 소프트웨어까지 내려가야 했던 것이고 그러다 보니까 자연스럽게 쿠라생의 종속이 되지 않을 수 있었던 거죠.
그럼 그 모래 기술을 이제 이용하면 마치 GPU 천장이 GPU 한 장처럼 움직이는 이런 거를 할 수 있는 건가요? 네. 쉽게 개념적으로 생각하시면은 그렇게 이해하시면 되고요. 그리고 저희가 궁극적으로 하려고 하는 거는 이게 단순히 엔비디아지만 천장이 있다가 아니라 여러 가지 반도체가 섞여 있을 때 특히 뭐 엠비디아가 아닌 반도체를 사용했을 때 이것들은 어떻게 활용해야 되는지에 대한 것들을 저희 소프트웨어가 제공을 한다고 생각하시면 되겠습니다. 확인해 본로는 AMD가 한국 소프트웨어에 투자한게 거의 두문 사례로 알고 있거든요. 혹시 배경이 어떻게 된 건가요?
때 저도 그렇고 저 회사 연구원들이 사실 AMD GPU를 가지고 슈퍼컴퓨터를 만드는 연구를 한 10년 동안 했었어요. 저희가 한 2011년 12년부터 시작해서 그래서 글로벌하게 AMD GPU를 가지고 뭔가 클러스터링을 해 본 되게 오래된 팀 중에 하나로 AMD GPU를 AI 용도로 쓴 것도 저희가 거의 글로벌하게 제일 처음 시도를 했고 실제로 저희가 이제 KT 클라우드와 같이 해서 이제 GPU 몇 천장 스케일의 인프라를 실제로 구축해서 서비스를 제공을 하기도 했고요. 그래서 실제 그런 사례들이 있다 보니까이 한국의 모이라는 회사는 어떻게 이게 가능하게 됐을까라고 살펴보시다가 아 요런 소프트웨어가 있구나라고 해서 이제 투자로도 이어지고 계속 사업적인 힘들게 하고 있습니다.
AMD GPU 가지고 소프트웨어를 잘 만들어서 요렇게 뭐 AI 모델을 뭐 만들고 돌리고 할 수 있어요라고 하는데 사실 아무도 안 믿으셨어요. 이게 돼라는 생각이 되게 강했는데 2년 정도 전부터는 뭐 비테크들 중심으로 해서 좀 엔비디아 아닌 다른 집도 이제 쓰려고 하는 움직임들이 생기고 있고 그러다 보니까 오히려 고객분들께서 아 오프로 쓴다고 하니까 아니면 메탄도 쓴다고 하니까 뭔가 되긴 되나 보다 이제 인식이 전환되고 있는 거 같습니다. 대표님께 생각하시기에 지금 그 모래가 넘어야 될 경쟁자가 누구라고 생각을 하세요? 사실이 분야에서 경쟁자라고 하면은 이게 MB디죠.
다른 회사들끼리 경쟁하는 거는 사실 제가 봤을 땐 큰 의미는 없고 결국 고객 입장에서 봤을 때 사람들이 뭐 쿠다 좋다고 하고 엔비디아 센티가 있다고 하고 그냥 엔비디아지 사서 엔비디아 소프트웨어 올려서 그냥 쓰는 것이 가장 편한 기텐데 그거 대비해서 어떤 밸류를 줄 수 있냐가 많은 인프라 쪽 회사들의 이제 중요한 과제이 모래를 들고 엔비디아 대학마 혹은 엔비디아 을존을 끝낸 선택지 이런 표현들도 하던데 요런 것들을 좀 어떻게 좀 바라보세요? 엔비디아랑 똑같은 걸 만들어서 엔비디아를이기는 건 사실적으로 되게 어렵단 말이죠. 뭐 기술적인이 스트럭처를 바꿈으로써 경쟁을 해야 된다고 생각을 하고 저희가 봤던 거는 기본적으로 시스템 스케일이 커지면서 결국은 전체 데이터 센터의 중심축이 하드웨에서 소프트웨어로 오고 있다는 거였어요.
지금 사람들이 데이터 센터를 만들 때 제일 먼저 선택하는게 MBD GP나? 아, 일단 NBD를 써야 되니까 비디아를 사고 그다음 그 위에 네트워크가 어떻고 소프트웨어가 어떻고라는 거는 이제 그 이후에 고민을 하신단 말이에요. 그러다 보니까 엔비디아 생태 많이 낚고 싶은 거는 기본적으로 어떤 반도체든지 갖다 쓸 수 있는 소프트웨어를 만들어서 데이터 센터를 맨 처음 만들 때 아 모래 소프트웨어를 써야 되겠다가 출발점이 되도록 하고 이제 전체 데이터 센터를 만든다고 했을 때 사람들이 이제 받아들이는 방향을 수정하고 싶은 거죠. 어, 그러고 보니까 그 M엔 M비디아 GPU 영장 데이터 센터 뭐 짓고 있다고 들었는데 그 어떤 거죠?
이게 제가 기본적으로 가지고 있는 어프로치는 데이터 센터 굳이 NBD GPU로 만들지 말자. 왜냐면 저희가 소프트웨어 다 제공할 수 있고 비디아 GPU 도입하면 되게 비쌀 거고 저희가 훨씬 더 다른 반도체들을 사용해서 훨씬 더 싹없이 데이터 센터를 만들 수 있다라는 방향으로 많이 논의를 하고 있죠. 뭐 텐스트렌트 집이라거나 아니면 뭐 미래에 다른 국산 반도체들을 사용을 해서 좀 디스섹터를 만드는 걸 많이 해 보려고 합니다. 어 그럼 여기는 엔비디아 칩이 한 장도 안 들어가는 건가요? 왜냐면 저희는 기본적으로 거기에 엔비디아를 쓸 이유가 크지 않습니다.
왜냐면 어차피 다른 반도체를 제일 잘 쓸 수 있기 때문에 저한테는 이제 엔비디아 GPU가 없어도 뭐 예를 들어 AMD GPU로 모래 소프테어가 더해지면 M비디아 GPU만큼 성능을 낼 수 있다로 들리는데 이렇게 해도 괜찮은 건가요? 아 그렇죠. 오, 저희는 원래부터 다른 반도체들 사용하면은 비디아보다 훨씬 효율적으로 쓸 수 있다고 생각을 하거요. 다만 사람들이 소프트웨어적으로 어렵기도 하고 그리고 그냥 안 된다라는 좀 편견도 있고 그러다 보니까 이거를 많이 시도하는 곳이 없는 곳이고 저희가 추구에 할 수 있다고 생각하고 있습니다. 그러면 대표님은 어떻게 좀 세상을 바꾸고 싶으신 건가요?
어떤 비전을 갖고 계신 거예요? 대규모 데이터 센터의 중심은 소프트어에 된다고 생각을 하고 지금은 사람들이 데이터 센터라고 하면은 데이터 센터이 엔비디아 지라고 생각을 하고 있고 데이터 센터 이골 모래 소프트웨어라고 생각하는 미래를 이제 바라고 있고 서서히 세상이 저희가 생각했던 방향이 맞다고 이제 많은 증거들이 나오고 있는 거 같아요.이 내일 모래할 때 모래는요. 그래서 내일보다 좀 더 먼 미래를 보자. 그래서 저희가 아직 사람들이 미쳐 인지하지 못했더라고이 방향으로 인더스트리가 나갈 것이라는 믿음을 가지고 이제 해오고 있는 회사입니다.이 인프라소프트웨어를 잘 만드는 것이 모델의 경쟁력이다.
아니면은 MBI의 독점을 깨는 방향이다라는 것을 저희는 되게 과거부터 계속 주장을 해왔다고 생각을 합니다. 그리고 실제로 뭐 모델 서비스를 뭐 반값 1 가격에 하는 것을 저희가 실제로 보여 드림으로써 아 저 모래의 소프트웨어를 사용했더니 진짜 내가 원래 AI를 쓰기 되게 비쌌는데 이걸 싹카면 쓸 수 있게 됐구나라는 거를 올해 중에는 좀 더 실질적인 사례로 보여 드릴 수 있도록 노력을 하겠습니다. 작년에 딥시크 때문에 엄청 주가도 많이 떨어졌었잖아요. 해외에서 모래를 들고 딥시크에 가장 근접한 글로벌 스타오브로 평가했는데 엔비니아하고 여전히 수요가 늘겠지만은 다른 칩 업체들이 훨씬 더 수요가 빠르게 늘 그 가능성이 있다라고 생각을 하고 계어.
그 만약에 한 1억 원에서 한 2억 원 정도 현금을 갖고 계신데 기업에 투자를 하신다면 어디에 투자실 가어요? 뭐를 빼고 모래와 조광원 대표에 대한 더 자세한 내용들은 저희가 편집해서 전달해 드리면 내용이 왜곡될 수 있기 때문에 고정 댓글에 링크를 클릭하시면 풀 버전을 보실 수 있어요. 들어가셔서 회원 가입을 하시면 약 30분짜리 풀 버전 영상을 보실 수가 있습니다. 솔직하게 말씀드리면요. 조광원 대표님도 말씀하셨지만 모래가 100% M비디아를 이길 수 있을 것이라고는 생각하지 않습니다. 왜냐면 쿠다가 싸운 20년의 라기는 한 번에 무너지는게 아니기 때문이에요.
근데 모래가 노리는 건요. 엔비디아를이기는 것이 아니라 엔비디아 말고 다른 선택지를 하나 더 만드는 일이에요. 이거는 완전히 다른 게임이에요. 안드로이드가 처음 나왔을 때 iOS를 이길 것이라고 아무도 믿지 않았어요. 근데 지금 전 세계 스마트폰의 70%가 안드로이드예요. iOS를이긴게 아니라 iOS 말고 다른 선택지가 되어서 시장 자체를 키운 겁니다. 모래가 노리는게 정확히요 자리예요. 그리고 하나 더 이게 진짜 중요한데요. 앞서 말씀드렸듯이 엔비디아 GPU 한장이 5천만 원을 넘어가고 데이터 센터 하나 짓는데 수조원이 들어가는 시대에 후다 말고도 길이 있다는 걸 증명하는 거 자체가 천문학적인 가치를 갖습니다.
M비디아를 100% 대시하는 것이 아니라 M비디아 가격을 협상할 수 있는 두 번째 선택지 하나만 있더라도 데이터 센터의 비용 구조가 크게 바뀌게 될 겁니다. 물론 리스크도 당연히 명확합니다. 모래가 아무리 좋은 소프트웨어를 만들더라도 결국에 AMD나 10 스토렌트 같은 하드웨어 파트너의 칩이 엔비디아만큼 안정적으로 양상되어야 의미가 있어요. 소프트웨어가 아무리 잘하더라도 하드웨어 생태계가 못 따르면 무너집니다. 이게 성공하느냐 실패하느냐를 떠나서 이런 도전들 하나하나가 우리나라의 미래를 자우하는 아주 중요한 지표가 될 것이라고 저는 확신합니다.
미국은 지난 20년 동안 구글, 테슬라, 메타, 팔란티어 등 걸출한 스타업들이 등장을 했습니다. 하지만 한국은 지난 20년간 대기업 반야를 발을 드린 건 토스뿐이에요. 우리도 제2의 삼성, 현대, SK. 그리고 세계에 도전하는 네이버와 카카오가 나와야 됩니다. 이런 도전 하나하나가 저는 그 시작이 될 것이라고 믿습니다. 더 궁금한 점은 댓글로 부탁드리고요. 유튜브 좋아요랑 하이젠버그 멤버십 가입도 많이 부탁드리겠습니다. 감사합니다.
Comments 0