원문 보기
저는 그 채치비티 쓰고 있습니다. 그 치비T 쓰고 있습니다. 30만 원짜리 쓰시나요? 아니요. 저는 그냥 그 2만 원짜리 있 아 왜 왜 2만 원짜리 쓰세요? 아 뭐 그냥 아직까지 그렇게 쓰고 있는데 30만 원대를 확대할 그 비행 갖고 있습니다. 그래. 오늘 서울에서 충격적인 장면이 펼쳐졌습니다. 피루사 AI와 오픈 AI가 NBI를 이기기 위해서 협을 발표했는데요. 더 자세한 내용은 월요일에 발표드릴 예정입니다만 목요일 저녁 퓨료에서는 단 두 장의 레니게이드 AI 반도체 칩으로 1,200억 개의 파라미터 GPT 오픈소스 모델을 실시간으로 구동해는데 성공했습니다.
지금까지라면 M비디아 HGP 수십장이 필요했던 작업을 단 두 장으로 끝내 버린 겁니다. 피로사 AI 백춘노 대표님과 인터뷰해서 대표님이 자신감을 보였었는데 이유가 있었던 거죠. 엔비디아 제국에 나아둔 그런 균열이랄까요? 3년 5년에 걸쳐서 저는 상당히 이제 우리가 시장이 확산하면서 음 어 우리 제품이 어 글로벌 시장의 어떤 리더십을 이제 확보에 보여주고 또 그에 따라서 해야 될 일이 엄청나게 많겠죠 사실은. 음. 그래서 글로벌 AI 컴퓨에 우리가 리더가 되겠다. 그리고 그런스테인블 AI를 실현하는 혁신과 뭐 기술적인 그리고 제품적인 혁신을 계속 지속해 나갈 거다.
이렇게 말씀드리. 어, 우리 칩이라는 건 되게 정직해서 네. 어, 가져가서 테스트해 보면 금방 성능이 나와요. 사실은 그렇잖아요. 지금은 어, 좀 이제네 좀 저희가 선택한 그런 고객사들과 또 집중적인 평가를 하고 있고 당시 대표님께서 우리는 GPU를 뛰어넘는 효율로 AGI 인프라를 만들어 내겠다고 말씀을 하셨는데 그때 엔비디아를 절대로 이길 수 없다고 호원 장담하던 분들이 많았습니다. 물론 이거 하나로 엔비디아를이긴 것은 아니지만 엔비디아보다 훨씬 적은 리소스로 GPU가 가진 전력과 비용 병목 즉 AI 시대의 가장 근본적인 한계를 뚫어낸 새로운 설계를 만들어냈습니다.
우리가 엔비디아는 몇 명 있습니까? 한 지금 몇 명 있지 않나요? 2만 명의 엔비디아는 명실 상부하게 지금 전지구에서 가장 강력한 택회사라 불리고 있어요. 시가 총액을 봐도 그렇고 지금 이미 시가 총액이 달라죠. 그 리소스를 가진 제품 대비해서 우리 제품이 지금 LRM 시장에서 대체하는 케이스를 만들어 내고 있잖아요. 여기 지금 몇 명 있습니까? 몇 명 있네요? 다합치면 160명 정도 되고 아 네 지금 한 180명 거기에 지금 우리 투자금을 다 합치면 이때까지 이번에 펀드까지 받으면 한 3,억 초반대를 받았는데요. 아 절미 대에 비하면 확실히 고효율을 내고 있는 거네요.
그냥 교육 고효율이 아니라 사실 말이 안 되는 거죠. 네. 기술적인 패러다임이 뾰한게 없으면 불가능한 이야기를 하는 거죠. 그러니까 사람들은 자꾸 불가능하다고 기본적으로 생각하는 거예요. 이게 지금 우리가이 제품이 나와서 레니게이드라 실제 나와서이 카드로 엔비디아가 그 많은 자본과 오랜 시간과 학을 대체해서 lm이 지금 들어가고 있다는 거잖아요. 저희가 그 혼자 어나운스한게 아니잖아요. 그럼 세 보시면 결국 기술적인 테러다임이 뾰족함이 없으면이 자본과 인력으로 제품이 어떻게 그걸 대체 안 하는데요? 오픈 AI가 필요사와 협업한 이유는 대표님도 말씀하신 적이 있죠?
엔비디아가 앞으로 10년간이 엔비디아의 솔루션으로 10년간 여기를 독점한다라는 세상이 모든 사람들이 원하는 그런 그림일까요? 지금 이미 우리 AI 생태의 상당부 마주는 엔비디아는 다 가고 있어요. M비디아가 지금 전 세계에 시가총이 1위 예상되어 있잖아요. 그죠? 빅텍들을 왜 자체 취업을 개발하려고 하겠어요? 거기 종속되고 싶지 않으니까. 그죠? 그럼 모든 다른 커스머도 마찬가지 그죠? 거기에다가 엔비디아보다 더스테인블한 결국은 우리가 AI가 더 지속 가능하려면 지금도 AI 서비스 회사들이 다 돈을 잃고 있어요. 인프라스트럭처 코스트
너무 비싸잖아요. H백도 그러니까요. 그러니까 그거를 더스테인 말려는 시장에 강력한 동력이 있는 거예요. 그러니까 시장에 니즈가 있기 때문에 그 기술을 예를 들면 우리 전기차에 대한 니즈가 있었기 때문에 그게 그런 브레이크 스트라도가 결합돼서 그 생태가 자라는 거잖아요. 왜냐 기존에 가슬린 차로는 이게 환경과 아까 말하 여러 가지로 문제가 있으니 그걸로 전환을 하려고 하는 거죠. 아 그럼 우리가 이를해면 여기에서 우리가 브레이크스 프라 있으면 충분히 경쟁을 할 수 있다. 이렇게 좀 설명을 드릴 수 있을 것 같습니다. 지금의 AI 혁명은 엔비디아라는 단일한 기둥 위에서 있습니다.
하지만 전 세계 기업들이 감당하기엔 너무나 비싸고 너무나 전기를 많이 먹습니다. 오픈 AI조차 더 이상이 구조에만 을준화할 순 없는 겁니다. 오늘 퓨로사와 함께한 시원은 M비디아의 독점에서 벗어나려는 전환점일지도 모릅니다. 그래서 유료 구독자들에게만 공개된 비공개 영상을 일부 공개해 드리려고 합니다. 지금 유료 구독하시고이 공개 석박사들이 쓴 독점 정보를 얻어가시기 바랍니다. 저희는 국내 최초의 기술 경제 언론 하이젠버그입니다. 뉴럴 네트워크로 구성되 있는 뉴럴 네트워크 기반의 AI는 어느 정도 다 법령적으로 지원할 수 있도록 그건 오버 때도 마찬가지였습니다.
그렇게 저희가 설계를 하고 있고 아까 말씀드렸듯이 이세대치은 하지만 특히 GPT3와 같은 강력한 초고대 언어 모델들 지금은 사실 그 언어 모델들이 더 확장돼서 멀티모델 그러니까 시각적인 것도 다 포괄적으로 하고 있죠. 그래서이 세대칩은 초고대 언어 모델을 한 그런 텍스트 및 멀티모델 모델을 강력하게 지원하고 그 외에 그보다 더 이제 이전에 있었던 모델까지 이제 포괄적으로 지원하는 그런 칩이라고 말씀 가장 최근에 있는 모델들도 저희가 어느 정도 수영이 되는데 어 GPT 5급 모델은 이제 출리언 파라미터를 가진 모델이라 할 수 있거든요.
그런 모델들은이 칩을 이제 한 개만 사용해서 지원할 수는 없고 이제 수식이 연결해서 그렇게 이제 지원을 해야 된다 이거 구글이든 아마존이든 이런데 데이터 센터에 들어가고 있는 B 200이라든가 H 같은 것들 이런 걸 대신해서 쓸 수 있는 건가요? 이건 출론용이잖아요. 그죠? 그렇죠? 지금 우리가 전체적인 그 AI 컴퓨팅의 디맨드를 보면 네. 지금 출론의 요구량이 앞으로 지금도 이미 많이 커졌고 앞으로 훨씬 더 커질 거라고 생각을 하죠. 아시다시피 AI의 목적은 결국 출론을 하는 거잖아요. 그죠? 훈련이라는 건 이제 우리가 모델을 개발하는 단계인 거고
출론은 서비스 하는게 다 출론이잖아요. 그럼 AI 서비스가 앞으로 우리가 더 확산된다 생각하면 출론의 양이 굉장히 커져 가겠죠. 그러니까 아까 말씀주신 그 H 지금 예를 들면 오픈 AI 같은 곳에서 엄청나게 많은 출연을 하고 있잖아요. 우리 지금 오픈 AI면 그게 다 출론이잖아요. 그걸 할 때 지금 H200, B 헌질에도 출론을 갖다 하고 있는 거거든요. 어 이제 그 영역들은 그 영역에서 M비디아가 사용되는 것들은 이제 우리 솔루션을 이제 대체해 나가는 거죠. 아, 점수 조금씩 대체를 해 나가야 되네요. 굉장히 저는 조금이라는 표현보다는게 빠른 속도로 대체해 나간다고 말씀드
아, 빠르게. 이거는 제 개인적 궁금해서 여쭤보는 요게 2세대 칩이잖아요. 요게 혹시 들어봐도 되나요? 요게 지금 저 잡힐까요? 요게 되게 우긴 말일 수도 있는데 사람들이 궁금해. 이거 얼마 정도 하네. 어 저희가 뭐 상당히 어 경 그 시장에서 저희 성능과 저희 효율에 맞추어서 경쟁력이 있는 그런 이제 가격에 판매한다고서 말씀을 드려야 될 거 같고. 아 네네. 어 뭐 그렇게 싸진 않습니다. ACBM이 들어가 있으니까. 네네. 요거 그냥 그래픽 카드 꽂듯이 꼽으면 된 건가요? 그렇죠. PCI 슬라스 꼽니다. 실제 이제 이게 우리 그 어 이거는 이제 그 히싱크가 없는 거고 실제 이제 카드는 이런 형태로 이제 개발이 되죠.
PCI 카드 레니게이드 예 레니게이드 실제 이제 그 카드 완제품이 제가 아는 유튜버분 중에 한 분이 그 워보이를 사셨대요. 아 그래요? 네. 사가지 샀는데 이제 제가 그때 봤던 워보이 한요 정도 사이즈였던 거 같은데 아니 이거에 한 반 정도 됐죠? 아 그렇네요. 근데 이제 그분이 구입하신 오버이는 좀 더 작았다고 하다 작더라고요. 보니까 다르게 판매를 하고 계신 건가요? 텔프팩트라고 해서 요거에 한 전력도 그거보다 이제 한 5 60W급이고 그래서 이보다 한 절반 정도 되는 우리 MP 같은 경우는 AI 워크로드에 가장 필요한 일들을 중심으로 이제 워크로드에 가장 네이티브하게 그렇게 이제 설계되어 있다라고 말씀드리고 이제 저희 아키텍처 TCP라고 보는데요.
텐설 컨트랙션 프로세스라고 보는데 그 칩 같은 경우는 텐설 컨트랙션을 전체를 어 제 하나의 프리미티브로 어 이제 하나의 가장 기본적인 단위로 돌릴 수 있도록 그리고 그 안에서 옵티미제이션을 할 수 있도록 설계된 반면에 그 지금 GPU나 또 그 외에 많은 애 반도체들이 사실은 그거보다 훨씬 더 작은 레벨의 그냥 행렬 연산을 기본 프리미티브로 많이 참고 있거든요. 이대한을이 지금 작은행산들이 수많은 연산에 매핑을 하는데 엄청난 에트가 드는 반면에 저희 같은 경우는이 소위 추사 레이어를 훨씬 더 이제 고도화해 놨기 때문에 우리 컴파일러나 우리 그 개발자들이 이런 거대한 사이즈의 또 다양한 형태의 어 텐설 컨트랙션 연산을 우리 하드웨어의에 효율적으로 맵핑하는데 어 훨씬 더 이제 어 좀 쉽게 상대적으로 쉽게 할 수 있고 또 우리가 그런 종합적인 텐서 컨트랙션에 덩어리로 보기 때문에 우리가 이걸 너무 이제 쪼개서 보면 어떻게 효율할지를 로컬하게밖에 볼 수가 없는데 우리가 이거를 더 글로벌한 관점에서 우리가 어 이걸 처리하기 때문에 훨씬 더 더 글로벌한 체적하를 갖다 할 수 있는 그런 장점입니다.
혹시 제가 이해한게 맞이 있다면 예를 들어서 뭐 한 100명 사람이서 있다 치면 기존에는 뭐 한 추론을 하나하나씩 봤다면 요거는 이제 한 덩어리로 청크로 열 명열 이렇게 본다. 이런 식으로 이해하면 되나요? 그렇죠. 어떻게 보면 굉장히 많은 수만 명의 워커들이 있는데 예전에 이런 시일 때는 그 워커들을 하나하나씩 다 이렇게 애들을 어떻게 일을 분배할지 이렇게 본다면 이제 그걸 훨씬더 덩어리를 묶어서 그 사람들을 묶은 덩어리들을 잘 조합을 훨씬 더 이제 더이 연산의 어떤 특성에 맞게 더 큰 덩어리로 묶어서 그걸 가지고 이제 실행을 갖다 하는 거죠.
그러니까 매니저카도 중요하겠네요. 너는 절로 일하러 가라. 뭐 이런 것들을. 그렇죠. 그런 것들을 하드웨어가 훨씬 더 제 어 내부적으로 더 전체적인 시각에서 이거를 앞치매지할 수 있는 그런 이제 적건을 갖다 하고 있죠. 우리가 AI 그 정말 프런티어 현장에서 어 다들 최선을 다하고 있고 또 여기에 반드시 좋은 결과를 내야 된다 생각하고 있기 때문에 어 저는 이런 협력들이 매우 중요한 의미를 가지고 있고 또 굉장히 어느 순간에 그런 폭발적인 힘을 짓을 거라 생각하고 있습니다. 예 반도체 산업이 그럼 이게 일시적이고 뭐 5년 뒤면 갑자기 이거 다 뭐 하이브 저는 전혀 그렇게 생각하지 않아요.
AI라는 건기술이고네. 뭐 그 AI는 더욱더 이제 앞으로 확산될 기술이고 더욱 중요해질 그런 기술. 그럼 그 안에서 뭐 약간 업펜 다운이 있겠지만 결국 AI 반도체는 싱킹 머신을 만드는 거예요. 음. 킹 머신이라기 때문에 굉장히 근본적인 테크놀로지에 속합니다. 그리고 그 생킹 머신을 더 강력하면서도 서스테블하게 만드는 기술을 우리가 하고 있잖아요. 저는 뭐 우리가 할 수 있는 모든 것들을 다 동원을 해서 이거는 우리가 어이 영역에서 우리가 좋은 제품과 글로벌하게 경쟁할 수 있는 토대를 구축하는게 우리 향후 10년을 생각을 했을 때 가장 우리가 해야 될 어떻게 보면 하나의 일 중에이지 않냐 그런 생각으로 저희들 최선
Comments 0