저자: 백춘노대표 · 한국인
요약 보기
퓨리오사AI와 OpenAI가 협업을 발표했다는 주장, 목요일 저녁 두 장의 AI 반도체 칩으로 1,200억 파라미터 GPT 오픈소스 모델을 실시간 구동 성공. 엔비디아 대비 적은 리소스·전력으로 AI 인프라 병목 해소를 주장. 2세대 칩 가격은 '싸지 않다'고 언급하며 PCI 카드 형태(레니게이드). 엔비디아 독점 탈피 흐름을 강조하며 AI 반도체 수요 확산을 전망. 투자금 3억 초반대, 인력 약 180명 언급.
다듬은 글
저는 지금 챗GPT를 쓰고 있습니다. 30만 원짜리를 쓰시나요? 아니요, 저는 그냥 2만 원짜리를 쓰고 있는데, 아직까지는 그렇게 쓰고 있습니다. 30만 원대 구독을 하고 계신 분도 있다고 들었습니다.
오늘 서울에서 충격적인 장면이 펼쳐졌습니다. 퓨리오사AI와 오픈AI가 엔비디아를 이기기 위해 협력을 발표했는데요. 더 자세한 내용은 월요일에 발표드릴 예정입니다만, 목요일 저녁 행사에서는 단 두 장의 레니게이드 AI 반도체 칩으로 1,200억 개의 파라미터를 가진 GPT 오픈소스 모델을 실시간으로 구동하는 데 성공했습니다.
지금까지라면 엔비디아 H100 수십 장이 필요했던 작업을 단 두 장으로 끝내 버린 겁니다. 퓨리오사AI 백준호 대표님과 인터뷰했을 때 대표님이 자신감을 보이셨는데, 이유가 있었던 거죠. 엔비디아 제국에 균열이 생긴 것이라고 볼 수 있겠습니다.
3년, 5년에 걸쳐 시장이 확산되면서 우리 제품이 글로벌 시장에서 리더십을 확보하는 것, 그리고 그에 따라 해야 할 일이 엄청나게 많습니다. 그래서 글로벌 AI 컴퓨팅에서 우리가 리더가 되겠다, 지속 가능한 AI를 실현하는 기술적·제품적 혁신을 계속해 나가겠다고 말씀드리고 싶습니다.
우리 칩은 굉장히 정직합니다. 가져가서 테스트해 보면 성능이 바로 나옵니다. 지금은 저희가 선택한 고객사들과 집중적인 평가를 진행하고 있습니다. 대표님께서는 GPU를 뛰어넘는 효율로 AGI 인프라를 만들겠다고 말씀하셨는데, 그때 엔비디아를 절대 이길 수 없다고 장담하던 분들이 많았습니다. 물론 이것 하나로 엔비디아를 이긴 것은 아니지만, 엔비디아보다 훨씬 적은 리소스로 GPU가 가진 전력과 비용의 병목, 즉 AI 시대의 가장 근본적인 한계를 뚫어낸 새로운 설계를 만들어냈습니다.
엔비디아 직원이 몇 명인지 아시나요? 2만 명 규모입니다. 엔비디아는 명실상부 전 지구에서 가장 강력한 반도체 회사로 불리고 있고, 시가총액을 봐도 이미 격차가 큽니다. 그런 막대한 리소스를 가진 제품 대비, 우리 제품이 LLM 시장에서 대체하는 사례를 만들어 내고 있습니다.
저희 인원은 약 180명입니다. 투자금을 모두 합쳐 이번 펀드까지 받아서 3,000억 원 초반대를 확보했는데, 빅테크에 비하면 확실히 고효율을 내고 있는 셈입니다.
단순한 고효율이 아니라 사실 말이 안 되는 이야기입니다. 기술적 패러다임에 뾰족한 무언가가 없다면 불가능한 이야기죠. 그래서 사람들은 기본적으로 불가능하다고 생각합니다. 실제로 이 카드가 나와서 엔비디아가 그간 쌓아온 막대한 자본과 오랜 시간, 기술을 대체하며 LLM에 들어가고 있는 겁니다. 저희가 혼자 발표하는 것이 아니지 않습니까. 기술적 패러다임에 뾰족함이 없었다면, 이 자본과 인력으로 어떻게 제품이 그것을 대체할 수 있겠습니까? 오픈AI가 퓨리오사와 협업한 이유도 대표님께서 말씀하신 적이 있죠.
엔비디아 솔루션이 앞으로 10년간 시장을 독점하는 세상이 모든 사람이 원하는 그림일까요? 이미 우리 AI 생태계의 상당 부분이 엔비디아에서 벗어나고 있습니다. 엔비디아가 전 세계 시가총액 1위를 다투고 있는데, 빅테크들이 왜 자체 칩을 개발하려고 하겠습니까? 종속되고 싶지 않기 때문이죠. 다른 모든 고객사도 마찬가지입니다.
게다가 엔비디아보다 지속 가능한 AI가 필요합니다. 지금도 AI 서비스 회사들이 돈을 잃고 있습니다. 인프라 비용이 너무 비싸기 때문입니다. 그래서 지속 가능성을 추구하는 시장에 강력한 동력이 있습니다. 전기차의 경우도 마찬가지입니다. 시장에 니즈가 있었기 때문에 배터리 같은 기술이 결합되어 생태계가 자란 것이죠. 기존 내연기관차는 환경 등 여러 문제가 있으니 전환을 하려는 것이고요. 우리가 이 흐름에서 기술적 차별점을 가지고 있다면 충분히 경쟁할 수 있다고 설명드릴 수 있습니다.
지금의 AI 혁명은 엔비디아라는 단일한 기둥 위에 서 있습니다. 하지만 전 세계 기업들이 감당하기에는 너무 비싸고, 전기도 너무 많이 먹습니다. 오픈AI조차 지금 구조를 계속 확장할 수는 없습니다. 오늘 퓨리오사와 함께한 이 자리는 엔비디아의 독점에서 벗어나려는 전환점일지도 모릅니다.
이번 2세대 칩은 특히 GPT-3와 같은 초거대 언어 모델을 강력하게 지원합니다. 지금은 언어 모델이 확장되어 시각 정보까지 포괄하는 멀티모달 모델이 되었는데, 이 칩은 텍스트 및 멀티모달 모델을 강력하게 지원하고, 그 이전 세대 모델까지도 포괄적으로 지원합니다. 가장 최근 모델들도 어느 정도 소화할 수 있습니다. GPT-5급 모델은 수조 개의 파라미터를 가진 모델이라 칩 한 개로는 지원할 수 없고, 여러 개를 연결해서 지원해야 합니다.
구글이나 아마존 데이터센터에 들어가 있는 B200이나 H200 같은 제품을 대신해서 쓸 수 있느냐는 질문이 있을 텐데요, 이것은 추론용입니다. 전체 AI 컴퓨팅 수요를 보면 추론의 요구량이 이미 많이 커졌고, 앞으로 훨씬 더 커질 것입니다. AI의 목적은 결국 추론입니다. 훈련은 모델을 개발하는 단계이고, 서비스를 제공하는 것은 전부 추론입니다. AI 서비스가 확산될수록 추론의 양은 엄청나게 늘어날 것입니다. 오픈AI 같은 곳에서 엄청난 양의 추론을 하고 있는데, 지금 H200, B200으로 추론을 하고 있습니다. 그 영역에서 엔비디아가 쓰이던 것들을 우리 솔루션이 대체해 나가는 것이죠. 조금씩이라는 표현보다는 빠른 속도로 대체해 나간다고 말씀드리고 싶습니다.
개인적으로 궁금해서 여쭤보는데, 이 2세대 칩은 가격이 얼마 정도인가요? 저희가 시장에서 성능과 효율에 맞춰 경쟁력 있는 가격으로 판매한다고만 말씀드릴 수 있겠습니다. 그렇게 싸지는 않습니다. HBM이 들어가 있으니까요.
그래픽 카드처럼 PCIe 슬롯에 꽂으면 되는 형태입니다. 히트싱크가 없는 형태이고, 실제 카드는 이런 형태로 개발되고 있습니다. 레니게이드 카드 완제품을 한 유튜버분이 구입하셨다고 들었습니다. 제가 봤던 워보이 정도 사이즈였는데, 그분이 구입하신 것은 조금 더 작았다고 하더군요. 다른 방식으로 판매하는 건가요? 텔프팩트라고 해서 전력이 60W급인 제품이 따로 있고, 이보다 절반 정도 되는 소형 제품도 있습니다.
저희 아키텍처는 TCP, 즉 텐서 컨트랙션 프로세서로 볼 수 있습니다. 칩은 텐서 컨트랙션 전체를 하나의 기본 단위로 실행할 수 있도록, 그 안에서 최적화할 수 있도록 설계되었습니다. 반면 지금의 GPU나 다른 많은 반도체는 훨씬 작은 수준의 행렬 연산을 기본 단위로 삼고 있습니다. 그러다 보니 작은 행렬 연산들을 수많은 연산에 매핑하는 데 큰 비용이 듭니다.
저희는 소프트웨어 계층을 훨씬 고도화해 두었기 때문에, 컴파일러나 개발자들이 거대한 크기의 다양한 형태의 텐서 컨트랙션 연산을 하드웨어에 효율적으로 매핑하기가 상대적으로 쉽습니다. 또 전체 텐서 컨트랙션을 하나의 덩어리로 보기 때문에, 이를 너무 잘게 쪼개서 보면 로컬한 관점에서밖에 최적화할 수 없는데, 더 글로벌한 관점에서 처리할 수 있다는 장점이 있습니다.
이를 쉽게 비유하자면, 예전에는 수많은 작업자 한 명 한 명에게 일을 어떻게 나눠 줄지 생각했다면, 이제는 작업자들을 연산 특성에 맞는 큰 덩어리로 묶어서 조합하고 실행하는 방식이라고 할 수 있습니다. 그래서 매니저의 역할도 중요해집니다. 하드웨어가 전체적인 시각에서 이를 내부적으로 더 잘 관리할 수 있도록 설계한 것입니다.
저희는 AI 프런티어 현장에서 모두가 최선을 다하고 있고, 반드시 좋은 결과를 내야 한다고 생각합니다. 이런 협력은 매우 중요한 의미가 있고, 어느 순간 폭발적인 힘을 발휘할 것이라고 생각합니다.
반도체 산업이 일시적인 유행일 것이라고 생각하지 않습니다. AI는 앞으로 더욱 확산될 기술이고 더욱 중요해질 것입니다. 그 안에서 등락은 있겠지만, 결국 AI 반도체는 사고하는 머신을 만드는 기술입니다. 근본적인 테크놀로지에 속하죠. 우리는 그 사고하는 머신을 더 강력하면서도 지속 가능하게 만드는 기술을 개발하고 있습니다. 우리가 할 수 있는 모든 것을 동원해, 이 영역에서 글로벌하게 경쟁할 수 있는 토대를 구축하는 것이 향후 10년을 생각했을 때 우리가 해야 할 가장 중요한 일이라고 생각하며 최선을 다하겠습니다.
Comments 0