원문 보기
저희가 전통적으로는 CPU 만드는 회사였고 GPU 기술을 흡수를 했고 네트워 전문으로 개발하는 회사도 인수를 했고 이제 맞춤면 컬러스트를 설계해 주던 그 회사를 저희가 인수를 해서 결국은 AI 시장에서 역량을 지금은 다 확보를 했다고 할 수 있죠. 어 이거는 말 그대로 풀스택 솔루션이고요. 하나의 간간의 GPU를 72장 정도 넣어서 마치 하나의 GPU처럼 동작을 하게끔 만드는 AMD의 기술이 총체적으로 포함된 솔루션이라고 할 수 있습니다. 동급엔 Nv디아 GPU 대비해서 40% 이상의 경제적인 혜택을 드리겠다. 비용을 40% 정도는 세이브하게 해 주겠다.
전 세계 탑 10 AI 회사들 중에 뭐 일곱 개 정도는 현재 이제 AMD 그니까 채택을 했다. 회사 영매이지 않겠다. 네. 안녕하세요. 이입니다. 어, 끝나지 않는 AI 인프라 전쟁이 이어지고 있는 지금이 경쟁에서 우리가 주목해야 할 기업이 하나 있습니다. AMD인데요.이 AMD가 지난 10년간 어떻게 AI 인프라의 핵심 기업이 됐는지 그리고 앞으로 10년간 어떤 경쟁을 펼치려고 하려는지에 대해서 AMD의 기술담당 김홍필 이사님을 모시고 한번 이야기를 들어 보도록 하겠습니다. 네, 안녕하십니까? 네, 반갑습니다. 네, 이사님 안녕하세요.
선사님, 혹시 AMD에서는 지금 어떤 일을 맡고 계신지 좀 설명을 먼저 부탁드려도 될까요? 네. 저는 AMD에서 한국 고객들에게 데이터 센터 솔루션 전반적인 기술 지원 담당 업무를 하고 있습니다. 최근에 AMD가 인텔를 데이터 센터 매출 부문에서 꺾었다. 뭐 이런 기사를 제 본 적이 있어요. 이게 그만큼 AI 컴퓨팅 인프라의 중요한 기업이 이제 AMD인 건데 정확하게 어떤 부분에서 어떻게 꺾었다 이렇게 설명을 좀 드릴게요. 천재 각 회사의 그 데이터 센터 부문 매출만 이제 따로 실적 발표할 때 구분해서 발표를 하는데요. 최근 분기 실적 발표를 보면 AMD의 그 데이터 센터 부서 매출이 이제 인텔보다 더 매출이 많습니다.
매출 집게만으로 데이터 센터용 CPU 시장에서 약한 인텔리 6대 AMD 4 AMD가 매출 기준으로 40%를 조금 넘어섰습니다. 근데이 데이터 센터 매출에는 CPU 매출만 있는게 아니고 데이터 센터용 GPU 가속기 매출도 같이 포함이 됩니다. 뭐 작년 정도부터 시작을 해서 저희가 그 데이터 센터용 GPU 시장에서도 매출이 계속 올라가고 있습니다. 그렇기 때문에 저희는 CPU 더하기 GPU 매출이 동시에 일어나면서 경쟁사 인텔보다 매출이 많아지게 된 거죠. 정리를 하면 인텔 같은 경우에는 대부분 이제 서버형 CPU 매출이 대부분이고 뭐 시장을 한 60% 점유하고 있는 상황이고 AMD가 한 40% 점유하고 거기에 플러스 GPU 매출이 더해지면서 이번에 매출로만은 역전을 좀 이뤄냈다.
인테가 CPU에서는 경쟁을 해 왔던 걸로 알고 있는데 한 10년 만에 역전을 한 거잖아요. 이제 원래 2014년에 AMD의 리사수 CEO가 취임할 무렵에 굉장히 힘든 시기였다. 17년에 뭐 출시한 것들이 잘 되면서 이렇게 지금까지 이어져 온 거라고 저는 들었는데 그때 당시 출시한게 젠 아키텍처라고 들었습니다. 네. 제 아키텍처 기반은 AMD대에서 만드는 모든 CPU 종류의 제품에 2017년부터 탑재되기 시작을 했고요. 가장 먼저 출시한 거는 PC 데스크탑 PC용 그 CPU 제품군 라이젠 제품을 가장 먼저 출시를 했습니다. 그래서 그게 그 당시에 어떻게 보면 CPU 시장을 인텔이 지배하고 있던 시장이었는데요.
거기에 지금 되돌아보면 굉장히 거대한 출사표를 던졌다고 할 수 있는데 근데 사실 저도 그 당시에 회사를 다니고 있었는데요. 놀라웠던게 그 당시에 제가 기억하기로는 뭐 인텔의 8코짜리 CPU 예 PC에 들어가는 8코짜리 CPU가 거의 한 100만 원 정도의 가격이 형성이 돼 있었어요. 근데 AMD가 그 8코짜리 CPU를 그때 499불에 아마 출시를 했을 거거든요. 어 그러니까 한 60만 원. 예. 그때부터 어떻게 보면 우리가이 시장에서 확실하게 가격대 성능 혹은 성능 우익권을 가지고 가겠다 시작되고 그 이후에 노트북 제품, 데이터 센터용, 서버 CPU 제품 등등해서 계속 제품을 현재까지 다 이어왔습니다.
그런 선택들이 굉장히 성공적으로 작동을 해서 라이젠 시리즈가 이미 2021년 1분기에 인텔를 역전을 했더라고요. 서버 시장에서도 라이젠 기반의 에픽 시리즈가 있잖아요. 원래는 한 99% 인텔이 서버용 CPU 시장을 점유를 하고 있었는데 예픽이 나오면서 이제 점유를 경 균열을 냈다고 알고 있고 지금 어느 정도로 좀 격차가 줄어들었는지를 여쭤봐도 될까요? 네. 지금 저희가 뭐 시장 조사 기간에서 매출 기준으로는 41% 정도까지 쉽게가 됐어요. 근데 개수 기준 유닛 기준으로는 한 27% 정도 개수 유닛 기준보다는 매출 기준가 저희 점유율이 훨씬 높죠.
해전 비싼 많 좋고 수는 적지만 결국 매출이 더 많다는 거는 저희가 전반적으로 이제 비싼 CPU를 더 많이 팔고 있다는 거고요. 성공할 수 있었던 가장 큰 요인 중에 하나는 하이퍼스케일러들 굉장히 잘 아시는 그 퍼블릭 클라우드 서비스 하는 뭐 3계 회사 및 전 세계 소프트웨어 서비스 굉장히 크게 하는 회사들 있잖아요. 넷플릭스라든지 이런 서비스 기반 회사들이 AMD에 대한 선호도가 굉장히 높습니다. 그쪽은 데이터 센터에 대한 어떤 효율화 문제에 부닥치거든요. 거기는 정말 무지 막지하게 큰 데이터 센터를 운용하는 곳이기 때문에 이게 조금이라도 전력 효율하나 가격 효율 조금만 시켜도 그 효과가 엄청나게 커지거든요.
그랬을 때 저희가 거기에 맞는 제품을 어 개발해서 제한을 하게 된 거죠. 쉽게 설명하면 프리미엄급이라고 생각을 하면 될까요? 그렇게 이해를 할 수도 있고 기존에 인텔이 해 줄 수 없던 거를 AMD가 해 줬다고 이게 보시면 될 거 같아요. 하나의 예를 들면 인텔 서버형 CPU가 하나의 CPU당 한 60코어 정도 모델이 가장 성능 좋은 모델이 60코 정도 모델일 때 AMD는 그거에 1.5배인 96코어 모델을 내놨거든요. 그러니까 결국은 CPU 코어가 많다는 거는 어떤 어 연산 속도가 많다는 거기 때문에 그 비슷한 전력을 소모하고 비슷한 가격에서 코 숫자가 1.5배가 많으면 당연히 이쪽을 그 선택을 하겠죠.
그래서 이제 그런 전략이 아마 하이퍼스케일러들 특히 크게 데이터 센터를 운영하는 쪽에서 그런 전략이 많이 먹혔다고 본 거 같습니다. 조금만 바꿔 줘도 말씀하신 대로 코스터가 확 줄어드니까 훨씬 선택을 할 수밖에 없는 그런 상황인 거 같은데 한 10년 만에 역전을 하게 된 거잖아요. AI 데이터 센터라는게 AI 가속기 이런 것도 굉장히 중요하지 않습니까? 그래서 AI 데이터 센터에 들어가는 AMD의 가속기 모델이 있는 걸로 아는데 어떤 모델이 있는지 또 설명을 좀 부탁드릴게요. 먼저 말씀하셨다시피 앞서 저희가 CPU 얘기를 좀 했지만 예전에는 CPU가 중요했는데 이제 지금 상황에 와서는 데이터 센터 컴퓨팅 시장이 AI 가속키 쪽으로 완전 무게 중심이 넘어가 버렸거든요.
결국은 시장 사이즈나 마켓에서의 어떤 매출 규모를 봤을 때 AI 가속기 쪽이 압도적이에요. A넘버렸 종류가 다양하거든요. AI 가속기의 종류 중에 그 GPU 기반 전통적으로 이제 GPU 기반의 기술로 AI 가속기를 만드는 회사들이 있고 그리고 또 다른 한편으로는 흔히 MPU라고 하죠. 이런 AI에 특화된 어떤 맞춤형 어 반도체 설계 기술을 또 하는 쪽 진영이 있고 크게 두 가지 부류라고 전해 보고 있거든요. 전통적인 GPU 기반으로 현재 데이터 센터용 AI 가속기를 만든 회사는 M비D하고 AMD밖에 없고요. 나머지 쪽 진영은 아시는 NPU 계열들 쪽은 이제 국내 스타트업들도 많이 개발을 해서 굉장히 많이 성장을 했죠.
예. 그쪽에서 뭐 그걸 전체로 다서 AI용 가속기 시장 정도로 보고 있거든요. AMD는 GPU 기술, MPU 기술 다 AI에 적용할 수 있는 기술을 다 가지고 있습니다. 예. 그래서 저희가 원래 전통적으로 만들던 그래픽 카드들 그걸 저희가 데이터 센터용 AI 가속기로 만든게 AMD 인스팅트라고 하는 제품이 있고요. 그리고 두 번째로는 저희가 NPU 기술 같은 경우는 최근에 노트북에도 NPU가 탑재가 되거든요. 내장 NPU 노트북 이래서 나오는 것들. 네. 네. 거기에 들어가는 그 MPU 기술도 AMD가 자체적으로 보유하고 있습니다.
근데 아직까지는 저희가 데이터 센터 쪽은 그 GPU 기반 AI 가속기로 저희가 대응을 하고 있고이 PC 기반이나 혹은 이제 쪽 AI 솔루션들은 그 MPU 기반으로 대응을 하고 있고 그렇게 일단 솔루션을 가지고 있고요. 그러면 인스팅트 같은 경우에 몇 번째 버전까지 나오게 된 건가요? 버전으로 따지면 MI 25부터 시작해서 350까지 나왔으니까 네. 버전은 여덟 번째인데 실질적으로 비즈니스가 된 거는 MI 200 시리즈부터 정도라고 보고 있어요. 네. 그래서 저희가 MI2 시리즈 가지고는 일단 슈퍼 컴퓨터 쪽에서 굉장히 성과를 많이 냈습니다.
지금의이 AIPT 서비스가 개시를 하면서 기점이 한 2022년 정도였다고 생각을 합니다. 근데 그전에 컴퓨팅의 최고는 슈퍼 컴퓨팅. 아, 이만한 네. 그렇죠. 굉장히 큰 슈퍼 컴퓨팅. 예. 그 슈퍼 컴퓨팅이었는데 그 당시에 또 화두는 이게 1엑사플록스라고 하는 슈퍼 컴퓨팅에서 이걸 도달하느냐 안 하느냐 그게 화두였어요. 근데 최초로 저희가 MI 200 시리즈 GPU 가속기로 그 1엑사플롭스라는 성능의 벽을 돌파를 했거든요. 근데 그게 기존에 CPU만으로는 좀 하기 힘든 부분이 있었어요. CPU의 연산 능력의 CPU에 비해서는 굉장히 병렬 처리에 있어서 월등하게 좋으니까 AMD의 CPU와 MI200 시리즈 GPU를 혼합해서
1X플록스 이상의 성능이 되는 그 미국의 슈퍼 컴퓨팅 프로젝트를 저희가 이제 성공적으로 완성을 했고요. 그래서 현재도 전 세계 슈퍼 컴퓨팅 순위를 빼기는 뭐 HPC 탑 500 리스트라고 있습니다. 거기서 1위에 그 슈퍼 컴퓨터는 AMD CPU와 이제 GPU가 적용된 슈퍼 컴퓨터가 여전히 이제 1위를 차지를 하고 있고요. 근데 AI 시대가 들어오면서 사실 이게 이제 그쪽 시장이 어떻게 보면 약간 옛날 시장으로 좀 느낌이 바뀐 거 같아요. 요즘은 그거보다는 AI 슈퍼 컴퓨터 이렇게 해서 그렇죠. 하이퍼 뭐 GPU가 몇 만 들어가 있냐 약간 이런 걸로 좀 바뀐 거 같은데
그래서 저희가 이제 본격적으로 MI3시리즈부터 네네. AI용으로 확실하게 준비를 해야 된다. 연도로 따지면 약 한 2023년에서 2024년 정도 못 되겠죠. 상대적으로 경쟁사에 비해서는 조금 늦었죠. 대응이 스타트가 조금 이제 전환하는게 조금 늦었다 네. 전환하는게 조금 늦어서 그때부터는 확실하게 저희가 MI 300시리즈 이후부터는 하드웨어뿐만 아니라 AI 소프트웨어도 굉장히 공격적으로 투자를 했다고 보시면 될 것 같습니다. 그럼 인스팅트가 점요율은 지금 어느 정도인가요? 매출 기준으로 비디아가 약 한 75% 정도, AMD가 한 5.7% 정도.
그리고 그니까 나머지 진형들 나머지가 TPU 그게 한 20% 원절리 그 정도로 지금 이제 시장을 보고 있는 거 같아요. 그럼 이제 인스틴티를 채택한 주요 뭐 소위 말한 AI 기업이나 아니면 CSP 뭐 사업자가 있으면은 어디가 있을까요? 대표적으로는 이제 메타하고 마이크로소프트 정도가 그 AMD MI 300시리즈부터 그 AI 추론 서비스 시작하면서 그쪽에서 채택을 했고요. 그리고 뭐 오라클도 클라우드 시스템에 도입을 했고 그리고 테슬라 빌르모스크가 만드 XAI에도 저희 이제 주론 서비스 용으로 채택을 하고 있고 그 외에 더 있습니다.
그거에 더 있어서 뭐 저희가 얘기하기로는 전 세계 탑 10 AI 회사들 중에 뭐 일곱 개 정도는 현재 이제 AMD가 채택을 했다. 그렇게 얘기를 하고 있습니다. 이 듣다 보니까 궁금한게 점점 점점 채택하는 뭐 비율은 늘어날 거라고 생각은 하는데 이게 가격 대비 뭐 성능이라고 할까요? 마치 인텔과 경쟁했을 때처럼 훨씬 메리트가 있는 편인가요? 동급 엔비디아 GPU 대비해서 약 40% 이상의 경제적인 혜택을 드리겠다 이렇게 얘기를 하고 있는데요. 그 기준이 출론 기준 그러니까 인퍼런스 기준으로만 얘기를 하면 결국은 투자 대비 효용을 얼마나 그년을 하는 거는 뭐 달러당 토큰 생성률 그 비용을 AMD가 약 한 뭐 40% 정도는 세이브하게 해 주겠다.
그러니까 같은 전기 집어넣어서 토큰 40% 더 만들어 준다는 거잖아요. 그러면 도입비용은 어느 정도 차이가 도입비용 개념보다는 전체적인 TCO 측면에서 뭐 그렇게 혜택을 주겠다라고 저희가 얘기를 하고 있죠. 그런 확실히 좀 메리트가 확실히 있을 것 같다는 생각이 듭니다. 방금 말씀해 주신 대로 보통은 이제 서버라고 하시면 다들 이런 막 붙박이 장 같은 거 생각하시잖아요. 서랍 하나 꺼내 보면은 CPU 한 두 장 들어가 있고 뒤에 GPU 그 가속이 깔려 있고 또 중간중간에는 뭐 다양한 연결해 주는 네트워크 카드나 이제 그런 거 들어가는데 이제 그거를 보지 뭐 렉스케일로 공급을 한다 이렇게 말씀들을 하시는데 그게 맞나요?
보통은 전통적인 서버에서는 노드라고 하거든요. 노드. 그러니까 서버 한 대. 네. 한 대가 단위고 여전히 서버는 노드 단위로 어떤 판매나 아니면 거래가 되고 있습니다. 여전히 이게 도미넌트 한데 이게 GPU AI 가속기 시장으로 넘어가면서 아까도 말씀드렸지만 뭐십만 장, 몇백만 장 이렇게 얘기를 하잖아요. 근데 그 인터넥션이 굉장히 중요해졌습니다. 그러니까 GPU 노드들끼의 연결이 중요해지고 또 GPU 여러 개를 하나의 GPU처럼 묶는 기술 그니까 네트워으로 묶는 기술이 굉장히 중요해져서 그렇게 하려다 보니까 하나의 노드 여덟 장 정도로는 부족하고 이게 하나의 렉을 만들어서 그 렉 안에 GPU를 한 72장 정도 넣어서 그 GPU 72개가 마치 하나의 GPU처럼 동작을 하게끔 만드는 그런 이제 스케일업 기술이죠.
일종에. 네. 그렇게 해야지 제대로 된 성능이 나오고 우리가 원하는 성능이 나온다. 혹은 그 이상의 확장. 그러다 보니까 렉스케일이라는 개념이 등장을 했거든요. 단순한 노드로는 어떤 최적화 설계 기술이 덜 들어가 있으니까 그걸 하나의 렉 스케일 혹은 또 그 렉을 여러 개를 연결해서 클러스터로 만들자. 그런 움직임들이 최근에 많이 있습니다. 이제 통째로 사가라 이제 그런 얘기인 거죠. 저희 일종에 통째로 사가라라는 얘기죠. 근데 그런 거를 하려면은 말씀하신 대로 연결해 주는 기술도 중요하고 하나처럼 작동하게 하는 기술도 중요하고 그게 다 가지고 있어야 되잖아요.
그 AMD도 다 가지고 있는 건가요? 네. 저희가 지금 거의 다 확보를 했습니다. 회사였고 그리고 뭐 중간에 ATI 인수하면서 GPU 기술을 흡수를 했고 그 뒤에 또 필요한 기술들 특히 네트워 기술도 저희가 몇 년 전에 펜산도라고 하는 그 네트워 전문으로 개발하는 회사도 인수를 했고 그리고 또 FPJ라고 하는 기술도 저희가 이제 자링스라는 회사를 통해서 흡수를 했고 또 저희가 그 GT 시스템이라고 하는 회사도 인수를 했거든요. 네. 근데 그 GT 시스템이 뭐 하는 회사였냐 하면 결국은 그 하이퍼스케일러들에게 맞춤형 렉을 설계해 주던 회사였어요.
미국의 거대 AI 회사들 혹은 거대 클라우드 회사들에게 그 맞춤명 렉을 설계해 주고 혹은 이제 맞춤명 클러스트를 설계해 주던 그 회사를 저희가 인수를 해서 결국은 목표를 하는 거는이 AI 시장에서 렉스케일 혹은 클러스터 스케일로 AMD의 이런 다양한 기술들이 적용된 최적화된 렉스케일을 만들고 또 그걸 확장을 해서 또 클러스터로 설계를 할 수 있게끔 고객들에게 도움을 주고 하는 역량을 지금은 다 확보를 했다고 할 수 있죠. 그런 데이터 센터 뭐 그런 단위로 판매하는 거 보면은 하여튼 그게 강력한 무기가 된다고들 얘기를 많이 하잖아요.
이렇게 뭐 네트워크 하는 기술이라든지 그런 것도 다 보유를 하고 계시는 거고 뭐 상대적으로 더 우위가 있는 그런 지점도 있나요?음 우라기보다는 철학이 다른 거 같아요. AMD는 오픈 에코 시스템을 지향을 합니다. 예. 그래서 하드웨어뿐만 아니라 그 소프트웨어도 그 오픈 에코시스템을 지향을 하고 있고요. 하드웨어 같은 경우도 저희가 이런 렉스케를 설계를 할 때 혹시 OCP라고 들어보셨을지는 모르겠는데 처음 들어왔습니다. 네. 그게 이제 오픈 컴퓨팅 플랫폼이라고요. 네. 그러니까 어떤 하드웨어 규격 자체도 오픈 진영에서 누구나 사용할 수 있게끔 표준을 만드는 거거든요.
그렇기 때문에 우리가 이런 디자인을 제안을 하면 이런 서버 제조사들에는 누구나 이렇게 따라서 만들 수 있다. 네. 그렇게 지향을 하고 있고요. 두 번째로는 네트워 기술 같은 경우도 그 울트라 에더넷 컨소시엄이라고 네. 그 UEC라는 규격이 있는데 이것도 마찬가지로 AMD가 뭐 리딩하는 회사긴 하지만 이런 보신 여러 반도체 회사들은 다이 컨소시엄에 가입이 되어 있고요. 그래서 여기는 기존에 어떻게 보면 하이 밴드위스 인터컨 커넥션을 또 대체하려고 하는 그런 기술을이 컨소시엄을 통해서 개발을 하고 있는데 AMD는 이런 유시 규격에 맞는 네트워 제품을 또 개발해서 공급을 하고 있습니다.
그니까 결국 전체 시장의 다양한 파트너들하고 오픈 진영에서 어 개발을 하고 있고요. 소프트웨어도 마찬가지로 저희는 AI 개발을 위한 AMD에서 제공하는 소프트웨어 스택을 그 ROCM이라고 하거든요. 이제 ROCM도 저희는 오픈 소스를 다 공개를 하고 있고 네. 그래서 다양한 그 시장의 오픈 파트너로 협력하고 있는게 어떻게 보면 차이라고 할 수 있습니다. 그러니까 AMD가 좀 주도적으로 나서서 하나의 생태계를 좀 끌어가고 있는 상황이라고 좀 볼 수 있을까요? 그렇죠. 여러 트랙에서 그렇게 생태계를 꾸려가고 있습니까? 이렇게 하드웨어 공급을 넘어서 요즘은 소프트웨어까지 공급을 해주고 풀스택 솔루션이라고도 많이 하던데 이제 AMD 같은 경우에도 이런 거를 준비를 하고 있는지 궁금합니다.
네. 준비는 거의 성숙한 단계에 접어들었다고 할 수 있고요. 잠깐 말씀드렸지만 저희가 이제 AI 지원을 위한 소프트 스택으로 ROCM이라고 하는 소프트웨어 스택을 가지고 있는데요. 어 이거는 말 그대로 풀스택 솔루션이고요. 이걸 통해서 AI 구동을 할 수 있는 기반을 다 제공을 해 주고 있습니다. 이걸도이 소프트웨어를 만들기 위해서 AI 소프트웨어를 전문적으로 개발을 하는 회사들을 저희가 꽤 많이 인수를 했습니다. 20 뭐 6년에 헬리우스 솔루션이라는게 출시가 된다. 이런 것도 봤는데 이거는 어떤 거예요? 헬리우스가 앞서 말씀드렸던 AMD 어떤 렉스케일 솔루션의 시발점이라고 할 수 있거든요.
헬리우스는 일단은 72개의 GPU가 들어가는 하나의 렉이고요. 하나의 렉 시스템의 GPU 72개와 CPU가 GPU네 개다. CPU 하나씩 들어가니까 그 비율로 CPU가 들어가고 그리고 AMD가 개발한 네트워크 카드가 들어가고 그리고 이제 OCP 표준 규격으로 저희가 하드웨어를 설계를 했고요. 그래서 이렇게 AMD의 기술이 총체적으로 포함된 스케일 솔루션이라고 할 수 있습니다. 그 AMD에 지금까지 드래곤볼처럼 모아온 그런 것들이 총집합된 솔루션인 거네요. 이미 뭐 말씀하신 좀 성숙 대한 단계에서 출시를 하는 그런 상황이고 이게 다 같은 풀스택 솔루션을 지향을 해도 뭔가 다 똑같지는 않을 것 같다는 생각은 드는데 AMD가 이런 AI 데이터센터 경쟁에서 강조하는 지점 AMD만의 장점은 뭐가 있을까요?
저희 장점은 일단은 저희가 엔드투 엔드 AI라는 또 표현을 쓰고 있거든요. 제가 생각하기에는 저희가 지원하는 제품의 지원 범위가 굉장히 넓습니다. 그러니까 특히 컴퓨팅 시장에서 일단 데이터 센터 클라우드 AI 그리고 엣지 인베디드 그리고 저희가 특히 자일링스의 FPJA 솔루션 같은 경우는 뭐 우주 항공 자동차 그런 쪽에도 굉장히 많이 쓰이고 있거든요. 통신. 네. 거기에다가 PC 기반 제품군들까지 광범면 솔루션에 대한 컴퓨팅을 보유를 하고 있는데요. 근데 데이터 센터도 중요하겠지만 앞으로 가면 갈수록 굉장히 중요한 테마 중에 하나가 엣지에서 구현한 AI들.
최근에 얘기가 많이 나오고 있는 거 같긴 한데 피지컬 AI라고 하는 뭐 개념도 있고 그래서 일단은 데이터 센터 쪽에서 어떤 성숙도를 먼저 저희가 솔루션을 가지고 가서 어느 정도 성과를 이루고 나면 그다음에는 이걸 또 LG 단으로 어 파업시키는 그런 측면에 있어서도 저희 굉장히 준비된 회사라고 보고 있습니다. 그러면은 AMD는 또 피지컬 AI는 어떤 식으로 접근을 하고 계세요? 제가 생각하기에는 AMD의 향후 1, 2년 안에 미션은 일단 학습용 AI 가속기 솔루션의 강좌 혹은 M비DI에 대체제가 되는게 가장 급선무라고 보고 있습니다.
그러니까 이게 출론 시장이 커진다고는 하잖아요. 근데 여전히 학습 시장이 굉장히 중요합니다. 왜냐하면 아직까지 아까 잠깐 언급한 구글의 TPU 얘기도 많이 나오고 하고 있지만 추론 쪽에 있어서의 그 AI 가속기 같은 경우는 굉장히 이제 브라이어티하게 많은 솔루션들이 등장을 하고 있고 이제 용도에 맞게끔 전용 칩도 개발을 하고 있고 또 이게 성능이 조금 낮더라도 거기에 맞는 활용도를 찾을 수도 있고 또 혹은이 굉장히 성능이 높은 걸 필요를 할 수도 있고 성능이 다변화돼 가고 있는데 중요한 거는 그 학습 시장에 대한 MBD의 의전도가 너무 심해요.
그래서 AMD가 헬리우스 플랫폼으로 사실 그쪽 시장을 좀 겨냥한 면도 많거든요. 이제 헬리우스 플랫폼이 나오면 그걸로 아마 그 AI 학습 시장에 좀 진입을 할 수 있을 거라고 기대를 하고 있고요. 그리고 결국은 피지컬 AI도 제가 개인적으로 보기에는 아직까지 학습이 더 필요한 시장이라고 보고 있습니다. 결국은 구현을 하기는 하지만 어떤 피지컬 AI에 맞는 학습이나 브레인을 먼저 만들어 줘야지 그다음에 그게 구현이 되는 거지. 모델이 만들어져야 실에서 쓰는 건데 그걸 시도하고 있는 단계라고 저는 지금 보고 있거든요. 그러니까 뭐 LM 같은 경우는 이미 학습이 많이 성숙한 단계가 처들어서 실제로 이제 사용자들이 뭔가 혜택을 느끼면서 사용할 수 있는 단계까지 오긴 왔는데 피지컬 A 같은 경우는 아직까지는 학습이 훨씬 더 중요한 시장인 거 같습니다.
그래서 그쪽에 대한 어떤 강력한네 솔루션의 원저라고 생각을 하고 사실 그게 되고 나면 그다음부터는 어떻게 보면 피지컬 AI에서 출론 영역인데 거기에는 또 굉장히 이제 지금의 LM 출론 칩 같은 경우 굉장히 다양한 형태의 솔루션들이 등장을 할 거라고 생각하고 있습니다. 아직은 훈련이 좀 더 중요하고 그리고 피지컬 AI 쪽으로 간다면 훨씬 많이 남아 있다. 아직 또 최근에 오픈 AI와 AMD도 빅딜이 있었잖아요. 이게 또 왜 오픈 AI가 AMD를 좀 선택했는지 그런 배경이랄까 혹은 뭐 기술적인 설명 그런 것도 부탁을 좀 드려 봅니다. 2026년부터 오픈 AI에서 M비디아 GPU를 약 10GW 규모로 순차적으로 도입을 하고 AMD는 6GW를 도입을 하겠다.
결국은 10기, 6기B 그리고 아마 자체적으로 개발한 칩도 그게 정확하게 제 숫자는 기억은 안 나는데 아마 그 비슷한 정도 숫자로 결국은 3대 솔루션으로 가지고 가겠다는 이제 전략적인 포석을 둔 거라고 저는 이제 생각을 하거든요. 그렇기 때문에 그쪽도 마찬가지로 한 회사 영매이지 않겠다. 근데 그 3대 솔루션 중에 선택된 회사가 하나가 AMD다라고 하는게 큰 의미인 거 같고요. 시장에 주는 의미는 굉장히 크다고 할 수 있죠. 현재 어떻게 보면 약간 이제 좀 독점 구조인데 어떻게 보면 AMD를 통해서 독점 구조를 깨겠다라는 의지가 있는 거기 때문에
1/만큼은 가져간다는 얘기니까요. 네. 그리고 뭐 그거에 이제 처음으로 저희가 적용하는 시스템이 아까 말씀드린 헬리우스 헬리우스가 크게 이제 처음으로 적용되는 시스템이고요. 그리고 아마 다음 제품이 나오면 또 저희가 더 로드맵을 장기적으로 가지고 있기 때문에 또 업그레이드되는 제품으로 아마 이제 6GW까지 완성되기를 바라고 있습니다. 아 너무 어마어마한데요. 이제 또 최근에 구글 TPU가 시장에 충격을 많이 줬잖아요. 그래서 AI 가속기 시장에도 뭐 변화가 있지 않을까 이런 예측들이 많이 있었는데 앞으로의 좀 AI 가속기 경쟁의 변화가 어떻게 이뤄질지 그리고 여기서 AM대 역할이 무엇일지도 좀 궁금합니다.
구글 TPU 같은 경우는 어떻게 보면 당연한 거 같고요. 뭐 시장에서 성능을 검증을 해 보였다는게 의미가 크긴 하지만 결국은 구글 같은 큰 회사들도 마찬가지로 한 군데 종속대가 얽매이는 걸 굉장히 싫어합니다. 그걸 뭔가 큰일 났다. 이런 거라기보다는 어떻게 보면 경제적인 원리에서 당연한 거라고 보고 있고. 근데 또 그 비즈니스가 최근에 또 신문 기사를 보면 메타하고 협력해서 메타에도 공급한다 이렇게 나오긴 하지만 그게 일반적인 구글에서 칩을 만들어서 따로 회사에 파는 모델은 또 다른 얘기입니다. 그리고 구글도 풀리 100%로 그 TPU를 자기네 데이터 센터에 풀로 사용할 수 있을 것 같지 않고요.
어 그것도 하나의 원어브 솔루션으로 자리를 잡았다는 건 확실하긴 한데 아까도 잠깐 언급을 드렸지만 결국은 인퍼런스 시장 인퍼런스용 가속기 시장은 다변화되어 갈 것 같아요. 앞으로도 계속 다변화되어 갈 것 같기는 한데 근데 그걸 수요하는 수요 자체가 그 다변화 태어가는 양보다 훨씬 더 커지고 있습니다. 결국은 시장 사이즈 자체가 굉장히 커지고 있기 때문에 그렇게 다양한 솔루션들이 나와도 뭐 제가 생각하기에는 다 먹거리가 있지 않을까라는 생각을 하고 있고요. 그 와중에 경쟁이 될 거긴 한데 여전히 뭐 현재까지 시장에서 검증된 가장 성능이 좋은 아키텍처는 GPU 기반 AI 가속기라는게 현재 시장에서 검증은 된 거고요.
때 뭐 AMD가 그런 의미로 봤을 때는 어떤 강력한 솔루션을 현재 이미 보유하고 있고 이걸 계속 발전시켜 나가고 그런 TPU들과도 이제 경쟁을 해야 되는 그 특정 도메인 중심에 뭐 MPU가 등장하고 A들이 계속 나오는 거는 자연스러운 흐름인데 그들과 뭐 함께 할 만한 충분한 시장이 더 열리고 있는 거고 그럼에도 불구하고 훈련 영역은 아직 이들이 이렇게 막 건드리긴 쉽지 않은 거죠. 이제 최근에 구글 TPU 때문에 기사가 많이 나오긴 해서 봤는데 현재까지 초론영에서 그 정도는 충분히 이해할 거 같고 근데이 TPU가 어떤 AI 트레인 훈련 영역에서 과시적인 성과가 나왔다.
아 그럼 이제 M비디아든 AMD든 굉장히 긴장해야 되는 때가 오는 거라고 생각을 합니다. 근데 컨데 헬리오스 솔루션이 있는데 그게 사용하는 방법에 따라서 그냥 훈련이냐 출론이냐로 나뉘는 건가요? 아니면은 이게 출론에 좀 집중하게 되면 아예 뭐가 달라져야 되나요? 먼저 추론부터 말씀을 드리면 추론이라는 거는 학습된 데이터 셋이 있거든요. 그 학습된 데이터 셋을 메모리에 올려서 어 실시간으로 이렇게 데이터 셋에서 찾아서 답을 해 주는게 이제 추론입니다. 그러니까 그걸 일단 저장 장치에 저장을 해 놓은 걸 불러오면 시간이 너무 느리기 때문에 그걸 메모리에다가 다 데이터를 올려야 돼요.
그렇기 때문에 메모리의 속도가 굉장히 빨라야 됩니다. 그렇기 때문에 최근에 그 HBM 시장이 그렇게 이제 중요해지고 있는 거고요. 사이즈도 커야 되고 속도 빨라야 되기 때문에. 근데 이제 최근 저희가 최신에 나온 AI CPU 같은 경우는 그 HBM 메모리를 288GB바를 탑재를 하고 있습니다. 그 정도 메모리 용량이면 아마 최근에 나온 큰 사이즈의 AI 모델 약 한 500빌리언 파라미터 정도 되거든요. 그걸 GPU 하나로 처리할 수 있을 만한 사이즈입니다. 그래서 어떻게 보면 단일 GPU끼리 달릴 GPU의 성능이 좀 더 중요한 그런 쪽 솔루션이라고 할 수 있고요.
근데 이제 학습형으로 가면 굉장히 복잡한 과정을 거치는데 이게 1번 지에서 처리한 데이터를 어떨 때는 통째로 2번으로 옮겨야 돼서 또 2번에서 처리하고 또 그 처리한 걸 또 3번으로 바로 옮겨 가지고 처리하고 일어야 되는 경우도 있는 거고 혹은 1번 지표에서 처리한 데이터를 2 3 4 5 6 7번으로 똑같이 이렇게 갑자기 쫙쫙쫙쫙 나눠 줘야 되는 경우도 생길 수 있는 거고 그래서 학습하는 방식에 따라서 GPU 여러 지표의 통신이 굉장히 중요하거든요. 아까 말씀하신 대로 하나처럼 움직이는 게 CPU 하나의 사이즈를 무작정 키울 순 없기 때문에 그런 성능이 중요해지는데 그걸 이제 헬리우스부터 탑재를 합니다.
네. 헬리우스에도 저희가 72개의 GPU를 그렇게 서로 연결을 해서 어 이렇게 유기적으로 서로 데이터를 주고받을 수 있게끔 72장까지 솔루션을 탑재를 하기 때문에 하드웨어적으로는 거의 동등하게 가는 거죠. 그게 어떻게 보면 학습 영역에서의 좀 약점이었는데 하드웨어에서 저희가 이제 그런 어떤 지표 인터넥션 기술을 갖춰서 하나의 솔루션을 시켰다고 하는게 이제 굉장히 중요하다고 할 수 있습니다. 그게 UAL인가요? 어, 맞습니다. 아시네요. 최근에 그 헬리우스 자료를 보다 보니까 대문자하게 붙어 있더라고요. 탑재가 됐다. 노드투 노드 연결은 UEC.
그다음 GPU2 GPU 연결은 UAL 뭐 이렇게 저희가 솔루션을 가지고 하고 있습니다. 그러니까 서랍 하나 안에서는 UAL로 연결을 해주고 서랍끼리는 UEC 예. 이렇게 연결을 해 준다. AMD가 이런 데이터 센터 쪽으로 이런 솔루션은 보통 뭐 조금 늦게 출발은 했지만 이제 다 준비가 된 거잖아요. 헬리오스 시스템의 정말 마지막 한 조각이었던 GPU길 연결하는 UA 기술까지 더해서 이게 되면 2026년에 AND 뭐 전망이랄까요? 또 어떻게 보십니까? 네. 저는 당연히 이제 AMD 직원의 입장으로서는 네. 아주 전망은 밝게 보고 있습니다.
제가 전반적으로 느끼는 거는 AMD는 맞춤 대응 전략을 잘한다라고 보고 있습니다. 대표적으로는 회사가 굉장히 힘들었을 때 리사수 CEO가 와서 처음 한 일이 게이밍 콘솔 업체들하고 협력을 해서 그쪽 전용 그 칩셋을 만든 일이었거든요. 그래서 지금 전 세계에서 만드는 모든 플레이스테이션 그리고 모든 X박스 게임기에는 AMD CPU와 GPU 기술이 다 들어가 있습니다. 그렇기 때문에 그런 맞춤형 대응 전략이 어떻게 보면 회사를 기반을 세우는데 굉장히 이제 유효한 전략이었던 거 같고요. 그리고 앞으로도 그런 맞춤형 전략들이 제 눈에는 보여요.
그게 어떻게 보면 모든 100명의 어떤 소비자를 만족을 시킬 수는 없지만 회사를 빨리 성장시키는 데는 굉장히 큰 견인력이라고 생각을 하고 있거든요. 그래서 아마 일반 소비자들이 보기에는 아, AMD 저거밖에 못 해라고 조금 갑실 수도 있을 것 같기는 해요. 그렇지만 시간이 지나고 저희가 영향을 갖추는데 회사 인수해서 그 회사가 완전히 우리 회사가 되기까지는 시간이 걸리 시간이 걸리죠. 어 저희가 최근에 뭐 한 3년 정도에 인수한 회사가 거의 한 개 이상 되고 투자한 회사들도 많고요. 예. 그렇기 때문에 이제 그런 시너지가 나는 시점이 아마 이제 2026년부터이지 않을까 생각을 하고
AMD가 글로벌 비테크이기 때문에 저희가 글로벌 얘기만 계속 했는데이 국내에서도 사실 AMD에 대해서 뭐 도입을 좀 원하시는 기업들도 있고 문의들도 좀 많이 오실 것 같은데 국내에는 혹시 뭐 저희가 들으면은 여기서 이렇게 쓰는구나 할 만한 기업들이 좀 있을까요? 저희 그 에픽 CPU 같은 경우는 들어보신 큰 회사들은 이만큼 다 사용하고 있다고 보시면 될 것 같아요. 국내. 그러니까 알고 계시는 대기업 및 그 또 혹은 데이터 센터 크게 가지고 있는 예. 그 알고 계시는 데들은 저희 이제 CPU는만큼 다 사용을 하고 계시고요. 다음으로는 이제 GPU 쪽 그니까 AI 가속기 쪽으로 가야 되는데 최근 들어서 관심이 굉장히 많아졌습니다.
어 그래서 저희 헬리우스 발표나 오픈 AI 발표 이런 거 하고 또 흥내에서 큰 회사들도 최근에 정부 주도로 또 AI 사업 많이 하고 있잖아요. 근데 이거 자체도 지금은 뭐 당장은 모추한 솔루션을 사용을 하겠지만 결국은 뭐 대체제나 어떤 대한 솔루션 혹은 다양한 밴더 솔루션이 필요하기 때문에 그런 의미에서 관심을 가지고 사실 저희가 가장 집중하고 있는 분야가 그래서 이런 저희 AI 가속기 GPU 솔루션을 다양한 기업 환경에 맞게끔 테스트를 해보고 그걸 성능을 검증하고 뭐 도입 단계까지 하게끔 그게 어떻게 보면 저희가 지금 가장 노력하고 있는 그런 쪽 분야라고 라고 할 수 있습니다.
저희 긴 시간 동안 이제 김홍필 이사님께 또 AMD에 대해서 얘기를 들었는데 저도 어릴 때부터 게임도 되게 좋아하고 또 이런 IT 얘기들을 좋아하는 입장에서 AMD를 보면은 붙임이 많았잖아요. 되게 힘든 시기도 있었고 또 굉장히 그 언더덕의 매력이 있는 그런 회사인데 그래서 앞으로도 또 AMD 이런 행보를 계속 지켜보시면서 또 응원을 해 주시면 좋을 것 같습니다. 오늘도 긴 시간 동안 고생 많으셨습니다. 네. 감사합니다. 미래를 먼저 보다. 디타임즈.
댓글 0