저자: 크랩KLAB · 한국인
요약 보기
엔비디아는 학습 중심 GPU 수요에서 추론 단계로 시장이 이동하면서 구글 TPU·브로드컴·마벨 등 자체 칩과 AMD·인텔의 재도전으로 독주 체제에 대한 위기론이 나온다. 다만 쿠다 생태계와 데이터센터 GPU 수요가 여전히 강해 당분간 영향력이 급격히 떨어지진 않을 것이라는 전문가 의견이 소개된다. 시장은 다변화되며 점유율은 줄 수 있으나 단기간 추월은 어렵다는 취지다. 엔비디아는 추론 전용 칩 출시와 그록 기술 라이선스로 대응 중이다.
다듬은 글
지난 2023년부터 매출이 폭발적으로 성장했고, 최근에는 또 한 번 사상 최대 매출을 기록했습니다. 네로라 하는 글로벌 기업들이 제발 팔아 달라고 줄을 서는 기업, 바로 엔비디아입니다. 엔비디아는 데이터 연산 장치인 GPU로 AI 시대에 발맞춰 쭉쭉 성장해 왔습니다. 그런데 요새 엔비디아 독주 체제가 곧 끝나는 거 아니냐는 얘기가 돌고 있습니다. 엔비디아를 둘러싼 위기론이죠. 사실 이번이 처음은 아닌데, 이렇게 자꾸 위기론이 나오는 이유는 AI 시장의 흐름이 계속 바뀌기 때문입니다.
AI가 주목받기 시작했을 때만 해도 핵심은 단연 학습이었습니다. 사람도 똑똑해지려면 공부해야 하는 것처럼, AI도 방대한 데이터를 공부하면서 점점 똑똑한 전문가가 되어 갑니다. 이 과정에는 상상하기 어려울 정도로 많은 데이터와 연산이 필요했고, 수많은 데이터를 동시에 병렬로 처리할 수 있는 엔비디아 GPU가 AI 시대의 필수 장비처럼 여겨졌습니다.
그런데 최근에는 이 학습을 넘어선 다음 단계가 점점 더 주목받고 있습니다. 학습된 결과를 가지고 실제로 도움이 되어야 하니까요. 그 과정이 바로 추론입니다. 테슬라의 풀셀프 드라이빙처럼 장애물을 피해 목적지까지 자율주행을 지원하는 것이 그 자체로 추론 단계라고 보시면 됩니다. 공부를 마친 AI가 이를 돈이 되는 결과물로 연결시키는 단계가 바로 추론인 셈입니다.
엔비디아의 GPU로도 추론을 할 수는 있습니다. 다만 다양한 용도로 쓰이는 범용 제품이다 보니 불필요한 기능이 포함된 경우도 있고, 가격도 굉장히 비쌉니다. 공급을 받는 데도 시간이 오래 걸리고요. 그래서 기업들이 추론에만 특화된 AI 칩은 없을까 하고 눈을 돌리기 시작했습니다. 꼭 GPU를 안 써도 된다면 대체하는 게 좋겠죠.
특히 한때 엔비디아의 큰손 고객이었던 기업들이 직접 칩을 만들며 판을 흔들기 시작했습니다. 비싸니까 우리가 만들어서 쓰자는 것이죠. 구글, 아마존, 마이크로소프트 등이 모두 자체 칩을 만들고 있고, 이를 설계해 주는 브로드컴, 마벨 같은 회사들도 있습니다. 특히 구글의 TPU는 AI 연산에 특화된 고효율 칩으로 인정받으면서 주목받고 있습니다. 요즘 뜨고 있는 새로운 AI 회사 앤트로픽도 엔비디아 칩과 구글 TPU를 함께 사용할 만큼, 엔비디아의 대항마들이 조금씩 일어서고 있다는 분석입니다.
위협은 여기서 끝이 아닙니다. 과거 칩 시장에서 엔비디아와 맞붙었던 경쟁자들도 다시 존재감을 키우고 있습니다. 한때 CPU를 두고 치열하게 경쟁했던 AMD는 최근 메타와 추론 AI 칩 계약을, 오픈AI와는 GPU 계약을 맺으며 시장의 눈길을 끌고 있습니다. 반도체 왕좌로 불렸지만 엔비디아에 밀려 사라지는 게 아닌가 싶었던 인텔도 CPU로 다시 날개를 달았고, 데이터센터에 들어가는 GPU 시장까지 다시 찾아오려고 노력하고 있습니다.
엔비디아 입장에서는 어제의 고객은 직접 칩을 만들겠다고 나서고, 어제의 라이벌들은 다시 맹추격하고 있는 상황입니다. AI 반도체 왕좌를 둘러싼 판이 조금씩 흔들리고 있다는 진단이 계속 나오는 이유입니다.
하지만 엔비디아가 괜히 AI 시대의 황제가 된 것은 아닙니다. 가장 큰 무기는 업계 표준 소프트웨어인 쿠다(CUDA)입니다. AI 개발을 하려면 하드웨어가 어떻게 동작할지 명령어를 짜야 하는데, 쿠다가 이 역할을 수행합니다. 원래 GPU는 게임에서 그래픽만 처리하던 장치였지만, 쿠다를 이용하면서 AI의 두뇌처럼 활용할 수 있는 명령을 내릴 수 있게 되었습니다. 대부분의 연구자들이 쿠다를 사용해 AI 러닝 모델을 개발하고 있는데, 몇 년간 이걸 써 온 개발자들에게 갑자기 다른 환경으로 바꾸라고 하면 쉽지 않겠죠.
GPU 수요도 여전히 탄탄합니다. 아직 AI 시장의 핵심 장비인 데다, 특히 데이터센터 수요가 엄청납니다. 인공지능 기반으로 데이터센터가 계속 늘어나고 있고, 그 대부분에 엔비디아 제품이 들어갈 예정이어서 데이터센터 시장은 엔비디아 쪽으로 급속히 기울 가능성이 높다고 보는 게 맞을 것 같습니다. 실제로 자체 칩을 개발한 구글이나 마이크로소프트도 자체 모델 개발과는 별개로 클라우드 사업을 위해 여전히 엔비디아 제품을 쓰고 있습니다.
경쟁사들의 상황도 아직은 녹록지 않습니다. AMD는 기술력이 많이 올라왔지만, 엔비디아가 만들어 놓은 소프트웨어 생태계 없이 하드웨어만 제공하는 수준이라 시간이 더 걸릴 수밖에 없습니다. 인텔도 이 분야 진출을 발표했지만 아직 실질적인 성과는 많지 않습니다.
전문가들은 앞으로 시장이 다변화할 수는 있어도, 당분간 엔비디아의 영향력이 급격히 떨어지지는 않을 거라고 입을 모읍니다. GPU 외에도 추론에 더 특화된 회사나 가벼운 칩이 필요한 업무들이 늘어나면서 시장이 쪼개지고 있는 것이죠. 시장이 다변화되면 당연히 점유율은 조금 줄어들 수 있습니다. 다만 더 좋은 모델과 더 좋은 아키텍처를 만들어 가는 과정이라 계속 GPU가 필요한 것은 맞습니다. 워낙 오랫동안 쌓아 온 생태계이기 때문에 엔비디아를 한 번에 뛰어넘기는 것은 솔직히 어렵다고 봅니다.
AI 붐으로 몸집을 불려 시가총액 1위가 된 엔비디아는, 시장 흐름이 바뀌는 것이 보이자 추론 전용 칩을 선보이고 추론용 AI 칩을 만드는 그록과 기술 라이선스 계약을 맺는 등 발 빠르게 대응하고 있습니다. 과연 엔비디아는 앞으로도 AI 칩의 선두 주자로 남을 수 있을까요? 여러분의 의견을 댓글로 남겨 주세요.
Comments 0