저자: 미상 · 한국인
요약 보기
AI 비용 문제가 상용화의 핵심 장애물이며, 빅테크도 트래픽이 늘수록 손실 구조라고 주장. KT는 리벨리온(AI 반도체)과 모래(AI 인프라 소프트웨어)와 협력해 AI 풀스택을 구축 중이며, 엔비디아 GPU 의존 탈피와 가성비를 강점으로 제시. 국내 AI 반도체 기업들이 전력효율이 우수하다고 주장하고 국가적 지원 필요성을 강조. 독점 우려에 대해서는 완전 독과점은 어렵다고 전망.
다듬은 글
통신 회사가 뭐 무슨 AI를 하냐 페라리 타면 되지 something like이크 페라리를 탈 이유는 없을 것 같은데 사실 냉정하게 바라본다 하면 충분히 그 모델 사이즈로는 어느 정도 경쟁이 가능한 상황이에요. 어, 근데 국내에서는 일단 그런 얘기들을 하는 경쟁사가 없는데 도대체 너희는 왜 그러면 어, 페라리 타 가지고 돈도 많아 보이는데 페라리 타서 하면 되지. 왜 이렇게해라고 했을 때 이쯤 세상에 바뀌었더니 의외로 엔비디아에서 탈피하는 솔루션이 나왔구나라고 저희 모델을 가지고 저희 인프라스트처를 가지고 얼마만큼 한번 버텨보고 해당하는 걸 새로운 도전을 해 볼 수 있는지.
지금 AI 엄청난 문제점이 있습니다. 장담한데이 영상을 보고 계신 여러분들은 대부분 모르실 겁니다. 바로 비용의 문제예요. 과학은 발견이 중요하지만 공학은 코스트가 중요합니다. 만약에 AISOD와 대화를 한번 나왔는데 전기세를 포함해서 1,000원이 된다면 상용화는 불가능이 가깝습니다. 실제로 작년까지는 빅테크 기업들조차 트래픽이 발생하면 발생할수록 돈을 잃었습니다. 지금 현재 AI 서비스들은 사람들이 많이 쓰면 쓸수록 오히려 돈을 잃는 구조입니다. 전기세도 많이 나오고 관리비도 미친 듯이 나오고 있습니다. 사업은 본 뒤 돈을 벌어야 하며 AI 산업인 역시 마찬가지입니다.이 문제를 해결하지 못하면 AI의 상용화는 쉽지 않습니다.
여러분은 혹시 KT 하면 뭐가 생각나시나요? 저는 요금제가 생각납니다. 대부분이 그럴 겁니다. 그런데 저는 놀랐습니다. 혹시 리벨리온이랑 모래 들어 보셨나요? 저도 몰랐고 여러분 대부분도 몰랐을 겁니다. 리밸리오는 일부분야에서 엔비디아와 컬칼매 제친 우리나라의 AI 반도체 스타업인데 카이스를 수속 졸업하고 MIT를 나와 페이스 X와 인터레에 연구했던 박성영 대표가 많은 곳입니다. 모래는 이런 AI 반도체 위에서 AI 모델이 잘 돌아갈 수 있도록 소프트웨어를 만드는 국내 AI 인프라 솔루션 기업입니다. KT가 AI 반도체 설계 기업 리밸리온과 AI 인프라 솔루션 기업 모래의 전락적 투자를 진행하며 지금까지 단 한 번도 들어본 적 없었던 AI 풀스택 이걸 구축 중이라고 합니다.
저는 지금 대한민국의 뒤편에서 대체 무슨 일이 일어나고 있는지 확인하기 위해서 직접 KT를 찾아갔습니다. 안녕하세요. 그 KT의 초보대 AI 사업 담당을 하고 있는 이진형입니다. 그 KT에서 인공지능 서비스를 한다는 것이 굉장히 저희는 좀 낯설 정확히 어떤 사업을 하고 있는지 간단하게 좀 말씀해 주실 수 있을까요? 저희가 이제 인프라스트럭처를 잘하고 있는 통신 회사였죠. 통신 회사는 인프라스트럭처를 얼마만큼 효율적으로 잘 깔고 운영을 잘하고 하는 능력들을 가지고 있을 거잖아요. 네. 그 저기 유명한 그 초고대처럼 파라미터수가 점점 증가하고 있다 보니까 효율적인 인프라가 필요하구나라고 이제 판단을 했어요.
네. 게다가 저희가 클라우드 회사가 얼마 전에 이제 분사하면서 K 클라우드가 시장에 쫙 나오면서 아 굉장히 효율적인 AI 인프라스차가 필요하겠구나라고 해서 AI 하드웨어부터 먼저 접근을 하자. 그 하드웨어를 일단은 접근을 할 때 뭐뭐를 쌓할 거냐라고 하면 보통 우리가 이제 AI를 하기 위해서는 엔비디아 GPU가 필요하고 일부 CPU들을 쫙 깔아야겠죠. 저 어 또 초대를 저희가 많은 서비스를 준비하다 보니까 와 이거 정말끝이 없구나 들어가는게 그럼 어떤 전략을 쳐야 되냐 새로운 GPU들이나 그다음에 MPU들이 필요할 수 있으니 해당하는 여러 가지 포트폴리오 그니까 라인업을 GPU 라인업들을 어 M비디아 제품 mpu를 널리는 작업들을 했어요.
근데 그것만 하면 또 필요적으로 쓸 수가 없잖아요. 전체를 컨트롤하고 효율성을 가지고 움직이는 부분들이 AI 풀스택이라고 보시면 될 거 같아요. 아 플스텍이요? 쉽게 말하면 시청자들이 정말 알기 쉽게 말하면 그 풀코스로 이제 AI 제공해 준다 이런 느낌으로 받아들면 될까요? 채치T를 가정을 해서 채비에 내가 쿼리를 하나 날렸을 때 그 쿼리가 어디서부터 들어가고 어떻게 작동해서 리턴하냐라고 봤을 때 그 전정의 프로세스를 AI 풀스택이라 보면 될 거 같고요. 아, 전반적인 전체적인 과정을 AI 풀스택이라고 한다. 네. 네. 어 말씀하셨던 것처럼 통신 회사가 무슨 AI를 하냐 이런 말씀들이 있었는데 예를 들어서 이미 페라리가 있는데 페라리 짭퉁을 만들어서 도전하냐 이런 회의적인 시각이 다소 있다고 말씀 마셨던 걸로 제가 기억을 하는데 어 어찌 보면 정말로 이제 페라리 타면 되지 something팅라이크 페라리를 탈 이유는 없을 것 같은데 페라리라고 하면 엔비디아 같은 것들이 되겠죠.
어 글로벌 공룡들에 비해서 KT가 가지는 강점이 있다면 어떤게 있을까요? 오픈 AI, 구글, AWS도 수많은 M비디아 GPU를 사용하면서 그 GPU들의 수급이 안 돼 가지고 굉장히 좀 어려움을 겪는다는 건 알고 계실 거예요. 그 회사들도 결국은 내가 어 수많은 GPU들을 한 브랜드만 가지고는 있을 수 없으니음 새로운 효율적인 GPU나 CPU를 쓰려면 그 위에 있는 소프트웨어 클라스링부터 미디아 가지고 있는 풀스택에 대한 충분한 그 이코시스템에 대한 각각 스택들을 다 가져야 되거든요. 도대체 어 KT가 어 내 국내에서는 일단 그런 얘기들을 하는 경쟁사가 없는데 도대체 너희는 왜 그러면 어 페라리 타 가지고 돈도 많아 보이는데 페라리 타서 하면 되지 왜 이렇게해라고 했을 때 초고대 모델을 하고 있는 회사들을 잘 봤을 때 미주 우리가 말하는 미국 선진국 외에 딥마인드를 가지는 영국 뭐 이스라엘 정도 뭐 중국을 제외하고는 그다음에 국내 회사들 정도기 때문에 진입 장교가 굉장히 높다라고 봐요.
그 높은 이유는 비용 부분이 가장 크고요. 같은 비용을 페라리에 2억을 내고 페라리를 타서 10km를 달렸어요. 저희는 1억을 내고 페라리는 아니지만 모습은 어 적절한 저희 국산 자동차도 얼마나 좋습니까? 국산 점차를 타고 1kg를 같은 효율성 있게 달리게끔 해주면 스타터 그다음에 저희 같은 회사들 AI를 많이 쓰는 회사들에게는 분명히 장점이 될 거다라는 어 지금 확신을 갖고 달리고 있고요. 그래서 페랄이 라이크한 거 혹은 접퉁 같지만 멋지게 들고 다서 사업하 있는 거죠. 그럼 이런 KT의 강점 내수화라고도 볼 수 있을 것 같거든요.
왜냐면 내수 인프라스트럭처가 굉장히 활성화 돼 있으니까. 그러면 사실 스타트업이라 시장 자체가 저는 그렇게 크진 않잖아요. 사실 대기업이라든가 그런 글로벌 플레이어들에 비해서. 그러면 그 이런 KT 풀스택이 유미한 시장 성과를 내기 위해서는 글로벌리하게 이제 어느 정도 성과를 돼야 될 것 같은데 하지만 그 글로벌 플레이어들 같은 경우는 저는 KT를 많이 알고 있을 것 같지 않은데 요런 부분에서 뭔가 타괴할 수 있는 방법이라던가 아니면 방안 같은 것들이 있을까요? 인프라스트럭처의 뭐 리벨온이나 우수한 스타트업 모래 같은 회사들이 궁극적으로는 비즈니스를 국내에서 하겠다라는 거보다 글로벌에 진출하겠다라는 목적을 가장 크게 가지고 있는 회사였고요.
저희와 함께 2년 반 동안 지금 꾸준히 만들어 왔던 결과물을 국내에서 잘 효율화를 하고 조만간 어 그런 결과물을 가지고 갈 수 있는 것들이 아마 공개대가 될 거 같아요. 쉽게 생각하면 KT는 어찌 보면 밑에서 자본이랑 인프라를 대주고 있고 이제 리밸류는 하드웨어요. 모래는 소프트웨어요. 이렇게인지를 해도 무리가 없을까요? 네. 사실 냉정하게 바라본다고 하면 충분히 그 모델 사이즈로는 어느 정도 경쟁이 가능한 상황이에요. 사실 모델만 있는게 중요한게 아니고 그 모델에 얼마만큼 파인튜닝을 하고 수많은 노력이 들어갔냐가 굉장히 중요합니다.
그 관점에서는 사실 현재 오픈 AI가 가장 선두에 있고 당연히 글로벌 빅테크들이 선두에 있다라고 보고 있고요. 가장 큰 문제점들은 서스테인블하게 계속 가지면서 움직일 수 있냐라는 판단에 있어서는 많은 회사들이 계속 그렇게 유지하기가 힘들 거라고 봅니다. 어, AI 인프라스트럭처를 얼마만큼 또 효율적으로 준비했냐가이 서스테인블 다시 말하면 지속 가능하게 모델들을 추가적으로 계속 개발하고 끌고 갈 수 있는 영역이라고 봐요. 저희가 가졌던 인프라스트럭처가 그렇게 서스테인너블하게 경장 세비 계속 가질 수 있는 강점이라고 보면 좋을 것 같습니다.
최지T가 나올 때까지는 기가 막히게 최고에 나왔어요. 한 370명 정도 인력으로 대단한 걸 냈죠. 그러면 그 이후에 계속 서스테인을 할 수 있었냐라고 할 때 거기서 MS가 어 밀결합한 전략적 협력에 대해서는 아실 거예요. 어떻게 MS가 내가 똑같이 저희처럼 클라우드를 가지고 있고 오픈 AI에 지원을 해서 클라우드 인프라스를 지원하고 돈도 지원하고 우리를 레버리지해서 커가라 했을 때 이제 오픈 A가 구글이 두려울 정도로 서스테이너블하게 가져가겠죠. 그렇게 볼 수 있겠네요. 시청자들이 정말 이해하기 쉽게 말한다면 그 마이크로소프트가 어찌 보면 오픈 AI에 뒤를 봐줬다 이런 표현이 맞을지 모르는데 돈도 대주고 많은 협력관계 구축해 줬는데 어 KT가 여러 국내 스타업들 뭐 리벨이라든가 모래라든가 이런 것들 협력해 가지고 그렇게 도와주고 있다 이렇게 인지를해도 무방할까요?네 네.
서로 도움을 받고 있다라고 보는게 좀 많을 것 같고요. 제일 중요한 부분은 가성비 부분이 저는 현재 시점에서 가장 중요하다고 봅니다. 왜냐면 초고대로 오면서 스타트업뿐만 아니라 모든 회사들이 비용적인 부분을 막상 써 보면 비용적인 부분에서 가장 큰 이슈를 발생하거든요. AI 풀스택을 갖춘 가장 큰 강점은 이제 비용 가성비 부분이었고요. 그런 부분들을 지금 제공을 하고 있는 상태라고 보시면 될 거 같아요. 한 업체가 모든 것들을 다 좌지 유지할 때는 가장 큰 문제는 가격 문제들이 발생하고요. 공급을 받는 입장에서도 엔비디아가 아무리 열심히 많이 만들어도 시장에 공급할 수 있는 한계는 있거든요.
그때마다 다양한 회사들이 당연히 공급해야 된다는 관점으로 좀 바라봐시면 좋을 것 같습니다. 그렇다면 아 정말 이런 어마어마한 엔비디아가 저희 그 모든 반도체 저희 국내 회사에 시가 총을 넘는 엔비디아를 탈피하겠다고 KT가 일단 첫 번째로는 그런 사명은 있습니다. 저희 회사가 이제 어 국가의 공익에 좀 이바져야 된다라는 부분이 있고요. R&D 협력을 해서 상용화를 해 줘야 하지만이 글로벌 시장, 특히 미주 시장에 가기 전에는 그 부분이 필수 조건이라고 보고 있고요. 저희가 그런 것들을 할 수 있는 조건들을 많이 가지고 있었죠. 클라우드, AI 모델도 가지고 있고 엔지니어도 있고 데이터도 있는 회사였기 때문에요.
결국 이렇게 했더니 어 이즘 세상에 바뀌었더니 의외로 M비디아에서 탈피하는 솔루션이 나왔구나라고 이제 저희도 바라봐졌고요. 어렵겠지만 페라리 씨가 난립는 시장에 한번 저희도 노크를 해서 이런 차 있습니다. 현대차가 그런 어려운 미국 시장에 진출했듯이 그런 진출할 수 있는 기회를 바라봐려고 노력은 하고 있습니다. 그죠? 아까 그 이런 AI 시장에서 중요한게 결국에 얼마나 많은 연구 개발비가 들어가냐 이런 것도 굉장히 중요하잖아요. 근데 제가 이제 조사를 해 보니까 엔비디아의 연구 개비가이 예를 들어서 지금 국내 스타트업들의 연구 개발비보다 당연하겠지만 규모의 차이가 있기 때문에 지금 우리가 좀 후발 주자고 연구의 개발이 또 뒤쳐지면 [콧방귀] 어 이거 따라가기 정말 어려운 부분이 있을 것 같은데 따라갈 수 있다고 믿는 부분들이 있을까요?
사실 상당히 심각한 부분이라고 봅니다. KT라는 회사의 입장을 떠나서 이런 부분은 국가적 관계에서도 정말 중요한 부분이라고 보고 있고요. 사실 경쟁을 하기에는 좀 어려운 요소들이 사실 많습니다. 국가적 차원에서 사실 도와줘야 된다고 보고 있고요. 다행히 그나마 어 뭐 리벨엄 퓨리오사나 아니면 이런 인프라스트인 모레라는 회사 저희랑 또 어퍼레이어에 아까 모델 레이어에나 어 서비스 레이어에 있는 회사들이랑 협업하는 회사들을 바라봤을 때 상당히 고급 인력들이 그래도 이런 사명감 플러스 도전 의식을 갖고 해외에서 들어와서 좀 움직이고 있다라는 건 고무적이고요.
그렇게 할 수 있는 계속 장을 만들어 줘야 되는 거고 그거 일부를 KT도 큰 기는 아니지만 굉장히 하고 있다라는 거를 이런 지금 구독자분들도 좀 알아 주셨으면 하는 바람입니다. AI 앞으로 시장 어떻게 될까요? 예를 들어서 AI도 세계적으로 봤을 때 구글 하나가 모든 검색 시간 장악했듯이 어떤 특정 기업 하나가 다 잡아먹을 것인지 아니면 지금 자동차들처럼 현대차 뭐 페라리 브로쉐 여러 가지 기업들이 이렇게 나타나 가지고 서로 경쟁하는 치료가 될지 어떻게 보시나요? 사실 결론부터 말하면 지금 현재 시점에서는 한두 업체가 독점할 것처럼 보이는게 사실이고요.
근데 다만 궁극적으로는 그렇게 되지 않을 거라는 걸 먼저 결론부터 말씀을 한번 예측을 해 보겠습니다. 처음에 굉장히 선재적인 테크 빅테크 미주 미국을 기반으로한 실리콘 밸리테크 기업들이 시장을 열고 나면 어 저희 같이 IT에 민감한 나라들이 저희도 스타트업들도 굉장히 활성화되고 한 나라들이 그거에 붐을 입어서 이미 특세 시장을가 차지하고 있었던 거를 다 아 보실 것 같아요. OS 시장 오퍼레이팅 시스템을 바라볼 때 마이크로소프트의 MS가 전체의 PC 시장은 사실 먹었지만 어 하드 그 인베이디드 소프트웨어 시장이나 그다음에 기험력 엔터프라이즈 시장은 오픈 소스인 리스 기반으로도 상당한 시장을 차지했어요.
한쪽이 완전 독과점으로는 안 갈 수 있겠다라는 생각은 하고 있습니다.음 완전 독과점은 어렵다. 그럼 마지막으로 그럼 KT랑 이제 리밸리언, 모래 이런 기업들의 협업을 통해서 어떤 비전을 그리고 계신지 기업의 비전을 조금 말씀해 주시면 좋을 것 같습니다. 네. 저희가 통신의 인프라스트럭처를 엄청 강했는데 통신의 장비를 오픈할 수 없잖아요. 사용자들이 쓰게 해줄 순 없습니다. 국가 기간망이고. 근데 같은 인프라처인데 AI 인프라 스트는 얼마든지 이분들에게 기여를 해 줄 수 있는 거예요. 저희가 운영을 잘했던 거를 저희 모델을 가지고 저희 인프라 스트럭처를 가지고 얼마만큼 한번 버텨보고 해당하는 걸 새로운 도전을 해 볼 수 있는지 장을 열어 드리기 위해서 저희가 한번 굉장히 노력을 해 볼 거고요.
그런 회사들과 한번 여러 가지 부딪히면서 어렵겠지만 어 올해 연말이 됐던 내년들했던 계속 그런 모습들이 보일 때마다 어 때로는 어 당연히 냉정한 시각으로 비판도 해 주시면서 저희가 개선을 할 거고요. 때로는 어 이런 정도의 가능성을 보였을 때는 좀 응원도 해 주시고 어 저희와 같이 하는 파트너사들이 아 정말 어렵지만 글로벌 이런 빅테크 사이에서도 저희를 어 밑바탕 삼아서 같이 그런 걸 해갈 수 있는 그런 큰 비전을 가지고 있는데 응원을 좀 해 주셨으면 하는게 오늘 바람입니다. 네이버의 투자를 받은 필요 요사 SK의 투자를 받은 사피온 KT의 투자를 받은 리벨리온 모두 엔비디아 연구 개발 위에 수백분 수준의 투자금으로도 일부분야에서 엔비디아를 제치는 등 엄청난 성과를 내고 있습니다.
또한 우리나라에 의해의 반도체 기업들은 전성비가 우수합니다. 전기세가 덜 나갑니다. 삼성전자는 작년에 1조 7천억 원의 전기세를 냈는데 이런 전기세를 3로 줄일 수 있어요. 물론 현실적으로 대한민국의 AI 반도체 시장을 지배하기 어려울 수도 있습니다. 시스템 반도체에서 미국과의 경쟁에서 한국은 이기기 어려울 수도 있습니다. 그럼에도 불구하고 AI 반도체 경쟁은 할 수 있느냐의 문제가 아니라 해야만 하는 문제인 겁니다. 리벨리온의 대표 박성영 대표는 말했습니다. 맞아죽더라도 세계 시장에서 맞아 죽겠습니다. 응원해 주세요. 원래 언도드 구원이 훨씬 재밌지 않겠습니까?
댓글 0