원문 보기
안녕하십니까 중시철도 TV 시청자 여러분 기다리시던 분이 오셨습니다. 이용수 대표님이 오셨습니다. 어서 오십시오네 안녕하십니까 그 it신 그 약간 저 우리 증시 각도 약간 패러디 아닙니까 그럴까요. 좀 비슷하네요. 저는 이마에서 자 지난번에 저희가 이제 책 내시고 나서 한 석 달 좀 되나요. 그때 딱 이제 좋은 때 책이 나왔고 그래서 제가 진짜 좋은 때 좋은 책에 딱 나와서 이거 반도체 투자하시는 분들은 꼭 읽어오면 좋겠다라는 얘기를 드렸었는데 보람이 있어요. 그 책을 보신 분들은 아마 it 투자를 하셨을 것 같아요. 그러면 지금 저희한테 칭찬에 댓글을 달아 주셔도 저희가 하나도 뭐 부끄럽지 않다 그때 진짜 정확한 포인트를 잡아서 가장 저점일 때 방송을 했고 그 이후에 뭐 그 책에서 나온 대표기업인 한미반도체는 뭐 역사적 신고가를 만들었고 그리고 중간에 뭐 이렇게 들쭉날쭉 하긴 했습니다.
대체로 안 오른게 없는 정도로 it 주식들 올랐는데 사실은 그때 그 AI 얘기를 하면서도 저희 표현을 긴가민가하는게 약간 그랬었죠. 반응이 과거에 어떤 것보다도 좀 뜨겁긴 한데 일단은 가봐야 알겠어 이런게 있었는데 이번 엔비디아 엊그저께 지난주에 실적발표한 엔비디아 실적 보고 다들 지금 깜놀한 거예요. 미국인 투자자들은 완전 놀랬고 지금 그리고 tsmc 대만에서 전해지는 소식통으로는 5나노 지금 풀 캐파 장착 이런 분위기 라인을 저기 뭐야 엔비디아가 막혔다 h100이나 이런 거 만들려고 야 이거 어떻게 가야 됩니까네 뭐 트렌드로 가는 것 같습니다.
조금 과잉 아닌가 단기적으로는 과열일 수도 있어요. 그런데 거의 이게 항상 버블이라는게 그렇잖아요. 시장 침투율이 한 10% 얹어질 때 제일 세게 올라요 옛날 스마트폰 때도 그랬고 사실 2차전지도 보면 전기차 춤 트윌이 10%일 때 언저리일 때 엄청 올랐잖아요. 지금 ai는 이제 아직 버블이 남은 거죠. 아직까지 10% 침투율을 낸 시간이 좀 남았고 일단 주식 시장부터 먼저 뜨겁게 달궈지고 근데 현장에서 어느 정도 시점으로 보세요. 보통 이제 점차 당겨지는 거 같은데 이게 아이디어에서 실전으로 넘어가서 이제 보편화되는 대중화 되는 단계까지 또 시차가 각각 다르잖아요.
점차 모든 것들이 짧아져요 이번에는 어느 어떻게 보세요. 지금 엔비디아 gpu가 굉장히 많이 필요한 이유는 지금 빅테크 업체들이 발등에 불이 떨어졌어요. 근데 지금 엔비디아 gpu가 쓰는 ai가 보통 데이터 학습적이고 이게 이제 거기서 어느 정도 학습이 끝나고 나서 추론 영역으로 가거든요. 이제 거기서 서비스가 붙는 건데 지금은 추론 쪽이 아니라 다 학습하느라고 지금 그러니까 지금 학습을 가장 잘 하려면 서버에 엔비디아 gpu를 얼마나 많이 갖다 넣느냐 이게 중요한 거거든요. 지금 초입이라는 거예요. 아 요걸 쉽게 말씀드리면 지금 양성 중이다 이거죠.
AI 선수들을 양성 중 그렇죠. 그리고 이게 대체재가 없어요. 엔비디아 GP GPU 그러니까 제너럴 퍼포즈 gpu를 돌려야지 데이터 학습이 제일 잘 되는데 그게 완전히 공급 부족이죠. HP 하고 A10 뭐 이런 맞습니다. 지금 뭐 다들 h100 쳐다보고 있는데요. a100이 7라노 tsmc 공정에서 만들어진 칩이고 요게 개당 1만 달러 정도입니다. 칩 하나가 그리고 h100이 이제 tsmc 사나노 공정에서 만들어지네요. 요게 개당 3만 달라요 그런데 이거 이거를 누가 제일 많이 갖다 놓고 서버에 장착하느냐에 따라서 AI 성능이 달라지는 거죠.
ai를 트레이닝 해서 훈련시켜서 하려면이 칩이 필요한 거고 맞습니다. 우리가 요번에 성공 가능성이 높다고 본 거는 구글하고 마이크로소프트하고 붙었어 이거는 그냥 넘어갈 수가 없어 이거였는데 지금 그림이 그것만이 아닌 거잖아요네 지금 모든 업체들이 다 GPT 기반으로 가는 거예요. 그러니까 적어도 트랜스포머라는 모델로 가는 거고요 왜 갑자기 엔비디아가 이렇게 각광을 받을 수밖에 없냐면 사실 우리 그 AI 그러면 가장 우리 삶에서 임팩트가 있었던 2016년 알파고 사태 되잖아요. 이세돌 이겼던 거 알파고 사태라는게 우리 어떤 의미가 있냐면 그때부터 ai의 어떤 트렌드가 딥 러닝 쪽으로 확 쏠리는 계기가 됐거든요.
그 사건을 계기로 원래 딥 러닝이라는 그 AI 학습 방법이 예전에는 굉장히 많이 나온 기술이었는데 이게 2014년부터 얘가 특이점을 넘더니 확 기술이 올라온 거예요. 그 이듬해 만들어진게 트랜스포머라는 모델이거든요. 지금 우리 gpt라고 하는게 제너럴티브 그리고 프리트레인드 트랜스포머잖아요. 그러니까 그전에는 트랜스포머가 대세가 될지 모르고 모든 반도체들이 이전에 어떤 그 기술 방식으로 다 설계가 돼 있던 거예요. 그러니까 갑자기 트랜스포머 모델이 확 대박이 이제 다 이제 모든 ai가 모델로 가는 거예요. 지금은 근데 당장 갖다 쓸만한 반도체가 지피 GPU 밖에 없는 거죠.
그러니까 이쪽으로 확 쏠림이 일어날 수밖에 없는 겁니다. 사실은 지금 구글하고 MS뿐만 아니라 바이두라든가 요렇게 쫓아가려고 하는 업체가 심지어 우리나라 네이버도 그럴 거 같고요 꽤 많은 거죠. 맞습니다. 지금 뭐 GPT 같은 경우는 그 채취 pt가 3.5 기반이잖아요. 요게 아마 a110을 일반계 써서 파라미터를 1755개를 구현을 한 거거든요. 근데 gpt4는 일단은 공짜로 푸는 건 아니고 돈 받고 하는데 요게 공개를 안 하고 있어요. 그런데 지금 어떤 그 얘들 데이터셋 어떤 그런 방식을 보면 최소한 gpt3보다 gpt4가 한 8배 정도는 더 많이 컴퓨팅 파고 들어간 것 같다 사이즈가 파라미터를 구현한 것 같은데 그때부터는 이제 마이크로소프트가 돈을 태웠잖아요.
그전까지는 오픈 ai가 비영리 법인이다 보니까 굉장히 다 오픈을 했거든요. 오픈소스처럼 근데 지프트 4부터는 다 블랙박스 이야기를 안 하더라고요 100억 달러를 받았으니까 그 돈 가지고 지금 10조는 우리나라 13조를 받았으니까 그걸로 사실은 서버 하는데 꽤 많은 돈을 쓸 것이고 맞습니다. 일단 기본적으로 ms가 발주되는게 상당할 것이고 그걸 따라 그걸 대항하기 위해서 구글이 또 발전하는게 상당할 것이고 또 이걸 또 따라하는 바이두 등등 소위 말하는 각국의 그 ai를 할 수 있는 기업들의 이제 막 알리바바도 있을 테고 뭐 여러 회사들이 이제 이걸 추종하는 상황이 오니까 갑자기 1분기 실적 발표해서 다음 풍경으로 50% 증가해 하는 그런 경우가 있었던 곳 it 업계 종사자분인 걸로 보여지는데 저희 구독자분 한 분이 이렇게 얘기했어요.
구글은 구글에 ms도 아마 그렇게 될거다 그러니까 지금 엔비디아는 지금 퍼가 몇 배냐 이거는 완전한 과잉이다 이렇게 보고 있거든요. 여기에 대해서는 어떻게 얘기해 주셨어요. 아마 이게 추론적으로 이제 만약에 ai가 어느 정도 학습이 끝나고 이제 추론적으로 만약에 시프팅이 된다 그러면 그요 자체 설계 칩이라는게 npu라고 하거든요. 요럴 프로세스 유닛이라고 하는데 그쪽으로 확 갈 것 같아요. 일단 지금은 구글은 그 전부터 tpo라는 걸 자체 설계해서 이제 구현했기 때문에 얘들의 최신 버전이 거의 a100보다는 성능이 좋고 h100보다는 성능이 떨어져요 용도에 따라서 조금 다르긴 하지만 단순 컴퓨팅 파워만 놓고 보면 그렇거든요.
그런데 다른 업체들도 장기적으로는 그렇게 갈 거예요. 이게 어느 정도 모습이 끝나고 이제 추론적으로 뭔가 이제 시프팅을 할 때는 왜냐하면 엔비디아의 gpu가 전기 소모도 너무 많고 어떻게 보면 범용 칩이다 보니까 효율성이 좀 떨어지는 측면들이 있어요. 가격도 비슷하고네 맞습니다. 그리고 엔비디아가 이번에 요걸 뽕을 뽑아 먹으려고 엄청 비싸게 팔아먹고 있거든요. 그러니까 이제 당분간 엔비디아 실적은 좋을 수밖에 없어요. 그래서 기술적인지 잘 몰라서 칩 하나가 만 달러 3만 달러 이랬는데 설마 칩 하나가 아니고 칩셋 아닙니까 서버 일반 그냥 우리 기존 서버 있잖아요.
거기에 한대 옆으로 넓적한게 cpu도 두 개 들어가고 기름 들어가고 SSD 들어가고 요게 7,500불 정도 하거든요. 보통 한데 그냥 요즘 데이터 센터에 쓰는게 요게 a100으로 그 구현한 서버 한 대가 12만 달러 정도 h100을 쓴 서버가 24만 달러가 넘어요. 그러니까 이제 프로세서가 있고 d램 덩어리가 있고 이제 SSD 랜드 플래시 덩어리가 있잖아요. 요게 이제 다들 들어가는데 딜램하고 ssd는 아주 다이너마이크하게 드러나진 않아요. 그러니까이 서버 한 대에 원가에 80%가 GPU 가격이에요. 그러니까 이런 실적이 나오는 겁니다.
지표를 여러대 방문으로 gpu를 병렬로 해서 이게 그 저기 엔비디아 MV 링크라는 그 자체 그 연결 기술이 있거든요. 그걸 통해서 gpu를 최대한 많이 받아서 쓰는 거고 사실 엔비디아가 좀 사악한 측면이 있어요. 어떤 부분이 있냐면 지금 그 트랜스포머 모델이라는 거는 그게 사실은 메모리를 최대한 많이 갖다 붙일수록 좋거든요. 근데 이제 지금 메모리를 굉장히 짠돌이었어요네 적겠습니다. 그게 h 고성능 메모리를 쓰니까 그런 것도 있는데 그게 40기가바이트하고 80gb 두 개거든요. 그러니까 그만큼 메모리가 필요 없어서 그만큼 쓰는게 아니라 얘들은 메모리를 많이 늘려서 확장을 시켜주면 GPU 성능이 체감이 안 되잖아요.
gpu로 니들의 AI 성능을 체감해 이런 거예요. 지금 40기가 80기가 GPU 규모 이거밖에 안 달아요. 지금 제가 이해가 안 돼서 어떻게 된 거예요. 보통 이제 SSD 스토리지가네네 아 그렇죠. 일반 서버는 그런 식으로 디램 박습니다. 근데 겨우 GPU 칩 하나에 보통 GPU 칩 하나에 요게 hpm이 기본으로 붙어서 여기 2.5t 구조로 되거든요요 세트로 나가는 거거든요. 요거를 그 서버 컴퓨터 한데 여러 개를 박는다는 거잖아요. hbm 모르시는 분들이 많아서 좀 설명해 주시면 그러니까 이제 프로세서라는게 GPU 잖아요. 지금 이야기하는게 ai라는 거는 굉장히 대량의 데이터를 동시다발적으로 연산을 해줘야 돼요 그럼 프로세스 성능이 엄청 좋아지겠죠.
그런데 이제 데이터를 불러오는 속도가 계속 이게 못 맞춰요 이게 병목이거든요. 아니면 GPU 성능이 올라갔으면 데이터도 쭉 빨아 당기는데 맞습니다. 데이터를 옮겨 줄 수 있는 양동이나이 파이프가 커야 된단 말이야 어떻게 보면 도로가 기존에 4차선밖에 안 되는 거예요. 그러니까 차가 막 들어와야 되는데 4차선밖에 안 되니까 요거를 한 120차선으로 늘려 놓은게 hbm이라고 생각하시면 됩니다. 구조가 어떻게 되길래 그렇게 크게 그러니까 d램에다가 tsv라는 실리콘 관 구멍을 뚫어요. 그래서 칩 12개를 아파트처럼 그러니까 데이터가 어디에 있든지 바로바로 아파트 엘리베이터 타고 바로 고속도로 타고 당겨 가는 거죠.
tsbs으로 이렇게 쌓아서 올려서 그냥 뭉탱이 d램을 만드는 hdm이고이 작업을 첫 번째 한게 하이닉스에요. 지금 sk하이닉스가 세계 hbm 시장에 한 70%를 장악하고 있어요. 뭐 시장조사업체는 50%라고 하긴 하는데 제가 업계 쪽에 체크를 해보니까 70% 정도라고 이야기를 하더라고요 개발이 제일 빨랐고 삼성전자는 한 1 2년 늦었죠. 삼성은 사실은 hbm 보다는 gddr 쪽으로 약간 그 초점을 맞추면서 기존 hbm 팀을 해체해 버렸어요. 그러면서요 사이에 sk하이닉스가 무식하게 열심히 했던 거죠. 근데 요게 엔비디아 쪽을 딱 잡으면서 대박이 터진 거고 그래서 지금 삼성은 엔비디아의대 그다음에 한국의 삼성전자도 처음에 얼마였더라 1조인가하고 또 투자하고 또 lg이노텍도 뛰어들었고 이랬어요.
그래서 근데 갑자기 올해 주문이 줄었어 서버 쪽에서 주문이 되니까 야 이거 공급가에 오는 거 아니야라고 했는데 요렇게 되면 파세가 달라지나요네 맞습니다. 근데 이제 뭐 아직까지 ai용 서버 시장이 전체 서버에서 차지하는 비중이 아직 5% 언덕이기 때문에 그런데 이게 앞으로 계속 성장할 수밖에 없죠네 그리고 이게 어떻게 보면 메모리 단에서 어떻게 보면 한국이 계속 혁신을 하고 있잖아요. 그러면 풀잎집 BJ 쪽에서도 우리나라 업체 비중을 좀 늘려가는 그리고 노력들을 할 수도 있습니다. 왜냐하면 편하잖아요. 불러서 한꺼번에 일괄 작업이 그렇죠.
기판이 이렇게 박아주고 하는 요거는 원스탑이 됩니다. 한 카페에서 가능한데 가려면 따로 가요 일본 업체들도 대응 잘 안 해주고 하니까 아직까지 뭐 기술 일본하고 이제 우리나라의 플립식 BJ 기술 격차는 엄청나긴 한데요 이제요 AI 쪽 시장만 놓고 보면 기회가 있을 수도 있다 갑작스러울 때 사실 우리나라는 어떻게 보면 기업들이 돌다리 안 두드리고 건너가는 경우도 많잖아요. 1번은 두드리겠는데 우리는 두드리고 있잖아요. 일본은 그렇죠네 토요타가 전기차 진입 안 하는 것도 그 이유 중에 하나다라고 보는데 어느 정도 실력 차이가 나길래 품질 차이가 난다고 보시면은 왜냐면 오랜 업력을 무시 못하는 거죠.
사실은 이제 프리츠 bj라는게 CPU 쪽이 제일 큰 시장이었잖아요네 그동안에는 그러니까 이제 인텔하고 열심히 이제 회원 업체들이 이제 일본 업체들인 거죠. 그러니까 이게 쇼티지가 나면서 그 기존에는 pc용 플립식 bj만 하던 삼성전기가 이제 서버 쪽으로 진출을 했고 그러면 또 PC 쪽이 또 공백이 생기잖아요. 이쪽을 메우기 위해서 우리 뭐 대덕전자라든지 뭐 코리아 서킷 이런 업체들이 조금씩 진출한 거죠. 지금 이렇게 얘기를 다 듣다 보면 그 gpu의 가격이 너무나 너무나 비싸기 때문에 엄청 눈탱이 치고 파는 거죠. 지금 예를 들어서 이거 서버 하나 훈련시키는 쉽게 얘기하면 한 군단 하나 만드는데 그럼이 gpu가 1000개가 필요하면 채찍 pt가 1만개가 들어갔습니다.
못합니다. 빅테크들이 해야 됩니다. 그렇죠. 이거는 돈이 돈이 아닌 친구들이 할 수 있는 거지 예를 들자면 다음 다음 카카오만 할 수는 있겠는데 다음이었다 그러면 예를 들자면 카카오톡 다음도 카카오입니다. 쉽지 않겠네요. 네이버는 할 겁니다. 네이버까지는 하게 네이버는 하이퍼 클로버를 할 거고 다음 카카오 쪽은 이제 카카오 쪽은 파운데이션 모델보다는 그냥 여기서 어플리케이션 서비스 개발하는 쪽에 초점을 맞추는 거 같습니다. 그래서 GPT pt를 그냥 api로 받아와서 개발하는 쪽으로 왜냐하면 이게 돈이 너무 많이 들어가지고 이거 웬만한 회사 중국 업체들이나 미국 업체들 엄청나게 지금 사용자가 많고 충분히 수익이 나오는 근데 사실은 구글 입장에서는 출시를 안 했던 이유는 이걸로 해서 추가로 먹을게 없다고 생각했기 때문에 그런 거 아니겠어요.
먹을게 없다기보다는 기존 사업을 훼손시키는 거죠. 그러니까요. 왜냐면 구글이 대부분 매출이 검색광고 시장에서 나오잖아요. 근데 채찍 pt는 딱 치면 바로 답이 나와 버리잖아 그러면 광고 붙일 데가 없잖아요. 기존에는 검색하면 광고 먼저 뜨고 밑에 검색이 나오잖아요. 그런데 이제 채찍 pt도 그게 안 되니까 그러니까 사실은 트랜스포머라는 원천 기술을 구글이 개발했는데도 불구하고 그동안 던져 놓고 있었고 오히려 오픈 ai가 이거를 대중화시켜 버린 거는 역사의 아이론인 거죠. 그런데 이제 뒤늦게 이제 이렇게 돼서 구글이 받으러 치고 그리고 속도가 사실은 그 정도는 늦지 않은 거죠.
두 달 만인가 반격이 된 거니까 늦진 않았는데 이렇게 되면 그 빅테크 업체들이 이걸로 뽑아 먹을 수 있는게 있을까 하는 생각도 좀 드는데 유료화가 된다면 모르겠습니다. 사실은 빅테크 업체들도 지금 그걸 걱정하는 때가 아니에요. 그러니까 플랫폼이라는 거는 그렇잖아요. 일단은 무조건 사람을 많이 모아야 돼요 일단 사람 많이 모아놓으면 여기서 뭐든 돈을 벌 수 있어요. 그런데 지금은 이게 기존에 검색하던 사람들이 이제 다 GPT 기반으로 오는 시점이 넘어가는 그러니까 여기서 사람을 못 모으면 망하는 거예요. 옛날에 포털 업체들도 처음에 검색광고를 생각하고 포트를 만드는게 아니거든요.
일단은 최대한 사람 많이 모아놓고 거기서 뭐 검색광고도 붙이고 쇼핑도 붙이고 뭐 여행도 붙이고 이런 식으로 한 거거든요. 이렇게 공짜로 해줘도 이거죠. 그럼 미국 같은 경우에는 뭐 워낙 자본시장이 잘 돼 있으니까 이렇게 해서 구조 한번 만들어 주면 잡으면 오죽하면 ibm이 7,500명 감원을 했는데요. 감원 노예 했니 그러니까 AI 투자하려고요라고 이야기를 했습니다.
Comments 0