원문 보기
네, 사람들이 제가 여기저기 많이 옮겨 다닌다고 생각하는 경우가 있는데, 저는 40년 동안 컴퓨터 설계 분야에서 일해왔기 때문에 여러 곳에서 일하는 게 어느 정도 자연스러운 일입니다. 애플에 합류했을 당시에는 아이폰을 막 만들기 시작하던 시기였고, 우리는 최고 성능의 아이폰을 만들고 싶었습니다. 평범한 휴대폰 칩에서 최고 성능의 칩으로 발전시키면서 대부분의 기술적 문제를 해결했습니다. AMD로 돌아갔을 때는 AMD에 적합한 설계팀이나 제품이 없다는 것이 분명했습니다. 그래서 저는 팀을 구성하고 설계 방법론을 정립하여 Zen을 개발했고, 이는 훌륭한 제품이 되었습니다.
그 프로젝트를 마친 후에는 또 다른 도전적인 일을 찾고 있었는데, 일론 머스크에게 자율주행 칩 개발에 대해 이야기했습니다. 정말 흥미로운 도전이었죠. 그래서 테슬라에 가서 18개월 만에 자동차를 운전할 수 있는 칩을 개발했고, 이는 세계 최고의 자율주행 칩이 되었습니다. 저는 혁신적인 측면과 팀을 구축하는 일을 좋아합니다. AMD는 정말 흥미로운 회사입니다. 훌륭한 그래픽 회사이고, 경영진이 이끌고 있죠. 훌륭한 CEO는 훌륭한 생각을 합니다. 엔비디아는 수년간 엔비디아 외부의 여러 기술에 투자해 왔습니다. AI가 CUDA에서 작동하기 시작한 것은 어느 날 우연히 성공한 것이 아니라 10년 동안 연구해 온 결과입니다.
막대한 투자가 필요했죠. 저는 비전 있는 리더십을 가진 기업을 정말 좋아합니다. 대기업은 거의 항상 어떤 일이 터지면 전성기를 맞이하죠. 엔비디아는 수년간 게임 개발 GPU 회사였지만, 이제는 AI 소프트웨어 스택 과 시스템까지 제공하며 수직 통합을 강화하고 있습니다. 이런 방식이 단기적으로는 효과적일 수 있지만, 안정적인 경우는 드뭅니다. 그래서 많은 기업들이 자체 AI 칩 개발에 막대한 투자를 하고 있습니다. 그중 일부는 성공하겠지만, 일부는 실패할 것입니다. 우선, GPU는 AI 소프트웨어를 구동하기에 최적의 플랫폼은 아닙니다.
일반 CPU보다는 낫지만, GPU는 원래 그래픽 처리를 위해 만들어졌습니다. 그래서 우리는 텐서 프로세서 기반의 AI 칩을 개발하기로 결정했습니다. 즉, 매우 빠른 연산 능력을 갖추게 된 것이죠. GPU 회사인 AMD는... 인텔과 엔비디아 모두 칩에 텐서 프로세서 유닛을 추가하고 있지만, 소프트웨어 모델은 여전히 GPU 소프트웨어에 의존하고 있습니다. 지금까지는 성공적이었지만, 저는 이것이 최선의 선택이라고 생각하지 않습니다. 그리고 그것이 바로 우리가 추구하는 방향입니다. 우리가 설계하는 방식은 채팅, GBT, LLM과 같은 기술을 활용하여 비행기표를 살 수 있는 웹사이트를 찾거나, 소울 마켓에 가는 가장 저렴한 항공권을 알아봐 주는 것과 같습니다.
10년 후에는 거의 모든 기기가 스마트해질 것입니다. 냉장고도 " 내 냉장고에 뭐가 있지?"라고 물어보고 이것저것 주문할 수 있게 될 것입니다. 그리고 언제쯤 " 내 삶이 바뀌었다"라고 말할 수 있을까요? 사람들은 항상 "엔비디아 와 어떻게 경쟁할 건가요?"라고 묻습니다. 엔비디아는 1조 5천억 달러 규모의 회사입니다. 그들은 수천억 달러에 달하는 고가의 AI 컴퓨터를 생산하고 있습니다. 하지만 우리의 목표는 그것이 아닙니다. 우리의 목표 시장은 수백 개의 AI 스타트업입니다. 소프트웨어와 하드웨어를 개발하는 스타트업들이 저렴한 비용으로 자체 제품을 만들고 싶어하며, 이러한 기술에 대한 더 개방적인 접근이 필요합니다.
그래서 RIS5 아키텍처가 탄생했습니다. 제가 아는 훌륭한 분인 데이비드 패터슨이 버클리 대학교에서 시작한 RIS5는 원래 대학생 프로젝트였지만, 여러 회사에서 "이거 정말 흥미롭네요. 우리도 직접 컴퓨터를 만들고 원하는 대로 수정할 수 있잖아요."라고 말하며 주목을 받았습니다. 그렇게 RIS5가 세상에 알려지게 되었고, 저희 10Store는 앞으로 10년 동안 컴퓨터가 크게 발전할 것이라고 생각합니다. 그래서 저희는 최고의 아이디어를 최대한 빠르게 구현한 컴퓨터를 만들고 싶습니다. 하지만 인텔 아키텍처는 라이선스를 받을 수 없고, ARM 아키텍처는 수정할 수 없기 때문에 그렇게 할 수 없습니다.
RIS5는 단기적으로 수정이 가능합니다. ARM 아키텍처와 소프트웨어는 매우 정교하지만, 인텔은 매우 비쌉니다. 따라서 당장 제품을 만들려면 인텔이 좋은 선택일 수 있습니다. 하지만 자신만의 제품을 소유하고, 시간이 지남에 따라 발전시키고, 아무도 가보지 못한 곳까지 나아가고 싶다면 RIS5가 유일한 선택입니다. RIS5는 유일하게 개방형 아키텍처이기 때문에 누구나 사용할 수 있습니다. 삼성은 장단점이 있죠. 저는 90년대에 삼성과 함께 알파 칩을 개발했는데, 삼성은 애플과 협력하면서 훌륭한 파트너 관계를 유지했습니다. 테슬라에서도 삼성과 함께 오토파일럿 칩을 개발했고, 인텔에 있을 때도 삼성에서 여러 칩을 제작했습니다.
제 개인적인 경험으로는 삼성 전체에 대해 말씀드릴 수는 없지만, 제가 삼성과 함께 진행했던 모든 프로젝트는 성공적이었습니다. 삼성은 성장 속도가 매우 빠르다가 정체기에 접어들거나 경영진이 바뀌기도 하죠. 제가 모든 세부 사항을 다 아는 건 아니지만, 어쨌든 삼성은 오랫동안 훌륭한 기업이었습니다. 저는 DMC와도 협력하고 있는데, 칩을 개발할 때마다 모든 구성 요소를 살펴보고 최적의 솔루션을 찾습니다. 차세대 칩 개발을 위해 많은 사람들과 이야기를 나누는데, 삼성이 가장 적합한 전체 패키지를 제시합니다. 저는 삼성과 함께 일하는 것을 좋아해서, 어떻게 하면 최고의 제품을 함께 만들 수 있을지 많은 시간을 들여 논의합니다.
삼성은... 정말 좋은 계획이네요. 삼성은 여전히 많은 제품을 만들고 있고, 말씀하신 것처럼 세계 최고의 DS를 만들고 있고, 최고의 카메라 센서도 만들고 있죠. 지금 몇몇 회사와 이야기를 나누고 있는데, 그들은 제게 문제 해결을 도와달라고 합니다. 그런데 그들은 문제가 AI에 있다고 주장하면서, AI가 아니라 조직의 설계 방식에 있다고 말합니다. 제가 외부에서 그 문제를 해결해 줄 수는 없습니다. 선도적인 기술에 접근할 수 있다면 구매하겠지만, 그렇지 않다면 후속 기술에 더 많은 투자를 해야 할 겁니다. 중국에는 훌륭한 엔지니어들이 많습니다.
저는 정치 분석가는 아니지만, 중국 기업들이 규제 때문에 AI 반도체 생산 장비에 훨씬 더 많은 투자를 했고, 좋은 성과를 내고 있다는 것을 알고 있습니다. 모르스의 법칙은 원래 트랜지스터 밀도가 18개월마다 두 배로 증가한다는 것이었는데, 2년 차에 속도가 느려졌고, 그 다음에는 컴퓨터 성능이 2~3년마다 두 배로 증가한다는 식으로 바뀌었죠. 여러 가지 이유로 한동안 속도가 느려졌 지만, 획기적인 발전이 있었습니다. 제가 이전에 발표했던 내용인데, 저는 이를 '연쇄적 수확 체감 곡선'이라고 불렀습니다. 즉, 하나의 곡선은 속도가 느려지지만, 발명이 이루어지면서 발전이 가능해지는 거죠.
여러분의 뇌는 초당 10¹⁸회 연산을 20와트의 전력으로 처리하는데, 이는 오늘날 최고의 GPU보다 훨씬 뛰어난 수치입니다. 전력 소모량 대비 성능은 현재 GPU와 비교했을 때 6배 정도 뒤처져 있습니다. 사람들은 저에게 "짐, 당신은 이해 못 해요. 저비용에 전력 소모 없이 원자를 순열화할 수는 없어요."라고 말했지만, 저는 "당신이 이미 이해했잖아요. 아무도 뇌와 같은 효율을 가진 컴퓨터를 만들 수는 없을 거예요. 모든 사람이 뇌를 가지고 있고, 더 이상한 건 우리 몸의 모든 세포에는 뇌의 복제본을 만들어내는 공장이 있다는 거죠."라고 대답했습니다.
우리는 기술적인 문제는 있지만, 가능성의 문제는 없습니다. 예를 들어, "음악" 분야에 관심이 있다면 칩 설계자가 되려면 무엇을 공부해야 할까요?"라고 물었을 때, 저는 항상 수학, 물리학, 프로그래밍, 공학 등을 떠올렸습니다. 기초를 탄탄히 다지고 책을 많이 읽으세요. 새로운 것을 만들거나 창의적인 일을 하고 싶다면 인생의 일부를 창의적인 활동에 투자해야 합니다. 좋은 영화를 보거나 정말 좋아하는 일을 하는 것도 좋지만, 기초는 오늘날의 세부적인 것보다 훨씬 중요합니다. 오늘날 모든 대학생들이 파이 토치(Pie Torch)를 공부하지만, 5년 후에는 파이 토치가 존재하지 않을 수도 있고, 10년 후에는 F가 등장할 수도 있습니다.
따라서 마음을 열고 폭 넓은 시각을 갖도록 훈련해야 합니다. 존( John)의 '과학 혁명의 구조(Structural of Scientific Revolution)'라는 좋은 책이 있는데, 어떻게 실질적인 변화를 만들어내는지에 대해 이야기합니다. 꽤 복잡한 주제인데도 불구하고, 평생 기술 변화에 몸담고 있는 엔지니어들 중 이 책을 읽은 사람은 많지 않습니다. 참 흥미로운 일이죠.







댓글 0