원문 보기
AMD는 무엇을 했는가 절대 안 그랬어 더 일찍. 그들 단순히 출시된 것이 아닙니다. 또 다른 그래픽 프로세서. 그들 우리에게 모든 것을 보여주었다 AI의 약자. 72 그래픽 프로세서, 자체 중앙 프로세서, 자체 네트워크—이 모든 것 단일로 생성됨 잘 정돈된 기계. 사람들은 그녀를 헬리오스라고 부릅니다. . 그리고 이 이야기는 다음과 같이 되었습니다. 더욱 흥미로운 점은, 왜냐하면 OpenAI가 Helios를 인수했습니다. 동시에 자신만의 것을 개발하기 AI 칩. 저것 이 질문에 답해 주세요. 이해해야 합니다. 랙이란 무엇인가요? 시스템과 그 이유 연결 그래픽 프로세서는 그보다 못하지 않다 자기 자신보다 더 중요한 것 작은 조각.
시작하겠습니다. 그래픽 프로세서 극도로 한 가지 면에서 효과적입니다 업무 유형: 엄청난 공연을 펼치다 수량 매우 정확한 병렬 작업. 이것이 바로 인공지능에 필요합니다. 하지만 칩 하나 충분하지 않다 고급 훈련 모델 또는 서비스 큰 버전 수백만 사용자 동시에. 고급의 모델—간단합니다 가장 큰 그리고 가장 강력한 AI- 시스템 오늘날 만들어지고 있습니다 . GPT와 같은 모델들, 쌍둥이자리와 클로드. 그들 셀 수 있습니다 수천억 매개변수 및 모든 것의 배치 이것과 함께 작업 기억 실행 시간 많은 것이 필요하다 가지고 있는 공간보다 더 많은 공간이 있습니다.
GPU 1개. 그러므로, 이들은 작업 부하 다음과 같이 분배됩니다. 많은 그래픽 프로세서. 때때로 수십 명, 때로는 수천. 하지만 분열 일은 새로운 것을 창조한다 문제. 이로써 프로세서는 지속적으로 필요 교환 모델의 일부와 중간 결과. 만약에 이 교환은 느립니다. 가장 빠른 GPU조차도 더 많은 시간을 보낸다 기다리는 것보다 더 기다리는 것 계산. 그게 다입니다. 그리고 문제는 이 제품은 문제를 해결하기 위해 설계되었습니다. 랙 시스템. 그녀 그래픽과 결합 중앙 프로세서 메모리 및 네트워크 하나의 솔루션 체계. 연결 그래픽 사이 프로세서가 상당히 평소보다 더 빠르게 센터 네트워크 데이터 처리.
하지만 아직 보다 느린 그래픽 읽기 자체 프로세서 메모리. 엔비디아 이것을 만났습니다 많은 문제들 몇 년 전, 그리고 그녀는 해결책은 다음과 같았습니다. 그들 중 한 명 가장 큰 장점. 엔비디아의 답변 NVLink라고 불립니다. 직접 고속 프로세서. 추가하다 NV 스위치 및 NVLink는 다음과 같은 기능을 제공할 수 있습니다. 72개의 그래픽을 결합하세요 하나의 프로세서 밀접하게 관련된 그룹 . 이제 그래픽으로 프로세서는 되지 않습니다 말 그대로 하나 칩이 아니라 소프트웨어입니다. 제공은 가능합니다 분배하다 하중 사이 그들에게 의존하지 않고 일반 네트워크에 연결 모든 단계.
정확히 이것은 엔비디아 랙에 전원을 공급합니다. NVL72. 그리고 이것은 중요한 의미를 지닙니다. 엔비디아의 강점 중 하나입니다. 쉽지 않아요. 그래픽 프로세서. 엔비디아가 GPU를 제어합니다. 상호 연결, 스위치, CUDA 및 소프트웨어 수준에서, 이미 거의 건설 중인 모든 AI 팀. 엔비디아 또한 제공합니다 연결하는 네트워크 선반 하나와 다른 선반을 나란히 놓는다. 엔비디아를 선택하시면, 더 많이 얻게 됩니다 복합 시설의 일부 통합 작업 이미 준비되었습니다. 이게 전부입니다. 현재 시스템 끊으려고 노력 중 AMD의 도전 과제.
헬리오스는 첫 번째 참조 AMD 디자인 랙 시스템. 여기 표준이 존재하는 이유는 무엇인가요? 값. AMD는 판매하지 않습니다. 당신은 확고한 방향성을 가지고 있습니다. 슈퍼마이크로와 같은 파트너 그리고 HP는 시스템을 구축합니다. AMD 도면에 따르면. 그리고 이 그림들 ~을 기반으로 합니다 개방형 표준 AMD라는 사실 때문이 아니라 각각을 소유합니다 요소. 시작합시다 계산 결과입니다. 하나 헬리오스 랙은 72개를 보관할 수 있습니다. 새로운 그래픽 AMD 인스팅트 MI250X 프로세서. 각각 HBM4를 가지고 있습니다. 새로운 세대 높은 메모리 대역폭 근처에 위치한 그래픽 포함 프로세서용 빠른 접근 데이터.
일반적으로, 이것은 랙에 대략적인 정보를 제공합니다. 31테라바이트의 메모리. 이는 약 50%입니다. 제공하는 것보다 더 많은 것을 엔비디아의 미래 시스템 베라 루빈이 한 명입니다. 이것이 중요한 이유는 무엇일까요? 대부분 모델은 보관할 수 있습니다. 한 선반에 놓고, 그 다음 더 적은 데이터가 필요합니다 서로 이동하기 위해 선반. 그리고 전송 랙 간 데이터 일어나고 있다 더 느리게. 이 72개는 어떤가요? 서로 소통하다 당신 자신? AMD UALink를 사용합니다. NVLink의 오픈 소스 버전, 그리고 별도의 표준 연결이 생성되었습니다 산업 그룹 같은 문제를 해결하기 위해 문제점들.
빠른 데이터 이동 가속기 사이 하나 안에 선반. 송금용 기둥 사이 작업이 바뀝니다. 그리고 바로 이곳에서 도움의 손길이 오고 있습니다 AMD 네트워크 솔루션 생각. 그것 이더넷을 사용합니다 울트라 이더넷 지원 - 산업 주도 이는 성능을 향상시킵니다. 대규모 AI를 위한 이더넷 클러스터. 이내에 랙은 다음과 같은 위치에 있습니다. 소형 서버 트레이. 각 트레이 네 가지를 결합합니다 새로운 것 중 하나 AMD EPYC 프로세서, 코드명 베니스. 프로세서가 실행됩니다 호스트 역할. 그가 책임자입니다. 메모리, 저장 장치, 네트워크 및 스트림 필요한 데이터 로딩 중 .
AMD는 할 수 없을 것이다 그러한 것을 구축하기 위해 스탠드 전용 그래픽을 사용하여 프로세서. 필요함 네트워크로 연결되었습니다 솔루션, 통합 랙 및 소프트웨어 소프트웨어. 그리고 회사는 지출했다 수년간, 구매 솔루션 세 가지 모두에 대해 지도. 생각, 2022년에 구입함 네트워크 칩을 제공했습니다. 지금 서 있는 것들 각 헬리오스 트레이. 지트 2025년에 인수될 시스템 1년, 경험을 가져왔습니다 디자인 및 완성 완전한 서버 랙용 가장 큰 구름 전 세계 기업들. 더 작은 인수, 다음을 포함함 not.ai와 Mipsology가 추가되었습니다.
AI 소프트웨어 전문가 AMD는 계속해서 ROCm 개선— CUDA의 대안 엔비디아에서 오픈 소스로 제공됩니다. 암호. 이것은 소프트웨어입니다. 가장 어려운 것이 되기 위해 전체의 일부 전략. CUDA는 다음과 같은 특징을 가지고 있습니다. 10년의 우위 그리고 대부분의 AI- 이미 팀들이 그들 스스로 지었다 도구들 그녀의. 그 랙은 다음과 같은 것을 가질 수 있습니다. 훌륭한 하드웨어지만, 만약 진다면 근로자 이동 그 위에 많은 것들이 있습니다 몇 달이 걸립니다 추가 엔지니어링 . 랙 제작 절반밖에 되지 않았습니다. 사무. 더 복잡함 그 질문은 항상… 그가 그녀를 믿을지 여부 실생활 속의 누군가 생산.
마이크로소프트 방금 확인했습니다. 향후 Azure 서비스 사용할 것입니다 헬리오스, AI 출시 예정 모델 산업 규모. 오라클 이전 이미 채용됨 헬리오스의 약속 . 마이크로소프트의 동의는 특히 Azure가 중요하기 때문에 일부를 제공합니다 가장 까다로운 AI- 짐을 실으세요 행성. 쉽지 않아요. 그래픽 구매 프로세서. 그런 헬리오스와 같은 시스템, 영향을 미칩니다 에너지 소비량, 냉각, 네트워크 그리고 모든 데이터에 포함된 소프트웨어- 센터. 마이크로소프트는 준비됐습니다 중심으로 구축하다 인프라 이건 심각한 문제입니다 AMD에 대한 인정.
그리고 이것은 그 이유를 보여줍니다 실제로 경쟁합니다 헬리오스. 게다가, 더 많은 것이 있습니다. 한 회사가 헬리오스가 역사를 만들다 더 흥미로운 건 OpenAI입니다. 오픈아이 이미 큰 계약을 맺었습니다. AMD와 함께. 회사 계획 최대 6GW까지 배치 가능 AMD. 하지만 문제는 이겁니다. 가장 흥미로운 것. 오픈아이 또한 생성합니다 자체 칩. 그 하바네로라고 불리는 개발되었습니다 브로드컴과 함께. 왜 OpenAI는 자체 칩을 개발 중입니다. 계속 구매 AMD와 엔비디아의 GPU요? 이렇게 하려면 이해하려면, 당신은 알아야 합니다.
두 가지를 나누다 우리가 흔히 함께 묶는 것들 "AI 컴퓨팅"처럼. 학습 및 결론 (추론). 가르침- 이때 우리는 곧장 우리는 모델을 만듭니다. 너 당신은 엄청난 양의 작업을 처리합니다 데이터 용량 및 다시 그리고 다시 업데이트하세요 수십억 개의 매개변수. 이를 위해서는 다음이 필요합니다. 거대한 계산적인 전력, 메모리 및 초고속 연결 GPU 간. 추론 이미 일어나고 있다 방과후 모델들. 보내고 계십니다 ChatGPT에 대한 요청, 모델 토큰을 생성합니다. 지금 매우 위급한 상황 중요해지다 지연, 처리량 능력과 에너지 효율. 그리고 특히 하바네로 ~을 위해 설계되었습니다 이러한 추론- 짐.
오픈아이 그것은 단지 그것이 아니라고 말합니다. 칩을 개발했고, 그 후 건설되었습니다 그 주변에는 서버가 있습니다. 그들은 칩을 설계했습니다. 메모리, 네트워크 및 소프트웨어 하나의 전체로서, 그 일을 고려해 볼 때 주요 언어 모델들. OpenAI는 이미 첫 번째를 출판했습니다 시험 결과 하바네로를 위해. 그들 자신의 이것들은 시험입니다 최고라고 보고되었습니다 킬로와트당 이하 지연은 다음과 같습니다. 상용 시스템. 하지만 이것이 결과입니다 OpenAI 자체이기 때문에 저는 그러지 않겠습니다. 이 증거를 고려했습니다. 그 하바네로는 갑자기 엔비디아를 대체할 것입니다.
그 자체 OpenAI도 그렇게 생각하지 않습니다. 그들은 그렇게 말합니다 계속될 것입니다 구현하기 위해 엔비디아 가속기 그리고 다른 파트너들. 동시에 그들은 AMD 제품을 구매하세요. 그리고 다음과 같은 작업의 경우 중요한 심층 하드웨어 및 소프트웨어 제공, 그들은 그들만의 것을 만들다 규소. 그러므로, 유일한 "승자" 모든 AI를 위한 칩 그렇지 않을 수도 있습니다. 그 회사는 할 수 있다 하나를 사용하세요 학습 시스템 모델들, 또 다른 하나는 높은 처리량 전문적인—거기, 지연이 중요한 경우 또는 그리고 이것이 우리를 다시 그 주제로 돌아가게 합니다.
그것이 실제로 무엇인지에 대하여 헬리오스는 경쟁에 참여합니다. 그 자신 그래픽 프로세서— 이것은 단지 일부일 뿐입니다. 시스템. 칩의 방식 연결됨 랙, 메모리, 네트워크 연결, 소프트웨어는 다 똑같다. 칩 자체만큼 중요합니다. 엔비디아가 만들었습니다 긴밀하게 통합됨 그것이 있는 시스템 다수를 통제합니다 핵심 레벨. 그것 그녀가 바빠지도록 도왔다. 지배적인 위치 AI 인프라 분야에서. AMD의 헬리오스에 대한 투자 그것은 충분하다면 산업의 일부 우리는 ~을 중심으로 뭉칠 것이다 NVLink를 다음으로 대체합니다. 표준 이더넷, 그리고 ROCm에서 CUDA를 사용하는 것의 이점은 다음과 같습니다.
극복하기가 더 쉬울 것입니다. 헬리오스는 AMD를 의미하지 않습니다. 엔비디아를 따라잡았지만 이는 엔비디아가 드디어 나타났다 강력한 경쟁자 선반 높이에서, 그리고 마이크로소프트는 준비됐습니다 구현하다 생산. 헬리오스는 그렇지 않습니다 AMD를 의미합니다. 엔비디아가 따라잡았고, 헬프가 도와줬습니다. 대안이 있습니다. AMD 같은 수준에서 경쟁합니다 선반. 흐린 제공업체가 생성합니다 자체 가속기, 그리고 OpenAI는 현재 설계 중입니다. 장비 특히 자사 직원 짐. 엔비디아에서 여전히 가장 강하다 생태계이지만, AI 인프라 점점 작아지기 시작합니다 ~처럼 보이다 GPU 하나로 모든 것을 정복하세요.
그리고 점점 더—처럼 서로 다른 시스템 다양한 어려움을 극복하다 일. 만약 당신이 더 깊이 알고 싶으세요? 몰입하는 방법 UALink 및 UltraEthernet "내부 작동 중" 댓글을 남겨주세요. 잊지 마세요 좋다, 공유하고 가입하세요. 당신의 지속적인 지원 나를 도와줘 영상을 만드세요. 시청해 주셔서 감사합니다. 다음에 만나요 다음 영상.
댓글 0