AMD의 Helios Rack은 실제 CPU의 장점과 아직 검증되지 않은 GPU의 성능을 결합한 제품입니다.

7월에 AMD는 마침내 그 제품을 공개했습니다. Helios는 AMD의 첫 번째 완성된 AI 시스템으로, 72개의 Instinct MI455X GPU, EPYC CPU들, 그리고 AMD 자체의 Pensando 네트워킹 장비를 하나의 더블 웨이브 랙에 통합시켜서 Nvidia의 Vera Rubin을 겨냥하여 개발된 것입니다.마이크로소프트, 메타, 오픈AI, 오라클 모두 참여했으며, AMD는 이 제품이 올해 출시될 예정이라고 밝혔습니다.이는 AMD가 가장 중요한 수준에서 취한 가장 공격적인 조치입니다. 현재 엔비디아는 칩으로 판매하는 것이 아니라, 전체적으로 판매하고 있습니다.

투자자들은 이미 이에 대한 보상을 받았습니다. AMD 주식의 가격은 현재 약 512달러이며, 지난 한 해 동안 약 140% 상승했고, 지난 6개월 동안은 약 155% 상승했습니다. 또한, 이러한 수치는 추후 수익을 기준으로 산출된 것입니다. 이런 상황이 실제로 성공적인 사업이 되기 위해서는 더 많은 투자가 필요합니다. 하지만 이러한 결과가 확실한 것은 아니며, 그 이유를 알아내는 것은 AMD의 AI 사업이 어떻게 구축되고 있는지를 알려주는 유용한 정보가 됩니다. 즉, 이미 성공적으로 자리잡은 CPU 사업과 아직 초기 단계에 있는 GPU 사업입니다.

CPU 부분은 이미 숫자로 표시되어 있습니다.

기사의 제목에 따르면, AI 에이전트들이 계획을 세우고, 도구를 호출하며, 데이터베이스를 조회하고, 코드를 실행하는 등의 작업을 수행함으로써 CPU 사용량을 증가시키고 있다고 합니다. 이는 측정 가능한 부분이므로 진지하게 받아들여야 합니다. 에이전트형 시스템은 제어 플레인에 집중된 작업입니다. 오케스트레이션, 라우팅, 메모리 관리, 도구 실행과 같은 작업들은 지연 시간에 민감한 작업이며, GPU는 이러한 작업을 잘 처리할 수 없습니다. 또한 이러한 작업은 엔지니어가 생성하는 각각의 서브-에이전트와 함께 증가합니다. AMD는 현재 서버 CPU 시장이…연간 35% 이상 성장하며, 2030년까지 1,200억 달러를 넘는 규모가 될 예정입니다.예상했던 18%의 성장률을 대략 두 배로 늘린 것입니다.

이 요구는 AMD의 주장만이 아닙니다. 독립적인 공급망 자료도 이를 뒷받침합니다. 대형 클라우드 기업들과 연구소들은 강화학습 환경을 위해 일반적인 x86 CPU가 부족한 상황에서 GPU를 열심히 구하려고 하고 있습니다.마이크로소프트의 “페어워터” 사이트에서는 295MW GPU 아키텍처를 기반으로 수만 개의 CPU가 탑재되어 있습니다.그 작품은 존재합니다.

중요한 숫자가 여기 있습니다:AMD는 이미 서버 CPU 매출의 약 46%를 차지하고 있습니다., 위에약 27%의 단위 부피이는 고가의 고급 코어를 판매하는 것이며, 하이퍼스케일 기업들이 지불하는 작업량에서 와트당 성능과 달러당 성능을 기준으로 이익을 얻고 있습니다. 에이전트형 CPU 사업은 실제로 수익성이 있으며, 이미 재무제표에도 반영되어 있습니다. 매출은 전년 대비 약 40% 증가했으며, 그 중 대부분은 데이터 센터에서 발생했습니다.

하지만 그 점유율을 얻은 방법에 대해서는 솔직해야 합니다. 그 중 상당 부분은 그라비톤 패턴 때문입니다. 즉, 경쟁자가 공간으로 사라지는 것입니다. 서버 CPU의 성능 향상은 순전히 AMD의 성과로 볼 수 있으며, 인텔의 실패도 크게 기여했습니다. 하지만 만약 경쟁자의 실패도 일부 책임이 있다고 주장한다면, 그 차이는 사라집니다.

랙이야말로 베팅이 이루어지는 곳이다.

헬리오스는 다른 종류의 제품입니다. 이 제품은 AMD가 만든 첫 번째 완전한 오픈스탠다드 형태의 랙입니다. Nvidia의 독자적인 NVLink 및 InfiniBand 대신 UALink와 Ethernet을 사용합니다. 또한, 이 랙의 경제성에 대해서는 논란이 있습니다. AMD는 이 랙을 인식 처리 시 저비용으로 판매하며, HBM4 메모리 용량이 31TB라는 점을 활용하고 있습니다. 하지만 분석가들은 이 랙의 비용이 Nvidia의 Vera Rubin보다 더 높다고 추정합니다.5–5.5백만 달러 대 3.5–4백만 달러이는 “더 저렴한 하드웨어”라는 이야기를 “달러당 더 많은 메모리”로 바꾸는 것입니다. 이는 오직 추론 작업에 실제로 필요한 경우에만 성립되는 주장입니다.

그리고 엔지니어링적인 검토 결과, 그 ‘bull case’는 불편한 상황이 되고 있습니다. 실리콘에 가장 가까이 있는 독립적인 전문가들 – 바로 Nvidia의 CUDA 기술을 ‘장벽’이라고 말하는 회사들입니다 –은 AMD가 그 장벽을 깨는 가능성을 “매우 높다”로 평가했지만, 그러려면 몇 가지 조건이 필요합니다. MI455X는 2nm 클래스의 데이터센터 칩으로, 서류상으로는 Nvidia의 Rubin보다 더 빠릅니다. 문제는 그 성능 향상 과정입니다.약한 SerDes 설계는, 각 랙당 550개 이상의 리트머를 사용하여 수정된 것으로 알려져 있습니다.엔비디아가 이미 포기한 비행기용 케이블 연결 방식도 있고, ROCm 소프트웨어 스택의 내부 테스트 인프라도 여전히 불안정합니다. 이런 것들이 바로 1세대 시스템의 문제점들입니다.

두 배로 증가한 주식이 실제로 무엇을 가치 있게 만드는지

두 부분의 무게를 재보니, 결론은 불쾌하지만 명확합니다. AMD는 수익성 있고 성공적인 CPU 엔진을 활용하여 인텔의 쇠퇴와 더불어 엔비디아의 강점을 공격할 수 있는 기반을 마련했습니다. CPU 부분은 이미 실제로 작동하고 있으며, 시장은 주로 GPU 부분에 관심을 갖고 있습니다. 하지만 GPU 부분에서는 여전히 증거가 부족합니다. 즉, 1세대 랙 시스템, 아직 확실하지 않은 소프트웨어적 장벽 등이 그 문제입니다.HBM의 공급량은 여전히 경쟁자들에게 집중되어 있습니다..

그것은 달성 가능한 결과입니다. AMD의 실리콘 기술과 고객 목록도 이러한 성과를 이루는 데 기여한 점이 있습니다. 이는 미래의 일이 아니며, 시장은 그 차이를 알려주는 것에 대해 보상을 해주지 않습니다. 두 배로 증가한 지분은 헬리오스가 정시에 출하되고, 리테이너 문제도 해결된다는 것을 의미합니다. 또한 베라 루빈보다 더 좋은 성능을 보입니다. 두 엔진을 구분해보세요: 약 46%의 CPU 지분은 실제로 존재하는 것이며, 랙 규모의 GPU 지분은 성공을 기대하며 판매되는 투자입니다. CPU 측면은 얻은 성과라고 간주해야 합니다. 헬리오스는 아직 성과를 거두지 못한 작업이라고 생각해야 합니다.