엔비디아와 브로드컴: 지속 가능한 두 개의 AI 인프라 기업

5개의 가장 큰 클라우드 서비스 제공업체들은 어느 정도의 양을 공급할 예정입니다.올해 AI 인프라에 6600억 달러에서 6900억 달러가 투자될 예정으로, 이는 2025년 수준의 거의 두 배에 해당합니다.그러한 유량 때문에 GPU 공급업체부터 케이블 트레이 제조업체에 이르기까지 모든 기업에 “AI 인프라”라는 라벨이 붙게 됩니다. 하지만 돈은 모두 한쪽으로 흘러가는 것이 아닙니다. 여러 가지 구조적으로 다른 사업들이 존재하기 때문에, 같은 기준으로 그들을 평가하는 것은 소비자 투자자들이 허위 정보에 돈을 지불하는 결과를 초래합니다.

그들을 구분하는 빠른 방법이 있습니다. 누가 가장 좋은 사양서를 제공하는지가 아니라, 토큰당 비용을 책임지는 사람이 누구인지를 물어보는 것입니다. 즉, 모델을 대규모로 실제로 사용할 때의 비용을 책임지는 사람입니다. 이 한 가지 질문만으로도, 투자할 가치가 있는 회사와 모두가 언급하는 회사를 구분할 수 있습니다.

구축의 중심에 있는 타협점

데이터 센터 규모에서는, AI 작업에 부과되는 제약 요소는 거의 ‘피크 테라플롭스’ 수준이 아닙니다. 중요한 것은, 1달러의 자본과 1와트의 전력으로 얼마나 많은 토큰을 처리할 수 있는가 하는 것입니다. 그리고 대량의 데이터를 처리하는 경우에는 메모리 대역폭과 활용 효율이 결정적인 요소가 됩니다. 이것이 바로 시장의 구조를 설명하는 경제적 요소입니다.

엔비디아는 일반적인 해결책을 제시합니다. 즉, 거의 모든 모델을 실행할 수 있는 소프트웨어 생태계로 구성된 하나의 GPU 플랫폼입니다. 너무 큰 규모의 기업이라면, 자신만의 특정 작업에 맞춰 설계된 칩을 구입하여 더 많은 토큰을 얻을 수 있습니다. 하지만 그건 단지 설계 비용을 상쇄할 만큼 규모가 크기 때문입니다. 그것이 바로 맞춤형 반도체 제품입니다.엔비디아의 지배력을 위협하는 가장 큰 구조적 위협이며, 이는 AMD보다 더 크다.두 방법 모두 수익성이 있을 수 있습니다. 단지 마진과 위험도가 다르다는 것뿐입니다.

마진을 유지하는 플랫폼

엔비디아는 여전히 받고 있습니다.AI 가속기 시장에서 지불되는 돈의 5분의 4 정도가그의 진정한 강점은 GPU 칩 자체가 아니라, 그 주변에 존재하는 소프트웨어와 상호연동 시스템입니다. 독립적인 분석 결과에 따르면, 엔비디아의 소프트웨어 체계의 효율성은 약 93%에 달하는 반면, 경쟁사들의 소프트웨어는 약 80~85%에 불과합니다. 이러한 차이점만으로도 그 가치는 최고급 제품의 가치를 넘어선다고 할 수 있습니다.

그 ‘보루’ 효과는 재무제표에서도 나타납니다. 넵게이니아는 매출의 약 47%를 자유 현금흐름으로 전환하고 있으며, 총마진은 약 74%에 달합니다. 또한 매출도 연간 80% 이상의 성장률로 증가하고 있습니다. 게다가 현재 주가는 역사적 이익액 대비 27배 수준입니다. 이러한 소프트웨어적 우위와 높은 전환 효율성을 갖춘 회사는 이렇게 빠르게 성장하는 기업에게서는 드물게 나타나는 현상입니다.

현재의 실행 증명 방식은 Vera Rubin 플랫폼입니다. 엔비디아는 이 플랫폼이 과거보다 가장 빠른 속도로 성능을 발휘할 것이라고 말합니다.한 분기 동안 약 200억 달러의 데이터 센터 수익을 창출했으며, 이는 해당 부문 전체 매출의 약 5분의 1에 해당합니다., 함께각각 5백만 달러에서 7천8백만 달러 사이의 가격에 판매되는 랙스케일 시스템들입니다.CFO가 “이 제품의 성장 속도가 회사 역사상 어느 것보다 빠르다”고 말한다면, 그 주장은 검증해볼 가치가 있지만, 그냥 믿어버리지는 말아야 합니다. 하지만 구매 주문서는 이미 모든 주요 구매자들에게 발송되었고, 첫 번째 제품들도 배송 중입니다. 현재로서는 그 이야기가 사실처럼 보입니다.

3배로 증가한 전통적인 백본

브로드컴은 또 다른 기업입니다. 브로드컴은 넥스트루크와 일반용 GPU 분야에서 경쟁하지 않습니다. 브로드컴은 하이퍼스케일 기업들이 자체적으로 사용하기 위한 맞춤형 칩을 제작합니다. 또한, 그러한 칩들을 연결하는 네트워킹 시스템도 개발합니다.AI 반도체 부문의 매출은 7월에 끝난 분기에 163억 달러로 세 배 이상 증가했습니다.그리고 그의 특수 가속기들은 이제 약…총 회사 수익의 40%고객 목록 –구글, 메타, 오픈AI, 안토피크— 이는 AI 개발자들의 명단입니다.

이것이 바로 TCO 논거의 실제적인 모습입니다. 이러한 기업들은 넵실바의 이익을 무시할 만큼 큰 규모가 되어서, 단순한 설계 비용을 대신해 대규모에서의 수익을 얻고 있습니다. 브로드컴은 그들의 무기 공급업체이며, 넵실바가 판매하는 것과 거의 같은 수익률을 기록합니다. 약 43%의 순현금 흐름 마진을 기록하지만, 수익 대비 마진 비율은 45배나 높습니다.

문제는 집중의 반대면입니다. 권력이 소수 구매자들의 손에 있다면, 뉴스도 그들에 의해 결정됩니다. 구글이 경쟁사인 마벨과 맞춤형 칩 거래를 체결했을 때, 브로드컴은 약 5% 하락했습니다.이 허가로 인해 구글은 2033년까지 약 120억 달러 상당의 마벨 주식을 구매할 수 있게 됩니다.— 충성스러운 고객조차도 다른 공급업체를 원하는 경우가 있습니다. 그러니까 자신의 공급업체도 마찬가지입니다.분기별 전망이 불명확하며, 이번 분기에 분석가들의 기대치와는 다름몇억 달러에 해당하는 금액이 투입되면서, 주식 가격은 추가로 5% 하락했습니다. 이렇게 빠른 성장은 반드시 지속될 것이라는 보장은 없습니다.

가장 유명한 이름도 같은 테스트를 통과하지 못한다.

그렇다면 ‘소매업계에 대한 평가’라는 이름은 계속해서 사용된다. AMD는 올해 130% 이상 상승했다. 사양표를 보면 정말 치열한 경쟁자처럼 보인다.MI350X는 Nvidia의 B200과 동일한 FP8 컴퓨팅 성능을 가지고 있으며, 더 많은 메모리를 제공합니다.이것이 바로 저렴한 추론 방법의 비법입니다.

하지만 실제 상황은 논문에서 제시된 내용보다 뒤처져 있습니다. 독립적인 테스트 결과에 따르면 AMD 칩이 그렇지 않습니다.지속적인 부하 상황에서는 클록 속도를 엄격하게 제한하며, ROCm 소프트웨어 스택은 Nvidia의 효율성의 80–85%만을 사용합니다. 그 결과 실제 환경에서의 학습 성능과 관련된 격차는 10–25%에 달합니다.스펙시트와 비교했을 때도, 메모리方面的 이점 덕분에 AMD는 여전히 유리한 위치에 있습니다.인출 시 각 토큰에 대한 경쟁적인 비용실제로 이는 좋은 매력적인 상품입니다. 문제는 시장이 이 제품에 얼마나 많은 가격을 부과하는가 하는 것입니다. 대략적으로는 순이익의 129배에 해당하는 가격입니다. 반면, 수익률은 23%이며, 자본수익률은 8%입니다. 이러한 가격은 현재까지는 수익률이나 실행력으로는 충분히 보장되지 않는 변화를 위한 비용입니다.

톨렛별 테스트에 관한 내용은 이렇습니다. Nvidia는 일반적인 칩을 효율적으로 사용할 수 있는 소프트웨어를 보유하고 있기 때문에 이 테스트를 통과합니다. 반면 Broadcom은 하이퍼스케일 기업들이 자체 서비스 비용을 통제하기 위한 방법으로 이 테스트를 통과합니다. 또한 Broadcom은 AI 관련 수익을 세 배로 늘려서 시장의 실제 수요가 있다는 것을 증명했습니다. AMD는 오직 인식 단계에서만 이 테스트를 통과했으며, 그 가격은 거의 성공적일 것이라는 전제하에 책정된 것입니다. 그래서 세 회사 중에서 가장 설득력이 떨어지는 회사입니다.

그 구조는 실제로 존재합니다. 문제는 그 구조를 유지하기 위해 얼마나 많은 비용을 지불해야 하는가입니다. 저렴한 가격에 그 구조를 소유하든, 맞춤형 실리콘 기반을 소유하고 그로 인해 발생하는 수십억 달러의 매출을 감수하든, 둘 다 방어 가능합니다. 하지만 가장 낮은 이익률을 가진 제품에 가장 높은 비용을 지불하는 것은 가장 위험한 선택입니다.