엔비디아는 다음으로 중요한 전투가 칩이 아닌 모델에서 벌어질 것이라고 129억 달러를 투자했다.

9월 3일, 엔비디아는 동의했습니다.12.93억 달러에 Hugging Face를 구입하기.

그것은 칩 회사의 주요 사업이 아닙니다. Hugging Face는 실리콘을 생산하지 않습니다. 이곳은 1,800만 명 이상의 개발자, 연구자, 스타트업들이 오픈 AI 모델을 공유하고, 발견하며 다운로드하는 곳입니다. 즉, 어떤 모델을 사용할지 결정하기 전에 어떤 칩을 구매할지 결정하는 곳입니다. 엔비디아는 약 세 배나 많은 금액을 지불했습니다.2023년에 그 스타트업의 가치는 45억 달러였습니다.역대 최고의 분기 성과를 달성했으며, Hugging Face는 “계속해서 운영될 것”이며, 플랫폼을 사용하기 위해 자체 칩이 필요하지 않다고 명시했습니다.

그 긴장감을 유지해라. 세계에서 가장 빠른 AI 가속기 제품을 판매하는 회사는, 고객들을 자신의 하드웨어에 묶어두는 CUDA 소프트웨어를 제공한다. 그런데 그 회사는 중립적인 마켓플레이스를 구입하여, 개발자들이 각자의 모델을 비교할 수 있도록 했으며, 누구도 자신의 하드웨어에 묶이지 않도록 했다. 이는 이상한 행동이다. 이를 이해하려면 Nvidia의 경쟁력이 어디서 약점이 있는지를 알아야 한다. 그리고 그 해답은 칩 자체에는 없다.

훈련이 그 방어벽을 만들었어요. 추론이 그 방어벽을 시험할 거예요.

2년 동안 이 상황은 간단했습니다. AI 모델을 훈련시키는 작업은, 처음부터 새로 만들어지는 방대한 양의 컴퓨팅 작업이었으며, 이 작업은 거의 전부 엔비디아의 GPU를 사용해 진행됩니다. CUDA라는 소프트웨어 계층 덕분에, 거의 아무도 그 작업에서 벗어날 수 없습니다. 바로 이런 훈련 관련 장벽이 있기 때문에 지난 분기는 정말 혼란스러웠습니다.7월 말까지의 분기 동안 962억 달러의 수익이 발생했습니다.전년 대비 106% 증가했으며, 그 중 890억 달러는 데이터 센터에서 발생한 수익입니다. 이때의 총 마진율은 75%였습니다. 에퀴티 컨퍼런스에서 젠슨 황은 “AI는 전환점에 도달했다”고 말했습니다. 회사는 다음 분기에는 1080억 달러의 수익을 기대하고 있습니다. 물론, 중국에서의 데이터 센터 관련 수익이 없다는 전제 하에서입니다.

하지만 앞으로 몇 년을 결정할 수 있는 단계는 훈련이 아닙니다. 그건 인식 과정입니다. 완성된 모델을 사용해 질문에 답하거나, 몇 개의 문장을 생성하거나, 에이전트를 통해 작업을 처리하는 것이죠. 인식 과정에서야 비로소 돈이 발생합니다. 왜냐하면 이 과정은 하루에 수백만 번 일어나며, 엄청난 규모로 일어나기 때문입니다. 그리고 이 과정에서는 “토큰당 비용”이라는 수치가 가장 중요합니다. 또한 인식 과정에서는 CUDA의 장점이 가장 약한 부분이기도 합니다. 왜냐하면 이 과정에서는 지연 시간, 효율성, 와트당 비용이 순수한 성능보다 더 중요하게 고려되기 때문입니다. 바로 이것이 구글, 아마존 등에서 개발한 맞춤형 칩들이 오랫동안 성공할 수 있는 이유입니다.

그래서 Nvidia가 다음 세대 제품인 Vera Rubin을 발표했을 때, 그 제품명은 바로 그 숫자였습니다.각 토큰에 대한 추론 비용을 10배까지 줄일 수 있습니다.현재의 블래크웰 세대와 비교했을 때, 그리고 현재 선호되는 “전문가들의 조합” 모델을 훈련시키는 데 필요한 GPU 수는 4분의 1에 불과합니다. 이는 엔비디아가 주장하는 내용이며, 독립적인 평가 결과는 아닙니다. 하지만 초기 데이터 중 하나는 고객의 의견인데, 보도자료가 아닙니다. 코어위브는 루빈 장비를 사용하는 최초의 회사 중 하나로, 첫 번째 성능 측정 결과를 공개했습니다.메가와트당 10배 더 많은 토큰블랙웰보다 더 낮습니다. 이 베팅의 내용은, 루빈이 올해 하반기에 제품을 출시할 때, “가장 저렴한 토큰”이 아니라 “가장 빠른 칩”이 시장에서 가격이 책정될 숫자가 될 것이라는 것입니다.

12.9십억 달러가 실제로 무엇을 구매할 수 있을까?

이곳에서부터 Hugging Face의 모습은 단순한 로고 구매로 보이지 않게 됩니다. Hugging Face는 개방형 모델 생태계의 중심지입니다. 300만 개의 모델, 50만 개의 데이터셋, 그리고 20만 개 이상의 회사들이 여기서 인공지능을 개발하고 활용합니다. 그리고 엔비디아는 이미 개방형 모델을 제공하는 가장 큰 기여자입니다. 개발자들이 모델을 평가하고 배포할 수 있는 이 플랫폼을 소유하고 있다는 점은, 개발자가 모델을 선택할 때 엔비디아가 핵심적인 역할을 한다는 것을 의미합니다. 오늘날의 상황에서는 개방형 모델의 추론 비용이 중요한 문제입니다.

중요한 것은 누가인지에 관한 것입니다.아니요그 테이블 위에서 말이다. 주도적인 연구소들인 OpenAI, Anthropic은 자체적인 칩을 사용하여 모델을 개발하고 있다. 오픈 모델은 인공지능의 미래에서 중립적인 역할을 하는 부분이며, 어떤 환경에서도 실행될 수 있다. Nvidia는 오픈 모델 시장을 장악함으로써, “오픈 모델은 Nvidia에서 가장 잘 작동한다”는 인식을 만들어내려고 한다. 물론 Nvidia는 플랫폼이 멀티클라우드와 멀티칩 방식으로 유지되도록 하고 있다. TechCrunch의 분석에 따르면, 더 조용하지만 강력한 이유가 있다: Nvidia는…100억 달러 규모의 클라우드 컴퓨팅 계약에 전념하고 있습니다.고객들에게는 그렇지만, 그 고객들이 구입한 용량을 모두 사용하지 않는다면, 엔비디아는 책임을 져야 합니다. Hugging Face의 개발자들은 판매를 위한 좋은 기회입니다. 이러한 수요는 희망적인 것이 아니라 구체적인 것입니다. 실적 발표와 동시에 AWS는 그렇게 할 것이라고 밝혔습니다.2백만 개의 Nvidia GPU를 추가하겠습니다.– 블랙웰 울트라, 루빈, 그리고 루빈 울트라 – 2027년과 2028년을 위한 제품들입니다.5개월 만에 약 3백만 개의 칩을 생산하는 목표를 달성했다..

이 모든 것은 칩 사업이 실패할 것이라는 경고가 아닙니다. 오히려 반대입니다. 칩 산업은 너무 빠르게 성장하고 있어서, 넵게이는 다음으로 중요한 분야에 진출할 수 있습니다. 하지만 이로 인해 투자자들이 실제로 추적하는 두 가지 요소가 변합니다. 즉, 흥미로운 부분이 2026년의 수익에서 2027년과 2028년으로 옮겨집니다. 그때는 루빈과 오픈 모델 플랫폼이 모두 성공적으로 운영되고 있으며, 더 저렴한 토큰이 더 많은 넵게이 수익을 가져올 수 있다는 것을 증명해야 합니다. 또한 자본이 사용되는 방식도 달라집니다. “넵게이가 훈련 분야에서 승리할 수 있는가?”라는 질문은 더 이상 중요하지 않습니다. 중요한 것은 이 돈을 어디에 투자하는지입니다. 오픈 모델, 실리콘, 또는 인식이 과포화된 상황에서 나타날 수 있는 새로운 기업에 투자하는지 여부입니다. 넵게이는 더 성장하기 위해 시장을 장악할 필요가 없습니다. 왜냐하면 시장은 여전히 확장되고 있기 때문입니다. 하지만 이제는 훈련 분야에 대한 경쟁력이 없는 분야를 방어해야 합니다. 그곳에서 문제가 시작됩니다.