Nvidias „Inference Shopping Spree“ ist das eigentliche Zeichen dafür.

Nvidias „Inference Shopping Spree“ ist das wahre Zeichen dafür.

Die wertvollste Technologieunternehmung der Welt braucht keine 2,3 Milliarden Dollar. Sie muss erst einmal herausfinden, was nach ihren GPU-Produkten kommt. Deshalb sollten die in dieser Woche gemachten Gespräche mit einem südkoreanischen Chipspezialunternehmen als Hinweis auf die Entwicklung der Lieferkette interpretiert werden – und nicht als Preisangabe.

Bloomberg berichtete, dass…Nvidia ist in frühen Gesprächen mit Rebellions.Ein Designer aus Seoul, der neuronale Verarbeitungseinheiten entwickelt, die für die AI-Inferenz verwendet werden. Sein Wert wird auf etwa 2,3 Milliarden US-Dollar geschätzt. Die Gespräche bezüglich ihm…Von einer technischen Partnerschaft zu einer möglichen ÜbernahmeUnd der CEO von Rebellions, Sunghyun Park, traf sich mit Jensen Huang in der Zentrale von Nvidia in Santa Clara. Das geschah genau in der Woche, in der die Gespräche bekannt wurden.

Das ist keine isolierte Gerüchtekomposition – es handelt sich auch nicht um etwas Unbedeutendes. Es ist die zweite bedeutende Transaktion zwischen Nvidia und einer Konkurrenzfirma im Bereich der Inferenztechnologie in etwa acht Monaten. Im Dezember zahlte Nvidia…Rund 20 Milliarden Dollar – das größte Geschäft in der Geschichte.Fast dreimal so viel wie die 7 Milliarden Dollar, die im Jahr 2019 für Mellanox ausgegeben wurden – für eine nicht-exklusive Lizenz zur Inferenztechnologie von Groq. Zudem wurde der größte Teil des technischen Teams von Groq eingestellt, einschließlich des Gründers Jonathan Ross, einer der Entwickler der Tensor-Processing-Unit von Google. Die beiden Unternehmen haben das Abkommen vorgeschlagen.Als gemeinsamer Ansatz zur Erzielung hochleistungsfähiger, kostengünstiger Inferenz..

Warum die Schlussfolgerung der neue Kampfplatz ist

Die Definitionen sind hier wichtig, denn „Inferenz“ übernimmt die meiste Arbeit in dieser Prozesskette. Das Trainieren ist die Phase, in der das Modell von riesigen Mengen an Daten lernt. Die Inferenz erfolgt anschließend: Das fertige Modell verarbeitet neue Daten, um Fragen zu beantworten, Absätze zu generieren oder Sprache zu transkribieren. Das Trainieren findet einige Male pro Modell statt; die Inferenz hingegen geschieht jedes Mal, wenn ein Benutzer auf ein Produkt klickt – deshalb kann sie mit der Nutzung des Produkts wachsen. Die Wirtschaftlichkeit der KI entwickelt sich gerade in diese Richtung. Prognosen der Industrie basierend auf dem Stanford AI Index…Schätzungen zufolge wird die Inference-Kapazität bei etwa zwei Dritteln der AI-Computing-Anwendungen bis 2029 erreicht sein.Und 80% bis 90% der Lebensdauerkosten von KI-Systemen – McKinsey geht davon aus…Die Inferenz wird bis 2030 mehr als 40 Prozent der Nachfrage im Data Center verursachen..

Diese Rotation ist der entscheidende Wandel in der Marktstruktur. Bei der Entwicklung sind CUDA und die damit verbundenen Softwarelösungen eine große Herausforderung – die Entwicklerbasis, die Bibliotheken sowie die Kosten für den Wechsel zwischen verschiedenen Lösungen machen es unmöglich, direkt gegen diese Herausforderungen anzugehen. Die Inference-Technologie hingegen ist ein anderes Feld. Wenn es darum geht, die Latenzzeit zu verringern, die Kosten pro Token zu senken und den Stromverbrauch eines gesamten Systems zu kontrollieren, dann ist das Silizium selbst wichtiger als das umgebende Ökosystem. Genau hier haben die Konkurrenten – Groq, Cerebras und jetzt auch ein koreanisches Startup – immer angefangen, anzugreifen.

Nvidias „Checkbook“ gibt den Vorzug auf

Was das Muster besonders bemerkenswert macht, ist, dass Nvidia dies in ihren eigenen Handlungen zugibt. Der Groq-Transaktion wurde eine Lizenzvereinbarung zugeschrieben – keine Übernahme. Das Cloud-Geschäft von Groq blieb unabhängig. Diese Struktur ermöglichte es Nvidia auch, den Antitrust-Regeln in der EU, im Vereinigten Königreich und in China auszuweichen – was für ein Unternehmen, das die Kontrolle über diese Bereiche hat, sinnvoll ist.Rund 90 Prozent des Marktes für KI-ChipsIndustriebeobachter betrachten diesen Deal als eine Anerkennung eines „Achillesferzes“ in der Leistung von Nvidias GPU-Technologie. Die Architektur von Groq ist darauf ausgelegt, dieses Problem zu lösen.Die für die Latenzempfindlichkeit wichtige Dekodierungsphase eines Sprachmodell-WorkloadsJensen Huang selbst beschrieb die Erweiterung der Architektur von Nvidia durch Groq als etwas, was die Firma genauso tat wie ihre Integration der Netzwerke von Mellanox. Mit anderen Worten: Der Monopolist gab 20 Milliarden Dollar aus, um Technologie zu lizenzieren, die er nicht besaß – und zwar von einem Unternehmen, das erst neun Jahre alt war. Die Entwicklung von neuen Technologien erfolgt am schnellsten dort, wo der dominante Akteur investiert.

Rebellions passt diesem Template fast perfekt. Das Unternehmen ist ein Chipdesigner ohne eigenen Produktionsprozess – seine gesamte Strategie besteht darin, energieeffiziente Verarbeitungstechniken zu nutzen. Dabei konkurriert das Unternehmen anhand des Kosten pro Token, anstatt durch intensives Training von Algorithmen. Der neueste Chip der Rebellions-Serie nutzt eine Chipsplit-Ausrichtung – dabei werden 144 GB von Hochbandbreiten-Memory in einem einzigen Gehäuse verwendet.Gebaut in Samsungs Fertigungseinrichtung.Und die Liste der Investoren ähnelt dem koreanischen Halbleiterteam: Samsung, SK Hynix und Arm – außerdem noch…Das nationale Wachstumsfonds der Regierung – das eine Summe von etwa 166 Millionen Dollar genehmigte.Es handelt sich um die erste direkte Investition im Rahmen des koreanischen „K-Nvidia“-Sovereign-Programms.

Hier wird es meistens falsch interpretiert werden, wenn man über die Gerüchte spricht. Rebellions ist kein typischer Ziel im Bay Area, der still und leise übernommen werden könnte. Es handelt sich um ein von der Regierung unterstütztes Unternehmen – Regierungsgelder, nationale Werkstätten, große Unternehmen im Bereich der Speicherung von Daten usw.Die geplante Listung in Korea ist für nächstes Jahr geplant.Möglicherweise wird es später eine Listung in den USA geben. Strategische Vermögenswerte, die durch ein staatliches Programm unterstützt werden, werden nicht an Seoul übergeben. Die „Groq-Methode“ – Technologie zu lizenzieren, das Talent zu nehmen und die Unternehmensstruktur unverändert zu lassen – ist die wahrscheinlichere Lösung als eine Übernahme. Und es handelt sich dabei um eine Methode, bei der Nvidia im Grunde genommen nichts bezahlt muss.

Die Zollstraße über den nächsten Markt

Aus arithmetischer Sicht wäre selbst eine vollständige Übernahme für Nvidia nur ein kleiner Fehler. Laut den Marktdaten von Ainvest liegt der Marktkapitalisierung von Nvidia bei etwa 5,2 Billionen US-Dollar. Ein Betrag von 2,3 Milliarden US-Dollar entspricht vier Hundertsteln eines Prozents davon – also etwa 2 Prozent des freien Cashflows in einem Jahr. Dieser Cashflow wird von Nvidia mit einer Rate von über 119 Milliarden US-Dollar erzeugt. Es handelt sich dabei nicht um ein Unternehmen, das nach Wachstum strebt – sondern um ein Unternehmen, das seine Konkurrenten zu Lizenznehmern macht. Das ist wichtig, denn die Konkurrenten haben jetzt mehr Geld zur Verfügung.Die Rivalen im Bereich der Chip-Startups haben Rekordfinanzmittel erhalten.Genau so, wie die Aufmerksamkeit auf die effiziente Anwendung von Inferenzverfahren verlagert wird – und Nvidia hat denselben Ansatz auch bei Intel angewandt.Mitwirken bei der Entwicklung von Data-Center- und PC-ProduktenAnstatt sie zu erwerben.

Die Strategie ist wie eine „Mautstraße“ in Bezug auf die zukünftige Marktstruktur. Anstatt gegen alle potenziellen Konkurrenten zu kämpfen, lizenziert der Anführer die wenigen seriösen Bedrohungen. Dabei beauftragt er auch die Architekten dieser Unternehmen und sorgt dafür, dass die Technologie nicht in die Hände von AMD, Broadcom oder den Großkonzernen gelangt, die eigene Silizium-Produkte herstellen.

Was sollte also ein Investor aus solch einer Gerüchtigkeit lernen? Erstens: Man sollte diese Gerüchte nicht zu stark bewerten – die Gespräche sind noch in der Anfangsphase und könnten auch nicht zu einem endgültigen Ergebnis führen. Zudem sollte man diese Gerüchte nicht als Schwäche interpretieren. Nvidia kauft keine Start-ups für den Bereich Inference, weil sie Verluste macht. Sie kauft diese Start-ups, weil genau dort sich der Wettbewerb konzentriert. Außerdem verfügt Nvidia über die finanziellen Mittel, um diese Entscheidung treffen zu können. Das ist die wichtigste Botschaft: Nvidias eigenen Handlungen bestätigen, dass der Übergang von der Trainingsphase zur Inferenz bereits stattfindet.

Die Geschäfte könnten zusammenbrechen, wenn die Gespräche ins Leere gehen – ohne Lizenz, ohne Partnerschaft, ohne Talent. Dann wird Nvidia auf die Entwicklung der Inferenzarchitektur nicht mehr investieren. In diesem Fall wird das Geschäft mit Groq zu etwas Einfachem – die Konkurrenten behalten also die Vorteile, die sie momentan in Bezug auf Latenzzeit und Kosten pro Token haben.

Für die Aktionäre von Nvidia ändert sich die Situation nicht. Die Umsätze wachsen weiterhin etwa um 70 Prozent pro Jahr. Der Betriebsgewinn liegt bei knapp 64 Prozent. Das Monopolverhalten des Unternehmens führt dazu, dass der Anteil an dem Markt, der sich um ein Vielfaches erweitert, etwas abnimmt. Laut den Daten von Ainvest ist der Aktienkurs in der letzten Woche um etwa 4 Prozent gefallen und liegt jetzt bei etwa 215 Dollar – nach einem Anstieg von 16 Prozent seit Jahresbeginn. Das ist keine Reaktion auf irgendwelche spezifischen Gerüchte, sondern Teil der allgemeinen Entspannung auf einem Marktkapitalisierungswert von 5,2 Billionen Dollar.

Aber an den Rändern zeigt sich, dass die Dollar-Bewertungen auf der Grundlage von Schätzungen beruhen – also auf der Integration von Speichermedien wie dem Hochbandbreiten-Speicher im Chip von Rebellions, sowie auf dem Energieverbrauch jedes Inferenzracks. Dort werden die nächsten Gewinner entstehen – und deshalb kann Nvidia durch die Lizenzierung von Technologien anstatt durch die eigene Herstellung alles selbst zu bauen, genau sagen, wo sich die interessanten Berechnungsprozesse befinden.

Die Debatte dreht sich nicht darum, ob Nvidia bis zum Ende des Jahrzehnts weiterhin eine wichtige Rolle in diesem Wirtschaftszyklus spielen wird. Es geht vielmehr darum, ob der Markt die Übergangsphase von der Trainingsphase zur Inferenzphase richtig bewertet – und ob das, was das Unternehmen selbst dafür ausgibt, auch angemessen ist. Der Bedarf war nie das Problem in diesem KI-Zyklus; das Problem ist vielmehr, welche Architektur die richtige ist, wenn sich die Marktkonstruktion ändert. Nvidia setzt dabei ein Zeichen dafür, dass sich diese Konstellation ändern wird – während der Großteil des Marktes noch nach Preisziele fragt. Ich weiß, welche Signale ich vertrauen kann.