Andrew Ng hält die Bedenken vor der Ausrottung von Arten für „Science Fiction“.

Andrew Ng hat eine klare Antwort auf die Forscher, die warnen, dass künstliche Intelligenz die Menschheit auslöschen könnte: Es handelt sich dabei um „viel mehr Science-Fiction als Wissenschaft“. Der Pionier der künstlichen Intelligenz, der dazu beigetragen hat, Google Brain und Coursera zu gründen, sagte:Warnungen bezüglich existenzieller Risiken von Forschern bei den Herstellern von Top-ModellenEs handelt sich dabei um „Auswirkungen, die der Sicherstellung der maximalen Vorteile der Technologie für die Gesellschaft schaden“. Das Szenario der Ausrottung wurde als eher Fiktion als Realität angesehen – obwohl die tatsächlichen Gefahren wie stärkere Cyberangriffe anerkannt wurden.

Der Kommentar klingt wie ein philosophischer Streit innerhalb einer abgeschlossenen Welt – doch Ng richtete seine Kritik auf einen konkreten Gegenstand. Er bezweifelte nicht nur das Risiko, sondern beschuldigte auch die Technologieindustrie, dass sie „die Ängste vor den potenziellen katastrophalen Folgen von KI verstärkt hat“. Das tat er in einer Art „Versuch, die Angst zu verstärken“…Stärken die Publicity und die Regulierung der Marktmechanismen.Und es wird gesagt, dass die aktuelle Welle der Bedrohungen wieder an Fahrt gewinnt – vermutlich aus denselben Gründen. Für einen Investor ist das eine ernste Herausforderung: Wenn Angst die Regulierung beeinflusst, dann bestimmt die Regulierung auch die Kosten und den Tempo der Entwicklung von KI-Technologien. Und diese Entwicklung steht bereits im Mittelpunkt davon, wie die größten Technologieunternehmen ihr Geld ausgeben. Die Frage, die man stellen sollte, ist nicht, ob die Auslöschung der Arten möglich ist. Sondern wie sich die Debatte in Kosten und Einschränkungen für die Unternehmen umwandelt, die die fortschrittlichsten Modelle entwickeln.

Furcht muss nicht wahr sein, um teuer zu sein.

Der Mechanismus, auf den Ng hinweist, funktioniert auch dann, wenn das Szenario des Endes der Welt nie eintritt. Die Alarmierung bezüglich der katastrophalen AI ist die politische Grundlage, aus der verbindliche Regeln entstehen. Die tatsächlich geltenden Regeln sind keine vage Ideen – sie sind gezielt gegen die Labore gerichtet, die die größten Modelle trainiern – und sie hängen von der Größe der Trainingsprozesse ab.

Kalifornien hat nun den ersten US-Gesetzentwurf, der speziell auf die Sicherheit von KI-Systemen an der Grenze angelegt ist. Der Gesetzentwurf wurde Ende September 2025 unterzeichnet und trägt den Namen SB 53. Er definiert ein „Frontier-Modell“ als ein Modell, das mit mehr als… trainiert wird.10²⁶ FlottenoperationenUnd jeder Entwickler mit einem Jahresumsatz von mehr als 500 Millionen Dollar wird als „großer Frontier-Entwickler“ bezeichnet. Diese Unternehmen müssen vor der Einführung eines neuen oder erheblich veränderten Modells einen Transparenzbericht veröffentlichen, die Notfallbehörden über kritische Sicherheitsprobleme innerhalb von 15 Tagen – oder 24 Stunden, falls eine unmittelbare Gefahr besteht – informieren, Kanäle für Mitarbeiter bereitstellen, die katastrophale Risiken melden können, und bei den größten Entwicklern ein jährliches Governance-System veröffentlichen. Die Verstöße werden mit zivilrechtlichen Strafen von bis zu 1 Million Dollar geahndet. Es handelt sich dabei um eine abgeschwächte Version der stärkeren Regeln.SB 1047 – Der Gouverneur Gavin Newsom hat es im Jahr 2024 blockiert..

Europa ist noch weiter fortgeschritten. Die AI-Gesetzgebung der EU hat Anforderungen für Anbieter von allgemein verwendbaren KI-Modellen festgelegt – diese gelten ab August 2025. Am 2. August 2026 hat die Europäische Kommission die volle Durchsetzungsmacht über diese Anbieter erhalten.Gelder bis zu 3 ProzentDer Gesamtumsatz eines Unternehmens weltweit pro Jahr. Besonders ist, dass die EU annimmt, dass ein Modell „hohe“ systemische Risiken birgt, wenn sein kumulierter Trainingsaufwand ungefähr…10²⁵ FließkommaoperationenUnd ein solcher Anbieter muss die Kommission innerhalb von zwei Wochen benachrichtigen.

Keine Gesetzgebung verbietet etwas – und eine Strafzahlung von 1 Million Dollar in Kalifornien ist für diese Unternehmen völlig unbedeutend. Aber beachten Sie die Art der Regeln: Ein Modell wird reguliert, weil viel Rechenarbeit dafür benötigt wird. Die Kosten der Einhaltung der Regeln hängen genau mit den enormen, kostspieligen Trainingsprozessen zusammen – also landen die Kosten genau dort, wo bereits die Kapitalausgaben stattfinden.

Die Exposition erfolgt über die Hyperscalers.

Die Entwickler an den Grenzen sind meist Privatpersonen. OpenAI und Anthropic haben keine gehandelten Aktien. Ihre Beteiligung an diesen Regeln wird größtenteils von den öffentlichen Unternehmen übernommen, die sie unterstützen und deren Rechenleistung bereitstellen. Das sind Microsoft, Alphabet, Meta und Amazon – und diese Unternehmen haben bereits so viel Aufwand, dass ihre Cash-Erzeugung beeinträchtigt wird.

Alphabet hat in den letzten zwölf Monaten etwa 132 Milliarden Dollar für Kapitalausgaben ausgegeben. Ihr freier Cashflow sank dabei um etwa 20 Prozent im Vergleich zum Vorjahr auf etwa 53 Milliarden Dollar. Microsoft hingegen gab in derselben Zeit etwa 116 Milliarden Dollar für Kapitalausgaben aus. Ihr freier Cashflow sank auf etwa 67 Milliarden Dollar – also um etwa 6,5 Prozent. Kurz gesagt: Die beiden größten Unternehmen investieren Hunderte von Milliarden Dollar in die KI-Infrastruktur, auf die die Forschungseinrichtungen angewiesen sind. Ihr Cashflow schrumpft bereits jetzt, bevor irgendeine Compliance-Regelung in Kraft tritt.

Das ist die Spannung hinter Ng’m Ablehnungsverhalten. Die Investoren, die diese Großkonzerne besitzen, deuten die Umfragen und Berichte zwar in hohem Maße darauf hin…Ignorieren Sie die Warnungen bezüglich der Katastrophen und konzentrieren Sie sich stattdessen auf die kommerziellen Chancen.Das Risiko der Auslöschung ist nicht das, was ihre Portfolios beeinflusst. Was sie tatsächlich betrifft, ist nicht die Apokalypse, sondern die Kosten, die durch die Berichterstattungs- und Bewertungspflichten entstehen – und möglicherweise auch die Geschwindigkeit, mit der die größten Modelle verfügbar werden können. Wenn die Regulierung weiterhin in ihrer aktuellen Form bleibt – also mit Transparenz- und Berichterstattungsvorgaben – dann übernehmen die reichen Unternehmen diese Kosten und setzen ihre Aktivitäten fort. Wenn die Regulierung jedoch zu strenge Grenzen wird, die die Entwicklung der Modelle verzögern, dann geht das Einkommen, das für die Ausgaben von Millionen Dollar heute erforderlich ist, verloren.

Eine Komplikation besteht darin, dass die „Regulierung schlecht für die etablierten Unternehmen“ ist – schließlich werden die Schwellenwerte computergestützt festgelegt. Dadurch wird eine Grenze gezogen, über der die größten Anbieter stehen und unter der die kleineren Anbieter liegen. Das kann einen eigentlich problematischen Aspekt in eine Barriere verwandeln, die den Großunternehmen zugutekommt. Die Branche selbst teilt sich in Bezug auf SB 53: Anthropic begrüßte die Regulierungen, während das Venture-Konsortium Andreessen Horowitz gegen die Regulierungen auf staatlicher Ebene war.

Der Alarm kommt von innen im Haus.

Der stärkste Einwand gegen Ng ist nicht philosophischer Natur – er besteht darin, dass die Leute, die Alarm schlagen, tatsächlich in den Laboren arbeiten, für die er sie verantwortlich macht. Sie sind ehemalige Forscher von Anthropic und OpenAI.Jacob Coxon trat zurück, während er seine Arbeitgeber anklagte.Es geht dabei um das „Worben mit unserem Leben“ – und darum, dass die Menschen, die diese Systeme entwickeln, glauben, dass superintelligente KI bis Ende des Jahrzehnts uns alle töten könnte. Ein Forscher von Google DeepMind hat kürzlich zurückgetreten und gewarnt, dass die Menschheit keine Zeit mehr hat, um schwere Schäden zu verhindern. Die Leiter der beiden großen Labore – Dario Amodei von Anthropic und Sam Altman von OpenAI – arbeiten beide bereits früher mit Ng zusammen. Beide fordern, dass die Branche den Entwicklungsprozess beschleunigt und Sicherheitsmaßnahmen einsetzt.

Diese interne Meinungsverschiedenheit hat negative Auswirkungen auf den Investor. Sie untergräbt die Behauptung von Ng, dass die „Vorwärtsdrängung“ nur ein PR-Experiment von Außenstehenden sei. Die lautsten Warnungen kommen von innerhalb der Unternehmen, die am meisten unter den restriktiven Regeln leiden würden. Doch aus Sicht des Aktionärs ist es viel weniger wichtig, wer recht hat – als vielmehr welche Regeln tatsächlich umgesetzt werden.

Ng setzt darauf, dass die Angst weiterhin gering bleibt. Sein Appell an eine konzentrierte Betrachtung „praktischer Ingenieurprobleme“ ist aus wirtschaftlicher Sicht ein Argument dafür, dass die Umsetzung in ihrem eigenen Tempo erfolgen soll und keine drastischen Einschränkungen notwendig sind. Diejenigen, die die Angst als Grundlage für politische Entscheidungen betrachten, hoffen, dass die Angst tatsächlich zu Regeln wird. Die Beweise, die die Auseinandersetzung für die Aktionäre klären könnten, werden nicht aus Diskussionsprotokollen stammen, sondern aus der Anwendung der neuen Befugnisse des Europäischen AI-Büros bezüglich der allgemeinen Modelle – und wie die Regeln in Kalifornien in der Praxis umgesetzt werden. Wenn die Regeln sich auf Transparenz und Berichterstattung beschränken, sind sie nur ein kleiner Unterschied bei einer Investition von mehreren Milliarden Dollar. Wenn sie jedoch beginnen, den Release der größten Modelle zu regulieren, gefährden sie die Einnahmen, mit denen die Investition finanziert wurde. Diese Unterscheidung – und nicht die sci-fi-Probleme – wird entscheiden, ob die Investition erfolgreich sein wird oder nicht. Dieser Unterschied kann in den kommenden Quartalen gemessen werden.