TL;DR? Warum sie trotzdem weiterlesen sollten
Die Tokenpreise für KI-Modelle fallen gerade in einem Tempo, das selbst Goldman Sachs beunruhigt. Klingt nach guten Nachrichten für jedes Unternehmen, das KI einsetzt. Ist es aber nicht zwangsläufig. Wer nur auf den Preis pro Token schaut, übersieht die zwei anderen Variablen der Rechnung, und genau die entscheiden am Ende, was auf der Kreditkartenabrechnung steht. Wie sich ihre KI-Abrechnung zusammensetzt und warum sie trotzdem immer mehr zahlen und was sie dagegen tun können, erfahren sie im Artikel.
Die Tokenpreise fallen deutlich!
Ende August fiel der LLM Token Expenditure Index, ein von Silicon Data ermittelter Preisindex für KI-Modellnutzung (auf Bloomberg unter dem Kürzel SDLLMTK geführt), um 29 Prozent. Anfang September lag er bei rund 0,97 US-Dollar je Million Tokens. Goldman Sachs reagierte mit einer Warnung, allerdings nicht an Unternehmen, sondern an Investoren: Wenn die Preise schneller fallen als die Nutzung wächst, drohe ein Überangebot an Rechenkapazität, mit entsprechenden Folgen für die Bewertungen entlang der gesamten KI-Lieferkette.
Für ein Mittelstandsunternehmen ist diese Warnung erst einmal keine direkte Nachricht. Die Aktienbewertung von Chipherstellern ist nicht das Problem eines solchen Geschäftsführers.
Der Preisverfall selbst dagegen ist schon interessant und erscheint als gute Nachricht,.
Häufige Fragen in diesem Kontext und deren Antworten finden Sie am Ende des Artikels]
Ist doch toll, oder nicht?
Die naheliegende Schlussfolgerung lautet: Wenn Tokens billiger werden, wird KI billiger und die Rechnung wird auch geringer. Diese Schlussfolgerung ist falsch, oder genauer: Sie ist nur die halbe Rechnung. Denn hier beginnt ein typisches Phänomen, dass die Rechnung am Schluss häufig steigen lässt … wenn man nicht entsprechend umdenkt und sein Handeln anpasst.
Warum der Preis überhaupt fällt
Mehrere Effekte wirken gleichzeitig. Anbieter wie OpenAI, Anthropic, Google und Meta brauchen Volumen und locken deshalb mit niedrigeren Preisen Entwickler auf die eigene Plattform, auch wenn die Marge je Token dabei sinkt. Gleichzeitig sinken durch bessere Inferenz-Software, Caching und spezialisierte Hardware die tatsächlichen Kosten, eine Antwort zu erzeugen. Und für einen wachsenden Teil der alltäglichen Aufgaben (Zusammenfassen, Übersetzen, Standard-Code) sind mehrere Modelle inzwischen ähnlich gut. Wenn Qualität kein Unterscheidungsmerkmal mehr ist, entscheidet der Preis.
Meta illustriert diesen Effekt gerade sehr konkret. Mit Muse Spark 1.2 bietet das Unternehmen ein leistungsfähiges, multimodales Modell zu einem API-Preis von 1,25 US-Dollar je Million Input-Tokens und 4,25 US-Dollar je Million Output-Tokens an (bei Cache-Treffern sogar 0,15 US-Dollar). Nach unabhängiger Einordnung kostete das Modell im verwendeten Intelligence-Index-Vergleich rund 0,40 US-Dollar je gelöster Aufgabe und gehörte damit in seiner Leistungsklasse zu den günstigeren Optionen. Parallel bringt OpenAI mit GPT-6 Astra sein bislang leistungsfähigstes Modell an den Start, ausgerichtet auf mehrstufige, agentische Aufgaben wie Browser- und Softwarebedienung. Der Wettbewerb läuft also nicht nur über den Preis. Er läuft gleichzeitig über neue, leistungsfähigere und deutlich rechenintensivere Anwendungsformen. Das wird gleich wichtig.
Die Abrechnungsformel
Was ein Unternehmen tatsächlich für KI ausgibt, ergibt sich nicht aus dem Preis pro Token allein. Es ergibt sich aus drei Faktoren:
Preis je Token × Tokens je Aufgabe × Anzahl der Aufgaben.
Sinkt der erste Faktor, heißt das noch lange nicht, dass das Produkt kleiner wird. Wenn die beiden anderen Faktoren stärker wachsen, steigt die Rechnung trotzdem. Genau das passiert gerade, aus mindestens zwei Gründen.
Warum trotzdem mehr ausgegeben wird
Erstens:
Was bei höheren Kosten nur ein Pilotprojekt war, wird bei niedrigeren Kosten zur Standardanwendung. Ökonomen nennen das den Jevons-Effekt, benannt nach der Beobachtung, dass effizientere Nutzung einer Ressource ihren Gesamtverbrauch nicht senkt, sondern oft erhöht, weil plötzlich mehr Anwendungsfälle wirtschaftlich werden.
Erste Daten deuten genau in diese Richtung: Während der Tokenpreisindex im August um 29 Prozent fiel, stieg die Nutzung über die Plattform OpenRouter um 47 Prozent, die tatsächlichen Ausgaben aber nur um 7 Prozent. Das ist noch nicht das volle Jevons-Szenario. Es ist aber ein plausibler Übergang dorthin.
Zweitens, und das ist der Teil, der in der Preisdebatte meist untergeht:
Eine Aufgabe verbraucht heute deutlich mehr Tokens als vor zwei Jahren.
Ein einfacher Chat-Prompt wird ersetzt durch lange Kontexte, Dokumentenanalyse, Tool-Aufrufe und mehrfache Selbstprüfung. Reasoning-Modelle leisten vor der sichtbaren Antwort erhebliche interne Rechenarbeit, die ebenfalls abgerechnet wird.
Eine Studie zum Tokenverbrauch von KI-Agenten kommt zu dem Ergebnis, dass agentische Aufgaben in bestimmten Fällen bis zu 1.000-mal tokenintensiver sein können als eine einfache Interaktion. Das ist kein Wert, der für jeden Anwendungsfall gilt. Er zeigt aber, wie grob es ist, von einer Chat-Anfrage auf die Kosten eines autonomen Prozesses zu schließen.
Rechenbeispiel
Ein fiktiver, aber realistischer Fall: Ein Unternehmen automatisiert seine Angebotserstellung. Der Tokenpreis sinkt in diesem Zeitraum um 70 Prozent. Gleichzeitig verzehnfacht sich die Zahl der bearbeiteten Vorgänge (weil es sich jetzt lohnt), und ein einzelner Vorgang verbraucht durch Kontext, Tool-Nutzung und Selbstprüfung dreimal so viele Tokens wie zuvor.
0,30 × 10 × 3 = 9
Die variablen KI-Ausgaben liegen am Ende beim Neunfachen des Ausgangswerts, trotz eines massiv gefallenen Einheitspreises. Das ist kein Rechenfehler und kein Ausnahmefall. Das ist die Mechanik, die gerade in vielen Unternehmen still im Hintergrund läuft.
Was das für Unternehmen bedeutet
Die Konsequenz ist nicht, KI-Nutzung zu bremsen. Steigende Ausgaben sind kein Warnsignal, solange Durchsatz, Qualität und eingesparte Arbeitszeit schneller wachsen als die Kosten. Die Konsequenz ist, den Preis pro Token als Steuerungsgröße aufzugeben. Er beschreibt, was ein Anbieter verlangt. Er beschreibt nicht, was ein Prozess tatsächlich kostet.
Selbst Risikokapitalgeber wie a16z, die naturgemäß ein Interesse daran haben, dass Kunden nicht in reinen Tokenkategorien denken, argumentieren in diese Richtung: Tokens seien ein sinnvoller Maßstab für rohe Modellinferenz, für den tatsächlichen Kundennutzen aber oft irreführend. Bei einer Supportlösung wäre der gelöste Fall die relevante Größe, nicht die Zahl der verbrauchten Tokens. Der Punkt bleibt richtig, unabhängig davon, wer ihn vorträgt.
Ein Praxisbeispiel aus der Softwareentwicklung zeigt, wie das konkret aussehen kann: Bei einem Multi-Agent-Code-Review stieg der Tokenverbrauch deutlich, ersetzte dafür aber zwei bis vier Stunden manueller technischer Prüfung. Die relevante Kennzahl ist in diesem Fall nicht der Tokenpreis, sondern die eingesparte Ingenieursstunde.
Konkrete Konsequenzen
Wer KI-Kosten wirklich steuern will, braucht andere Kennzahlen als den Preis pro Million Tokens. Sinnvoller sind, je nach Anwendungsfall:
- Kosten pro bearbeitetem Vorgang statt Kosten pro Token
- Kosten pro gelöstem Supportfall oder qualifiziertem Lead
- Kosten pro eingesparter Arbeitsstunde, ergänzt um die Fehlerquote
Und bei der Modellwahl lohnt sich eine bewusste Trennung nach Risiko: Für Standardaufgaben mit hohem Durchsatz (Zusammenfassungen, Klassifikation, Extraktion) reicht in der Regel das günstigste ausreichend gute Modell, kombiniert mit klaren Tokenlimits. Für Aufgaben mit echtem Fehlerrisiko (Vertragsprüfung, Fachanalyse, alles mit Systemzugriff) bleibt die Modellqualität der relevante Faktor, nicht der niedrigste Listenpreis.
Goldmans Sorge um ein mögliches Überangebot an Rechenkapazität betrifft in erster Linie Investoren, nicht die betriebliche KI-Nutzung selbst. Die Bank rechnet in einem Szenario sogar mit einem 24-fachen Anstieg des Tokenverbrauchs bis 2030. Ob das für jede einzelne Rechenzentrumsinvestition reicht, ist eine andere Frage als die, ob ein Mittelstandsunternehmen seine eigene KI-Rechnung im Griff hat.
Handlungsempfehlung: Die passende Modellvariante statt das günstigste Modell
Die größte Kostenbremse liegt nicht darin, ein besonders günstiges Modell zu finden. Sie liegt darin, für jede Aufgabe die Variante einzusetzen, die diese Aufgabe tatsächlich braucht, nicht mehr und nicht weniger. Ein Reasoning-Modell für eine einfache Zusammenfassung ist teurer Leerlauf. Ein günstiges Standardmodell für eine komplexe Vertragsprüfung ist ein Risiko, das teurer wird als die eingesparten Tokens.
Das setzt voraus, dass eine Aufgabe vor der Modellwahl zerlegt wird, nicht danach. Drei Fragen helfen dabei:
Was genau muss das Modell leisten? Eine Textzusammenfassung stellt andere Anforderungen als eine mehrstufige Recherche mit Werkzeugzugriff. Beides als „KI-Aufgabe“ zu behandeln, verschleiert den eigentlichen Unterschied.
Wie hoch ist das Fehlerrisiko? Eine falsch klassifizierte E-Mail kostet wenig. Ein falsch geprüfter Vertragsabschnitt kann teuer werden. Das Risiko bestimmt, wie viel Modellqualität notwendig ist, nicht der Wunsch nach dem besten verfügbaren Modell.
Wie oft läuft die Aufgabe? Bei hohem Durchsatz summiert sich jeder gesparte Cent pro Aufgabe schnell zu einem relevanten Betrag. Bei seltenen, aber kritischen Einzelfällen zählt die Zuverlässigkeit mehr als der Stückpreis.
Häufige Fragen in diesem Kontext
Warum sinken die Tokenpreise, obwohl KI-Modelle immer leistungsfähiger werden?
Der starke Wettbewerb zwischen den KI-Anbietern und technische Fortschritte drücken die Preise pro Token. Das bedeutet aber nicht automatisch, dass KI in der Nutzung günstiger wird. Leistungsfähigere Modelle nutzen für komplexes Reasoning oder agentische Aufgaben teilweise deutlich mehr Token. Der niedrigere Stückpreis kann dadurch vom höheren Verbrauch wieder aufgezehrt werden.
Warum können die KI-Kosten in Unternehmen trotz sinkender Tokenpreise deutlich steigen?
Niedrigere Tokenpreise machen immer mehr KI-Anwendungen wirtschaftlich attraktiv und führen deshalb zu mehr Nutzung. Gleichzeitig steigt bei leistungsfähigeren Modellen der Tokenverbrauch pro Aufgabe, etwa durch Reasoning und agentisches Vorgehen. Unternehmen profitieren also von günstigeren Tokenpreisen, können insgesamt aber trotzdem mehr für KI ausgeben, weil sie mehr Aufgaben mit KI erledigen und einzelne Aufgaben aufwendiger werden.
Wie kann ich steigende KI-Kosten bei zunehmender Nutzung vermeiden?
Nicht jede Aufgabe benötigt das leistungsfähigste und teuerste KI-Modell. Durch Model Routing kann für unterschiedliche Aufgaben jeweils das Modell gewählt werden, das das beste Verhältnis aus benötigter Leistung und Kosten bietet. Entscheidend ist deshalb nicht allein der Tokenpreis, sondern wie wirtschaftlich ein Modell eine konkrete Aufgabe erledigt.
Warum sieht Goldman Sachs in sinkenden Tokenpreisen eine Gefahr für die weitere KI-Entwicklung?
Sinkende Tokenpreise können die Einnahmen der KI-Anbieter unter Druck setzen, während Entwicklung und Betrieb leistungsfähiger Modelle weiterhin enorme Investitionen erfordern. Goldman Sachs sieht deshalb das Risiko, dass stark fallende Preise die wirtschaftliche Grundlage für weitere Investitionen schwächen. Für die KI-Entwicklung entsteht damit ein Spannungsfeld zwischen immer günstigeren Angeboten und der Finanzierung immer leistungsfähigerer Modelle.
Weitere Beiträge zum Thema
Wenn Sie sich intensiver mit diesem Themenfeld beschäftigen möchten, finden Sie hier weitere Beiträge mit Hintergrund, Einordnung und Praxisbeispielen.