Was sind Tokens? Die Recheneinheit hinter jedem KI-Modell erklärt

Wer zum ersten Mal eine Rechnung für die Nutzung einer KI-API sieht, stolpert fast immer über dieselbe Zeile: einen Preis pro "Token". Nicht pro Wort, nicht pro Anfrage, nicht pro Minute. Um diese Abrechnung zu verstehen und den eigenen Verbrauch sinnvoll zu steuern, muss man einmal verstehen, was ein Token überhaupt ist und warum ausgerechnet diese Einheit zur Grundwährung der gesamten Branche geworden ist.

Sprache wird in Bausteine zerlegt

Ein Sprachmodell verarbeitet keinen Text im menschlichen Sinn. Bevor eine Anfrage überhaupt beim Modell ankommt, läuft sie durch einen sogenannten Tokenizer, der den Text in kleinere Einheiten zerlegt und jede davon in eine Zahl umwandelt. Diese Einheiten, die Tokens, sind meist keine ganzen Wörter, sondern häufig vorkommende Wortbausteine. Das englische Wort "unbelievable" etwa wird von vielen Tokenizern in mehrere Stücke zerlegt, während kurze, sehr häufige Wörter oft als ein einziger Token durchgehen.

Als grober Richtwert gilt: Rund 100 Tokens entsprechen etwa 75 englischen Wörtern. Deutsche Texte fallen wegen ihrer langen zusammengesetzten Wörter oft etwas token-intensiver aus, weil ein Wort wie "Rechtsschutzversicherung" in mehrere Bausteine zerlegt werden muss, während ein englisches Äquivalent kompakter bleibt.

Der eigentliche Grund für diesen Umweg

Warum nicht einfach jedes Wort als eigene Einheit behandeln? Weil die Menge an möglichen Wörtern, Namen, Fachbegriffen und Wortneuschöpfungen über alle Sprachen der Welt hinweg praktisch unbegrenzt ist. Ein Modell könnte niemals jedes einzelne Wort separat lernen und verarbeiten.

Die Lösung ist eine begrenzte, wiederverwendbare Bausteinsammlung. Verfahren wie Byte Pair Encoding zerlegen Text so, dass am Ende ein Vokabular von typischerweise 100.000 bis 250.000 Tokens entsteht, unabhängig davon, wie viele Sprachen oder wie viel Text ein Modell insgesamt verarbeiten soll. Diese überschaubare, endliche Menge lässt sich in Zahlen abbilden und auf spezialisierter Rechenhardware in großem Maßstab miteinander vergleichen. Genau das macht das Training moderner Sprachmodelle technisch überhaupt erst praktikabel.

Jeder Anbieter hat sein eigenes Vokabular

Ein häufig übersehener Punkt: Es gibt keinen universellen Tokenizer, den alle Modelle teilen. Jeder Anbieter trainiert sein eigenes Vokabular, oft sogar unterschiedliche Vokabulare für verschiedene Modellgenerationen desselben Unternehmens. Derselbe Eingabetext kann bei einem Modell in sieben Tokens zerfallen und bei einem anderen in elf, einfach weil beide Tokenizer unterschiedlich trainiert wurden. Wer selbst nachvollziehen will, wie ein bestimmtes Modell einen Text zerlegt, kann das mit frei verfügbaren Tokenizer-Werkzeugen im Browser direkt ausprobieren, ganz ohne eigene Programmierkenntnisse.

Warum auch das Nachdenken eines Modells Geld kostet

Bei sogenannten Reasoning-Modellen, also Modellen mit einem sichtbaren internen Denkprozess vor der eigentlichen Antwort, wird der Tokenverbrauch besonders sichtbar. Solche Modelle erzeugen vor der finalen Antwort oft einen ganzen Absatz an Zwischenüberlegungen: Sie prüfen, was gemeint sein könnte, wie die Anfrage einzuordnen ist, welche Interpretation am plausibelsten wirkt. All das ist Text, und all dieser Text zählt als verbrauchte Tokens, selbst wenn der Nutzer am Ende nur einen einzigen, kurzen Satz als Antwort sieht.

Viele Anbieter lassen sich diese Denktiefe inzwischen sogar direkt einstellen, meist über Stufen wie niedrig, mittel oder hoch. Eine höhere Stufe bedeutet gründlicheres, aber auch deutlich tokenintensiveres Nachdenken, bevor überhaupt eine Antwort formuliert wird.

Zwei Seiten derselben Rechnung: Input und Output

Für die tatsächlichen Kosten entscheidend ist die Unterscheidung zwischen Input-Tokens, also allem, was an das Modell geschickt wird, und Output-Tokens, also allem, was zurückkommt. Zum Input zählt weit mehr als die reine Nutzerfrage: System-Anweisungen, die das Verhalten des Modells festlegen und die als Nutzer meist nicht sichtbar oder veränderbar sind, angehängte Dokumente, und bei längeren Unterhaltungen auch der komplette bisherige Gesprächsverlauf, der bei jeder neuen Nachricht erneut mitgeschickt wird.

Output-Tokens sind bei nahezu allen Anbietern deutlich teurer als Input-Tokens, häufig um etwa das Fünffache. Claude Fable 5 kostet aktuell 10 US-Dollar pro Million Input-Tokens und 50 US-Dollar pro Million Output-Tokens. Claude Opus 5 liegt bei 5 US-Dollar Input und 25 US-Dollar Output pro Million Tokens, deutlich günstiger, aber mit demselben Verhältnis von eins zu fünf zwischen den beiden Preisen.

Die Grenze, an der ein Modell vergisst

Jedes Modell hat ein Kontextfenster: eine feste Obergrenze dafür, wie viele Tokens gleichzeitig verarbeitet werden können. Wird diese Grenze erreicht, muss ältere Information komprimiert oder verworfen werden. Wer mit Coding-Assistenten wie Claude Code arbeitet, sieht das gelegentlich als automatische Zusammenfassung des bisherigen Gesprächsverlaufs, sobald das Kontextfenster zu voll wird.

Lange hielt sich die Annahme, ein größeres Kontextfenster führe automatisch zu besseren Antworten. Anthropic widerspricht dem in einem eigenen Fachartikel zu Kontext-Engineering und prägt dafür den Begriff Context Rot: Mit wachsender Tokenzahl im Kontextfenster sinkt die Fähigkeit eines Modells, Informationen daraus präzise wiederzugeben, und zwar deutlich bevor die technische Obergrenze des Fensters überhaupt erreicht ist. Kontext wird darin als endliche Ressource mit abnehmendem Grenznutzen beschrieben, ähnlich einem begrenzten Aufmerksamkeitsbudget. Ein größeres Fenster macht ein Modell also nicht automatisch verlässlicher.

Eine riesige Preisspanne zwischen den Modellen

Zwischen dem teuersten und dem günstigsten verfügbaren Modell liegen aktuell Welten. Claude Fable 5 verlangt 10 US-Dollar Input und 50 US-Dollar Output pro Million Tokens und gehört damit zu den teuersten öffentlich verfügbaren Modellen überhaupt. Am anderen Ende der Skala liegen Modelle wie DeepSeek, die für dieselbe Tokenmenge nur einen Bruchteil dieses Preises aufrufen. Diese Spanne existiert, weil teurere Modelle auf komplexe, lang laufende und folgenreiche Aufgaben zugeschnitten sind, während günstigere Modelle für klar umrissene, einfachere Aufgaben oft völlig ausreichen.

Ein praktischer Ansatz für den eigenen Verbrauch

Wer Kosten sinnvoll steuern will, sollte Aufgaben nach Schwierigkeit und Tragweite sortieren, nicht nach Bauchgefühl. Eine folgenreiche, komplexe Aufgabe, etwa eine tiefgreifende Änderung an einer geschäftskritischen Codebasis, rechtfertigt ein teureres Modell mit hohem Denkaufwand. Eine einfache, klar umrissene Aufgabe mit einer präzisen Anleitung lässt sich dagegen häufig genauso gut von einem deutlich günstigeren Modell erledigen.

Wichtig dabei: Ein hoher Tokenverbrauch ist kein Qualitätsmerkmal. Viele Tokens zu verbrauchen sagt nichts darüber aus, ob dabei auch etwas Sinnvolles entstanden ist. Entscheidend ist das Verhältnis zwischen eingesetzten Tokens und tatsächlichem Ergebnis, nicht die reine verbrauchte Menge.

Fazit

Tokens sind die gemeinsame Recheneinheit hinter jedem Sprachmodell, unabhängig vom Anbieter. Wer verstanden hat, dass Tokenizer Sprache in ein begrenztes, modellspezifisches Vokabular zerlegen, dass auch interne Denkprozesse Tokens kosten und dass ein größeres Kontextfenster nicht automatisch zu besseren Antworten führt, kann den eigenen KI-Verbrauch gezielt planen, statt sich von der monatlichen Rechnung überraschen zu lassen.