KI-Kosten senken:Wann ein Modellwechselsich wirklich lohnt

Warum der Preis je Million Token in die Irre führt

Anbieter von Sprachmodellen rechnen in Token ab. Ein Token ist ein Textbaustein, grob ein Dreiviertelwort im Deutschen. Ihre Rechnung hat zwei Posten: den Text, den Sie hineingeben, und den Text, den das Modell ausgibt. Die Ausgabe ist dabei um ein Vielfaches teurer als die Eingabe.

Der Tokenpreis ist ein Einkaufspreis, kein Verbrauchswert. Er sagt nichts darüber, wie viele Token ein Modell braucht, um Ihre Aufgabe zu erledigen. Genau dort entscheidet sich die Rechnung. Anthropic beziffert den Unterschied an der eigenen Neuvorstellung: Der Preis je Token fiel gegenüber dem Vorgängermodell um ein Fünftel, die Kosten für einen typischen Arbeitsablauf nach Anbieterangaben um rund zwei Fünftel. Die Differenz kommt allein daher, dass das neue Modell für dieselbe Aufgabe weniger Schritte und weniger Token benötigt.

Der Effekt funktioniert auch andersherum, und das übersehen Betriebe regelmäßig. In derselben Preisdokumentation steht, dass die neueren Modelle dieser Familie einen anderen Textzerleger verwenden, der für denselben Text etwa 30 Prozent mehr Token erzeugt. Wer nur die Preistabelle vergleicht, hält ein Modell für günstiger, zahlt am Monatsende aber mehr. Deshalb gilt: Vergleichen Sie nie Tokenpreise miteinander, sondern immer fertige Vorgänge.

Welches Modell für welche Aufgabe genügt

Die größte Ersparnis liegt selten im Wechsel auf die neueste Fassung desselben Spitzenmodells, sondern in der Erkenntnis, dass viele Aufgaben gar kein Spitzenmodell brauchen. Innerhalb einer Anbieterfamilie liegen zwischen der kleinsten und der größten Stufe leicht das Zehnfache an Kosten. Eine Anfrage, die eine Rechnung in Felder zerlegt oder eine Mail einer von fünf Kategorien zuordnet, ist auf der kleinsten Stufe oft genauso zuverlässig wie auf der größten.

Der Anbieter empfiehlt in der eigenen Dokumentation genau diese Staffelung: die kleine Stufe für einfache Aufgaben, die mittlere für den Regelbetrieb, die große nur für anspruchsvolles Schlussfolgern. In der Praxis bewährt sich eine gemischte Bauweise, bei der ein günstiges Modell die Vorarbeit übernimmt und nur der schwierige Rest an das teure Modell geht. Wie sich solche Abläufe im Betrieb verankern lassen, beschreiben wir im Beitrag zu KI im Mittelstand.

Für Betriebe, die aus Datenschutzgründen nicht in die Cloud wollen, ändert sich die Rechnung grundlegend, weil dann Hardware und Strom die Posten sind und nicht Token. Die Abwägung dazu steht in unserem Beitrag zu lokaler KI.

Woran Sie erkennen, dass die Ergebnisse nach dem Wechsel halten

Ein günstigeres Modell spart nur dann, wenn danach niemand nacharbeiten muss. Sobald jemand nachbessert, verschwinden die eingesparten Cent in der ersten Viertelstunde Arbeitszeit. Die Frage nach der Qualität ist deshalb keine Nebensache, sondern der eigentliche Teil der Entscheidung.

Verlassen Sie sich dabei nicht auf veröffentlichte Ranglisten. Der Anbieter schreibt in der eigenen Ankündigung, dass Abstände in solchen Tests bei diesem Leistungsniveau ein weniger verlässlicher Hinweis auf Unterschiede in der Praxis geworden sind, und gibt für einen der genannten Werte eine Schwankungsbreite von plus minus 2,6 Punkten an. Ein Vorsprung von zwei Punkten in einer Tabelle sagt über Ihre Angebote und Ihre Tickets wenig aus.

Was aussagekräftig ist, bauen Sie sich in einem halben Tag selbst: einen Prüfsatz aus zwanzig bis dreißig echten Fällen aus Ihrem Betrieb, bei denen Sie die richtige Antwort kennen, mit Absicht auch schwierigen Fällen. Diesen Satz lassen Sie durch beide Modelle laufen und vergleichen die Ergebnisse nebeneinander. Erst wenn das neue Modell bei gleicher Qualität günstiger ist, ist die Ersparnis echt. Diesen Prüfsatz behalten Sie, denn beim nächsten Modellwechsel ist die Arbeit schon getan.

1. 01

   Gleiche Qualität, deutlich günstiger

   Wechseln

   Umstellen, den Prüfsatz nach vier Wochen erneut laufen lassen und die Rechnung gegen den alten Monat halten.

2. 02

   Gleiche Qualität, kaum günstiger

   Später

   Den Prüfsatz aufheben und beim nächsten Preisschritt wieder hervorholen. Der Aufwand lohnt für kleine Beträge nicht.

3. 03

   Schlechtere Qualität

   Bleiben

   Prüfen, ob eine bessere Anweisung oder ein Zwischenspeicher den Abstand schließt, bevor Sie die Modellstufe senken.

Wo die Kostenrechnung in die Irre führt

Listenpreise sind nicht Ihr Preis. Wer über eine Cloud-Plattform bucht, zahlt für fest zugesicherte Regionen nach Anbieterangaben einen Aufschlag von zehn Prozent, und für die Beschränkung der Verarbeitung auf ein Land kommt bei neueren Modellen das 1,1-Fache auf alle Posten. Das kann sinnvoll sein, gehört aber in die Rechnung. Umgekehrt gibt es ab größeren Mengen Nachlässe, die individuell verhandelt werden.

Zweitens übersehen viele Aufstellungen die Nebenkosten. Werkzeuge, die das Modell selbst aufruft, werden teils gesondert abgerechnet, eine Websuche etwa mit zehn US-Dollar je tausend Suchen. Bei Abläufen, die mehrere Arbeitsschritte parallel starten, steigt der Verbrauch deutlich; der Anbieter nennt für solche Mehrfachabläufe etwa das Siebenfache an Token gegenüber einer gewöhnlichen Sitzung. Wenn Sie in diese Richtung bauen, lohnt der Blick in unseren Beitrag zum KI-Agenten.

Drittens ist die Momentaufnahme kurzlebig. Der Anbieter hat für die kommenden Wochen zwei weitere Modelle derselben Reihe angekündigt, und andere Anbieter ziehen nach. Wer heute eine Tabelle mit Preisen anlegt, hat in einem Quartal eine veraltete Tabelle. Haltbar ist nicht die Preisliste, sondern das Verfahren: die eigene Messung, der eigene Prüfsatz und eine feste Gelegenheit im Quartal, an der Sie beides gegen die aktuellen Preise halten.

Und schließlich entscheidet nicht nur der Preis. Dasselbe neue Modell ist nach Herstellerangaben über dreißig Prozent schneller in der Ausgabe und widerstandsfähiger gegen untergeschobene Anweisungen in fremden Texten. Wenn Ihre Anwendung Dokumente von außen verarbeitet, kann dieser zweite Punkt schwerer wiegen als der Preis.