Wer KI-Kosten berechnen will, stößt schnell auf ein Problem: Die Preislisten der Anbieter sprechen in Tokens, das Controlling in Euro pro Monat und die Fachabteilung in Anfragen pro Tag. Zwischen diesen Welten fehlt oft die Übersetzung. Die Folge sind Budgets, die entweder zu großzügig geplant sind oder nach wenigen Wochen platzen.
Besonders tückisch wird es, wenn ein Pilotprojekt mit wenigen Testnutzern in den Regelbetrieb geht. Was im Test ein paar Euro kostete, kann bei Tausenden Anfragen täglich, längeren Dokumenten und mehrstufigen KI-Agenten zum relevanten Posten werden.
Dieser Beitrag zeigt dir, aus welchen Bausteinen sich die Kosten einer KI-Anwendung zusammensetzen, wie du die Kosten pro Anfrage mit einer einfachen Formel ermittelst und welche Hebel deine Rechnung senken. Alle Preise in den Beispielen sind fiktive Rechenwerte, weil sich die Tarife der Anbieter häufig ändern.
Inhaltsverzeichnis
Was heißt es, KI-Kosten berechnen zu können?
KI-Kosten berechnen bedeutet, die variablen Kosten einer KI-Anwendung pro Anfrage zu ermitteln und auf Nutzung, Monat oder Geschäftsvorfall hochzurechnen. Grundlage sind die verarbeiteten Tokens für Eingabe und Ausgabe, multipliziert mit den Preisen des Modells. Hinzu kommen Fixkosten für Infrastruktur, Integration, Betrieb und Personal, die du anteilig verteilst.
Der Unterschied zu klassischer Software ist entscheidend. Eine Lizenz pro Nutzer kostet jeden Monat gleich viel, egal wie intensiv jemand sie nutzt. Bei nutzungsbasierten KI-Diensten steigen die Kosten dagegen mit jeder Anfrage, jedem längeren Dokument und jedem zusätzlichen Arbeitsschritt eines Agenten. Kosten werden damit zu einer Frage der Architektur, nicht nur des Einkaufs.
Die Bausteine: Woraus sich KI-Kosten zusammensetzen
Bevor du rechnest, solltest du wissen, was überhaupt anfällt. Viele Kalkulationen betrachten nur den Modellpreis und übersehen den Rest. Eine vollständige Sicht umfasst variable und fixe Bestandteile.
Variable Kosten pro Anfrage
- Input-Tokens: alles, was an das Modell geht, also Systemanweisung, Nutzerfrage, Gesprächsverlauf und eingebundene Dokumente
- Output-Tokens: die Antwort des Modells, bei vielen Anbietern pro Token deutlich teurer als die Eingabe
- Interne Denk-Tokens: Reasoning-Modelle erzeugen vor der Antwort Zwischenschritte, die bei manchen Anbietern als Output abgerechnet werden
- Embeddings: Vektorisierung von Dokumenten und Suchanfragen für Retrieval-Anwendungen
- Werkzeugaufrufe: Websuche, Codeausführung oder externe APIs, die teils separat berechnet werden
Fixe und laufende Kosten
- Entwicklung, Integration und Tests der Anwendung
- Vektordatenbank, Hosting, Monitoring und Protokollierung
- Betrieb, Support und Weiterentwicklung durch interne oder externe Teams
- Schulungen, Compliance-Prüfungen und Dokumentation
Wer KI-Kosten berechnen will, braucht für den Business Case beide Seiten. Für die Steuerung im laufenden Betrieb sind die variablen Kosten pro Anfrage jedoch die wichtigste Kennzahl, weil sie mit der Nutzung skalieren.
Tokens verstehen: Die Währung der Sprachmodelle
Ein Token ist ein Textbaustein, den das Modell verarbeitet: mal ein ganzes Wort, mal eine Silbe, mal ein Satzzeichen. Einige Anbieter nennen als Faustregel für englische Texte rund vier Zeichen pro Token. Deutsche Texte mit langen zusammengesetzten Wörtern benötigen tendenziell mehr Tokens für denselben Inhalt.
Faustregeln reichen für eine erste Schätzung. Wenn du KI-Kosten berechnen willst, die einer Prüfung durch das Controlling standhalten, solltest du echte Daten verwenden. Die meisten Anbieter liefern in jeder API-Antwort die genaue Zahl der verarbeiteten Input- und Output-Tokens mit. Protokolliere diese Werte von Anfang an.
Ebenso wichtig: Jedes Modell nutzt einen eigenen Tokenizer. Derselbe Text kann bei zwei Anbietern unterschiedlich viele Tokens ergeben. Vergleiche Modelle deshalb mit deinen eigenen Beispieldaten, nicht nur anhand der Preise pro Million Tokens.
Die Formel: KI-Kosten berechnen pro Anfrage
Die Grundformel ist einfach. Für eine einzelne Modellanfrage gilt:
Kosten pro Anfrage = (Input-Tokens × Inputpreis) + (Output-Tokens × Outputpreis)
Die Preise werden meist pro Million Tokens angegeben. Teile sie deshalb durch eine Million, um den Preis pro Token zu erhalten. Kommen Embeddings, Werkzeugaufrufe oder mehrere Modellaufrufe pro Nutzeranfrage hinzu, addierst du diese Posten.
Beispielrechnung: Wissensassistent im Kundenservice
Beispielrechnung mit fiktiven Preisen: Ein Modell kostet 2 Euro pro Million Input-Tokens und 8 Euro pro Million Output-Tokens. Eine typische Anfrage an einen internen Wissensassistenten umfasst 3.000 Input-Tokens, bestehend aus Systemanweisung, Frage und drei eingebundenen Textabschnitten, sowie 500 Output-Tokens für die Antwort.
- Input: 3.000 × 2 Euro / 1.000.000 = 0,006 Euro
- Output: 500 × 8 Euro / 1.000.000 = 0,004 Euro
- Summe: 0,01 Euro pro Anfrage
Bei 20.000 Anfragen im Monat ergeben sich in diesem Beispiel rund 200 Euro an Modellkosten. Das wirkt überschaubar. Doch schon kleine Änderungen verschieben das Ergebnis deutlich, wie der nächste Abschnitt zeigt.
Beispielrechnung: Mehrstufiger KI-Agent
Ein Agent, der eine Aufgabe in acht Schritten bearbeitet, ruft das Modell achtmal auf. Bei jedem Schritt wächst der Kontext, weil bisherige Ergebnisse mitgeschickt werden. Angenommen, der Input steigt von 4.000 auf 18.000 Tokens und liegt im Schnitt bei 11.000 Tokens pro Schritt, der Output bei 600 Tokens.
- Input: 8 × 11.000 = 88.000 Tokens, also 0,176 Euro
- Output: 8 × 600 = 4.800 Tokens, also rund 0,038 Euro
- Summe: rund 0,21 Euro pro Aufgabe
Mit denselben fiktiven Preisen kostet eine Agentenaufgabe also gut zwanzigmal so viel wie die einfache Anfrage. Bei 20.000 Aufgaben im Monat wären das rund 4.300 Euro. Genau deshalb musst du KI-Kosten berechnen, bevor du Agenten in den Regelbetrieb bringst.
Fixkosten auf Anfragen umlegen
Die Modellkosten sind nur ein Teil der Wahrheit. Um KI-Kosten berechnen zu können, die mit anderen Lösungen vergleichbar sind, musst du auch die Fixkosten anteilig verteilen. Beispielrechnung: Betrieb, Monitoring und Weiterentwicklung des Wissensassistenten kosten im Monat 3.000 Euro an Personal- und Infrastrukturkosten. Bei 20.000 Anfragen entfallen darauf 0,15 Euro pro Anfrage.
Im Beispiel übersteigen die Fixkosten pro Anfrage die reinen Modellkosten also um ein Vielfaches. Das ist typisch für Anwendungen mit moderatem Volumen. Steigt die Nutzung, sinkt der Fixkostenanteil pro Anfrage, während die variablen Kosten konstant bleiben. Diese Dynamik solltest du kennen, bevor du über Skalierung entscheidest.
Preisänderungen einplanen
Die Preise für Sprachmodelle haben sich in den vergangenen Jahren immer wieder verändert, häufig nach unten, bei neuen Spitzenmodellen aber auch auf höherem Niveau. Hinzu kommt, dass viele Anbieter in US-Dollar abrechnen. Wenn du KI-Kosten berechnen und budgetieren willst, plane deshalb mit Szenarien statt mit einem einzigen Wert: einem Basisfall, einem Fall mit doppeltem Volumen und einem Fall mit höheren Preisen.
Versteckte Kostentreiber erkennen
In der Praxis weichen die tatsächlichen Kosten oft deutlich von der ersten Kalkulation ab. Die Ursachen sind meist dieselben:
- Wachsender Gesprächsverlauf: Chat-Anwendungen schicken den bisherigen Dialog bei jeder Nachricht erneut mit. Lange Gespräche werden dadurch mit jeder Runde teurer.
- Großzügiges Retrieval: Wer zehn statt drei Dokumentabschnitte in den Kontext lädt, vervielfacht die Input-Tokens, oft ohne bessere Antworten.
- Wiederholungen: Fehlerhafte Antworten, Zeitüberschreitungen und automatische Neuversuche verursachen Kosten ohne Nutzen.
- Überdimensionierte Modelle: Das leistungsstärkste Modell für einfache Klassifikationen einzusetzen, ist teuer und meist unnötig.
- Lange Systemanweisungen: Mehrseitige Prompts, die bei jeder Anfrage mitgehen, summieren sich bei hohem Volumen erheblich.
Wie du Kontexte schlank und trotzdem aussagekräftig gestaltest, beschreibt unser Beitrag zum Kontext-Engineering. Bessere Daten senken dabei häufig nicht nur die Kosten, sondern verbessern auch die Qualität der Antworten.
7 Hebel, mit denen du KI-Kosten senkst
Wer seine KI-Kosten berechnen kann, erkennt auch, wo sich Einsparungen lohnen. Diese Hebel haben sich in vielen Projekten bewährt:
- Modell-Routing: Leite einfache Anfragen an kleinere, günstigere Modelle und reserviere große Modelle für komplexe Aufgaben.
- Prompt-Caching nutzen: Viele Anbieter berechnen wiederkehrende Kontextbestandteile, etwa lange Systemanweisungen, beim erneuten Senden günstiger.
- Batch-Verarbeitung: Aufgaben ohne Zeitdruck, etwa nächtliche Auswertungen, lassen sich bei vielen Anbietern zu reduzierten Preisen gesammelt verarbeiten.
- Kontext begrenzen: Fasse lange Gesprächsverläufe zusammen und lade nur die relevantesten Dokumentabschnitte.
- Ausgabe steuern: Begrenze die Antwortlänge und fordere strukturierte, knappe Formate an, wo Fließtext nicht nötig ist.
- Antworten zwischenspeichern: Häufige, identische Fragen müssen nicht jedes Mal neu berechnet werden.
- Budgets und Limits setzen: Lege Obergrenzen pro Nutzer, Team und Anwendung fest und lass dich bei Überschreitungen warnen.
API, Cloud oder eigener Server: Der Kostenvergleich
Nutzungsbasierte APIs sind ideal für den Einstieg und für schwankende Lasten. Du zahlst nur, was du verbrauchst, und musst keine Hardware vorhalten. Bei hohem, gleichmäßigem Volumen kann sich dagegen der Betrieb eines eigenen, kleineren Modells rechnen, vor allem wenn Datenschutz oder Datenhoheit ohnehin dafür sprechen.
Für einen fairen Vergleich musst du die Gesamtkosten betrachten: Hardware oder gemietete GPU-Kapazität, Strom, Wartung, Personal für den Betrieb und die Auslastung. Ein Server, der nur zu einem Bruchteil ausgelastet ist, kostet pro Anfrage schnell mehr als jede API. Worauf es beim Eigenbetrieb ankommt, erläutert unser Beitrag zur lokalen KI auf dem eigenen Server.
Wer für beide Varianten sauber KI-Kosten berechnen kann, trifft die Entscheidung auf Basis von Zahlen statt Bauchgefühl. Viele Unternehmen landen bei einem hybriden Modell: sensible oder sehr häufige Standardaufgaben auf eigenen oder dedizierten Ressourcen, komplexe und seltene Aufgaben über die API leistungsstarker Modelle.
Kostensteuerung im laufenden Betrieb
Einmal KI-Kosten berechnen reicht nicht. Nutzung, Modelle und Preise ändern sich laufend, deshalb brauchst du ein kontinuierliches Monitoring. Die Disziplin dahinter ist aus dem Cloud-Umfeld bekannt: FinOps, also die gemeinsame Verantwortung von Technik, Fachbereich und Finanzen für variable IT-Kosten.
Ordne jede Anfrage über Kennzeichnungen einer Anwendung, einem Team und einem Anwendungsfall zu. So erkennst du, welche Projekte Kosten treiben und ob ihnen ein entsprechender Nutzen gegenübersteht. Viele Methoden lassen sich direkt aus dem Cloud-Kostenmanagement übernehmen, die wir im Beitrag Cloud-Kosten senken zusammengefasst haben.
Die wichtigste Kennzahl ist am Ende nicht der Preis pro Token, sondern der Preis pro Geschäftsvorfall: Was kostet ein beantwortetes Kundenticket, ein geprüfter Vertrag oder ein erstelltes Angebot? Erst diese Sicht macht KI-Kosten mit den Kosten manueller Bearbeitung vergleichbar.
Klare Verantwortung für die Zahlen
Kostenkontrolle scheitert selten an fehlenden Daten, sondern an unklaren Zuständigkeiten. Benenne für jede produktive KI-Anwendung eine verantwortliche Person aus dem Fachbereich, die das Budget kennt und monatlich mit IT und Controlling auf die Entwicklung schaut. Ein kurzer, fester Termin genügt oft, um Ausreißer früh zu erkennen.
Hilfreich ist ein einfaches Dashboard mit drei Werten: Kosten pro Geschäftsvorfall, Gesamtkosten im Monat und Abweichung vom Plan. Wenn Teams sehen, was ihre Anwendungen kosten, und selbst KI-Kosten berechnen können, entstehen Sparideen oft direkt dort, wo das Wissen über die Prozesse sitzt.
Fazit: KI-Kosten berechnen ist Pflicht vor dem Rollout
KI-Kosten berechnen ist keine Aufgabe für das Ende eines Projekts, sondern gehört an den Anfang. Mit der einfachen Formel aus Input- und Output-Tokens, echten Messwerten aus dem Pilotbetrieb und einem Blick auf versteckte Kostentreiber wie Agenten und wachsende Kontexte kalkulierst du belastbar.
Wer zusätzlich Modelle gezielt auswählt, Kontexte schlank hält und Kosten pro Geschäftsvorfall misst, behält das Budget im Griff. So wird aus einer schwer kalkulierbaren Technologie ein steuerbarer Kostenfaktor mit messbarem Nutzen.
Häufige Fragen zu KI-Kosten berechnen
Wie kann ich KI-Kosten berechnen, wenn ich noch keine Nutzungsdaten habe?
Starte mit einer Schätzung: Lege typische Anfragen fest, zähle mit dem Tokenizer des Anbieters die Input- und Output-Tokens und multipliziere sie mit den aktuellen Preisen. Rechne das auf die erwartete Zahl von Anfragen hoch und plane einen Puffer ein. Ersetze die Annahmen so früh wie möglich durch echte Messwerte aus einem Pilotbetrieb.
Was ist ein Token und wie viele Tokens hat ein Text?
Ein Token ist ein Textbaustein, den ein Sprachmodell verarbeitet, etwa ein Wort, ein Wortteil oder ein Satzzeichen. Als grobe Faustregel nennen einige Anbieter rund vier Zeichen pro Token bei englischem Text. Deutsche Texte benötigen oft mehr Tokens. Die genaue Zahl hängt vom Tokenizer des jeweiligen Modells ab.
Warum sind KI-Agenten so viel teurer als einfache Anfragen?
Agenten rufen das Modell für eine Aufgabe mehrfach auf und schicken bei jedem Schritt den wachsenden Kontext mit, also bisherige Zwischenergebnisse, Werkzeugausgaben und Anweisungen. Dadurch vervielfachen sich die Input-Tokens. Hinzu kommen mögliche Werkzeugkosten und Neuversuche. Begrenze deshalb die Zahl der Schritte und fasse Zwischenergebnisse zusammen.
Welche Kennzahl hilft, wenn ich KI-Kosten berechnen und steuern will?
Am aussagekräftigsten sind die Kosten pro Geschäftsvorfall, etwa pro beantwortetem Ticket oder erstelltem Angebot. Sie verbinden technische Kosten mit dem Nutzen und lassen sich mit manueller Bearbeitung vergleichen. Ergänzend helfen Kosten pro Anfrage, Tokens pro Anfrage und die Verteilung der Kosten auf Teams und Anwendungen.
Wann lohnt sich ein eigenes Modell statt einer API?
Ein eigenes Modell kann sich lohnen, wenn das Anfragevolumen hoch und gleichmäßig ist, die Aufgaben mit kleineren Modellen gut lösbar sind und Datenschutzgründe dafür sprechen. Entscheidend ist die Auslastung. Vergleiche die Gesamtkosten aus Hardware, Strom, Betrieb und Personal mit den API-Kosten bei realistischem Volumen.
