Schätze die variablen Modellkosten einer einzelnen LLM-Inferenzaufgabe, ohne aktuelle Anbieterpreise fest zu hinterlegen. Du trägst Eingabe- und Ausgabetokens sowie deine Preise pro Million Tokens selbst ein. Zusätzlich lässt sich ein tägliches Aufgabenvolumen hinterlegen, damit aus dem Einzelpreis direkt ein Tages- und Monatsbudget entsteht.
Das Hauptresultat zeigt die reinen Tokenpreise pro Aufgabe. Tages- und Monatswerte skalieren diesen Betrag linear mit dem angegebenen Aufgabenvolumen.
Zusätzliche Infrastruktur-, Netzwerk-, Speicher-, Retrieval-, Tool- oder Beobachtungskosten sind nicht enthalten. Trage immer deine tatsächlich gültigen Preisannahmen ein.
Bei 1.200 Eingabetokens zu 1,50 € je Million und 300 Ausgabetokens zu 6,00 € je Million kostet eine Aufgabe 0,0036 €. 10.000 Aufgaben pro Tag ergeben 36,00 € pro Tag und 1.080,00 € in 30 Tagen.
Multipliziere Eingabe- und Ausgabetokens jeweils mit dem zugehörigen Preis pro Million Tokens und addiere beide Teilkosten.
Modell- und Anbieterpreise können sich ändern und unterscheiden sich nach Tarif. Eigene Eingaben vermeiden veraltete fest verdrahtete Preise.
Nein. Wenn dein Anbieter Cache-Treffer anders bepreist, solltest du die effektiven durchschnittlichen Eingabekosten als eigene Preisannahme verwenden oder separat modellieren.
Bei Self-Hosting kommen typischerweise GPU-Zeit, Strom, Orchestrierung, Netzwerk, Storage und Betrieb hinzu; dieser Rechner modelliert nur eingegebene Tokenpreise.
Die stärksten Hebel sind oft weniger Eingabekontext, kürzere Ausgaben, geeignetere Modelle, höhere Cache-Nutzung oder preisgünstigere Ausführungswege bei gleicher Qualitätsanforderung.
| Dimension | Verwendung |
|---|---|
| Primärer Wert | Kapazitäts- oder Kostenentscheidung |
| Sekundärwerte | Plausibilitätsprüfung und Skalierung |
| Annahmen | Mit Produktionsmesswerten regelmäßig aktualisieren |