Schätze die Kosten pro Aufgabe für asynchrone LLM-Batchverarbeitung mit eigenen Preisannahmen. Der Rechner kombiniert Eingabe- und Ausgabetokenpreise, einen optionalen Batchrabatt und fixe Kosten je Batch. Dadurch siehst du neben den Kosten pro Datensatz auch die Gesamtkosten des Batches und den Anteil fixer Kosten pro Aufgabe.
Das Hauptresultat enthält rabattierte Tokenkosten und anteilige Fixkosten. Bei großen Batches sinkt der Fixkostenanteil pro Aufgabe, während die Tokenkomponente proportional bleibt.
Der Rabatt ist eine frei einzugebende Annahme und kein aktueller Anbieterwert. Prüfe immer die tatsächlich gültigen Konditionen und zusätzliche Infrastrukturkosten.
100.000 Aufgaben mit 800 Eingabe- und 120 Ausgabetokens kosten bei 1,50 € bzw. 6,00 € je Million zunächst 0,00192 € Tokenkosten pro Aufgabe. Mit 50 % Batchrabatt werden daraus 0,00096 €. Zusätzlich 20 € Fixkosten entsprechen 0,00020 € pro Aufgabe; insgesamt entstehen 0,00116 € pro Aufgabe und 116,00 € pro Batch.
Berechne zuerst die Tokenkosten pro Aufgabe und reduziere sie um den eingegebenen Rabatt. Anschließend addierst du die anteiligen Fixkosten je Aufgabe.
Fixkosten werden auf mehr Aufgaben verteilt. Bei unveränderten Fixkosten halbiert eine Verdopplung der Batchgröße den Fixkostenanteil pro Aufgabe.
Nein. Der Rabatt ist nur ein Eingabefeld. Verwende ausschließlich die Konditionen deines aktuellen Anbieters oder deiner internen Kostenrechnung.
Je nach Architektur können Orchestrierung, Storage, Datenübertragung, GPU-Betrieb, Monitoring und Nachbearbeitung relevant sein.
Berechne beide Wege mit denselben Tokenmengen und ihren jeweiligen Preisen beziehungsweise Rabatten. Vergleiche anschließend Kosten pro Aufgabe und die benötigte Fertigstellungszeit.
| Dimension | Verwendung |
|---|---|
| Primärer Wert | Kapazitäts- oder Kostenentscheidung |
| Sekundärwerte | Plausibilitätsprüfung und Skalierung |
| Annahmen | Mit Produktionsmesswerten regelmäßig aktualisieren |