Schätze den GPU-Bedarf für KI-Transkription aus parallelen Streams, Rechenlast je Stream, nutzbarer GPU-Kapazität und Reserve. Das Ergebnis zeigt Mindestanzahl, Auslastung und freie Kapazität.
Gesamtlast = parallele Streams × Rechenbedarf je Stream
Effektive GPU-Kapazität = Kapazität je GPU × Effizienz
Basisbedarf = Gesamtlast / effektive Kapazität
GPU-Bedarf = aufgerundet Basisbedarf × (1 + Reserve)
Der Hauptwert ist ein Planungswert auf Basis deiner Eingaben. Er ist besonders nützlich für Kapazitäts-, Budget- und Skalierungsentscheidungen, ersetzt aber keine Messung unter realer Produktionslast.
Hinweis: Modellpreise, Hardwareleistung und Workload-Verhalten unterscheiden sich je Anbieter und Setup. Verwende möglichst eigene aktuelle Messwerte.
24 Streams × 18 Einheiten erzeugen 432 Einheiten Last. Bei 100 Einheiten je GPU und 85 % Effizienz stehen effektiv 85 Einheiten je GPU zur Verfügung. Der Basisbedarf beträgt 5,08 GPUs; mit 20 % Reserve werden 7 GPUs benötigt.
Multipliziere die parallelen Streams mit dem Rechenbedarf je Stream und teile durch die effektiv nutzbare GPU-Kapazität; anschließend wird die Reserve berücksichtigt.
Verwende eine intern gemessene Lastkennzahl, die mit der Kapazität je GPU in derselben Einheit vergleichbar ist.
In der Praxis ist nicht immer die gesamte theoretische Kapazität nutzbar. Der Effizienzfaktor bildet diesen Abschlag ab.
Eine höhere Reserve erhöht den dimensionierten Bedarf und schafft mehr Spielraum für Lastspitzen oder Laufzeitschwankungen.
Dann übersteigt die berechnete Last die effektiv nutzbare Kapazität der aktuell vorhandenen GPUs.
| Kennzahl | Bedeutung |
|---|---|
| Hauptresultat | Zentraler Planungswert für diese Arbeitslast. |
| Reserve | Puffer für Schwankungen, Lastspitzen oder Unsicherheit. |
| Vergleichswert | Hilfskennzahl zur Einordnung von Kosten oder Kapazität. |