#929 · Rechner für KI & Technologie

KI-Videopipeline: Latenz- und Kapazitätsrechner

Dieser Rechner schätzt, wie viele parallele Worker eine KI-Videopipeline benötigt, um ein vorgegebenes Job-Volumen pro Stunde bei einer gemessenen Verarbeitungszeit und Zielauslastung zu bewältigen. Zusätzlich vergleicht er die reine Servicezeit mit einem gewünschten End-to-End-Latenzziel. Die Berechnung eignet sich für Batch- und Near-Real-Time-Pipelines, sofern die eingegebene durchschnittliche GPU- oder Worker-Zeit repräsentativ ist.

Rechner

Eingaben

So verwendest du diesen Rechner

Setze das erwartete Spitzen- oder Zielvolumen in Jobs pro Stunde.
Miss die durchschnittliche oder konservative Servicezeit je Videojob.
Wähle eine Zielauslastung mit ausreichender Reserve.
Vergleiche Worker-Bedarf und Latenzbudget mit deinem Betriebsziel.

Formel

Rohe Worker-Last = Jobs/h × Servicezeit(s) ÷ 3.600

Effektive Kapazität/Worker = 3.600 ÷ Servicezeit × Zielauslastung

Erforderliche Worker = aufrunden(Ziel-Jobs/h ÷ effektive Kapazität/Worker)

Latenzbudget = Ziel-Latenz − Servicezeit

Was das Ergebnis bedeutet

Die Worker-Zahl zeigt die minimale parallele Kapazität unter den eingegebenen Durchschnittsannahmen. Das Latenzbudget ist keine Queueing-Simulation, sondern die verbleibende Zeit nach der eigentlichen Servicezeit. Bei hoher Varianz oder Burst-Last sollte zusätzliche Kapazität vorgesehen werden.

Für harte SLOs sind Messungen von p95/p99-Servicezeit, Queueing und Datenübertragung wichtiger als ein reiner Durchschnitt.

Beispielrechnung

600 Jobs/h × 18 s ÷ 3.600 = 3,0 voll ausgelastete Worker-Äquivalente
Kapazität je Worker bei 70 %: 3.600/18 × 0,70 = 140 Jobs/h
600/140 = 4,29 → 5 parallele Worker
Latenzbudget: 45 − 18 = 27 s.

Tipps für bessere Ergebnisse

Nutze für SLO-Planung nicht nur Mittelwerte, sondern hohe Perzentile.
Berücksichtige Video-Download, Decoding und Upload separat, wenn sie nicht in der Servicezeit enthalten sind.
Vermeide dauerhaft sehr hohe Auslastung bei stark bursty Workloads.
Prüfe, ob parallele Stufen der Pipeline unterschiedliche Engpässe besitzen.

Häufig gestellte Fragen

Wie viele Worker brauche ich für 600 KI-Videojobs pro Stunde?

Bei 18 Sekunden Servicezeit und 70 Prozent Zielauslastung ergibt das Beispiel fünf parallele Worker; mit anderen Eingaben ändert sich der Bedarf.

Was gehört zur Servicezeit einer KI-Videopipeline?

Nutze genau die Zeit der Ressource, deren Kapazität du dimensionierst, oder eine konsistent gemessene End-to-End-Servicezeit, wenn ein Worker den gesamten Job abarbeitet.

Warum sollte ich Videopipeline-Worker nicht dauerhaft zu 100 Prozent auslasten?

Reserve hilft, Lastspitzen und schwankende Jobdauern abzufangen und verhindert, dass Warteschlangen bei kleinen Störungen stark anwachsen.

Wie erkenne ich, ob mein Latenzziel schon durch die Modellinferenz verfehlt wird?

Wenn die eingegebene Servicezeit größer als die Ziel-Latenz ist, ist das restliche Latenzbudget negativ.

Kann ich den Rechner für Batch-Videos und Near-Real-Time-Videoanalyse nutzen?

Ja, solange Volumen, Servicezeit und Zielauslastung passend gewählt werden. Für harte Echtzeitgrenzen sind detailliertere Queueing- und Perzentilanalysen nötig.

Kennzahlen im Überblick

Kennzahl	Bedeutung
Worker-Bedarf	Aufgerundete parallele Kapazität für das Zielvolumen.
Rohe Last	Worker-Äquivalente bei 100 % Auslastung.
Kapazität/Worker	Jobs pro Stunde bei gewählter Zielauslastung.
Latenzbudget	Restzeit zwischen Servicezeit und End-to-End-Ziel.