#674 · Rechner für KI & Technologie

Durchsatzrechner für KI-Agenten

Der Durchsatzrechner zeigt, wie viele erfolgreiche Aufgaben ein KI-Agentensystem in einer bestimmten Zeit abschließen kann. Er kombiniert Parallelität, durchschnittliche Latenz, Zielauslastung und Erfolgsquote. Dadurch erhältst du neben dem Rohdurchsatz auch einen praxisnäheren Netto-Durchsatz nach Fehlschlägen.

Rechner

Durchsatzannahmen

So verwendest du diesen Rechner

Trage die gleichzeitig ausführbaren Agentenläufe ein.
Nutze eine realistische mittlere End-to-End-Latenz.
Setze die tatsächlich nutzbare Auslastung und Erfolgsquote.
Vergleiche Roh- und Netto-Durchsatz.

Formel

Rohdurchsatz/Min. = Parallelität × 60 ÷ Latenz × Auslastung

Erfolgreicher Durchsatz = Rohdurchsatz × Erfolgsquote

Was das Ergebnis bedeutet

Der Netto-Durchsatz zählt nur erfolgreich abgeschlossene Aufgaben. Der Abstand zum Rohdurchsatz zeigt, wie stark Fehler oder Abbrüche die produktive Kapazität reduzieren.

Bei stark schwankender Latenz oder Warteschlangen sollte der Rechner mit Messwerten aus repräsentativer Last verwendet werden.

Beispielrechnung

20 parallele Läufe, 6 Sekunden Latenz und 80 % Auslastung ergeben 160 Aufgaben pro Minute Rohdurchsatz. Bei 95 % Erfolgsquote bleiben 152 erfolgreiche Aufgaben pro Minute.

Tipps für bessere Ergebnisse

Miss Erfolgsquote und Latenz gemeinsam, weil Fehler oft mit Last zusammenhängen.
Nutze zusätzliche P95-Latenzen für Kapazitätsreserven.
Senke unnötige Wiederholungen, wenn sie Parallelität blockieren.
Vergleiche den Durchsatz mit ankommender Aufgabenrate und Queue-Länge.

Häufig gestellte Fragen

Wie berechne ich den Durchsatz eines KI-Agentensystems pro Minute?

Multipliziere die parallelen Läufe mit 60, teile durch die mittlere Latenz und berücksichtige die nutzbare Auslastung.

Warum wird die Erfolgsquote vom Rohdurchsatz abgezogen?

Fehlgeschlagene Aufgaben verbrauchen Kapazität, liefern aber kein nutzbares Ergebnis. Der Netto-Durchsatz zählt deshalb nur erfolgreiche Abschlüsse.

Ist ein höherer Parallelitätswert immer besser für den Agenten-Durchsatz?

Nicht unbedingt. Rate Limits, Datenbanken, externe APIs und GPU-Sättigung können bei zu hoher Parallelität die Latenz erhöhen und Fehler verursachen.

Welche Latenz sollte ich für die Durchsatzplanung verwenden?

Am besten eine End-to-End-Latenz aus Produktions- oder Lasttests, die Modellaufrufe, Tools und Orchestrierung einschließt.

Wie erkenne ich, ob mein System mehr Durchsatz braucht?

Vergleiche den nachhaltigen Netto-Durchsatz mit der ankommenden Aufgabenrate. Wenn dauerhaft mehr Arbeit ankommt als abgeschlossen wird, wächst die Warteschlange.

Kennzahlen im Überblick

Kennzahl	Bedeutung
Rohdurchsatz	Kapazität vor Erfolgsquote.
Netto-Durchsatz	Erfolgreich abgeschlossene Aufgaben.
Fehlschläge/h	Kapazität, die ohne erfolgreiches Ergebnis verbraucht wird.