So verwendest du diesen Rechner
- Trage parallele Inferenzslots und gemessene Antwortlatenz ein.
- Wähle eine nachhaltige Zielauslastung.
- Setze KI-Antworten je Ticket und tägliches Supportfenster.
- Vergleiche die Kapazität mit deinem Tagesziel.
Prüfe, ob die Inferenzkapazität deines KI-Kundensupports zum erwarteten Ticketvolumen passt. Aus parallelen Antwortslots, mittlerer Latenz, Zielauslastung und KI-Antworten je Ticket berechnet das Tool Tickets pro Stunde und pro Tag. Zusätzlich zeigt es die Kapazitätslücke zum Ziel und die ungefähr erforderliche Parallelität.
Das Ergebnis beschreibt eine rechnerische nachhaltige Ticketkapazität. Es ist besonders nützlich, um das Verhältnis zwischen Latenz, Parallelität und Gesprächslänge zu verstehen.
Externe Systeme, Routing, Tool-Aufrufe, Datenbanken und Spitzenlasten können die reale End-to-End-Kapazität zusätzlich begrenzen.
120 parallele Slots bei 2,8 Sekunden Latenz und 70 % Zielauslastung ergeben 30 KI-Antworten pro Sekunde. Bei 4 Antworten je Ticket sind etwa 27.000 Tickets pro Stunde und 432.000 Tickets in 16 Stunden möglich.
Berechne zunächst KI-Antworten pro Sekunde aus Parallelität, Latenz und Zielauslastung und teile anschließend durch die durchschnittlichen KI-Antworten je Ticket.
Je mehr Modellantworten für ein Ticket nötig sind, desto mehr Inferenzkapazität verbraucht ein abgeschlossenes Ticket und desto geringer ist die Ticketkapazität pro Stunde.
Du kannst Parallelität erhöhen, Antwortlatenz reduzieren, das Supportfenster verlängern oder die Zahl unnötiger KI-Runden je Ticket senken.
Für Basiskapazität ist ein repräsentativer Mittelwert hilfreich. Für Service-Level- und Spitzenplanung sollte zusätzlich P95 oder P99 mit Reserve betrachtet werden.
Sie schätzt die Zahl gleichzeitig verarbeitbarer Antwortslots, die unter den angegebenen Latenz-, Auslastungs- und Gesprächsannahmen nötig ist, um das Tagesziel zu erreichen.
| Kennzahl | Bedeutung |
|---|---|
| Antwortkapazität | Nachhaltige KI-Antworten pro Zeiteinheit |
| Ticketfaktor | KI-Antworten bis Ticketabschluss |
| Tagesleistung | Tickets im Supportfenster |
| Zielabstand | Reserve oder fehlende Kapazität |