Dieser Rechner dimensioniert GPU-Kapazität für Multi-Agent-Workflows auf Basis der gesamten GPU-Zeit. Er berücksichtigt die Rechenzeit aller Agenten, optionalen GPU-Anteil der Orchestrierung, Tagesvolumen, Betriebsstunden, Zielauslastung und eine Kapazitätsreserve. Das Ergebnis wird auf ganze GPUs aufgerundet.
Die Rechnung summiert GPU-Zeit über alle Agenten eines Workflows. Parallelität verändert die Wandzeit, aber nicht automatisch die gesamte verbrauchte GPU-Zeit, weshalb hier der Kapazitätsbedarf über GPU-Sekunden geplant wird.
VRAM, Modellplatzierung, Parallelisierung über mehrere GPUs und unterschiedliche GPU-Typen werden nicht separat modelliert.
5 Agenten mit je 1,8 GPU-Sekunden plus 0,2 GPU-Sekunden Orchestrierung ergeben 9,2 GPU-Sekunden je Workflow. Bei 3.000 Workflows sind das 7,67 GPU-Stunden pro Tag.
Summiere die GPU-Zeit aller Agenten und der Orchestrierung je Workflow, skaliere mit dem Tagesvolumen und teile durch die nutzbare GPU-Zeit pro Gerät.
Die Rechnung basiert auf gesamter GPU-Zeit. Parallelität kann die Wandzeit verkürzen, verändert aber den summierten GPU-Zeitbedarf nicht zwangsläufig.
Nur wenn du ihre Leistung vorher auf eine gemeinsame Referenz normalisierst. Reine GPU-Sekunden sind zwischen unterschiedlichen Hardwareklassen nicht direkt vergleichbar.
Eine Reserve schafft Spielraum für Lastspitzen, Messunsicherheit, Wachstum und schwankende Agentenpfade.
Nein. Speicherbedarf und Modellplatzierung müssen separat geprüft werden, insbesondere bei großen Modellen oder mehreren gleichzeitig geladenen Modellen.
| Kennzahl | Bedeutung |
|---|---|
| GPU-Sekunden/Workflow | Summierte Rechenzeit aller Agenten und Orchestrierung. |
| GPU-Stunden/Tag | Tägliche Gesamtlast. |
| Basisbedarf | Gerätebedarf vor Kapazitätsreserve. |