Estima la concurrencia necesaria para cumplir un objetivo de latencia para un flujo de generación de datos sintéticos. Introduce el volumen previsto, los parámetros técnicos y el margen operativo para obtener una referencia inmediata que facilite la planificación de capacidad, costes y niveles de servicio. Los resultados son orientativos y dependen del modelo, el hardware, la concurrencia y la eficiencia real de la implementación.
El resultado final se redondea hacia arriba para obtener unidades completas.
El resultado sirve para dimensionar el sistema y comparar escenarios con supuestos homogéneos. Sustituye los valores iniciales por datos medidos en tu entorno antes de tomar decisiones de compra o despliegue.
Estimación técnica y económica. El rendimiento real puede variar por modelo, proveedor, hardware, tamaño de lote, longitud de contexto, caché, colas y arquitectura.
Con 600 solicitudes/min, 4 s de latencia, 70 % de utilización y 20 % de margen: (600 × 4/60) ÷ 0,70 × 1,20 = 68,57; se requieren 69 unidades concurrentes.
Para dimensionar capacidad suele ser más prudente usar p95 o un valor de pico representativo.
Puede ser un trabajador, proceso, ranura de inferencia o solicitud simultánea según tu arquitectura.
Para conservar capacidad disponible ante variaciones, colas y tiempos de espera.
No de forma separada; debes incorporarlo a la latencia utilizada.
Sustituye la demanda media por las solicitudes por minuto del periodo de mayor carga.
| Utilización | Interpretación |
|---|---|
| 50 % | Reserva amplia |
| 70 % | Equilibrio habitual |
| 85 % | Menor holgura |