Cómo usar esta calculadora
- Introduce el volumen de documentos.
- Define la ventana de procesamiento.
- Añade latencia y utilización objetivo.
- Obtén RPS, concurrencia y margen.
Estima la capacidad concurrente necesaria para procesar documentos con IA dentro de un objetivo de latencia. Relaciona volumen, ventana de procesamiento, tiempo medio por documento y utilización máxima para calcular solicitudes por segundo, concurrencia y margen operativo.
Concurrencia recomendada = (documentos ÷ segundos disponibles × latencia) ÷ utilización
La concurrencia estimada indica cuántos trabajos deben ejecutarse en paralelo para cumplir el plazo.
Añade margen adicional si la latencia tiene colas largas o depende de servicios externos.
50.000 documentos en 8 horas requieren 1,74 solicitudes por segundo. Con 4 segundos de latencia, la concurrencia teórica es 6,94 y, al 70 % de utilización, se recomiendan 10 procesos.
Usa un percentil representativo, como p95, si necesitas un diseño conservador.
Evita operar permanentemente al máximo y deja margen para picos y variabilidad.
No necesariamente; un servidor puede ejecutar varios trabajos simultáneos.
Aumenta las solicitudes por segundo y la concurrencia necesaria.
No; añade un factor de volumen o reduce la utilización objetivo para cubrirlos.
| Indicador | Uso práctico |
|---|---|
| RPS | Ritmo medio necesario. |
| Concurrencia | Trabajos simultáneos recomendados. |