Estima si un procesamiento por lotes LLM finalizará dentro de una ventana operativa. Combina registros, tamaño de lote, tiempo por lote, paralelismo y sobrecarga entre trabajos para calcular duración total, capacidad por hora y margen frente al plazo disponible.
Lotes = techo(registros ÷ registros por lote).
La duración considera oleadas discretas de trabajos. El margen positivo indica tiempo disponible; uno negativo cuantifica cuánto debe reducirse el plan para cumplir el plazo.
Se supone que todas las oleadas tardan lo mismo. Variación de longitudes, límites de cuota y reintentos pueden ampliar la cola real.
500.000 registros en lotes de 5.000 producen 100 lotes. Con 6 en paralelo son 17 oleadas; a 18 minutos más 2 de sobrecarga, el trabajo dura 340 minutos o 5,67 horas.
Porque cualquier lote restante necesita una oleada adicional aunque no utilice todo el paralelismo disponible.
En esta calculadora se aplica una vez por oleada. Si ocurre por lote, añádela a la duración media por lote.
Compara la capacidad calculada con la cuota y reduce el paralelismo o divide el trabajo en varias ventanas.
La oleada termina cuando finaliza su lote más lento; usa una duración representativa del extremo alto o equilibra tamaños.
Es una media sobre el trabajo completo, incluida la sobrecarga; en periodos cortos puede variar por la estructura de oleadas.
| Elemento | Uso |
|---|---|
| Entradas | Definen la carga y la capacidad disponible. |
| Resultado principal | Resume la decisión operativa más importante. |
| Métricas secundarias | Ayudan a comprobar margen, volumen y eficiencia. |