latency - ¿Qué entendemos por "percentil superior" o latencia basada en TP?

distributed-system performance

Question

Cuando discutimos el rendimiento de un sistema distribuido, usamos los términos tp50, tp90, tp99.99 TPS. ¿Podría alguien explicar qué queremos decir con eso?

Answer 1

tp90 es un tiempo mínimo en el que se ha atendido el 90% de las solicitudes. Imagina que tienes veces:

10s
1000s
100s
2s

Calcular el TP es muy simple:

• ordenar todos los tiempos en orden ascendente: [2s, 10s, 100s, 1000s]
• Encuentra el último artículo en la porción que necesitas calcular. Para TP50 será ceil (4 * .5) = 2 solicitudes. Necesita segunda solicitud. Para TP90 será ceil (4 * .9) = 4. Necesitas 4ª solicitud.
• obtener tiempo para el elemento encontrado arriba. TP50 = 10s. TP90 = 1000s