Serveurs,
puisque vous en affichez 16 au maximum.

Pour les substantifs, c’est une question de présentation de l’expérience.

S’il n’y a qu’un traitement qui utilise X serveurs, la durée est singulière :

pour n serveurs simultanément actifs, la durée est de t.

S’il s’agit d’une moyenne de plusieurs relevés par serveurs, durées est au pluriel, à moins que vous n’indiquiez durée moyenne ; mais on peut aussi laisser au singulier car de toute façon, il n’y a qu’une durée qui intéresse le lecteur.

Dans un graphique, il est souhaitable que les unités utilisées soient précisées, voici un exemple de ce que j’afficherais:

En l’occurrence, chaque point correspond à une durée et un serveur (donc la logique voudrait que ce soit au singulier).
De plus, lorsque l’on lit le graphique on cherche une durée pour un serveur donné et non pas à voir toutes les durées à la fois.

Orthographe mise à part, pour ce genre de graphique, il est préférable d’utiliser un diagramme à barres, car comme je l’ai dit plus haut, on y lit les durées une par une.