The word en is one of those little words that has many different meanings.

Here, en is a pronoun. It does not refer to la ménagerie, but rather to nos vices.

I suspect that the biggest difficulty in this sentence is il est. This is a decidedly old-fashioned way of writing il y a. The pronoun il is impersonal, it does not have a referent. This formulation would not be used today, but it is not out of place in 19th century poetry. Hence, il en est means il y en a, i.e. “there is one (vice)”. Also, “Il en est un plus laid […]” is elided from “Il en est un qui est plus laid […]”

If read as prose, the sentence construction would be considered slightly awkward. Here is a decidedly non-poetic way to write this sentence:

Nos vices constituent une ménagerie infâme. On peut les comparer à des chacals, […], à des monstres qui glapissent ou qui hurlent ou qui grognent ou qui rampent. Parmi ces vices, l’un d’entre eux est plus laid, plus méchant et plus immonde que les autres.

La construction sous-jacente est « il est [quelque chose] parmi [d’autres] ». Lorsque le il est impersonnel on s’attend à ce que la phrase ait un complément. Tourné autrement, cela peut donner :

Parmi ceux-ci, il est un animal¹ plus laid, méchant,… [que les autres].

On peut aussi utiliser le pronom un directement (comme dans le poème), et il est dans ce cas assorti d’un pronom en, cela donne :

Parmi les animaux, il en est un plus laid,…

La même construction est possible avec le partitif :

Des animaux, il en est un plus laid…

Ce qui explique d’une certaine manière la reprise faite par le pronom en.

—
^{1. À remplacer par vice pour ceux qui seraient de l’autre côté de la méthaphore. La construction s’appuie pourtant sur l’énumération.}