Il s’agit de ce qu’on appelle un temps surcomposé. Certains verbes conjugués avec avoir (c’est plus rare avec être) ajoutent un auxiliaire de plus à un temps déjà composé. Dans un temps déjà composé (ici le passé composé) au lieu de laisser l’auxiliaire au temps simple on le met au temps composé correspondant.

• j’ai fini est un passé composé
• j’ai eu fini est un passé composé composé

On emploie un temps surcomposé pour marquer un fait antérieur et accompli (1) par rapport à un fait qu’exprime le temps composé de l’action exprimée en parallèle (2).

(1) → j’ai eu fini
(2) → je suis partie

Les temps surcomposés sont surtout employés à l’oral, du moins en France du Nord (on les emploie plus facilement dans le sud de la France).
En langue écrite on emploie plutôt le passé antérieur, ce qui explique pourquoi tu l’as rencontré dans la leçon sur le passé antérieur :

Aussitôt que j’eus fini, je suis partie.

Autres exemples de temps surcomposés

• Futur surcomposé :

  Quand j’aurai eu mangé, je partirai.

• Subjonctif :

  Encore eût-il fallu que j’aie eu allumé le feu pour que le gâteau cuise.

« Aussitôt que j’ai fini, je suis partie » ne serait pas correct pour les raisons de concordance des temps que j’ai indiquées plus haut.
« Je suis partie » indique une action déjà passée, et « Aussitôt que j’ai fini » indique une action future.