I would use :

Je vous remercie de (m’avoir rappelé|me rappeler) [si vite]

(First alternation is past tense for the end of the conversation, second alternative is present for the beginning of the conversation. Optional “Si vite” is here to emphasis that a person has called back quickly.)

On the other hand:

Merci pour le rappel

looks rather like “Thanks for the reminder”. If you do not want to emphasis the particular “back calling”, you could use :

Je vous remercie pour votre appel.

It’s a traditional sentence you will heard when calling professionals.

Je dirais « merci de me rappeler » (langue courante).

Dans le langage courant on dira plutôt:

Merci de m’avoir rappelé(e).

ou

Merci d’avoir rappelé.