If you want to use an infinitive you can use either pour or à.

J’ai un problème pour mémoriser…
J’ai un problème à mémoriser…

You could use a noun :

J’ai un problème avec la mémorisation des …

Although mémoriser exists in French, we’d probably prefer to use se rappeler or retenir.

J’ai un problème à/pour retenir…
J’ai un problème à/pour me rappeler …

An alternative to avoir un problème would be avoir du mal:

J’ai du mal à retenir tous les pays d’Europe.

On pourrait également utiliser:

J’ai de la difficulté à mémoriser…

Ou bien,

J’ai de la misère à mémoriser…

Mais comme Laure a déjà dit, si vous voulez utiliser “problème”, ça serait:

J’ai un problème à mémoriser…