“pour exemple” est plutôt un synonyme de “comme exemple” alors que “par exemple” signifie “pour donner un exemple“.

Si un exemple est souvent un cas particulier illustrant un modèle général (Les arbres sont verts, par exemple le platane), le terme fonctionne souvent pour indiquer le modèle lui même. On utilise alors le modèle (donc, ici, l’exemple), par le principe de la copie, de l’imitation. (si je ne suis pas clair, dites le moi).

C’est même sa première définition, telle que la donne le tlfi :

Personne, action, activité qui peut être proposée comme modèle à
imiter.

Et on dit alors pour l’exemple : Punir pour l’exemple.

Et cela découle des définitions de par et de pour, il me semble ?

Il est vrai qu’on dit plutôt pour l’exemple, mais je pense que pour exemple est aussi correct, mais je ne suis pas Grevisse.