Après quelques recherches, voici les candidats que je retiens :

Opération : En mathématiques, une opération est un processus visant à obtenir un résultat à partir d’un ou plusieurs objets appelés opérandes. 1 Noter qu’en Géométrie, ces opérations sont appelées transformations.

Application : En mathématiques, une application est une relation entre deux ensembles pour laquelle chaque élément du premier (appelé ensemble de départ ou source) est relié à un unique élément du second (l’ensemble d’arrivée ou but). 2

Fonction : une fonction relie deux grandeurs (a priori numériques) de telle façon que la connaissance de la première permet de déterminer la deuxième. 3

Relation : […] Les fonctions ou applications peuvent être vues elles-mêmes comme des cas particuliers de relations. Plus précisément une fonction (application) n-aire est une relation n+1 fonctionnelle (et applicative).4

Bien que techniquement tous ces termes soient des mots français, on sort un peu des compétences de linguistes : je vous laisse donc choisir le terme qui vous convient le mieux !

On ne parle jamais de remaniement en math. Je pense qu’à la place d’opération (si vraiment c’est inadapté, ce qui ne me paraît pas évident en général), on utiliserait en fait un mot qui dépend de la modification en question. Transformation, comme suggéré dans l’autre réponse, fonctionne aussi assez souvent.

Concernant les exemples que tu donnes, pour diviser un vecteur par sa longueur, on parlerait de renormalisation. Changement d’échelle est très bien comme ça ; dans certaines circonstances on utilisera aussi renormalisation.

Un exemple auquel m’a fait penser remaniement : pour modifier l’ordre d’éléments d’un ensemble, on dira réarrangement.