En mathématiques, la traduction de ray est demi-droite, comme indiqué ici.
La traduction correcte serait demi-droite propre. J’ai aussi croisé le terme vecteur propre, mais je ne sais pas si il correspond à ray.

On peut aussi voir ta question d’une deuxième façon : “Dois-je traduire ?”.
Il est intéressant de noter que même en anglais, le mot est à moitié allemand : en effet, eigen signifie propre dans cette langue. Vu que je n’ai trouvé qu’une occurrence de l’expression exacte “demi-droite propre” sur Google, et que ton domaine à l’air encore peu développé en France, il est peut-être possible de laisser le terme anglais/allemand.

vecteur propre = eigenvector. Ce n’est pas la même chose qu’une demi-droite (la demi-droite est infinie alors que la magnitude du vecteur est définie). Donc il ne faut surtout pas traduire eigenray par vecteur propre. Le problème de l’utilisation du terme “rayon” est l’ambiguïté de la traduction. Rayon = ray (une demi-droite), mais aussi rayon = radius (un segment de droite). Même si rayon sera sans doute compris dans le bon sens du terme si l’on traduit par rayon propre, demi-droite propre me semble plus clair. A noter que c’est une notion déjà rare en anglais (vecteur propre est beaucoup plus commun), donc il n’est pas étonnant de ne pas en trouver la trace en français.