The correct sentence is :

Je me suis envoyé un mail

When you use a reflexive pronoun (i.e. when the direct object is also the subject), then you must use the pronominal form, regardless of the semantics. It doesn’t matter that you’re really acting on something else (the mail), grammatically the direct object is the subject; the subject is either acting on itself or in its own interest.

And in French, with “compound tenses” (temps composés, I’m not sure what the translation is in English: passé composé, plus que parfait, passé antérieur…), you must use the auxiliary verb être. So the correct sentence is: Je me suis envoyé un mail. Wikipédia gives a few more examples:

• Il se lave soigneusement (= il lave son corps)
• Vous vous cultiverez en fréquentant les bibliothèques (= vous cultiverez votre esprit)
• Elle s’est acheté un télescope (= elle l’a acheté pour elle-même)

The subject doesn’t have to literally be acting on itself for the pronominal form to be used.

The second form is very incorrect.

From the 1622 “Nouvelle et parfaite grammaire française, où l’on trouve en bel ordre tout ce qui est du plus nécessaire, et du plus curieux pour la pureté, l’orthographe et la prononciation de cette langue” by Chiflet:

In modern French:
Tous les verbes pronominaux au passé composé se conjuguent avec l’auxiliaire être, et jamais avec avoir. Il faut donc dire au passé : « Je me suis trompé, Tu t’es trompé, Il s’est trompé, Nous nous sommes trompés, etc.» Et ceux, originaires de certaines provinces, qui disent « Je m’ai trompé, tu t’as trompé, il s’a trompé, nous nous avons trompé, vous vous avez trompé, etc. » parlent fort mal.

Je me suis envoyé un mail.

… est la tournure usuelle pour dire : J’ai envoyé un mél/courriel/e-mail/mail à moi.

Je m’ai envoyé un mail.

Je me ai envoyé un mail : l’apostrophe de m' remplace le e me et non pas l’oi de moi, la tournure usuelle serait faussée :

… J’ai envoyé un mél/courriel/e-mail/mail à me.

Et même si l’on remplacer le m' par moi cela donnerait je moi ai envoyé un mail, étant donné que je et moi sont la même personne, il faut supprimer l’un des deux sujets du verbe envoyer ; et l’on traduit une action réflexive, qui impose le verbe être.

Dans votre P.S. :

• 1 – Sentir (perception olfactive ou de la sensibilité faite par quelqu’un) et tuer (action d’une personne sur une autre personne) touche à l’être, reflète la vie d’un être vivant.

• 2 – Envoyer est une action d’un être faite sur un objet,

Si l’objet (du 2) ne peut faire lui-même l’action en retour, un message n’envoie pas un message de lui-même, pour cela il faut un humain ou un programme pour le faire, l’action est faite à soi-même… comme dans vos deux premiers exemples (pour la partie à droite des =>).

Le verbe “s’envoyer” est un verbe réfléchi dans la mesure où l’action s’exerce sur le sujet.

“S’envoyer” veut dire “envoyer à soi-même”, “se parler” veut dire “parler à soi-même.”

L’action s’exerce sur le sujet donc l’auxiliaire ne peut être que le verbe être puisqu’il s’agit de verbe réfléchi.

Je me suis envoyé un courriel.

« À la voix pronominale, l’être désigné par le sujet grammatical est à
la fois agent et patient, à la fois actif et passif. » (BDL) L’intensité de l’apport du sujet à l’action, sa participation, varie et on distingue ainsi différents types d’emplois à la voix pronominale : réfléchi, réciproque, indistinct et passif. Le TLFi note certains de ces emplois pour le verbe envoyer ; l’emploi pronominal réfléchi indirect pour l’aliment, la boisson, et par extension à la personne (vulgaire). Larousse note une difficulté et identifie de registre familier un emploi pronominal, s’envoyer qqc, absorber, devoir prendre en charge. L’analyse du pronom n’est pas la même selon le type. Le LBU (Le bon usage, Grevisse et Goosse, ed. Duculot, 14, §776-779) classe s’envoyer dans le sens qu’on vient d’expliquer comme un emploi subjectif (indistinct) se construisant avec un objet direct, familier, très familier ou même vulgaire. En emploi indistinct, normalement l’analyse du pronom ne révèle rien au delà de l’idée que le sujet est concerné par l’action autrement que comme agent uniquement. Cependant, s’envoyer est une exception dans cette catégorie, basé sur le modèle de s’offrir qqc., et le pronom s’y analyse clairement. Clairement mais pas nécessairement simplement, puisque le pronom pourrait renvoyer non à une construction introduite avec à, mais avec pour (LBU14 §672) par exemple (je lui ai, je me suis, trouvé un emploi = pour lui, pour moi). Le rôle du pronom dans cette catégorie est davantage fonctionnel que grammatical/sémantique.

Dans le cas de l’emploi réfléchi, l’agent effectue l’action et la subit. L’analyse du pronom est celle d’un complément direct (se laver) ou indirect (se nuire) classique, dans ce dernier cas pouvant être accompagné par un objet direct distinct alors que le pronom est complément second (je me coupe une tranche de jambon). Il est intéressant de noter que quand l’emploi réfléchi et réciproque sont possibles à la fois, on use du pronom redondant pour distinguer les emplois (Ils se lavent eux-mêmes ; réfléchi).

La personne qui fait l’envoi est impliquée aussi comme patient, destinataire ici, qui ultimement le reçoit et c’est ce que l’emploi illustre à mon avis. Le courriel n’a pas besoin d’être le coude de la personne et l’action de s’y résumer à le tordre pour avoir un emploi pronominal ; un objet direct ne l’empêche pas. Un emploi familier de sens indistinct et différent n’empêche pas non plus l’existence d’un autre type d’emploi, comme réfléchi, ou un emploi entièrement non pronominal dans certains cas (préférablement quand le sujet n’est pas agent et patient à la fois ?). On l’a mentionné ailleurs(2), aux temps composés on construit l’emploi pronominal avec le verbe être. L’analyse du rôle du pronom (s’ pour se pour lui) dépasse dans certains cas le cadre de la grammaire traditionnelle.