Google vous fournit de multiples explications, dont l’une est qu’au quinzième siècle (et avant) de nombreuses personnes étaient affectées par des parasites dans la cavité nasale et que cette maladie, quelque peu honteuse, nécessitait un interrogatoire serré de la Faculté pour parvenir au diagnostic.

Pour ma part, bien que cette explication puisse paraître convaincante, je pense que la fortune contemporaine de cette expression est plus triviale : tout le monde a pratiqué le “nose-picking”, de préférence dans un lieu privé, et tout le monde sait que c’est une activité assez peu digne, mais finalement de peu de conséquence si vous n’infligez pas ce malheureux spectacle à des tiers. Lorsqu’on vous dit “On va te tirer les vers du nez, “bastard””, cela signifie qu’on va s’introduire dans ta sphère privée et pratiquer du “nose-picking” dans ton nez avec des doigts qui ne sont pas les tiens. C’est évidemment horrible, obscène, mais je pense que c’est cette image invasive dans une partie intime de votre corps qui continue à frapper les esprits à l’époque contemporaine.

On peut faire observer que le Grand Robert de la langue française associait vers dans tirer les vers du nez aux vers rinaires et faisait remonter la locution au 17e siècle en renvoyant au Dandin de Molière.

Du Grand Robert au Dictionnaire historique de la langue française, la copie a été revue. L’expression est datée dans le DHLF de 1405. Il aurait été utile d’en dire un peu plus sur ses premières attestations.

Le Dictionnaire des locutions en moyen français, l’admirable dictionnaire de Giuseppe Di Stefano, donne cinq exemples d’emploi de tirer les vers du nez, quatre d’entre eux sont dus à Christine de Pizan (1364 – vers 1430), le cinquième de Jacques Grévin est bien postérieur et remonte à 1561.

On peut se demander d’ailleurs si ce n’est pas Christine qui a introduit l’expression en français. Elle était venue en France à l’âge de quatre ans à la suite de son père, Tommaso di Benvenuto da Pizzano, médecin et astrologue de renom, diplômé de l’université de Bologne où il enseignait, qu’avait fait venir à sa cour Charles V. Thomas de Pizan avait particulièrement soigné l’éducation de sa fille qui accédait librement à la bibliothèque du Roi et il n’est pas impossible qu’il lui ait fait acquérir des connaissances en médecine, ce qui permettrait de conjecturer une explication médicale et nous ramènerait aux vers rinaires.

Je verse également au dossier une partie de l’article tanne, c’est-à-dire point noir de l’Encyclopédie de Diderot et d’Alembert (http://enccre.academie-sciences.fr/encyclopedie/article/v15-2943-0/) :

TANNE, s. f. (Physiolog.)​​ Les tannes sont l’humeur sébacée de la sueur & de la transpiration retenue dans ses petits canaux excrétoires.

La portion qui couvre le bout du nez, des aîles du nez & du menton, &c. est chargée d’un grand nombre de follicules sébacées qui produisent une secrétion d’un liquide huileux, lequel demeure arrêté dans les petits canaux excrétoires par une transpiration retenue, à cause du défaut de chaleur qui la rend moins abondante dans cette partie. Cette humeur arrêtée s’épaissit & se durcit dans les follicules, d’où on la fait sortir en forme de petits vers par l’expression, & avec une épingle.

Les tannes ne sont donc autre chose qu’une humeur blanchâtre, huileuse & terreuse de la sueur retenue dans les follicules sébacées du menton, du bout du nez, qui forme comme des mailles, tandis que la matiere qui leur servoit de véhicule s’évapore par la chaleur & la transpiration. Cette matiere remplit peu-à-peu ces follicules ou mailles ; alors il en regorge une partie par les petits trous excrétoires qui sont sur la peau.

Comme cette matiere est tenace & gluante, elle retient la crasse & la poudre qui vole sur le visage ; & quoiqu’on l’essuie souvent, non-seulement on n’emporte pas la crasse qui s’est placée sur les extrémités des tannes qui sont dans les enfoncemens de ces trous ; mais au contraire le linge qui essuie le visage, la ramasse & la presse dans ces creux, où elle reste & produit ces petits points noirs, qui paroissent dans les pores de presque tous les nez, & qui forme le petit bout noir de la tanne quand on la fait sortir de son trou, en la pinçant d’une certaine façon.

Voilà ce qui persuade les personnes peu instruites, que les tannes sont des vers qui s’engendrent dans la peau, & que ce petit point en est la tête, au lieu que c’est un petit peloton de l’humeur sébacée & ​​dessechée dans les réseaux de la peau, dont la petite extrémité qui regarde le jour, est sale & crasseuse par la poudre qui sans cesse vole dessus, & en est retenue par la matiere gluante de la tanne même. Il doit paroître plus de tannes sur le nez & sur le menton qu’aux autres endroits du visage, à cause de leur plus grand nombre de follicules sébacées.

C’est donc sans fondement qu’on a pris les tannes pour des vers, mais je crois plus, c’est que très souvent on s’est trompé, quand on a cru, par des incisions, avoir tiré des vers du nez, des sourcils & des différentes parties du visage. En effet, sans vouloir nier qu’effectivement il se trouve quelquefois des vers dans le nez, dans les sourcils & dans d’autres parties extérieures du corps humain, il est constant qu’on se fait très-souvent illusion sur cet article, & que ce que l’on prend pour des vers, n’est communément que du pus épaissi. Lorsqu’un bouton a suppuré sans qu’on en ait fait sortir la matiere, elle s’y fige, & devient de la consistance d’une pâte. Le bouton reste ouvert, & le pus qui le remplit paroît sur cette ouverture comme une tache brune, parce que l’air en a séché & durci le dessus ; c’est cette tache que l’on prend pour la tête d’un ver, il faut le faire sortir. On presse le bouton ; le pus en sortant par l’ouverture du bouton, prend une forme cylindrique, c’est le ver qui sort la tête la premiere. La pression n’étant pas de tous côtés égale, ce pus ne sort pas par-tout en égale quantité, cela fait qu’il se recoquille en divers sens, & voilà le ver qui sort vivant, & qui fait des contorsions. En faut-il davantage pour établir une opinion populaire ? On n’auroit cependant qu’à toucher ce prétendu ver, pour se convaincre qu’il n’étoit rien moins que ce qu’on le croyoit, & c’est ce dont on ne s’avise pas.

Voilà ce qui persuade les personnes peu instruites, opinion populaire peut-on lire, ne peut-on pas conclure de cet article que les points noirs étaient communément appelés des vers et qu’on peut rejoindre Littré?

Il serait quoi qu’il en soit intéressant de savoir pourquoi le DHLF rejette les explications de prime abord convaincantes avancées par Littré, les encyclopédistes et le Grand Robert.

Autre explication plus que plausible, mais qui n’est donné nulle part ailleurs:
Si on pense "vers" dans le sens "phrase" ou "mots" ou "assemblage de mots" (Larousse), "tirer les vers du nez" voudrait dire tirer les mots – la vérité – par le nez, parce que la bouche est fermée – autrement dit, quand la personne ne veut rien dire !