Vu le caractère quasi contemporain des premières attestations, on peut émettre l’hypothèse que le genre du mot n’était pas bien fixé et que le masculin et le féminin ont pu être utilisés concomitamment, le féminin l’emportant dans certaines variétés de français sur le masculin, sans qu’on puisse à proprement parler de remplacement.

Moustiquaire est dans la deuxième moitié du 18ème un néologisme rapporté des colonies. L’exemple du TLFi (Valm. 1768) est tiré du Dictionnaire raisonné universel d’histoire naturelle de Valmont de Bonare, naturaliste et voyageur français du temps. Pour le citer :

• Mais on a une autre ressource pour la nuit, ce sont des rideaux ou un pavillon de mousseline très-claire, même de la gaze, dont le lit est environné (c’est ce qu’on nomme un mosquiller ou un moustiquaire) : on ferme par ce moyen toute entrée aux mosquilles, sans intercepter la fraîcheur de l’air.

Mais il existe par ailleurs d’autres formes à l’époque. Wartburg les donne dans son article mŭsca du FEW : moustiquière f. (1788), moustiquier m. (1829), mosquillier (1768). A quoi s’ajoute la cousinière (1723), de même sens mais formée sur cousin (cŭlex), ancien nom du moustique qui l’a à peu près supplanté, ce d’autant plus facilement qu’il évite l’homophonie avec cousin (consobrīnus).

C’est peut-être une fausse analogie induite par la ressemblance sur le plan phonique de la finale en /ɛr/ qui a fait passer moustiquaire du masculin au féminin.