La quatrième édition du Dictionnaire de l’Académie française (1762) décrit déjà une substantivation de l’adjectif merveilleux en ces termes :

MERVEILLEUX, s’emploie aussi au substantif, & signifie, Ce qu’il y a de merveilleux, de surprenant, d’admirable dans un Poëme, ou Épique, ou Dramatique. Le merveilleux doit être joint au vraisemblable. Il se dit aussi De ce qu’il y a de vif, de noble & d’élevé dans les expressions, dans le style.

Par la suite, le terme est davantage étoffé, et dans la huitième édition (1935), on peut lire :

MERVEILLEUX s’emploie comme nom dans le langage de la littérature pour signifier l’Intervention des êtres surnaturels dans un poème épique ou dramatique. Le merveilleux de la mythologie. Il a emprunté le merveilleux de son épopée à la magie, à la féerie. Dans ce poème, le merveilleux se réduit à l’emploi de personnages allégoriques. On distingue le merveilleux chrétien et le merveilleux païen. Il signifie aussi Ce qui, dans un événement, dans un récit, s’éloigne de l’ordre naturel et du cours ordinaire des choses. Voilà le merveilleux de l’aventure, de l’histoire.

Déjà il y a près d’un siècle, donc, on parle du merveilleux chrétien et du merveilleux païen, et sans aucun doute aussi du merveilleux musulman, qui ne fut pas nommé, mais que l’on perçoit immanquablement à la lecture des Mille et une nuits, par exemple.

En emploi absolu pour désigner un certain type de littérature, il semble sensé d’affirmer en suivant le commentaire d’aCOSwt sous la question qu’il existe des œuvres antérieures à l’établissement officielle ou même officieuse de la désignation, puisque déjà Homère en incorporait à ses récits, et que Lucien de Samosate (120-180) se fit même un devoir dans son Histoire véritable, de ne jamais même toucher à la réalité, mais de composer une aventure rocambolesque qui soit du début à la fin un tissu de mensonges. Il n’est d’ailleurs guère secret quant à sa volonté : il la déclare très explicitement dès son introduction.

Et aussi en ligne avec aCOSwt, que l’établissement d’un type littéraire appelé merveilleux a pu servir ultérieurement de fourre-tout à de nouveaux types de merveilleux qui ne partagent pas forcément beaucoup de traits en commun, outre leur utilisation d’« un ou plusieurs éléments d’irrationnel (créatures surnaturelles, utilisation de pouvoirs magiques, etc.) qui s’insèrent de façon harmonieuse dans la réalité du monde imaginaire présenté ». Les contes de fées, les contes folkloriques, les légendes et croyances diverses, les fables et contes animaliers existent depuis longtemps. Du point de vue de la langue française, on pourrait dire qu’ils existent depuis toujours. Qu’ils aient été englobé par l’appelation de merveilleux est tout naturel : on devrait même plutôt dire que l’appelation fut créée pour eux.

Le fantastique était présent dans certains de ces récits. L’apparition d’une littérature spécialisée en fantastique, et plus récemment d’un courant particulier coulant vers l’horreur, semble marquer les confins de la notion de merveilleux.

Néanmoins, de nouveaux types de merveilleux ont été explorés ou définis plus récemment, et il a semblé naturel de les incorporer sous la vaste bannière du merveilleux. On peut penser par exemple à la science-fiction et à la fantasy (ou fantaisie).

On pourrait tenter de tracer des parallèles avec d’autres types de littérature, afin d’y trouver une manière de désigner la littérature du merveilleux.

• Le surréalisme, pour lequel existe un adjectif (surréaliste), pourrait sembler un bon point de départ. Il y a cependant un hic : si l’adjectif est utilisé à toutes les sauces, le surréalisme demeure habituellement LE surréalisme, tel que décrit par André Breton. Et le nom a servi à la création de l’adjectif, tout le contraire du merveilleux.
• Le policier peut-être ? Il existe un nom et un adjectif policier. On parle communément de littérature policière, de romans policiers et par métonymie du roman policier pour désigner le genre et l’ensemble des œuvres romanesques s’y rattachant. L’ennui ici est que merveilleux peut qualifier correctement des choses bien éloignées d’une œuvre d’art, fut-elle littéraire ou simplement picturale. Un coucher de soleil, une période de vacances bien méritée, un résultat scolaire, un nouveau modèle de semelles de bottes, une vieille tête de hache toute rouillée datant de 1500 ans, une dent de dinosaure, pourraient tous être qualifiés de merveilleux. Bien sûr, un policier n’est pas forcément une œuvre d’art non plus, mais la versatilité de policier est beaucoup plus restreinte que celle de merveilleux.

Que faire alors ? On peut bien sûr parler de littérature merveilleuse, qui dans un contexte adéquat sera aisément compréhensible, et probablement jamais confondue avec la merveilleuse littérature réaliste déconstructiviste française du XXe siècle ou quelque autre merveilleuse littérature de gare. Mais l’option littérature du merveilleux aura l’avantage de n’être pas ambiguë et de ne pas laisser même soupçonner que l’on attribue une simple épithète d’appréciation à la littérature en général. On pourrait cependant alors se demander de quel merveilleux il est question (le merveilleux chrétien ? païen ? du conte de fée ? du folklore inuit ? d’autre chose encore ?).