Dans le dictionnaire, on mentionne que la traduction version informatique est recouvrement.

Un panneau vient se superposer à la page active.

• ^{On peut emploier aussi ‘une pop-up’ pour panneau, c’est un anglicisme compris par tous, en revanche overlay n’est connu que des informaticiens.}
• ^{Contrairement à ce que l’on pourrait penser, alors qu’on pose un objet sur quelque chose, on superpose un objet à quelque chose.}

Si je devais absolument le traduire je dirais plutôt un “cache” ou un “rideau” (opaque / transparent / translucide) pour préciser à quoi il ressemble.

TL;DR

Si j’ai bien compris ce que l’on cherche à décrire, il s’agit d’une fenêtre modale avec un voile devant le reste de l’application.

Pop-up

La remarque de cl-r concernant pop-up est pertinente : ce terme est compris en français. Wikipédia propose également fenêtre intruse¹ ou fenêtre surgissante.

La terminologie fenêtre intruse a été recommandée (voire note 1) mais je pense qu’elle ne s’applique que dans le cas où la fenêtre n’a pas été sollicitée par l’utilisateur.

On peut aussi penser à une fenêtre modale, mais celle-ci implique généralement que le reste de l’application n’est pas accessible tant que la modale n’est pas fermée (cf. plus bas).

Overlay

Sans plus de précision, ce terme est très vague. Il peut aussi bien désigner les badges qui s’appliquent sur certaines icônes (celles de raccourcis, par exemple) dans le monde Linux qu’effectivement des panneaux. Je vais rester sur cette approche puisque c’est celle avancée par la question.

En relisant la question et la proposition de CitronEvanescent, je pense que le mot voile peut rendre l’idée comme tu l’espères : un voile recouvre la page ; on la voit toujours, mais on ne peut interagir avec elle.

Modalité ?

Si, comme je le comprends, il ne s’agit pas d’une nouvelle fenêtre de navigateur mais plutôt d’une « fenêtre » à l’intérieur de la page web, et que le but de l’overlay est d’empêcher l’accès au reste de la page tant que la « pop-up » n’est pas fermée, alors fenêtre modale est la terminologie consacrée.

Pour exemple, voici un exemple de fenêtre modale dans le framework Bootstrap

_{Note sans rapport direct avec la question}

_{Selon le type de document que l’on rédige, le niveau de détail à fournir n’est pas le même. Dans des spécifications techniques, on se contentera généralement de préciser que le reste de l’application n’est pas accessible tant que la modale est ouverte (ce qui est redondant avec l’aspect modal de la fenêtre).}

_{Si on tient à préciser le rendu, on peut évoquer l’idée de voile (c’est ce qui me semble le plus approprié), mais une image est souvent plus simple que de longs discours. Pour décrire rapidement une interface à créer, je conseille de s’appuyer sur des wireframes (que l’on peut créer avec des outils tels que Balsamiq, Mockingbird et les nombreuses alternatives qui existent, mais ceci est un sujet pour Software Recommendations).}

_{¹ Terme recommandé par la DGLFLF, journal officiel du 18/12/2005, voir FranceTerme [archive]}