according to some search, please find some parts of answer. It seems there is a scale difference between the two words. Note that according to “l’Encyclopédie, 1re éd.
1751 (Tome 5, p. 412).” the point is about the subject which inspire fear or horror. The feeling is different.

From “Français notre belle langue” forum we can read :

La réponse de Littré devrait vous satisfaire, car elle confirme ce que vous dites :
EFFRAYANT, EFFROYABLE. Ces deux mots ont même origine, puisque effrayer et effroyer sont deux formes d’un même mot ; il n’y a donc de différence que dans la finale : effrayant est le participe présent d’effrayer ; effroyable est l’adjectif verbal d’effroyer. La nuance est que effrayant est strictement limité à la crainte, tandis que à effroyable se joint l’idée accessoire d’horrible.

Voyons l’Académie :
EFFRAYANT, -ANTE adj. XVIe siècle. Participe présent d’effrayer.
Qui provoque une peur violente ; qui effraie. Un spectacle effrayant. Une figure effrayante. Un songe effrayant. Par exag. Fam. Il a un travail effrayant. Il fait une chaleur effrayante !
EFFROYABLE adj. XIVe siècle, au sens de « d’une laideur repoussante ». Dérivé d’effroi.
Qui cause de l’effroi. Un spectacle, une vision effroyable. Il proférait des menaces effroyables. Un accident effroyable. Par exag. Il s’est lancé dans d’effroyables dépenses. Il faisait un temps effroyable.
En conclusion, il semble qu’il y ait une différence de degré de signification, ce qui est effrayant cause une certaine crainte (au sens figuré de l’inquiétude par son ampleur), l’effroyable provoque une terreur, une peur violente par une grande intensité dramatique.

The TLFI dictionnary suggests the same differences about “effroi” roots.
effrayant
effroyable

Le Grand Robert de la langue française distingue ces termes de cette façon :

[Effrayant] “Qui inspire ou peut inspirer de la frayeur, de l’effroi.”

[Effroyable] “Qui remplit d’effroi, de terreur.”

Introduisant donc une nuance logique, modale : l’effroyable suscite nécessairement l’effroi, tandis que l’effrayant est susceptible de le susciter.

Ceci expliquant cela, Le Grand Robert historique de la langue française précise quant à “effroyable” (XV-XVIe s.) qu’il s’agit “d’un doublet plus fort de effrayant [1539], d’un usage soutenu”.