D’après le Littré, l’étymologie est inconnue.

Le Larousse indique que cela pourrait provenir du grec macro-oulon (grande gencive), mais je ne vois pas trop le lien (sauf si on considère la tache blanche sur le front qui "agrandit" le bec de l’oiseau.)

Une autre hypothèse, plus probable, est le frison "markot" ou le néerlandais "meerkot/meerkol" qui veulent tous les deux dire "poule d’eau" (ou plutôt poule de lac, car meer=lac). Cette étymologie est à relier avec celle de la macreuse (https://www.cnrtl.fr/etymologie/macreuse) et remonterait au XIVème siècle. (rem: en néerlandais moderne, la poule d’eau (Gallinula chloropus) = waterhoen, la foulque macroule (fulica atra) = meerkoet) )

Diable de mer, à mon humble avis, est plutôt lié aux légendes entourant les macreuses/macroules (oiseau noir = malheur) qu’à une réelle étymologie.