“en” is used for currency:
je paye en euros, en dolards, en bitcoins

it is also used to say that you pay with cash : je paye en espèces, en liquide, en cash

“par” will be used for a payment method (other than cash): je paye par chèque (check), par carte de credit (credit card), par virement (bank transfer), par paypal …

“avec” is used to define the object(s) used to pay :
je paye avec ma carte de crédit (with my credit card), avec des bons cadeaux (with voucher)

When the word represents both a method and the object used as the credit card you can use either :
Je paye par carte de crédit / Je paye avec ma carte de crédit

It’s not that much related to the method of payment then related to the choice of words. Here are other ways perfectly valid, at least, from Quebec 😉

Ils payent avec des pièces.

• Ils payent par pièces de monnaie.
• Ils payent en monnaie.

Elle paye par chèque.

• Elle paye avec un chèque.
• Elle paye en chèque.

Il paye par carte de crédit.

• Il paye avec une carte de crédit.
• Il paye en crédit.

Je paye en espèces.

• Je paye avec des espèces.
• Je paye par espèces.

Probably that the one looking best in all situations is with avec.