Correct:

• Qu’est-ce que ça veut dire ?

Correct, you need to clearly separate maman from the rest of the sentence, otherwise would mean “what does mum want to say?” :

• Qu’est-ce que « maman » veut dire ?
• Que veut dire « maman » ?

Not appropriate, this would be used for some unknown thing, not a word:

• Qu’est-ce que c’est ?

Non idiomatic / incorrect:

• Que veut dire ça ?
• Qu’est « maman » en anglais ?
• Qu’est-ce que « maman » est en anglais ?
• Qu’est ça ?

Note that I made some typographic changes, a space is required before a question mark in (France) French, and double quotes should be guillemets.