You can say both, as habiter is both transitive and intransitive. However, in everyday conversation, the intransitive form is more common.

Les deux se parlent, mais seul habiter à doit être retenu pour l’écrit.

On peut habiter :

• chez quelqu’un,
• près d‘une autre ville,
• en ville (celle dont on vient de parler), synonyme de “intra-muros” (entre les murs [de la citadelle] en latin)
• à l’hôtel

Familièrement on supprime le à mais on ajoute aussi le sur pour indiquer que l’on habite près de la localité citée :

J’habite sur PARIS, pour dire que l’on est francilien (habitant de l’Île de France, une des vingt-deux région de l’hexagone) mais pas parisien (habitant intra-muros).

Ce sont là deux expressions (sans à et sur) que l’on peut connaître mais qu’il vaut mieux ne pas utiliser, surtout lorsque l’on essaie de parler correctement le français.

In spoken French, I hear the prepositionless form most often used when followed with something else, to make a sentence shorter and more fluid.

J’habite à Paris depuis cinq ans, et […].

could beneficially be replaced by

J’habite Paris depuis cinq ans, et […].

Similarly,

Elle habite dans un grand appartement de 120 m² depuis 1978.

=> Elle habite un grand appartement de 120 m² depuis 1978.

However, with nothing after :

I’d rather say

Je m’appelle Guillaume, j’habite à Paris.

(sounds complete, round)

than

Je m’appelle Guillaume, j’habite Paris.

(…OK so what ? Kind of falls flat, sounds a bit
dry, leaves us expecting something else)

This might be a matter of everyone’s own ear, but I do see a pattern in there.