Actually, “soit” is the subjonctif présent 3^rd person singular of “être”.

The correct form is indeed:

Soit G un groupe localement compact […]

When the subject is plural, e.g. “Let G and H be locally compact groups”, you can use either “Soient” (subjonctif présent, 3^rd person plural) or “Soit”, as the construction became idiomatic.

Soient G et H des groupes localement compacts […]

Soit G et H des groupes localement compacts […]