Tout dépend. Dans la plupart des contextes, en France, c’est tout à fait admis, mais il existe effectivement des limites :

• Dans un contexte informel (famille, collègues que l’on connait bien, amis), c’est une habitude. On entend même parfois bon ap’, dans les cas les plus informels.
• Dans un contexte moyennement formel, cela peut se dire sans problèmes. Il est m’est arrivé de l’entendre de la part de personnes hiérarchiquement plus élevées que moi au travail, tout comme il m’est arrivé de le dire à ces personnes.
• Dans les contextes les plus formels cependant, cela peut passer pour une familiarité déplacée. C’est dans ces derniers cas qu’il convient d’être prudent. Certains recueils de bonnes manières bannissent cette expression et invitent même à répondre de façon détournée si l’on est destinataire de ces mots (une simple recherche le montre). J’ignore pourquoi.

Pour répondre au deuxième point, il s’agit d’un refus tautologique :

L’hôte (principalement la maîtresse de maison, mais celui qui invite s’il n’est pas marié) s’est donné beaucoup de mal à choisir le menu, à dresser la table et à y accorder les voisinages en fonction des affinités qui autorisent d’enfreindre le protocole pour réaliser un plan de table convivial, à retarder un peu le début du repas pour que tout le monde ait eu le temps de s’habiller, ou tout simplement de se dégager des embouteillages.

• Si l’hôte dit bon appétit, sous entendre : et il y a intérêt avec tout le mal que je me suis donné.
• Si c’est l’invité qui l’exprime, on pensera « on sait que tu as les crocs », mais ce n’est pas à toi de donner le signal de départ.

De toute façon il n’est pas très subtil de dire ce que l’on est en train de faire.

C’est pourquoi, enjoindre ses invités à passer à table et, pendant que la conversation continue, s’enquérir du regard de savoir si le service a été fait pour tout le monde, puis, après avoir délicatement pris une première cuillerée du consommé (ou de toute autre entrée), remercier discrètement le service (ou dire que ce qui est servi correspond à ce que l’on veut offrir, dans des situations plus simples) permet à tout le monde de savourer l’instant en silence et d’apprécier d’une mine réjouie les parfums de la première bouchée avant que la conversation s’anime à nouveau.

Imaginez-vous alors dire « bon appétit » ? mufle, goujat, butor, plouc,
malappris, grossier, sauvage, impoli, pignouf, indélicat, rustre,… et il y en tant d’autres encore qui ne seront plus invités.

Pour complément :

Une autre raison pourrait venir de la concurrence avec le Bénédicité, petite prière de remerciement pour la nourriture préparée, dite cette fois par le chef de famille. Avec la perte d’influence de l’Église dans la vie quotidienne, elle ne se pratique plus en public.

Dire ensuite bon appétit, reviendrait à prendre la place de celui que l’on vient de remercier.

En revanche, dans un restaurant où chacun règle son addition, pour s’amuser des règles de politesse, on peut répondre « bon ? seulement ? et pourquoi pas gargantuesque ? »… et lancer des échanges sur les bonnes pratiques sociales.

Si l’on a envie de donner un signal pour que tous les convives commencent ensemble, lancer un « Et si on commençait ? » car il s’agit en fait de suspendre la convivialité de la conversation pour pratiquer l’activité pour laquelle on a les pieds sous la table.

J’avoue être assez surpris des réponses déjà présentes et confirmant, au moins en partie, la prétendue impolitesse de l’expression.

Pour qu’elle soit déplacée ou impolie, il faut réellement un contexte spécial voire exceptionnel, comme par exemple le fait de l’adresser sur un ton plein d’entrain à une personne qu’on sait en deuil, ou ayant un souci lié précisément à l’appétit (voulant maigrir, notamment).

A la lecture de ta question, celle qui m’est venue immédiatement était : « Mais qui t’a dit ça? »

Il m’est surtout en effet arrivé de voir quelque misanthrope s’offusquer de ce genre de détails d’étiquette pour rappeler et souligner un écart social. Le prétexte en vaut un autre. Question de point de vue, sans doute.

On peut également noter que dans presque tous les contextes où la formule est bienvenue (donc une grande majorité de cas pour une très grande partie de la population), c’est l’absence de la formule et le fait de commencer à manger directement qui constitue un manque de politesse et de convivialité.

Et donc, c’est vrai, l’expression est vulgaire, dans le sens de commune, populaire, utilisée par tout le monde. Comme le mot bonjour.

« Bon appétit » est une formule d’origine populaire ou petite-bourgeoise qui, dans la majorité des cas, n’est plus, aujourd’hui, ressentie comme telle. Pour donner une idée de cette connotation populaire, on peut penser à cet extrait de La fille du puisatier de Pagnol, où le père (le puisatier) de la jeune fille tombée enceinte des œuvres du rejeton d’une famille bourgeoise salue celle-ci d’un sonore « Bon appétit, m’sieurs dames » (formule doublement vulgaire, mais le puisatier n’en a évidemment pas conscience) qui marque la distance sociale entre les deux parties.

La bonne éducation se moque de la bonne éducation, pour paraphraser Pascal.

En effet, la situation ne saurait être symétrique: le rustre est dans son rôle lorsqu’il gène et qu’il dérange – et qui peut sérieusement lui en vouloir? – mais qu’une personne de bonne éducation se trouve offusquée et prête à considérer un hôte comme un “plouc” ou un “pignouf” parce qu’il ne respecte pas des usages de cet ordre, voilà qui est, à mon sens, véritablement choquant. Une bonne éducation qui se fissure aussi facilement n’a d’autres noms qu’entre-soi et philistinisme.