La tradition populaire veut que la première agglomération du ban de Sainte-Marie-aux-Chênes soit un hameau gallo-romain du nom de "Harris villa" regroupant autour d'une grosse ferme portant l'appellation de son propriétaire les modestes habitations des ouvriers attachés au service de la "villa". Ce serait là l'origine de la désignation, sur l'actuel village, à gauche de la route de Montois (sur la côte, après la mine Ida, dans le coin des haies, avant le "ravin" qui précède le bois de Magieux) ; à cet endroit, la charrue mettait encore à jour naguère des débris de tuiles romaines.
En ces temps reculés, au fond du vallon qui passe au pied de la mine Ida et qui descend vers Homécourt par "la carrière", au lieu-dit "Le Breuil" jaillissait une source dont les eaux froides et ferrugineuses avaient la réputation d'être fébrifuges et en particulier de guérir les affections pulmonaires ainsi que de soulager, par lavage, les maladies d'yeux. Pour cette dernière raison, la fontaine aux eaux miraculeuses jouissait d'une grande renommée auprès des populations celtes des environs. Entourée de chênes (ces arbres vénérés à l'époque des Celtes par nos ancêtres les Gaulois), cette source coulait, dit-on, à l'ombre de l'un des plus anciens et des plus majestueux "roi des forêts". Aujourd'hui, tarie en grande partie par les mines, elle n'a plus qu'un très faible débit, un très mince filet d'eau.
On comprend aisément qu'un tel nom ait pu donner naissance à la pieuse tradition sur les origines chrétiennes de cette petite cité. Toujours est-il que ce nom est attesté dès le XIIe siècle et se trouve diversement orthographié : Sancta Maria ad Querqus (d'où l'appellation savante de Quercussiens donnée aux habitants de Sainte-Marie), Sancta Maria Achesne, Sainte Marie au Chesne (1593), Marie-aux-Chênes en 1793 quand la Révolution française se déchaîna contre l'Église (on ne peut manquer de faire le rapprochement avec l'appellation de Marieneichen donnée pendant la dernière occupation allemande). Avec le concordat de 1801, le village retrouva officiellement le nom de Sainte-Marie-aux-Chênes.