La première pierre du bâtiment a été posée le 3 novembre 1881 à proximité immédiate du lieu où Jeanne, bergère, aurait entendu ses voix. Il a été bâti sur les plans de l’architecte Paul Sédille (après la mort de ce dernier en 1900, les frères Émile et René Demay, architectes à Neufchâteau, prendront la direction des travaux jusqu’à leur achèvement en 1926). L’édifice initial, prévu plus petit, était initialement dédié à saint Michel étant donné que Jeanne n’avait pas encore été béatifiée. La première messe y fut célébrée en 1896, l’église étant alors toujours en construction. En 1897 4 clochesfurent ajoutées au nouveau clocher.