Dans le travail fait à l’occasion du plan général d’alignement de 1843, on a systématiquement donné aux boulevards extérieurs et intérieurs le nom d’une des portes voisines, en différenciant les dénominations par les mots Boulevard et Rue du Rempart…
Ce dernier a été appliqué à l’intérieur et l’autre à l’extérieur.
La rue du Rempart Saint-Lazare s’appelait anciennement la rue de Notre-Dame de la Major, à cause de la chapelle de ce nom qui s’y trouvait.
Au mois de mai 1642, à la suite de ferventes prières faites devant cette Madone, furent opérés plusieurs miracles et des grâces et des faveurs particulières obtenues. Le concours du peuple devint alors immense et les offrandes furent si considérables que le 19 juillet de cette même année, le Chapitre de Saint-Symphorien présenta au conseil de ville une requête tendant à obtenir temporairement la disposition de la tour des remparts la plus voisine pour y enfermer ces offrandes jusqu’à ce qu’elles se fussent élevées à un chiffre suffisant pour faire élever sur place une chapelle décente à la Mère de Dieu. Cette concession fut faite à titre gratuit et pour un an.