L'église Notre-Dame est due à l'initiative de l'abbé Gourru, curé de Sancerre de 1658 à 1662. En 1658, il acheta de ses deniers, à différents propriétaires des jardins situés au sud de l'ancienne église Saint-Jean.

Le 5 août de la même année, la première pierre fut posée. A la mort de l'abbé, le 16 août 1662, la construction fut arrêtée faute de ressources. Ce n'est qu'en 1739 que l'archevêque de Bourges, Mgr de La Rochefoucault, préoccupé de l'état des lieux de culte de la situation religieuse de Sancerre, envoya un architecte examiner la question.
Grâce à la générosité de la Princesse de Conti, la construction de l'église reprit activement en 1754 ( 94 ans après la pose de la première pierre). Construite en pierre de carrière de Sancerre et avec des matériaux provenant des anciennes églises de Saint-Martin et Saint-Jean, l'édifice fut conçu dans un style très simple, un peu lourd, avec des piliers carrés sans ornementations. Son portail, au niveau de la place du Beffroi, était aussi d'une grande simplicité.

Le 18 octobre 1762, l'église, inachevée, fut bénite. Son curé, l'abbé Michel Servais, mourut au lendemain de la cérémonie. Il fut remplacé par l'abbé Poupard, l'historien de Sancerre. C'est sous sa direction que fut achevée l'œuvre laborieusement entreprise par ses prédécesseurs. Elle à coûté 38 000 livres. On était en 1777.
Pendant la période révolutionnaire, l'église a été vendue comme "bien notarial". Elle servit pour les fêtes et cérémonies nouvelles. Les statuts brisées furent remplacées par les bustes de Marat, Robespierre, Baras et Le Pelletier, entourant l'autel où se dressait la statue de la liberté. Les hussards entraient avec leurs chevaux pour faire le tour de ce "temple de la raison".  En 1786, l'église Notre-Dame fut rendu au Culte, l'abbé Philippe Bourgeois, curé de Sancerre, obtient de la municipalité les réparations nécessaires.

En 1853, la transformation de la place du Beffroi (considérablement abaissée) nécessite l'édification du perron actuel et de son parvis. Cent ans après la construction, l'église devenait trop petite pour accueillir les fidèles. C'est en 1865, sous l'impulsion de l'abbé Peny, que la municipalité, aidée par les subventions de l'Etat, décide d'agrandir l'église. L'architecte de Sancerre est chargé des travaux et deux travées seront alors ajoutées au chevet. Chamfremins, colonnettes d'angle et sculptures allègent les lourds piliers carrés. La façade de l'église est
 

refaite à son tour. En 1949, la municipalité fait refaire le dallage du parvis, quant aux fonds baptismaux, ils sont modifiés. M. Bouyou, premier ouvrier de France, en martèle le couvercle, la chapelle Saint-Vincent est repeinte et en 1966, le chanoine Louis Farcet installe les bancs actuels.
La restauration intérieure s'imposait, elle fut décidée en 1974, projet passé à la phase opérationnelle en mars 1980 :

- le narthex est dégagé, c'est à dire fermé par des cloisons et porte-glace,
- le choeur est aménagé, dallé et marbré,
- les piliers grattés,
- une partie des voûtes et des murs repeinte et réparée, ceci pour la première tranches des travaux effectués.

En 1998, la Chapelle de la Sainte Vierge a été restaurée à l'occasion de l'année mariale.
L'église Notre-Dame de Sancerre a retrouvé ainsi le cachet de simplicité et de recueillement qu'avaient recherchés nos ancêtres.