Le château de Decize a été construit aux 12ème et 13ème siècles pour les comtes de Nevers. C'était avant tout une citadelle, qui protégeait le passage sur la Loire.
Modifié et agrandi à plusieurs reprises, en particulier par Marie d'Albret au 16eme siècle (elle y fit ajouter une aile de style renaissance), le château de Decize hébergea Louis XIII et Louis XIV est a eu comme propriétaire Mazarin en 1659.
Puis commença le déclin du château. Occupé irrégulièrement, puis abandonné, il tomba en ruines quand le dernier duc du Nivernais le vendit au notaire Pierre Douette (1778), qui revendit des pierres du château.
Ses propriétaires successifs furent la famille Mouzat, le marquis de Raigecourt qui y installa un pensionnat de jeunes filles qu'il confia aux sœurs de La Charité de Nevers (installation d'une statue de la vierge au sommet d'une des tours), la commune, et le comte de Dreux-Brézé qui céda les bâtiments à l'école privée Sainte-Marie.
Les ruines du château et les galeries souterraines se visitent uniquement lors de visites guidées en juillet et août pour les individuels et toute l'année pour les groupes.
Le panorama depuis le haut de la tour où se situe la statue de la vierge offre une vue absolument incroyable sur la ville et les environs !