La maison d’arrêt de Charleroi, bâtiment sombre de style gothique, fut mise en service le 1er janvier 1854. Dès le début du XXe siècle, le ministère de la Justice envisage la construction d'une nouvelle prison dans l'arrondissement de Charleroi. Un emplacement est choisi à Montignies-sur-Sambre, mais la Première Guerre mondiale empêche la concrétisation du projet.
Une nouvelle prison est finalement mise en service en 1975 à Jamioulx. L'ancienne prison de Charleroi est rasée, et remplacée en 1990 par la Cité des Finances.