Le Palais de Justice est érigé en 1878-79 selon les plans de l’architecte parisien Albert Ballu sur le nouveau boulevard Central. Bâti en pierres de France, l'édifice va malheureusement rapidement se délabrer. Il est définitivement désaffecté en 1969.

En 1879, il est décidé que deux sculptures de lions, emblèmes de la Justice, prendront place devant l'entrée du Palais. Réalisés par Antoine-Félix Bouré, les deux lions installés en 1882 seront vite surnommés Totor et Tutur, sans doute en référence aux deus fils du concierge du Palais de Justice, Nestor et Arthur.