La construction de la vieille prison, bâtie selon les plans de François Baillargé, débuta en 1816, pour accueillir ses premiers pensionnaires en 1822; le terrain sur lequel elle fut érigée faisait partie de l'ancien fief ou arrière-fief Haut-Boc.
Elle était entourée d'un imposant mur d'enceinte en pierres qui fut démoli en 1965, pour être remplacé par un mur de béton, surplombé de fil barbelé; ce mur fut abattu lors de la restauration de la prison pour les fins du musée.
Sept exécutions capitales par pendaison s'y déroulèrent, la dernière en 1934; le gouverneur de la prison et sa famille habitaient en permanence sur les lieux, au dernier étage.
La vieille prison fut classée immeuble patrimonial en mai 1978 et elle ferma en 1986, ce qui en fait l'institution carcérale la plus longuement utilisée du Canada.
Elle est intégrée au Musée québécois de culture populaire (musée Pop), où elle sert de centre d’interprétation sur l'univers carcéral; des visites-expérience "En prison" sont offertes, combinant technologie et faits vécus, permettant de découvrir les lieux et la vie dans cette prison du 19e siècle.