Voir aussi Musée Pierre-Boucher
En 1874, le Collège de Trois-Rivières s'installa dans le "séminaire à tourelles" construit sur la rue des Champs (rue Laviolette). Une chapelle, bénite le 4 novembre 1874, était située sous la tour centrale, au niveau du troisième étage. Une statue de saint Joseph fut installée sur le maître-autel en 1875. Cette première chapelle fut utilisée jusqu'à l'ouverture de la grande chapelle actuelle bâtie de 1901 à 1903.
Le 22 avril 1901, on prit la ferme décision d'ériger une nouvelle chapelle (la chapelle actuelle) de style roman, selon des plans de l'architecte Georges-Émile Tanguay de Québec et de l'abbé Louis Richard. La construction de cette chapelle avait été annoncée le 23 avril 1900 après une campagne de financement. Les travaux, exécutés par les entrepreneurs-maçons William et Richard Ferron et dirigés par l'abbé J.-A. Moreau, débutèrent le 1er juin 1901. Le 20 avril 1902, Mgr François-Xavier Cloutier bénit solennellement la pierre angulaire de l'édifice de 177 pieds de longueur sur 50 pieds de largeur à la nef (80 pieds au transept). La pierre de maçonnerie provenait du Rochon, situé à environ 5 milles et demi au nord de Trois-Rivières. La maçonnerie était complétée le 30 octobre 1902. Puis, le 3 février 1903, les entrepreneurs Héroux et Bellemare commencèrent les travaux intérieurs qui étaient presque achevés en août suivant. Le 2 juin 1903, les ouvriers terminaient la flèche du clocher à 182 pieds d'altitude (la tour avait 20 pieds de côté, 92 pieds de hauteur et supportait un clocher de 80 pieds de hauteur d'où pointait une croix de 10 pieds). La première messe y fut célébrée le 10 octobre 1903, avant même l'inauguration et la bénédiction solennelle le 26 novembre 1903. Ce jour-là, on inaugura en même temps un orgue Casavant offert par le curé de Central Falls (États-Unis), l'abbé Hormidas Béland. Quelques jours auparavant, le 8 novembre 1903, le supérieur du couvent des Frères mineurs (Franciscains) de Trois-Rivières y avait érigé canoniquement un chemin de la croix fabriqué à Paris. Le 4 décembre 1904, l'évêque de Trois-Rivières fit la bénédiction de la cloche de la nouvelle chapelle du Séminaire Saint-Joseph, offerte par l'abbé François-Xavier Lessard, curé de Saint-Guillaume: coulée par la fonderie Paccard d'Annecy-le-Vieux en Haute-Savoie (France) et pesant 1475 livres (note sol), elle fut baptisée Marie-Joseph-Pie-François-Louis. Puis, le 8 juillet 1905, on installa la chaire conçue par G.-E. Tanguay et fabriquée par Henri Angers de Québec.
La chapelle compte six chapelles latérales. Le mobilier et la décoration comprennent, outre la chaire, un maître-autel (1903), deux autels latéraux (vers 1925), les tableaux des transepts réalisés par Hilarès (1908) et trois statues de l'ancienne chapelle (1875). On profita de la construction de la chapelle pour aménager, au sous-sol, une nouvelle salle de spectacles avec scène permanente et dont le rideau était constitué d'une peinture sur toile du peintre-décorateur trifluvien Louis-E. Monty; c'est dans cette salle que Joseph Leprohon tint une première séance de cinématographie, le 22 octobre 1907.
En 1926, on décida de construire un nouveau séminaire en pierre avec façade sur la rue Laviolette (le séminaire actuel). Les travaux débutèrent le 10 mai 1927. Deux semaines plus tard, le 27 mai 1927, on commença la démolition du clocher et de la façade de la chapelle pour l'intégrer au nouveau bâtiment. Le 28, la statue de saint Joseph, qui ornait la façade depuis le 19 mars 1904, fut descendue de sa niche (elle fut replacée en 1930 sur un piédestal au-dessus de l'entrée du séminaire actuel). Le 2 juin, la cloche fut descendue à son tour et transportée à Cap-de-la-Madeleine pour être hissée dans le clocher de l'église Saint-Lazare (depuis ce jour, la chapelle du Séminaire n'a plus de cloche). La chapelle fut restaurée en 1952. Un nouvel orgue fut installé en 1960. Après le concile Vatican II, le maître-autel a été relégué à la sacristie avant d'être réinstallé à sa place originale.