Kościół wzniesiono w 1756 r. dla bernardynów. W 1864 r. władze carskie skasowały działający przy kościele klasztor za udział zakonników w powstaniu styczniowym. Obecnie rezydują tu księża marianie.
Wnętrze świątyni utrzymane jest w stylu barokowym. Zobaczymy tu m.in. marmurowy sarkofag z relikwiami św. Waleriana. W ołtarzu głównym znajdują się: cudowny obraz Matki Bożej oraz figury śś. Piotra i Pawła.
Po zwiedzeniu kościoła do kolejnej atrakcji udajemy się piechotą.