Pośrodku úpickiego rynku stał kiedyś pręgierz – słup hańby z łańcuchami i żelaznymi obręczami do przykuwania lub przywiązywania winowajców, skazanych na hańbę publiczną. Istniał zwyczaj, zgodnie z którym mieszkańcy miasta mieli pod nowy pręgierz wykopać dół, a po osadzeniu pręgierza należało go dotknąć. W 1724 roku w miejscu rozpadającego się już pręgierza wzniesiono kolumnę maryjną. Cenna figura Najświętszej Marii Panny na jej szczycie jest zapewne dziełem pochodzącym ze szkoły uczniów rzeźbiarza Mateusza Bernarda Brauna z Kuksu. Dawniej figura było pozłacana. W pobliżu kolumny stała studnia, do której doprowadzano wodę z niedalekiej Radečki za pomocą koła wodnego i sosnowych rur. Po 1940 roku kolumnę NMP przeniesiono pod absydę kościoła św. Jakuba Starszego.