Pierwotny cmentarz znajdował się wokół kościoła na úpickim rynku. Kościół ten wraz z dzwonnicą, podobnie jak 17 okolicznych domów, spłonął w 1625 roku podczas wielkiego pożaru. W 1698 roku założono nowy cmentarz w parku przy rynku. Kiedy okazał się za mały, w 1887 roku poświęcono nowy cmentarz na parceli p. Freiberta. Początkowo pośrodku miał stać duży krzyż, zamiast niego jednak wybudowano neoromańską kaplicę św. Ludmiły. W lewej dolnej części cmentarza stoi dawny domek grabarza i kostnica.