Kostel Povýšení sv. Kříže je krátkým jednopatrovým traktem propojen s budovou proboštství (v přízemí na západní straně otevřeným a podklenutým třemi poli křížové klenby). Tímto traktem prochází v přízemí ze západu na východ valeně sklenutý průchod. Budova proboštství byla vystavěna v letech 1758-1763 J. Bébou na základech bývalého konventu augustiniánského kláštera. Do útrob barokní novostavby byla infiltrována kaple sv. Markéty ze 14. století. Objekt proboštství je jednopatrová dvoukřídlá budovu. Obdélná křídla jsou na sebe kolmá a vytvářejí tak půdorys písmene L. Nároží jsou zaoblená. Z tohoto půdorysu vybočuje na severní straně kaple sv. Markéty. Hlavní vstup do budovy proboštství se nachází přímo naproti portálku do předsíně kaple sv. Josefa, která přiléhá jižní straně presbytáře. Toto komunikační propojení kostela a proboštství umožňuje zmiňovaná otevřená partie spojovacího traktu. Kamenný vstupní portál proboštství je pravoúhle zakončen, v horní partii je však mírně segmentovitě vzedmutý a je doplněn ušima. Portál je zdůrzněn v omítce vyvedeným pilastrovým rámcem. Průčelí křídla, které je situováno severojižně, je obráceno směrem do města (na západ). Je devítiosé, přičemž střední partie mírně rizaliticky vystupuje. Fasáda je vertikálně členěna pseudoiónskými pilastry probíhajícími přes obě patra, horizontálně kordonovou římsou (Korunní římsa je bohatě profilovaná.). Okna jsou pravoúhlá, šestidílná. Okna přízemí mají hladké šambrány, jež vybíhají z jednoduchých podokenních říms. V horních partiích jsou šambrány zdůrazněny ušima a středovými klenáky. Okna v patře jsou obdobná, nemají středový klenák, ale jejich horní partie jsou akcentovány hrotitě nebo oble utvářenými štukovými suprafenestrami. Obdobná jsou rovněž okna v patře severní fasády tohoto traktu a okna spojovacího traktu. Ostatní okna obou křídel budovy proboštství jsou variacemi na pravoúhlé šestidílné okno s jednoduchou podokenní římsou a jednoduchou šambránou v horní partii akcentovanou ušima (se středovým klenákem nebo bez klenáku). Pouze ve dvou případech se setkáme s okny segmentovitě zakončenými (jižní okna v přízemí kaple sv. Markéty).