Niedaleko cerkwi Podwyższenia Krzyża św. znajduje się stary cmentarz unicki na którym stoi kaplica św. Wincentego zbudowana w latach 1840-1848. Na terenie zajmującym około 1 ha po przeciwległej stronie cmentarza stoi kapliczka prawosławna zbudowana w 1994 roku. Rok wcześniej w tym miejscu stała jeszcze cerkiew drewniana, którą po rozebraniu w 1993 roku przeniesiono na obecny cmentarz prawosławny. Historia wspomnianej cerkwi zaczyna się we wsi Czyże, gdzie w 1784 r została ona zbudowana.  Była to drewniana kaplica kryta słomą, w której odprawiano tylko panichidy podczas pogrzebów. Po przeniesieniu na stary cmentarz w Narwi kaplica została konsekrowana 22 października 1853 roku pw. Ikony Kazańskiej Matki Bożej.

Współczesne czasy nie były łaskawe dla przeniesionej  cerkwi, gdyż 1 maja 2000 roku (prawosławna Wielkanoc) świątynia została podpalona i doszczętnie spłonęła. Jednak bardzo szybko została odbudowana przy zachowaniu pierwotnego wyglądu.