Cmentarz został założony w 1905 roku, jako drugi cmentarz parafii farnej. Inicjatorem jego powstania był proboszcz Ryszard Markwart, a także Władysław Gogoliński, który był autorem założeń "zielonej architektury". Założono go na planie prostokąta, z wewnętrznym podziałem na 26 kwater. W centrum usytuowano kaplicę pogrzebową, którą otoczono alejami okrężnymi i prostopadłymi w systemie gwiaździstym.

Do czasu powstania kolejnych cmentarzy parafialnych, katolickich w latach 20. XX w. cmentarz Nowofarny pełnił rolę głównej miejskiej nekropolii dla katolików. W jego centrum zlokalizowano groby żołnierzy poległych w okresie I wojny światowej (1914–1918), groby powstańców wielkopolskich oraz groby żołnierzy poległych w wojnie polsko-bolszewickiej 1920 roku.

W 1930 r., w dziesiątą rocznicę bitwy warszawskiej, rzeźbiarz J. Job ufundował pomnik Królowej Korony Polskiej, przedstawiający Matkę Boską z Dzieciątkiem.

W okresie okupacji hitlerowskiej cmentarz pełnił rolę ośrodka polskości. W starych grobowcach przechowywano cenne dzieła sztuki oraz książki, które po wojnie wróciły do zbiorów muzeum i rąk prywatnych. Rozstrzelanych na Starym Rynku, których nazwiska trudno było ustalić, grzebano na cmentarzu, a w specjalnej skrzyni zakopywano przedmioty lub „znaki szczególne”, dzięki którym, po wojnie, można było zidentyfikować ekshumowane zwłoki.

W 1945 r. na terenie przylegającym od wschodu do nekropolii utworzono cmentarz komunalny. Pochowano na nim blisko 1200 żołnierzy radzieckich poległych w walkach o wyzwolenie Bydgoszczy w styczniu 1945 roku oraz ponad 200 jeńców wojennych. W latach późniejszych ustawiono obelisk ku czci poległych czerwonoarmistów wraz z tablicą pamiątkową. W alei zasłużonych rozpoczęto natomiast pochówki zmarłych działaczy partyjnych i funkcjonariuszy administracji państwowej PRL (Józef Rakoczy - przewodniczący WRN, Józef Majchrzak - I sekretarz KW PZPR w l. 70., Antoni Majdziński - sekretarz KM PZPR, Kazimierz Maludziński - przewodniczący Prezydium MRN, Franciszek Lech - przewodniczący MRN, gen. Józef Kozdra - komendant wojewódzki MO, Henryk Mróz - sędzia oraz Józef Powalisz - przedwojenny działacz KPP).