Jāzeps Ancāns aktīvi piedalījās neatkarīgās Latvijas prokuratūras izveidošanā. Ar savu personisko piemēru un autoritāti viņš 1990. gadā veicināja lojāli noskaņotos prokurorus pieņemt izšķirīgo lēmumu par pāriešanu darbā jaunizveidotajā Latvijas Republikas prokuratūrā, tādējādi veicinot tās nostiprināšanos. 

Jāzeps Ancāns bija atjaunotās Latvijas Republikas prokuratūras pirmā ģenerālprokurora vietnieks no 1990. gada 2. oktobra līdz 1994. gada 14. augustam.

Labi izprotot 1994. gadā uzsāktās pirmstiesas izmeklēšanas reformas būtību un jēgu, Jāzeps Ancāns ieguldīja daudz spēka un radošas enerģijas konsekventā tās realizācijā. Kad reformas gaitā liels skaits Iekšlietu ministrijas sistēmas darbinieku pārnāca darbā uz prokuratūru, Jāzeps Ancāns, izmantojot savas teicamās teorētiskās zināšanas un lielo darba pieredzi, sekmēja šo darbinieku pārkvalificēšanos.

Ar savu prokurora stāju, zināšanām un māku sniegt savu praktiskā darba pieredzi mazāk profesionāliem darbiniekiem Ancāna kungs bija iemantojis cieņu un autoritāti Latvijas prokuroru un Iekšlietu ministrijas darbinieku vidū.

Par ieguldījumu valsts politikas īstenošanā, kas saistīta ar kārtības, drošības un likumības nodrošināšanu, Jāzeps Ancāns apbalvots ar Iekšlietu ministrijas apbalvojumu – bronzas "Goda zīmi".

Par izcilu mūža ieguldījumu prokuratūras attīstībā, demokrātijas un tiesiskuma stiprināšanā J.Ancāns apbalvots ar prokuratūras I pakāpes Goda zīmi.

Amata pienākumus prokuratūrā J.Ancāns beidza pildīt 2000. gada 31. oktobrī.

Atvadīšanās no Jāzepa Ancāna notika 2022.g. 4. novembrī pulksten 12.00 no Rīgas Romas Katoļu baznīcas (Meža prospekts 86, Rīga).
Guldīšana zemes klēpī pulksten 13.00 Pokrova kapos (Mēness iela 3, Rīga).