Dzimis Vecpiebalgas pagasta Vecgaigalos rokpeļņu ģimenē. Mācījās Ogrēnu skolā pie brāļiem Kaudzītēm. 1896. gadā pabeidzis mācības Vecpiebalgas draudzes skolā, pēc tam līdz 1906. gadam Cēsīs bija māceklis un spiestuves vadītājs. Pēc spiestuves vadītāja Jāņa Ozola (bija viņa radinieks) nāves viņš kļuva par Ozola grāmatu veikala un izdevniecības vadītāju, amatā līdz 1912. gadam.Tēlojis arī teātrī.

1912. gadā pārcēlās uz dzīvi Rīgā, kur 1914. gadā nodibinājis uzņēmumu "Jānis Roze". 1917. gadā kļuva par spiestuves, grāmatu veikala un apgāda vadītāju. Apgādā izdotas apmēram 750 grāmatas (kopējais metiens sasniedz apmēram 2 miljonus eksemplāru), no kurām vairāk nekā puse bija daiļliteratūra. No 1940. līdz 1941. gadam strādājis Valsts apgādniecību un poligrāfisko uzņēmumu valdē.

1941. gada 14. jūnijā Roze kopā ar sievu un meitu tika deportēts uz Usoļlagu Krievijas PFSR, miris 1942. gada 10. maijā no tuberkulozes.  

1998. gadā Krišjāņa Barona ielā 5, Rīgā, "Jāņa Rozes" telpās atklāta Rozem veltīta piemiņas istaba.

Aresta adrese: Rīgas apriņķis, Rīga, K. Barona iela 5-5
Izsūtīšanas datums: 14/06/41
Vieta: Molotovas apgabals, Usoļlags
Miris ieslodzījumā: 10/05/42
Ieslodzījuma vieta: Molotovas apgabals, Usoļlags, miris Usoļlagā