Dzimis 1896. g. 10. jūl. Jaunpiebalgas pag. Ročos lauksaimnieka ģimenē.

Tēvs Hermanis, māte Līze, dz. Putniņa. Latvietis, luterticīgs.

Mācījies Jaunpiebalgas pagastskolā, Jaunpiebalgas draudzes skolā.

1. pasaules kara laikā no 1915. g. mācījies L. Ausēja reālskolā Cēsīs.

1917. g. devies uz Iekškrieviju, kur iestājies Jeiskas reālskolā (1918. g. beidzis un atgriezies Latvijā).

Vācu okupācijas laikā 1918. g. rudenī iestājies Baltijas Tehniskajā augstskolā Rīgā, studējis arhitektūru.

Dienējis Latvijas armijas Saimniecības pārvaldes Daugavpils noliktavā, seržants, 1921. g. atvaļināts no armijas.

Jau 1920. g. uzsācis tautsaimniecības studijas LU, no 1921. g. studējis tieslietas.

Strādājis Valsts kases dienestā, bijis I šķ. kasieris.

No 1924. g. 9. sept. jaunākais tiesamatu kandidāts Rīgas apgabaltiesā; strādājis 3. civilnodaļā, 3. kriminālnodaļā. 1925. g. janv. beidzis LU Tiesību nodaļu.

1925. g. sept. pārcelts tādā pašā amatā Latgales apgabaltiesā, piekomandēts prokuratūrai.

No 1925. g. 19. dec. prokurora biedrs. 1927. g. 3. maijā pārcelts par prokurora biedru Liepājas apgabaltiesā.

No 1928. g. 12. jūn. Latgales apgabaltiesas (no 1934. g. 20. jūl. Daugavpils apgabaltiesa) loceklis; strādājis 2. kriminālnodaļā, no 1931. g. janv. 3. civilnodaļā.

No 1934. g. 9. aug. Rīgas apgabaltiesas loceklis; strādājis 1. kriminālnodaļā, no 1936. g. jūl. 2. kriminālnodaļā, no 1938. g. maija 1. civilnodaļā.

No 1936. g. jūl. arī Rīgas Termiņcietuma un nepilngadīgo cietuma Administratīvās komisijas priekšsēdētāja biedra M. Bērziņa vietnieks.

1939. g. 16. nov. iecelts par Rīgas apgabaltiesas vicepriekšsēdētāju, 2. civilnodaļas vadītāju.

Darbojies Aizsargu organizācijā (līdz 1934. g. aug.), Latvijas Juristu biedrībā, Latgales Patronāta biedrībā.

Padomju okupācijas laikā 1940. g. 9. sept. ar Latvijas PSR tieslietu tautas komisāra A. Jablonska pavēli uzdota Rīgas apgabaltiesas priekšsēdētāja pienākumu izpildīšana.

Savukārt 4. dec. tieslietu tautas komisārs uzdevis Jelgavas apgabaltiesas likvidācijas laikā pildīt tās priekšsēdētāja funkcijas ar kredīta rīkotāja tiesībām pār Jelgavas apgabaltiesas budžeta un depozīta summām.

Bet jau 1940. g. 30. dec. (no 1940. g. 1. janv.) ar Latvijas PSR tieslietu tautas komisāra A. Jablonska pavēli atbrīvots no amata sakarā ar Latvijas PSR tiesu sistēmas reorganizāciju.

1941. g. 24. janv. pavēle grozīta, K. Ozoliņu atbrīvojot no amata ar 22. janv. Pēc tam strādājis Valmieras apgabaltiesā.

Vācu okupācijas laikā no 1941. g. dec. Latvijas ģenerālapg. Zemes pašpārvaldes Tieslietu ģenerāldirekcijas Rīgas apgabaltiesas vicepriekšsēdētājs, 2. civilnodaļas vadītājs.

1944. g. sept. devies bēgļu gaitās uz Vāciju.

Bijis latviešu Augstākās sabiedriskās tiesas loceklis Minsterē (Ziemeļreinā-Vestfālenē), no 1951. g. Latviešu centrālās komitejas juridiskās nozares vadītājs.

Miris 1965. g. 8. jūl. Minsterē, VFR.

Precējies 1932. g. 4. jūn. ar Helgu Felicitu Mežuli (dz. Plāņu pag.), dēls Ģirts Kārlis (dz. 1937. g. 3. maijā).

Studentu korporācijas “Talavija” filistrs.

A. LNA LVVA, 1536. f., 2. apr., 797. l.; 7427. f., 1. apr., 2057. l.; Latvija. 1955. g. 17. jūl.; LUAJ.

No Rīgas apgabaltiesas tiesnešu V. Salmiņa un K. Ozoliņa 1939. g. 22. nov. raksta Rīgas apgabaltiesas priekšsēdētājam A. Kociņam: “Pagodināmies ziņot, ka šodien, 1939. g. 21. novembrī, es, 2. civilnodaļas līdzšinējais priekšsēdētājs V. Salmiņš, nodevu un es, vicepriekšsēdētājs K. Ozoliņš, pārņēmu 2. civilnodaļas vadību.” (LNA LVVA, 1536. f., 2. apr., 797. l., 36. lp.)

No bij. kolēģa Konstantīna Ozoliņa rakstītā Kārļa Ozoliņa nekrologa: “Viņš bija vienkāršs un patiess pret katru, ar kuru viņam nācās satikties vai sadarboties [..] Vislabāk viņu raksturo pieķeršanās dabai, lai gan visa viņa dzīve, atskaitot bērnību, noritēja pilsētās. “Es jau visu mūžu esmu bijis vairāk laucinieks, nekā pilsētnieks,” raksta viņš kādā trimdas laika vēstulē. Katru atvaļinājumu Latvijā viņš pavadīja savās tēva mājās, Jaunpiebalgas Ročos. Tur viņam bija pašam savs rožu dārzs. Un rozes bija viņa vienīgais prieks arī, kad viņš Vācijas bēgļu nometnēs pavadīja savu trimdas laiku, smagi izjuzdams vientulību un bieži arī veselības traucējumus. Arī pie bēgļu nometnēm viņš mēģināja atrast kaut nelielu dobi, kur audzēt rozes [..] Viņu nomāca slimība, kuras dēļ viņam nācās palikt Vācijā, kad viņa ģimenes locekļi devās pāri okeānam. Viņš vairākkārt uzturējās sanatorijā, bet pilnīgi vesels nekad netika. Tikai pēdējos divi gados viņam pašam bija savs dzīvoklis. Līdz tam viņš visu laiku bija spiests dzīvot nometnē, nelielā istabiņā, bez kādām ērtībām.” (Latviešu Juristu Raksti. 1970. Nr. 10/11, 85., 86. lpp.)