Alfrēds Kalniņš dzimis 1879. gada 23. augustā Cēsīs.

Viņa tēvs Jānis Kalniņš bija laukstrādnieks, māte - Rozālija Ūferse, bija muižkunga meita, bet, palikusi gandrīz bez izglītības, strādāja fizisku darbu mājā un virtuvē.

No 1886. līdz 1894. gadam A.Kalniņš mācījās klavieru un vijoles spēli Cēsu proģimnāzijā, Bērzaines vācu ģimnāzijā un Millera reālskolā. Visnopietnākās mācības bija pie R. Štarkes, ģimnāzijas mūzikas skolotāja, diriģenta un ērģeļnieka, arī komponista. Jau desmit gadu vecumā A.Kalniņš sāka vingrināties ērģeļu spēlē Cēsu Jāņa baznīcā.

No 1897. līdz 1901. gadam A.Kalniņš mācījās Pēterburgas konservatorijā, kur apguva ērģeļu spēli un kompozīciju teoriju.

1903. gadā Kalniņš pārcēlās uz Pērnavu, kur viņš strādāja vācu Nikolaja baznīcā par ērģelnieku, kora diriģentu un skolotāju Pērnavas ģimnāzijā. Kad Alfrēds Kalniņš atgriezās Latvijā, viņš sāka strādāt par ērģelnieku Sv. Annas baznīcā Liepājā, kā arī vadīja Liepājas Dziedāšanas un mūzikas biedrības kori.

Pirmā pasaules kara gadus Alfrēds Kalniņš pavadīja Tērbatā, kur strādāja par ērģelnieku, diriģentu un privātskolotāju. 1918. gadā viņš atgriezās Liepājā, bet pēc gada jau pārcēlās uz Rīgu, kur bija Izglītības ministrijas Mūzikas nodaļas vadītājs un mūzikas padomes priekšsēdētājs, strādāja par ērģelnieku Sv. Jēkaba baznīcā, rakstīja kritikas, bija Latvijas Universitātes Studentu dziedāšanas biedrības "Dziesmuvara" diriģents un darbojās Latvijas Nacionālajā operā, kur vadīja savu operu "Baņuta" un "Salinieki" pirmiestudējumus (1920, 1926).

1926. gadā Alfrēds Kalniņš bija VI Vispārējo dziesmu svētku virsdiriģents.

Gadu vēlāk komponists izceļoja uz ASV un strādāja par ērģelnieku Ņujorkā, sniedza privātstundas, uzstājās koncertos, kā arī komponēja.

1933. gadā komponists atgriezās dzimtenē un strādāja par Rīgas Doma baznīcas ērģelieku. No 1944. līdz 1948. gadam viņš bija Latvijas mūzikas konservatorijas rektors.

Komponists miris 1951. gada 23. decembrī.

Apglabāts Rīgā, 1. Meža kapos.