Założony m.in. przez Piotra Skrzyneckiego (właściwie przez kilkoro studentów krakowskich uczelni) w 1956 w piwnicach pałacu Pod Baranami pierwotnie miał być miejscem spotkań krakowskich studentów. Oficjalnie Piwnicę otwarto 26 maja 1956. Wśród założycieli Piwnicy byli także m.in. Bronisław Chromy i Krzysztof Penderecki.

W pierwszych występach udział brali m.in. Piotr Skrzynecki, Joanna Olczakówna, Barbara Nawratowicz, Krzysztof Litwin, Tadeusz Kwinta, Mieczysław Święcicki, Mirosław Obłoński, Wiesław Dymny, Kika Lelicińska, Irena Szaszkiewiczowa, Jan Güntner, Joanna Plewińska, Maria Nowotarska. Kierownikiem literackim i autorką scenografii, "mózgiem i duszą Piwnicy", była Janina Garycka.

W Piwnicy pod Baranami przez pewien czas występowały zespoły jazzowe Krzysztofa Komedy i Andrzeja Kurylewicza.

W latach sześćdziesiątych pojawili się: Ewa Demarczyk, która wraz z kompozytorem Piwnicy Zygmuntem Koniecznym wypromowała kabaret na całą Polskę, śpiewający poeta Leszek Długosz, kompozytorzy Stanisław Radwan i Andrzej Zarycki, Krystyna Zachwatowicz.

W latach sześćdziesiątych i siedemdziesiątych powstały najsłynniejsze utwory, a zespół zyskał sobie opinię jednej z najlepszych grup artystycznych w kraju. Za teksty służyły dzieła o najróżniejszej tematyce i nastroju: od Pieśni nad pieśniami poprzez wywiad z Ariadną Gierek po opis rozmnażania ślimaków z dawnej encyklopedii.

Po 1976 z Piwnicy odeszło wielu artystów: Ewa Demarczyk, Krystyna Zachwatowicz, Mirosław Obłoński, Krzysztof Litwin, Mieczysław Święcicki. Piotr Skrzynecki przyjął na ich miejsce do kabaretu wiele nowych twarzy – m.in. Aloszę Awdiejewa, Annę Szałapak, Halinę Wyrodek, Olę Maurer, Andrzeja Maja, Marka Grechutę, Jacka Wójcickiego, Grzegorza Turnaua, Tamarę Kalinowską, Ewę Wnukową, Janusza Radogosta Kowalczyka, Krzysztofa Janickiego, Beatę Rybotycką, Dorotę Ślęzak, Małgorzatę Górnisiewicz, Zbigniewa Raja, Kazimierza Madeja, Leszka Wójtowicza oraz Konrada Mastyłę. Z monologami i składaną czerwoną trybuną występował Andrzej Warchał.

Muzykę tworzyli obok dotychczasowych kompozytorów Zbigniew Preisner, Grzegorz Turnau, Jan Kanty Pawluśkiewicz oraz Zbigniew Raj, później pojawili się także nowi - Adrian Konarski, Dorota Ślęzak i Tomasz Kmiecik .

Okrągłe rocznice powstania kabaretu znane były z hucznych obchodów, m.in. 1966, 1972, 1976, 1986, 1996, 2006. Tradycją stały się też urodziny Piotra Skrzyneckiego, obchodzone po jego śmierci w formie urodzinowych koncertów w Teatrze im. Słowackiego.

Po śmierci Piotra Skrzyneckiego w 1997 Towarzystwo Przyjaciół Piwnicy pod Baranami i artyści kabaretu na wspólnym zebraniu uznali, że Piwnica istnieje nadal i kontynuowali występy. Obecnie o kwestiach finansowych i bytowych kabaretu decyduje Stowarzyszenie Artystów i Sympatyków Piwnicy pod Baranami, na czele którego stanęła architekt Krystyna Styrna-Bartkowicz, wybrana prezesem na Walnym Zgromadzeniu 12 maja 2010.

W 2006 Instytut Pamięci Narodowej poinformował, że w przeszłości na artystów Piwnicy donosiło 10-12 tajnych współpracowników Służby Bezpieczeństwa PRL, wśród nich najbardziej aktywny był Michał Ronikier, który działał pod pseudonimem "Zygmunt" i miał wykonywać donosy na innych artystów. Dotyczy tego publikacja książkowa pt. Kolacja z konfidentem. Piwnica pod Baranami w dokumentach Służby Bezpieczeństwa autorstwa Stanisława M. Jankowskiego i Jolanty Drużyńskiej z 2006.

Jazz w Piwnicy

Pod koniec lat 50. Piwnica stała się centrum jazzu w Polsce. Grali tutaj: Jerzy Matuszkiewicz, Andrzej Trzaskowski, Krzysztof Komeda, Andrzej Kurylewicz, Jan Ptaszyn Wróblewski, Andrzej Dąbrowski, Wojciech Karolak, Zbigniew Namysłowski, śpiewała Wanda Warska. Środowisko jazzowe wspierali: Jerzy Skarżyński, Leopold Tyrmand i bracia Fersterowie.

W latach 60. rozpoczęli koncerty w Piwnicy: Tomasz Stańko, Zbigniew Seifert, Janusz Muniak, Jan Jarczyk, Janusz Stefański. W latach 70. i 80.: "Beale Street Band", " Playing Family" , Jarosław Śmietana, Krzysztof Ścierański, Andrzej Cudzich, Marek Bałata, Jazz Band Ball Orchestra i grupa Osjan.

Do tradycji tej powrócono w 1996, organizując cykliczny Letni Festiwal Jazzowy w Piwnicy pod Baranami. W roku 2000 miał miejsce pierwszy zorganizowany przez Aleksandra Glondysa koncert Ellington po krakowsku, w którym utwory Duke`a Ellingtona aranżowali artyści Piwnicy: Grzegorz Turnau, Jan Kanty Pawluśkiewicz, Zbigniew Raj, Andrzej Zarycki. Od początku 2007 reaktywował się Jazz Club pod Baranami – Old Jazz Swinging Stars (grający w czwartki).