Музей искусства основан в 1862 году под названием «Музей изящных искусств». До 1916 года музей находился в одном здании со Школой изящных искусств.

Коллекция музея состояла из картин из фонда школы и гравюр из Государственной библиотеки. В 1916 году музей перешёл в собственность города Варшавы и получил название «Национального музея».

Собственное здание музея было построено в 1927—1938 годах по проекту архитекторов Тадеуша Толвинского и Антона Дыгата, и расположено по адресу: Иерусалимские аллеи, 3. В 1964—1972 годах с южной стороны пристроена новая часть здания по проекту архитекторов Кароля Голавского и Стефана Козинского.

С 1916 по 1935 год директором музея был Бронислав Гембажевский, в 1935 году директором стал Станислав Лоренц, и оставался на этом посту 47 лет до 1982 года.

Во время второй мировой войны гитлеровские оккупанты вывезли значительную часть коллекции. Во время Варшавского восстания 1944 года значительная часть оставшихся экспонатов была уничтожена.

В 1961—1964 годах археологические раскопки польских учёных под управлением профессора Казимежа Михаловского в Фарасе (северный Судан) принесли богатую коллекцию искусства древних христиан-коптов.