Музей имени Н.Г. Рубинштейна находится в Большом зале Московской консерватории. Большой зал является частью нового архитектурного ансамбля Московской консерватории, построенного с 1895 по 1901 год архитектором В.П. Загорским по инициативе возглавлявшего Московскую консерваторию с 1889 по 1906 год пианиста, дирижера, директора Московской консерватории, профессора В.И. Сафонова. Здание Московской консерватории соединяет в себе черты классицизма и модерна. Украшением Большого зала консерватории является витраж "Святая Цецилия". В Большом зале консерватории и в Музее имени Н.Г. Рубинштейна располагаются живописные и скульптурные портреты русских и зарубежных композиторов