Формирование коллекции начато в 80-годы XIX века В.Р. Вильямсом и затем его многочисленными учениками. Во время работы в Петровской земледельческой академии, будучи заведующим кафедрой почвоведения, В.Р. Вильямс использовал эти материалы при чтении лекций и проведении практических занятий со студентами.
Официально Почвенно-агрономический музей был основан в 1934 году. Это самый крупный почвенный музей России. В экспозиции представлено свыше 750 почвенных монолитов, около 2000 образцов почв, коллекции растений. В музее четыре экспозиционных зала, причем экспозиции распределены по принципу зонального почвенно-географического районирования.