Архитектурный замысел как Большого так и Малого капризов принадлежал архитектору В. И. Неелову, который вместе с инженером и архитектором И. Герардом возвел обе постройки в 1770–1774 годах. Оба они представляют собой искусственно образованные насыпи с арочными пролетами над дорогой.