Здание на углу Миллионной улицы и Зимней канавки было построено в 1883-1887 годах по проекту архитектора Максимилиана Егоровича Месмахера (1842—1906) для архива Государственного Совета. Архив создан в 1724 году при Государственной Адмиралтейств-коллегии для сбора и хранения документов коллегии, её экспедиций и контор. В 1827 году при преобразовании Морского министерства был создан Архив Морского министерства, который принял дела Архива Адмиралтейств-коллегии.
В разработке проекта здания также принимал участие военный инженер Владислав Михайлович Карлович (1834—1892).
Архитектурное решение Здание архива Госсовета является интерпретацией мотивов архитектуры итальянского Возрождения.