Это первое здание в России, специально построенное для публичного художественного музея. Строилось здание с 1842 по 1851 год по указу Николая I. Автором проекта был известный немецкий архитектор того времени – Лео фон Кленце, выбранный самим императором. Здание решено в неогреческом стиле и известно своим портиком с десятью гранитными статуями атлантов, выполненными русским скульптором А.И. Теребеневым. Здание Нового Эрмитажа и большая часть его интерьеров сохранились до нашего времени в своём первоначальном виде.
В 1830-е годы сформировалось решение о необходимости постройки нового, специального здания для эрмитажных коллекций и организации в нём общедоступного музея.
В 1837 году от пожара серьезно пострадал Зимний дворец, это послужило причиной начала работ во всём дворцовом комплексе и повлияло на скорейшее решение вопроса о новом здании.
Решение о постройке нового здания для публичного музея принял император Николай I. В 1837 году, при посещении Мюнхена, он предложил построить здание музея известному немецкому архитектору Лео фон Кленце.
Лео фон Кленце (29 февраля 1784 года — 15 января (27 января) 1864) — баварский архитектор, работавший в неоклассическом стиле. Именно благодаря Лео фон Кленце Мюнхен превратился в город известный своей архитектурой, в один из ведущих культурных центров Германии. Королевская резиденция и национальный театр, церкви и надгробия, галереи славы и дворцы - талант архитектора не знал границ. В итоге деятельности Лео фон Кленце в Европе получил широкой распространение стиль «неогрек». В Мюнхен съезжались архитекторы и художники, галереи и музеи Мюнхена принимались за образцы, созданные Лео фон Кленце здания копировались во многих городах Европы.
Архитектор принял предложение выполнить проект Императорского музеума и прибыл в Санкт-Петербург. Здесь он провел четыре месяца, в течение которых сделал наброски принципиально нового типа здания, предназначенного для экспонирования произведений искусства. При работе Л. фон Кленце учитывал имеющиеся на то время собрания живописи, монет и т.п., которые должны были разместиться в новом здании.
23 июля император Николай I утвердил предложение Лео фон Кленце «об устройстве Музеума в Шепелевском доме и Эрмитажном здании с перестройкой оных».
Лео фон Кленце спроектировал двухэтажное здание, в плане имевшее форму четырёхугольника, с двумя внутренними дворами и четырьмя парадными фасадами, каждый из которых имел оригинальное оформление. По проекту северный фасад, выходящий на Неву, имел два входа оформленных портиками, поддерживаемыми кариатидами. Восточный фасад, выходящий на Зимнюю канавку, должен был быть остеклённым и повторять структуру станцев Рафаэля. Первый этаж западного фасада напоминал Глиптотеку, а его верхний этаж — Пинакотеку в Мюнхене. Решения здания Нового Эрмитажа соединили в себе античность, барокко и классицизм.
Строительство Нового Эрмитажа началось в 1842 году (спустя три года после отъезда Кленце) и продолжалось десять лет. Лео фон Кленце семь раз приезжал в Петербург для того чтобы лично контролировать процесс постройки. Возведение Нового Эрмитажа велось под надзором В.П. Стасова и его помощника Н.Е. Ефимова, который возглавил работы после смерти Стасова в 1848 году. Архитекторы решили сложную задачу создания рабочих чертежей здания по эскизным наброскам Кленце, а также внесли некоторые изменения в предложение Лео фон Кленце, целью которых было сохранить постройки екатерининского времени.
Важную роль в облике здания играет изготовленная скульптором Александром Ивановичем Теребеневым в 1846 году группа из 10 атлантов. Атланты выполнены из серого сердобольского гранита.
Атлант (или Атлас) — в древнегреческой мифологии могучий титан, держащий на плечах небесный свод. Изначально архитектор Л. Кленце, в 1840 году, представил два проекта портика с кариатидами и атлантам, прототипами которых стали фигуры, когда-то размещавшиеся на фасадах древнего храма Зевса в Акраганте (Сицилия), построенном в 5 веке до нашей эры. При обсуждении кариатиды были отвергнуты. В соответствии с замыслом Кленце скульптор И. Гальбиг выполнил в Мюнхине уменьшенную модель атланта в виде фараона, которая была прислана в Санкт-Петербург, но не была принята. В 1846 году русский скульптор А. И. Теребенёв изготовил по собственным эскизам модель атланта в натуральную величину, которая и была утверждена. Работа Теребенёва удовлетворила и Кленце заявившего: «красота и благородный стиль этих скульптур, чистота и точность работы не оставляют желать ничего лучшего». В итоге атланты Теребенёва украсили портик Нового Эрмитажа.
Героические фигуры атлантов украшают портик Нового Эрмитажа с 1849 года. До 1930-х годов он служил главным входом в музей.
В 1850 году здание официально получило название — Новый Эрмитаж.
Возведение Нового Эрмитажа завершилось в 1851 году, а 5 (17) февраля 1852 года состоялось его торжественное открытие для публики.
На первом этаже Нового Эрмитажа были открыты два зала новейшей скульптуры. Просторный прямоугольный зал с бледно-зелёными стенами с лепными медальонами с профилями Кановы, Микеланджело, Торвальдсена, Рауха и Мартоса предназначался для работ западноевропейских мастеров. Меньший зал, с медальонами Клодта, Витали, Пименова, Козловского, Демут-Малиновского и Орловского предназначался для русской скульптуры, которая, однако, не была здесь размещена — она была размещена в зале, предназначенном под одну из библиотек. Отбором статуй и групп руководил лично император Николай I.
На втором этаж, в залах с верхним светом (просветах), была размещена картинная галерея.
В 1857 году произведения западноевропейских и русских скульпторов объединили в одном зале, а затем перевели в другие места: на площадку 2-го этажа Парадной лестницы, в Галерею истории древней живописи и в Зимний дворец.
В большинстве своём интерьеры 60 залов и кабинетов Нового Эрмитажа сохранились до настоящего времени в своем первоначальном виде.