Ворота расположены на границе Александровского и Баболовского парков, они были сооружены архитектором Адамом Менеласом по приказу императора Николая I в 1823-1824 годах. В 1846 году они были перенесены на Старокрасносельскую дорогу в связи с объединением парков. Решены ворота в неоготическом стиле и состоят из двух массивных кирпичных павильонов, так называемых караулок, облицованных пудостским известняком и соединенных чугунными воротами. Свое второе название ворота получили из-за находившегося поблизости Павильона для слонов, в котором до 1917 года жили императорские слоны.
Павильон для слонов был разрушен, но история о нём сохранилась в названии ворот. В своё время ворота служили постом охраны, в них несли службу отставные военные.
"Слоновые" ворота сильно пострадали во время войны и в 2005 году, когда началась их реставрация, находились в аварийном состоянии.
Реставрация была завершена в 2008 году.