Первоначально часовня была выстроена здесь в 1898-1899 годах. Автором её проекта был епархиальный архитектор Н. Н. Никонов а инициатором строительства и главным жертвователем был священник Андреевского собора (утрачен) А. И. Таратин. Часовня была приписана к Андреевскому собору. В 1931 году часовню закрыли, а после разобрали. В 2008-2009 годах, через сто десять лет после закладки часовни, она была воссоздана.
Первая идея постройки часовни в ограде Андреевского собора была высказана в 1866-1868 годах, но проект, выполненный архитектором В. В. Виндельбрандтом, не получил одобрения великого князя генерал-адмирала Константина Николаевича. В связи с дорогостоящей перестройкой собора 1874-1877 годов мысль о строительстве часовни была оставлена.
В 1890-е годы инициатором строительства каменной часовни в честь Тихвинской иконы Божией Матери выступил священник Андреевского собора Александр Иванович Таратин. Он пожертвовал на постройку 5.000 рублей. Средства были дополнены пожертвованиями кронштадтской купчихи Натальи Захаровны Дементьевой (1.000 руб.) и собственными средствами собора (около 1.000 руб.). Проект был выполнен епархиальным архитектором Николаем Никитичем Никоновым. По желанию отца Александра Таратина часовня должна была строиться как миниатюрная модель Андреевского собора на период после его перестройки 1855 года.
18 августа 1898 года настоятель собора протоиерей Иоанн Кронштадтский торжество совершил закладку часовни. В ее стену была замурована серебряная позолоченная закладная доска.
Текст закладной доски был публикован в газете «Котлин» № 181 за 18 августа 1898 года: «Въ царствованiи Благочестиваго Государя Императора Николая II-го, по благословенiю Высокопреосвященнѣйшего Митрополита Палладiя, въ присутствiи о. настоятеля собора протоiерея Iоанна Сергiева на иждивенiе священно-iерея Андреевского собора Александра Ивановича Таратина по проэкту Архитектора Никонова заложена часовня въ честь Тихвинской Пресвятой Богородицы 18 августа 1898 года».
Строительство продолжалось в течение года. За это время скончался главный жертвователь отец Александр Таратин (5 мая 1899 года). Он был погребен на Троицком городском кладбище, могила его не сохранилась.
К зиме строительство было завершено и уже 5 декабря 1899 года св. Иоанн Кронштадтский в сослужении соборного причта совершил торжество освящения часовни. Часовня была приписана к собору.
После революции часовня была включена в имущество собора и закрыты одним указом от 4 апреля 1931 года. Вскоре после закрытия часовня была разобрана.
22 сентября 2008 года Патриарх Московский и всея Руси Алексий II совершил торжественный молебен в ознаменование закладки часовни Андреевского собора во имя Тихвинской иконы Божией Матери. Воссоздание часовни началось через сто десять лет после закладки.
В 2009 году воссоздание часовни было завершено.