По преданию, первый деревянный храм на этом месте был построен самим князем Ярославом I Владимировичем Мудрым, основавшим город на правом берегу Волги в начале XI века до постройки Успенского храма на Стрелке в 1215 года Ильинская церковь, вероятно, была соборной. Еще в период существования Ярославского удельного княжества (до середины XV века) вместе с Воскресенской и Петропавловской церковью Ильинская церковь пользовалась существенными привилегиями, подтвержденными затем Великими Князьями и царями от Ивана III до Михаила Федоровича, что свидетельствует о ее древности и об ее особой роли в жизни города. На протяжении веков деревянная Ильинская церковь неоднократно подвергалась бедствию от пожаров, сгорела от молнии в 1669 году. Тогда же на месте сгоревшей была построена деревянная церковь, а в 1682 году – каменная, к которой в 1694 году был пристроен придел во имя святого Тихона Чудотворца, от чего она и получила название Тихоновской. С утверждением в 1779 году регулярного плана Ярославля, получавшего в своей центральной части совершенно новое расположение улиц и площадей, большая часть обывательских домов в Рубленом и Земляном городе была снесена, их жители были выселены за вал в посады, вошедшие в состав города. В результате церковь лишилась большинства своих прихожан, и со временем здание ее пришло в ветхость. Осенью 1824 года. обветшавший и угрожавший падением храм был разобран.