Храм был построен в 1146 году при смоленском князе Ростиславе Мстиславиче. Освятил его первый смоленский епископ — Симеон. Во время польской интервенции 1611—1654 годов храм был превращён в костёл. Затем храм вновь становится православным. В XVIII веке храмовый комплекс был полностью перестроен. К храму Петра и Павла с запада примкнул храм св. вмц. Варвары. В 1812 году храм был разграблен французами. Восстанавливался храм на средства из государственной казны. В 1943 году во время боёв за освобождение Смоленска храм вновь подвергся разрушениям. Он был восстановлен в предполагаемых первоначальных формах в 1962—1963 годах под руководством архитектора П. Д. Барановского. Третий этаж палат был снесён, храм отделён от Варварьинской церкви. Между тем уже после завершения реставрации раскопками было установлено, что в древности храм окружали галереи. В мае 1935 года церковь была ликвидирована — в храме перестали проводить службы. Церковная жизнь была возобновлена 26 мая 1991 года.