Когда-то на этом месте располагался кремль средневекового Смоленска — детинец, окруженный валом и рвом, где находилась резиденция смоленских князей.

А в 1101 году Владимир Мономах заложил здесь первое каменное здание в городе — Свято Успенский собор.
Мономахов собор простоял до 1611 года. Во время осады Смоленска поляками, когда королевские войска уже ворвались в город, оставшиеся в живых защитники крепости заперлись в соборе и взорвали запас пороха, хранившийся в подклете. «И то зелье зажгоша и людей всех побиша, кои в той церкви быша», — сообщает летописец.
Новый Свято Успенский собор в Смоленске поставлен невдалеке от того места, где стоял Мономахов собор, в котором взорвали себя смоляне. Фундаменты взорванного собора были обнаружены в ходе археологических раскопок. Нынешний Успенский собор располагается к северу от них.
В 1941-м году фашисты захватили Смоленск, и командующий немецкой танковой группы генерал Гудериан отдал распоряжение об охране собора.
Значение храма было столь велико, что даже советским артиллеристам было запрещено использовать его как ориентир для наведения орудий.