Успенский собор за свою историю был несколько раз перестроен. На месте современного храма стоял построенный в XVIII в. каменный храм Успенского женского монастыря, основанный в 40-х гг. XVII в. В 1791–1792 гг. храм обветшал, и на его месте появилось новое здание, которое в сер. XIX в. расширили и перестроили. В 1898 г. храм разобрали до основания для строительства нового, двухэтажного выполненного в псевдорусском стиле по проекту городского архитектора Э. В. Скавронского.
24 октября 1902 г. храм был освещен. Стены собора сложены из тёмно-красного кирпича. Пятиглавый собор за черный цвет куполов увенчаных крестами и полумесяцами в народе прозвали "чёрным".

Возможно, храм расписывал В. М. Васнецов или его ученики так как росписи второго этажа являются точными копиями работ художника в Киевском Владимирском соборе.

В соборе похоронена почитаемая в Туле игумения Агния, которая руководила строительством храма.
В 1918 г. монастырь был закрыт большевиками, которые пытались взорвать собор, но он оказался очень прочным и выстоял. Тогда с него сбили купола и разместили филиал государственного архива. Стены ограды и колокольня монастыря не сохранились.

В конце 1980-х гг. была произведена реконструкция здания: установлены купола и укреплено основание собора. 8 сентября 2006 г. храм был возвращён верующим и стал кафедральным собором Тулы. 24 января 2007 г. во время освящения престола нижнего храма туда были перенесены мощи святого Иоанна Тульского.