Снаружи свод оформлен трёхярусной горкой кокошников, глава была шлемовидной. Алтарь трёхчастный, с несколько большей центральной апсидой. Фасады разбиты пилястрами на три прясла, которым в интерьере соответствуют арочные ниши, устроенные по сторонам от северного, южного и западного входов. Частично сохранился изысканный итальянизирующий декор с элементами ордерных форм, отличающий лучшие постройки годуновского времени. Храм был расписан, но сведения о первоначальной росписи скудные. По словам дьяка Ивана Тимофеева, честолюбивый Борис Годунов распорядился поместить на стенах «образ своего подобия и имени» (это сообщение исследователям представляется малодостоверным). Древний иконостас собора утрачен. В 1677–1678 гг. в память о победе над турками под Чигирином по распоряжению царя Фёдора Алексеевича были построены двухстолпная трапезная и два придела: южный – во имя Сергия Радонежского, в память о походной полотняной церкви, стоявшей в 1591 г. на этом месте посреди воинского обоза, северный – во имя Феодора Стратилата, тезоименитого государю святого. В 1679 г. была сооружена шатровая колокольня. Все постройки выдержаны в скромном варианте стилистики узорочья. Вместе с приделами собор получил новую зелёную черепичную кровлю, заменённую, по мнению исследователей, в XVIII в. Известно, что царь Фёдор Иванович «пречудно украсил её всякими изрядными лепотами». Расписывали собор и приделы мастера Оружейной палаты Леонтий Чулков, Феодор Евтихиев Зубов, однако открытые в 1948 г. росписи стен выполнены в 1780 гг. В начале XIX в. были уничтожены украшавшие входы перспективные порталы, срублены внутренние выступы стен, растёсаны окна. Многие части храма восстановлены в 1948–1950 гг., уровень пола поднят над древним примерно на 50 см. Храм сильно пострадал при пожаре 1992 г., когда выгорела почти вся его трапезная. При восстановлении были расписаны стены трапезной, поновлены иконы, киоты и вся церковная утварь, реконструирована и обновлена печь с чашей для мироварения. В Малом соборе были погребены многие выдающиеся деятели церкви и Российского государства, в том числе схимонах Иов, архиепископ Московский Амвросий (Зертис-Каменский), архимандрит Аввакум (Миланкович), серб по национальности, главнокомандующий в Москве Михаил Михайлович Измайлов, графиня Екатерина Михайловна Румянцева – супруга фельдмаршала Петра Александровича Румянцева-Задунайского, генерал-аншеф Пётр Иванович Стрешнев.