А.М. Горностаев проявил себя как реставратор при ремонте внутреннего убранства Андреевского собора в Санкт-Петербурге (1857–1858 гг.), по его же проекту к храму были пристроены приделы Успенский и Никольский, близкие к барочной архитектуре собора. Фасады надстроенного им северного крыла митрополичьего дома Александро-Невской лавры с Успенской (крестовой) церковью соответствовали барочной стилистике здания XVIII в. (1861–1863 гг.). Остались неосуществлёнными проекты церквей для великой княгини Елены Павловны и на Смоленском кладбище в Санкт-Петербурге, а также перестройки Успенской (Спасо-Сенновской) церкви в Санкт-Петербурге и др. А.М. Горностаев разрабатывал эскизы серебряных позолоченных окладов Остромирова Евангелия и первопечатного Апостола. Конфликтная ситуация при постройке собора в Гельсингфорсе ускорила кончину А.М. Горностаева, долгое время страдавшего «водяной болезнью». Он был похоронен в Троице-Сергиевой пустыни; в 1879 г. над его могилой установили белый мраморный крест, стилизованный под древнерусский, с изображениями 12 самых значительных сооружений зодчего (эскиз Ивана Ивановича Горностаева). Творчество А.М. Горностаева соответствовало развитию принципов историзма в русской архитектуре и противопоставлялось современниками тоновскому направлению. Василий Петрович Стасов характеризовал А.М. Горностаева как родоначальника «неофициального русского стиля». При общей тенденции перехода от классицизма к архитектуре зрелой эклектики А.М. Горностаев удалился от классицистической основы, которая прослеживается в проектах К.А. Тона. Опыт изучения древнерусского зодчества и искусства Византии он сочетал с оригинальностью композиции, крупным масштабом форм, мощной пластикой деталей (большинство церквей, построенных им, не были первоначально отштукатурены). А.М. Горностаев в большей степени, чем его предшественник, экспериментировал с объёмно-пространственными решениями храмов (Иоанно-Златоустовская церковь в Старой Ладоге, Никольская церковь на Валааме) и отделкой интерьеров (Сергиевская церковь Троице-Сергиевой пустыни), менее тяготел к монументальным формам. Расширил круг прототипов церковных построек преимущественно за счёт образцов романской и византийской архитектуры (Всехсвятская на Валааме, Иоанно-Златоустовская, Сергиевская церкви), а не только за счёт древнерусских храмов, как это представлялось В.П. Стасову и его последователям. А.М. Горностаев в отличие от других архитекторов активно использовал московское и ярославское «узорочье» XVII в., что предвосхитило стилистику второго этапа русского стиля в период царствования Александра III.