По мнению Павла Александровича Раппопорта, комплекс церкви апостола Иоанна Богослова в Смоленске, представлявший собой доведённый до совершенства тип храма с галереями, оказал ощутимое влияние на дальнейшее развитие смоленского зодчества. Наружный декор храма характерен для южнорусской (киево-черниговской) традиции XII в.: фасад расчленён пилястрами с мощными полуколоннами, отражающими внутреннюю структуру храма. Апсиды оформлены узкими тягами, углы – плоскими нераскрепованными двухуступчатыми пилястрами. Профили оконных проёмов и порталов также двухуступчатые. Необычной чертой исследователи считают два яруса окон, прорезавших апсиды и значительно увеличивших освещение алтарной части (в сравнении с Петропавловской церковью). Фасады, по мнению исследователей, имели позакомарное завершение. По основанию закомар проходил традиционный аркатурный пояс, выложенный лекальной плинфой (фрагменты её найдены при раскопках 1924 г.). В то же время вытянутые узкие окна подчёркивают высотные характеристики постройки. Эта тенденция получит общерусское развитие к концу XII в. Архитектурное решение внешнего облика пристроек единообразно: фасады декорированы узкими пилястрами, расположенными на осях соответствующих членений центрального ядра, углы оформлены двухуступчатыми нераскрепованными пилястрами, апсиды приделов имеют по две узкие тяги. На внешней северо-восточной лопатке основного объёма храма из плинфы был выложен большой шестиконечный крест на ступенчатой «Голгофе» (открыт в зондаже). Н.В. Сапожников предполагает, что этот крест, равно как и другие известные аналоги в храмах Смоленска и Киева, не столько играет декоративную роль, сколько отмечает место почитаемого внутрихрамового захоронения. Решение интерьера главного храма традиционно: подкупольные столбы массивные, крещатые арки опирались на внутренние лопатки. В толще западной стены проходила лестница на хоры, располагавшиеся в западной трети храма. В центральной апсиде выявлен первоначальный синтрон с чётко выраженным епископским троном. Его внутреннюю поверхность украшала фресковая роспись, имитирующая полилитию (мраморную облицовку). На глубине около 2 м от современного пола обнаружен первоначальный пол, сложенный из плинфы. В центральной апсиде пол, как полагают исследователи, был набран прямоугольными поливными плитками, фрагменты которых найдены на уровне пола. В западной части храма он сложен из плинфы, в подкупольном пространстве – из плит фиолетового песчаника, в алтаре использованы уникальные по форме сердцевидные поливные плитки зелёного, жёлтого и тёмно-коричневого цветов. В северной апсиде исследователи обнаружили аркосольную нишу, возможно, связанную с погребением ктитора. Захоронение в жертвеннике исследователи считают уникальным для домонгольского периода древнерусской архитектуры. Храм был расписан: сохранились фрагменты орнаментальной росписи на откосах окон. Решение интерьера восточных приделов идентично. Размер внутренних помещений около 2,1х5,1 м. Апсиды несколько сдвинуты к югу относительно центральной оси помещений, а в северных участках восточных стен в интерьере выполнены полукруглые ниши, очевидно, для совершения проскомидии.