В двух из пяти сюжетов изображена Казанская икона Божьей Матери, что свидетельствует о её особом почитании. При входе в храм слева на стене написан образ, оформленный резным золочёным напольным киотом с надписью: «Явленная икона Казанской Божией Матери». История этого явленного образа исследователям неизвестна. В XIX – начале XX вв. Иоанна в традиционной иконографии (длинные волосы, округлая борода, длинная рубаха) писали среди местных святых в произведениях ростовской финифти. Так, он представлен на эмалевых иконах «Ростовские чудотворцы», «Вид Ростовского кремля» и «Спасо-Яковлевский монастырь» второй половины XIX в. (варианты в музее-заповеднике «Ростовский кремль», музее Андрея Рублёва). В последних композициях местные святые изображены в небе над архитектурным ансамблем; Иоанн, как правило, справа, за святителями Дмитрием и Иаковом Ростовскими. Существовали гравированные изображения Иоанна (с чётками и клюкой) возле церкви, в частности, первой половины XVIII в. из собрания Адама Васильевича Олсуфьева (Российская национальная библиотека). В собрании Дмитрия Александровича Ровинского хранилось два листа (работа Петра Николаева и её повторение 1800 г.), на которых награвированы образ Иоанна и 12 сюжетов Жития: преставление блаженного и исцеление митрополита Кирилла, Агриппины, Матроны, монаха Мануила, К.А. Гордеева, отрока Петра, игумена Леонтия и др., а также тексты тропаря, кондака и молитвы святому. Образ Иоанна помещался на эстампах с изображением Ростовских чудотворцев. В составе Соборов русских святых изображение Иоанна исследователи встречают на иконе начала XIX в. из Черновицкой области (Киево-Печерский музей-заповедник). В росписи галереи русских святых, ведущей в пещерную церковь Иова Почаевского в Почаевской Успенской лавре, Иоанн представлен среди подвижников XVI в. (живопись в академической манере конца 1860 – 1870 гг. работы иеродиаконов Паисия и Анатолия, поновлена в 1970 гг.). В иконописи XX в. Иоанн (средовек с тёмно-русыми волосами и бородой) включён в группу Ростовских чудотворцев на иконе «Все святые, в земле Русской просиявшие», созданной в 1934 г. монахиней Иулианией (Соколовой) для Афанасия (Сахарова; ризница Троице-Сергиевой лавры), а также на двух авторских повторениях 1950 гг. (ризница Троице-Сергиевой лавры). В рост, прямолично, со сложенными крестообразно на груди руками Иоанн показан под 3 сентября и 12 ноября на рисунках в серии лицевых святцев русских святых того же автора (после 1959 г., частное собрание). Другой рисунок Иоанна (на основе средника надгробного образа) выполнен для Миней Московской патриархии протоиереем Вячеславом Савиных и Наталии Дмитриевны Шелягиной. При создании современных икон «Собор Ростовских святых» для храмов Ярославской и Ростовской епархии Иоанн изображается в соответствии с традицией иконописных подлинников и с его надгробным образом. На иконе 1993 г. (иконописец З.И. Боровских) из Спасо-Иаковлевского монастыря чудотворцы написаны прямостоящими на фоне Димитриевского храма обители, образ Иоанна помещён в верхнем ряду. В церкви мученика Андрея Стратилата села Сулость Ростовского района в местном ряду иконостаса находится икона 2003 г. (иконописец Григорий Юрьевич Лощиц), где Ростовские святые изображены на фоне Успенского собора Ростова в молении образу Успения Пресвятой Богородицы; Иоанн – в верхнем ряду справа, вполоборота к центру. В этом храме есть также образ Иоанна на аналойной иконе «Собор Ростовских святых» (2003 г., иконописец С.Ю. Бурлаков).