В иконописных подлинниках конца XVI – начала XX вв. под 7 сентября содержатся следующие описания облика Иоанна: «Сед, брада Сергиева, исподь вохра» (Иконописный подлинник новгородской редакции по Софийскому списку конца XVI в.); «подобием стар, сед, брада аки Сергиева, на главе клобук белый, риза преподобническая, то есть мантия со источники, исподь дичь, рука благословенна, а в другой свиток» (Сводный иконописный подлинник XVIII в.); «сед, брада Сергиева, на главе клобук белой, риза преподобническая, а по ней полосы бели в трех местех, испод дичь, рукою благословляет, а в другой свиток» (Институт русской литературы (Пушкинский Дом); Российская национальная библиотека; см. также: Большаков. «Подлинник иконописный»), текст на свитке: «Чада, со испытанием все творите, да не прельщены будете диаволом, да некогда з добродетелию и злобу приплетену обрящете» (Российская национальная библиотека); «брадою подобен Сергию Радонежскому, мало пошире, власы просты, ряска дымчата, мантия со источники» (Библиотека Академии Наук); «подобием сед, брада Алексия митрополита покороче, на конец космачками, на главе клабук бел, ризы святительския» (Библиотека Академии Наук, в отдельном перечне без указания дня памяти, назван блаженным). В пособии для иконописцев 1910 г. Виктора Доримедонтовича Фартусова Иоанн описан в соответствии с традицией академической религиозной живописи: «Типа русскаго, благороднаго происхождения, седой старец с худощавым и смиренным лицом и с бородой средней величины, в фелони, омофоре и белом клобуке. Если писать его схимником, то – в чёрной мантии со скрижалями и струями и в схиме на голове. В руках малый образ Новгородскаго Знамения Пресвятой Богородицы; под иконой хартия с надписью: Се Ц(а)рице являеши нам известное знамение, яко со слезами молишися С(ы)ну твоему и Б(о)гу нашему о избавлении града». В начале XX в. Пётр Львович Гусев отмечал, что в новгородских церквах, в том числе в соборе Святой Софии в Новгороде, нет древних икон Иоанна. Судя по дошедшим описям новгородского Софийского собора XVIII–XIX вв. и происходящим оттуда произведениям, исследователи считают местом особого почитания Иоанна как святителя, чудотворца и покровителя храма и всего города. Из летописей исследователям известно, что по воле архиепископа Феодосия в приделе в честь Усекновения главы св. Иоанна Предтечи над деревянным гробом Иоанна была поставлена каменная часовня-сень с «теремцами», освящённая в 1547/1548 г. («…архиепископ Феодосеи гроб украсил святителя Божия Иоанна архиепископа, церковь всю понови, и двери на стороне придела, иконам церков украси и основав церкви придела стороннии болшии» – «Новгородские летописи». СПб., 1879 г.; Новгородская вторая летопись // «Полное собрание русских летописей», том 30). В приделах, на столпах и стенах основного наоса Софийского собора находились иконы разных изводов с образом Иоанна. Икона с единоличным изображением святого в XVIII в. помещалась на «четвёртом», юго-западном столпе Софийского собора в составе пристолпного иконостаса (с 1968 г. – в главном иконостасе собора).