В отличие от этих юродивых Иоанн не входил в официальный сонм Московских святых, чем исследователи объясняют и отсутствие упоминаний его икон в описях кремлёвских храмов и царской Образной палаты и памяти святого в Чиновнике Успенского собора. По крайней мере, с начала XVIII в. Иоанн изображается в некоторых минейных циклах. Поскольку Иоанн почитался не только как Московский, но и как Ростовский святой, уже в XVII в. его изображения создавались для храмов Ростова и окрестностей. Их распространению способствовали биографические связи блаженного с некоторыми местными подвижниками. Имя Иоанна встречается в Житии Иринарха Затворника, которого юродивый благословил носить вериги; исследователям известно, что в Борисоглебском монастыре близ Ростова, монахом которого был Иринарх, ещё в XIX в. находилось изображение Иоанна «с большою головою, не соответствующей его туловищу». Со становлением местного почитания Иринарха связано и создание происходящей из той же обители иконы второй четверти – середины XVII в. с образом Иоанна (Третьяковская галерея). Блаженный, названный в надписи Ростовским чудотворцем, представлен в молении Богоматери «Воплощение» вместе с пророком Илиёй и преподобными Зосимой и Савватием Соловецкими, которые держат Соловецкую обитель (в публикациях последних лет Савватий, чьё имя зафиксировано в надписи, по неясным для исследователей причинам именуется Елеазаром Анзерским, который скончался в 1656 г. – скорее всего, уже после создания памятника); появление парного изображения Иоанна и пророка Илии исследователи объясняют тем, что последний является тезоименитым святым Иринарха Ростовского. Это сравнительно раннее изображение Иоанна близко к иконам из собраний А.С. Уварова и Г.М. Прянишникова, на которых он представлен вместе с Василием Блаженным; колпак и «жезл» здесь не видны, поскольку фигура Иоанна скрыта фигурой Зосимы Соловецкого. Как Ростовский святой Иоанн представлен в росписи церкви Воскресения в Ростовском архиерейском доме (кремле), исполненной в 1670 гг. Поясной образ Иоанна в молении, заключённый в картуш, помещён на северной стене алтаря, рядом со св. диаконами; святой держит «под пазухой» конусообразный колпак со спиралевидным окончанием. Судя по тому, что образ Иоанна находится и в алтаре Иоанно-Богословской церкви в Ростове (роспись 1683 г.), его особо почитал строитель этого храма и заказчик росписи Ростовский митрополит Иона (Сысоевич). Фигура Иоанна также включена в состав Деисуса на верхнем поле надгробной житийной иконы Иоанна Власатого Ростовского, написанной во второй половине XVII в. (церковь Толгской иконы Божьей Матери в Ростове). В этой композиции, принадлежащей к числу наиболее развёрнутых изображений Ростовских чудотворцев, Иоанн представлен среди преподобных; его образ сопоставлен со святыми, связанными с Борисоглебским монастырём (святыми Борисом и Глебом, преподобными Иринархом, Феодором и Павлом).