К первым изображениям Иоанна исследователи относят икону третьей четверти XVII в. с клеймами чудес от его гроба (130х189 см). Образ находится на стене около места погребения святого в церкви Толгской иконы Божьей Матери в Ростове. Средник выделен широкой полосой со сложным растительным серебристым орнаментом; Иоанн изображён стоящим на зелёном позёме с травами-кустиками, левая нога слегка выдвинута вперёд, в правой руке – посох с согнутым концом, клюка или кочерга – характерный атрибут юродивых. Пальцы правой руки сложены в благословении, в левой опущенной руке – развёрнутый свиток с надписью: «Понудимся, братие, на кратцем веце сем...» Иоанн в длинном охристо-коричневом одеянии с отложным воротником и пуговицами посередине, густые русые волосы длинными прядями спускаются с плеч, окладистая борода средней длины. Фон светлый, зелёно-голубой, в верхней части с мелкими клубящимися облаками; надпись: «Святой Иоанн Милостивый Ростовский чудотворец». По мнению исследователей, это раннее изображение святого послужило образцом для создания его икон. Слева и справа от фигуры Иоанна – три ряда клейм, по две с каждой стороны (надписи утрачены). Вверху деисусный чин, включающий по десять фигур слева и справа, в том числе Ростовских чудотворцев, которые вместе с Иоанном соборно молятся за жителей Ростова. Основой изображения чудотворений от гроба блаженного является их описание после краткого Жития Иоанна. В 12 клеймах изображены: погребение Иоанна и чудеса исцеления Ростовского митрополита Кирилла, крестьянской жены Агриппины из дворцового села Поречья, Анны из Ростова от расслабления, крестьянина ростовского Авраамиева монастыря Второва, семьи старца Авраамиева монастыря Мануила (Светикова), калугера (монаха) Авраамиева монастыря; Петра Яковлевича Парфенева от лихорадки, игумена ростовского Петровского монастыря Леонтия от трясавицы, Каллистрата Алексеевича Гордеева; девицы Матроны из деревни Тряслово от слепоты, Анисима, сына священника Иоанна из дворцового села Великого, от болезни глаз. В первом клейме изображён конец заупокойной службы в храме, когда закрывают крышкой гроб. В возглавии тела Иоанна – дьякон в белых одеждах; у гроба стоят священник, женщина и мужчина. В кратком Житии сообщается, что Иоанн был погребён духовным отцом священником Петром из ростовской Всехсвятской церкви и благочестивой вдовой, у которой блаженный изредка находил пристанище. В других клеймах показаны 11 чудотворений в той же последовательности, как в житийном тексте. Везде Иоанн написан в гробу со сложенными на груди руками, в одежде охристого цвета. При описании чудес от могилы Иоанна подчёркивается, что перед исцелением, как правило, служили молебен Иисусу Христу, Богородице и св. Иоанну Предтече, чем объясняется присутствие священника в каждом клейме. Исцелённые представлены в земном поклоне перед гробом. Включённые в текст чудеса от гроба происходили в XVII в., в это время церковь Власия Севастийского, около алтаря которой был погребён Иоанн, была деревянной. Иконописец знал это, но изобразил за гробом Иоанна каменный белостенный храм с колокольней и другие сооружения.