Иоанн изображается в композиции «Собор Киево-Печерских святых», как правило, в левой группе, за Антонием Киево-Печерским, среди иноков, почивающих в Ближних пещерах. Обычно он представлен в восьмом ряду третьим слева, между юным мучеником Иоанном и преподобным Пименом постником, старцем в клобуке или в куколе, с седой бородой средней величины. Таким образом Иоанн показан, например, на иконе последней трети XVIII в. (1771 г.?, Иркутский областной художественный музей), на иконе первой половины XIX в. предположительно из мастерской Киево-Печерской лавры (музей Андрея Рублёва), на палехской иконе первой половины XIX в. (частное собрание), на иконе середины XIX в. в серебряном окладе (частное собрание), на эмалевом образке третьей четверти XIX в. (Нововалаамский монастырь в Финляндии), на иконе последней четверти XIX в. (церковь Воздвижения Креста в Женеве, Швейцария) и др. На иконе второй половины XIX в. (частное собрание) преподобный с именем «Iоаннъ» изображён дважды (третье изображение мученика Иоанна, варяга) – среди преподобных Ближних и Дальних пещер. На эстампах этого извода образ Иоанна известен с конца XVII в. (гравюра на меди Иосифа Гочемского из собрания Дмитрия Александровича Ровинского). Его изображения имеются, например, на раскрашенных гравюрах первой четверти XIX в. (Российская государственная библиотека) и первой трети XIX в. (Литературный музей), на тоновой литографии 1893 г. (Литературный музей) и на хромолитографии 1894 г. мастерской Киево-Печерской лавры (Российская государственная библиотека). На раскрашенной литографии 1883 г. мастерской А. Абрамова (Русский музей) Иоанн, как полагают исследователи, третий слева во втором ряду, изображён необычно (без куколя, с волнистыми волосами). В надписях святой нередко именуется постником (спостником). На иконе «Древо Киево-Печерских святых» 1660 гг. (Угличский музей) из церкви Печерской иконы Божьей Матери в Угличе погрудное изображение Иоанна вместе с другими святыми помещено в правой части композиции в одном из цветков «древа». Выполненное в академической традиции изображение Иоанна (или преподобного Иоанна, духовного брата преподобного Феофила) было включено в программу росписи интерьера храма Христа Спасителя: Иоанн представлен среди 34 Киево-Печерских святых на лестнице, ведущей на хоры южной части западного крыла (1870 гг., художник Кирилл Антонович Горбунов). Образ Иоанна (в группе Киево-Печерских святых) помещён на иконах «Все святые, в земле Русской просиявшие», созданных по благословению Ковровского епископа Афанасия (Сахарова) монахиней Иулианией (Соколовой), 1934 г. (келейный образ Афанасия, ризница Троице-Сергиевой лавры), начало 1950 гг., конец 1950 гг. (ризница Троице-Сергиевой лавры), а также на их повторениях конца XX – начала XXI вв. Иоанн на рисунках монахини Иулиании в серии святцев русских святых (после 1959 г., частное собрание) представлен под 7 декабря в рост, в монашеском одеянии, с покровенными руками, в клобуке, с короткой раздвоенной бородой; изображён вместе с преподобными Нилом Столобенским и Антонием Сийским.