В Ерминии иеромонаха Дионисия Фурноаграфиота (около 1700 – 1733 гг.) Иоанникий Великий представлен как «старец с длинною бородою и с длинными волосами, в одном хитоне, босой. Руки и ноги его обнажены. Он держит крест, на хартии надпись: «Упование мое Отец, прибежище мое Сын, покров мой Дух Святый, Троице Святая, слава Тебе». Одно из первых изображений Иоанникия Великого находится в Минологии Василия II (первая четверть XI в.) под 3 ноября, где преподобный показан рядом с горой, женская фигура неподалёку – персонификация горы Олимп. В западной части наоса кафоликона монастыря Осиос Лукас, Греция (1030–1040 гг.), он представлен в медальоне над входом в северо-западную капеллу, рядом с преподобным Сисоем Великим: с крестом в правой руке, левая рука – перед грудью; небольшая, чуть заострённая борода разделена на три завитка. Изображение в рост представлено на миниатюре в Лондонской (так называемой Феодоровской) Псалтири (1066 г.) и на одной из минейных икон гексаптиха из монастыря великомученицы Екатерины на Синае (конец XI – начало XII вв.). Образ Иоанникия Великого присутствует в росписях: парекклисиона Пресвятой Богородицы монастыря апостола Иоанна Богослова на острове Патмос (около 1200 г.); церкви Вознесения в Милешеве, Сербия (до 1228 г.), со свитком в руке; в церкви великомученика Георгия в Старо-Нагоричино, Македония (1317–1318 гг.). В ц. великомученика Димитрия Солунского в Пече, Косово (около 1345 г.), Иоанникий Великий изображён дважды: коленопреклонённым перед образом Богоматери, молящимся за своего соименника во Христе архиепископа Иоанникия, по инициативе которого церковь была украшена фресками; рядом с портретами сербского короля Стефана Душана, его сына Уроша и Саввы Сербского. В поствизантийском искусстве иконография Иоанникия Великого не претерпела существенных изменений: он изображён в рост, со свитком в руке в так называемой Афонской книге образцов (Российская национальная библиотека, XV в.); в трапезной Великой Лавры на Афоне (1512 г.); в капелле св. Архангелов кафоликона монастыря Иоанна Предтечи близ Серр (Сереса, Греция; 1634 г.). В древнерусском искусстве изображение Иоанникия Великого сохранилось: в церкви праведного Симеона Богоприимца в Зверине монастыре в Великом Новгороде (конец 1460 – начало 1470 гг.); в приделе святых Гурия, Самона и Авива церкви пророка Илии в Ярославле (последняя четверть XVII в.); на фресках галереи церкви Воскресения Господня в Ростове (1670–1680 гг.) – рядом с преподобными Евфимием и Иларионом; в алтаре церкви апостола Иоанна Богослова (1683 г.) Архиерейского дома в Ростове – рядом с преподобным. Сисоем Великим; а также среди избранных святых на некоторых заказных иконах.