После возврата к иконоборчеству и низложения патриарха Никифора Иоанникий Великий покинул Вифинию (по сообщению монаха Петра, за его поимку была назначена награда) и укрылся на горе Алсос в Лидии, где основал храмы во имя великомученика Евстафия Плакиды, Богородицы и апостолов Петра и Павла. Иоанникий Великий вернулся на Олимп Вифинский незадолго до убийства Льва V, которое он также предвидел. Между ноябрём 823 г. и мартом 824 г. в храме пророка Илии в метохе Агаврского монастыря, у подножия горы Трихаликс, состоялась встреча православных иерархов, в числе которых были митрополит Халкидонский Иоанн, митрополит Никейский Пётр, бывший эконом Великой церкви Иосиф (которому Иоанникий Великий предсказал скорую кончину), Феодор Студит и многие другие (всего более ста человек). По версии монаха Петра, их беседа с Иоанникием Великим была посвящена вопросу о высшей добродетели. Согласно гипотезе Т. Прача, приверженцы иконопочитания собрались, чтобы обозначить новую линию поведения в условиях более мягкой (по сравнению с политикой времён императора Льва V) иконоборческой политики императора Михаила II. Однако из-за разногласий Иоанникия Великого с Феодором Студитом, которые, во-первых, оба претендовали на ведущую роль в оппозиции, а во-вторых, имели противоположные взгляды на принципы организации монашеской жизни, этого сделать не удалось. Сочинения Феодора Студита подтверждают предположение о том, что приблизительно в это время между ним и Иоанникием Великим произошёл серьёзный конфликт: если в одном из писем от 823 г. Феодор превозносит добродетели Иоанникия Великого, то в другом письме от 825 г. речь идёт о неких разногласиях с Иоанникием Великим, а в «Малом Оглашении» Феодор упрекает Иоанникия Великого и «подобных ему» в том, что они не подвергаются иконоборческим преследованиям. Иоанникий Великий совершал много чудес, среди которых исследователи находят наиболее примечательными исцеления (бесноватой, утратившей человеческий облик, скитавшейся в пустыне и поедавшей собственную плоть; расслабленной; Евстратия, страдавшего носовым кровотечением). Иоанникий Великий перемещался по воздуху, ходил по воде и укрощал диких зверей. По его молитве в безводной пустыне открылся целебный источник, спаслись схваченные арабами пленники, а крест, упавший в пропасть, сам вернулся. Среди его чудес агиографы особенно выделяют победы над чудовищами: драконами (длина одного из них достигала 60 локтей), ехиднами, аспидом, бесами, а также над колдунами. Однажды зимой в дикой горной местности Иоанникий Великий набрёл на пещеру, в которой теплилось два огонька. Обрадовавшись возможности погреться у костра, преподобный принялся дуть на огонь, чтобы разжечь костёр посильнее, но оказалось, что это был не огонь, а в темноте светились глаза огромного змия. Иоанникий Великий усмирил его и разделил с ним пещеру до конца холодов.