Жизнь отшельников произвела на молодого человека неизгладимое впечатление. В 1788 г. он исхлопотал отставку (в марте 1789 г. ещё числился отставным поручиком), продал своё имение зятю. Вся дальнейшая жизнь Зосимы была связана с пустынножительством и со старчеством. Когда он пришёл в рославльские леса, то уже не застал там Адриана, ушедшего в Коневецкий в честь Рождества Пресвятой Богородицы монастырь. По совету насельников («Блажен бы ты был, добрый юноша, если бы отец Василиск принял тебя в ученики. Это – звезда наша пустынная!») он обратился за старческим окормлением к Василиску (Гаврилову), который, однако, рекомендовал Захарии начать иноческий путь в общежительном монастыре. Летом 1789 г. Захария отправился в Коневецкую обитель. По благословению коневецкого строителя иеромонаха Адриана Зосима пёк просфоры и служил пономарём в храме. Познакомившись с аскетической традицией афонских старцев и Паисия (Величковского), Захария практиковал регулярное откровение помыслов Адриану, который вскоре постриг его в иноческий чин с именем Зосима в честь Зосимы Соловецкого. В 1792/1793 г., во время поездки в Смоленск и Брянск за сбором пожертвований на монастырь, Адриан пригласил на остров Коневец старца Василиска. Иеромонах Адриан построил в лесу в трёх верстах от монастыря две кельи – для Зосимы и Василиска. В уединённом безмолвии отшельники проводили пять дней, а в субботу после келейного вечернего правила приходили в монастырь ко всенощной службе. Старец Василиск, стяжавший дар сердечной Иисусовой молитвы, делился со своим учеником аскетическим духовным опытом. Зосима начал записывать эти наставления. Позднее из рассказов и бесед отшельников составил большую рукопись («Повествование о действиях сердечной молитвы старца пустынножителя Василиска») – описание 75 «действий» Иисусовой молитвы, о которых Василиск поведал своему ученику. В 1797 г. Адриан уволился от настоятельской должности и поселился на покое в Симоновом монастыре. Оставшись без духовного отца, Василиск и Зосима увидели возможность исполнить своё давнее желание – удалиться в более «глубокую пустыню». Исследователям известно письмо Зосимы рославльскому старцу Досифею от 21 мая 1799 г., в котором он сообщал адресату о своих планах. Получив благословение митрополита Санкт-Петербургского Гавриила (Петрова), в июне 1799 г. они покинули Коневецкий монастырь. Трижды подвижники безуспешно пытались добраться до Афона. Увидев в этих неудачах Промысл Божий, Зосимы и Василиск в поисках места для устроения отшельнического скита обошли практически половину России. Зиму 1799/1800 гг. прожили в Киево-Печерской лавре, осмотрели горы Крыма, Северного Кавказа, посетили Таганрог, Астрахань, Казань, объехали Уральские горы. Общались с иеромонахом Василием (Кишкиным) в Белобережской Брянской пустыни, со старцами Санаксарского монастыря. В конце 1800 г. архиепископ Тобольский и Сибирский Варлаам (Петров-Лавровский) дал подвижникам разрешение проживать на территории Тобольской епархии. Весной 1801 г. старцы побывали в Ишимском, Каинском, Томском, Енисейском, Красноярском округах. Наконец, зимой 1801/1802 гг. прибыли в Кузнецкий округ. Удалившись на сорок вёрст от последней деревни, ископали в лесу землянку, в которой перезимовали в тяжелейших условиях. Решив найти другое место для постоянного пустынного жительства, поселились близ реки Томь в местности Три Курьи.