В 1898 г. Герман принял в обитель Алексия (Соловьёва), вскоре тот стал его духовным сыном. Трудами Германа и Алексия Зосимова пустынь прославилась по всей России, стала центром духовничества и старчества – «Оптиной в миниатюре». Здесь окормлялись великая княгиня Елисавета Фёдоровна (по монастырскому преданию, она была тайно пострижена Германом в схиму с именем Алексия), священномученики Серафим (Звездинский), Серафим (Чичагов), Игнатий (Садковский) и Пётр (Руднев), а также Антоний (Храповицкий; впоследствии митрополит Киевский и Галицкий), Арсений (Жадановский; впоследствии епископ Серпуховской), Сергиевский архиепископ Варфоломей (Ремов), Сергий Николаевич Булгаков, Михаил Александрович Новосёлов и др., а также преподаватели и студенты Московской духовной академии. 3 июня 1902 г. Герман был возведён в сан игумена. В 1908 г. принял решение обустроить храм для уединённой молитвы; монахи сообщили об этом начальству Троице-Сергиевой лавры, игумену был вынесен выговор. Летом 1909 г. с правом совещательного голоса Герман участвовал в первом Всероссийском съезде монашествующих. 23 февраля 1914 г. Святейший Синод в лице Высшего церковного управления запросил у старца суждение об афонских спорах об имени Иисусовом. Герман ответил: «Молитва Иисусова есть дело сокровенное, а потому возникшие разногласия следовало бы покрыть любовью». Совет был принят Московским и Коломенским митрополитом Макарием (Невским), суд духовной консистории вынес имяславцам оправдательный приговор. В начале 1909 г. казначей обители иеромонах Иона (Фиргуф) обвинил Германа в неправильном ведении хозяйства и приходо-расходных книг, самовольном распоряжении пожертвованиями. 16 апреля того же года этот вопрос рассмотрела комиссия Духовного Собора Троице-Сергиевой лавры. В рапорте от 21 июля Герман подробно ответил на обвинения, не признав их. Указом Духовного Собора ему предписывалось сдать управление Зосимовой пустыни и с 3 сентября принять должность строителя Махрищского монастыря. По ходатайству духовных чад (Елисаветы Фёдоровны и др.) через два месяца Герман был возвращён в родную обитель. 28 июля 1916 г. принял тайное пострижение в великую схиму от епископа Арсения (Жадановского). В последние дни жизни Герман ничего не вкушал, причащаясь Святых Таин. Предсказал, что обитель закроют после его кончины; вскоре это действительно произошло. В марте 1994 г. иеродиакон возобновлённой Зосимовой пустыни несколько раз видел во сне схимнический крест и слышал голос, повелевавший поставить крест на могилу Германа. Могила была вскрыта, мощи переоблачены в схиму, на месте погребения установлено временное надгробие. По благословению патриарха Алексия II 14 сентября 2000 г. Герман прославлен в лике местночтимых святых, мощи торжественно перенесены в Смоленский собор Зосимовой пустыни. Тропарь, кондак и величание святому утвердил Владимирский и Суздальский архиепископ Евлогий (Смирнов); был написан образ Германа. Частицы мощей и иконы Германа находятся в храмах ряда епархий, в одном из православных приходов Новой Зеландии. В пустыни хранятся его вещи: мантия, схима, тапочки.