Для героев повествования Илариона путешествие по горам Кавказа становится своего рода мистагогией-тайноводством, благодаря которому всё, что населяет кавказскую пустыню, наводит на мысли об ином, горнем мире. Ночное небо, усыпанное звёздами, едва различимые в горних далях костры охотников, расположившихся на ночлег, – всё это напоминает подвижнику о Царстве Небесном. Иларион называет кавказскую природу «школой премудрости Божией»; в этой школе человек узнаёт мир в той первозданной красоте, в которой он был сотворён Богом. Первое издание книги «На горах Кавказа» было получено на Афоне в 1907 г. и сразу же вызвало живой интерес иноков, в частности, в Фиваидском скиту. Некоторые насельники общежительного скита (главным образом, те, кто до вступления в монашество получили богословское образование) высказались критически в адрес книги. Возражения вызвало учение Илариона об имени Божьем, сфокусированное в заимствованной из сочинений Иоанна Кронштадтского краткой формуле «Имя Божие есть Сам Бог». Главным противником книги в Фиваидском скиту стал иеромонах Алексий (Киреевский), происходивший из богатой дворянской семьи Орловской губернии, племянник славянофилов братьев Киреевских, в прошлом учившийся в университете и духовной академии. Другой критик книги, инок Хрисанф (Минаев), проживал в Ильинском скиту. В 1909 г. Хрисанф написал резкую рецензию на книгу Илариона, где, упрекая автора во фразёрстве и извращении Священного Писания и изречений св. отцов, утверждал, что единственной целью Илариона было доказать, будто в Иисусовой молитве «в Имени Иисус Сам Спаситель находится», будто «номинальное, невещественное «имя Иисус» олицетворяет живое и самое высочайшее существо Бога. Такая мысль, – писал рецензент, – есть пантеистическая, т.е. сливающая Существо Божие с чем-либо находящимся вне Его Существа...». В Иисусовой молитве произносимые имена служат для привлечения к нам Господа Иисуса Христа, для единения с Ним; но могущественная сила является от Самого Господа, поэтому, когда в молитве произносят имена без всякого чувства и внимания, они не производят благодатного действия, Бог их не слышит. Относительно имени Иисус Хрисанф утверждал, что это простое человеческое имя, полученное Христом как человеком, и потому «приписывать этому имени при совершении молитвы обоготворяющее значение, сливать оное с Божеством и давать ему значение равносильное Самому Богу» не следует: «...Чрез это выходит, что в одном лице Сына Божия высказываются два Бога: одно самое существо Его, а другое – наречённое Ему при воплощении на земле имя Иисус. ...Свойственное и подобающее одной только Божественной природе усвоять не имеющему сей природы – это верх безумия и нечестия. ...Это новшество, ибо никто из свв. Отцев и Учителей Церкви, со времён апостольских и до сего времени, не приводил такого учения».