Иову посвящена статья Соловецкого патерика, который сложился, в основном, к концу XVIII в. и до конца XIX в. пополнялся новыми статьями. Судя по синодику Голгофо-Распятского скита, исследователи сделали вывод, что отец Иова принадлежал к духовенству. Многие годы Иоанн служил приходским священником в Москве. Живя в миру, имел иноческий настрой, исполнял монашеское молитвенное правило, был сострадателен к бедным, раздавал много милостыни, кормил у себя дома нищих. Священник Иоанн был опытным духовником: в беседах и поучениях учитывал положение и состояние исповедующегося; свои наставления основывал на Священном Писании и подтверждал примерами из церковной истории и жизни святых. Иоанн часто заступался за несправедливо обиженных. Весть о праведной жизни Иоанна дошла до царя Петра I Алексеевича, который призвал его для служения в придворной церкви в честь Воздвижения Креста Господня (эту церковь называли Распятской). Вскоре Иоанн был назначен духовником царя и членов царского дома. Через некоторое время священника Иоанна обвинили в сочувствии Григорию Талицкому, автору сочинения о Петре I как об антихристе. Григорий Талицкий был арестован в 1700 г., под пыткой сообщил, что рассказал о своих взглядах на исповеди Иоанну. Духовник, храня тайну исповеди, не доложил царю и по повелению Петра I был сослан в Соловецкий монастырь. 13 марта 1701 г. Иоанн прибыл в Холмогоры. Архиепископ Афанасий (Любимов) в грамоте в Соловецкий монастырь писал о том, что священник Иоанн должен быть пострижен в монашество и отдан в послушание опытному старцу. 3 апреля соловецкий архимандрит Фирс совершил постриг Иоанна с именем Иов, о чём доложили царю. Инок был отдан в научение монаху Ионе. Святой удивлял братию смирением, ночным молитвенным подвигом. Выполнял тяжёлую физическую работу, соблюдая при этом строгий пост. Сначала его послушанием была заготовка дров, затем он трудился в поварне, позже – в братской трапезной. По сообщению Житий, Иов в преклонном возрасте не отличался здоровьем и его неоднократно искушал бес, являясь в образе врача и уговаривая меньше трудиться и жалеть себя, однако эти испытания лишь укрепляли дух подвижника. Вскоре Иов был освобождён от монастырских послушаний, архимандрит благословил его затвориться в келье. Пётр I хотел вернуть Иова на прежнее служение, но старец просил оставить его на Соловках. В 1702 г. по благословению архимандрита Фирса Иов переселился в Свято-Троицкий скит на Анзерском острове. После того как в 1703 г. строитель скита старец Исаия скончался, Холмогорский архиепископ предложил архимандриту Фирсу назначить настоятелем (строителем) скита Иова. Вызванный в Соловецкий монастырь, Иов в 1706 г. принял назначение и просил, чтобы его удостоили пострижения в схиму, в чём ему было отказано. Одной из важнейших сторон деятельности Иова в качестве строителя Свято-Троицкого скита было сохранение памяти об основателе обители преподобном Елеазаре. По инициативе Иова были созданы несколько редакций Жития Елеазара, молитва, тропари святому. 1 марта 1710 г. ученик Иова Макарий начал составление вкладной книги скита.