Прибыв на Соловецкий остров, иноки остановились невдалеке от того места, где сейчас находится монастырь. Согласно Житию, Зосима имел видение: луч света осиял его, а на востоке он увидел в воздухе прекрасную церковь. Герман напомнил Зосиме о словах ангелов, изгнавших с острова семью карел, что это место предназначено для пребывания иноков. В первую же зиму Зосима остался на острове один, т.к. Герман отправился на материк, чтобы приобрести необходимое для устроения монастыря, и не сумел из-за сильных ветров вернуться. Тогда отшельнику пришлось претерпеть многочисленные жестокие нападения нечистых духов, старавшихся изгнать его с острова. Святой побеждал их молитвой. Некоторое время спустя Зосима обнаружил недостаток съестных запасов и был этим весьма смущён, но, как и прежде, положился на помощь Божью. В скором времени к нему пришли два мужа, которые привезли с собой санки, полные хлеба, муки и масла. Они сказали, что идут в море на промысел, и попросили, чтобы святой оставил снедь у себя и использовал, если будет нужда. Зосима долгое время хранил припасы, но не дождался возвращения этих людей и понял, что помощь была послана ему от Бога. Весной на остров вернулся Герман, вместе с ним приплыл Марк, искусный рыболов, постепенно прибывали другие подвижники. Вместе они построили кельи, срубили небольшую церковь и пристроили к ней трапезную. После этого Зосима послал одного из братии в Новгород к архиепископу Ионе (1459–1470 гг.) с просьбой благословить освящение церкви и прислать им игумена. Святитель выполнил их просьбу: дал им антиминс и прислал игумена Павла, который освятил церковь в честь Преображения Господня. Согласно волоколамской редакции Жития Зосимы, в то время братия состояла из 22 человек. Жители Беломорья и слуги новгородцев («болярстии людие и приказници раби»), узнав о создании монастыря, стали приходить на остров, чтобы изгнать иноков из владений новгородских бояр. Приходили сюда и карелы-рыболовы, считавшие Соловки своей вотчиной. Не вынеся тягот такой жизни, игумен Павел вернулся в Новгород. На его место был прислан игумен Феодосий, но и он недолго пробыл на острове и возвратился на материк. Тогда было решено избрать игумена из числа соловецких насельников. Выбор братии пал на основателя монастыря, который вопреки своему желанию был вынужден отправиться в Новгород для принятия священнической хиротонии и для поставления в игумены. Согласно Житию, поставление Зосимы совершил архиепископ Иона («Летописец соловецкий» начала XVIII в. приводит дату поставления – 1452 г., что, по мнению исследователей, является анахронизмом). В Новгороде Зосима получил значительные пожертвования для монастыря от архиепископа и бояр, многие из которых обещали обители покровительство. Когда после возвращения в монастырь Зосима служил литургию, лицо его просветилось, и церковь наполнилась благоуханием. После окончания литургии произошло чудо с просфорой, которой игумен благословил приезжих купцов. По пути из церкви к своей ладье они выронили просфору. Когда же Зосима послал одного из братии пригласить купцов на обед, тот увидел, что пёс, бежавший впереди него, наскакивает на какой-то предмет, от которого исходит пламя, отгоняющее пса. Когда инок подошёл ближе, то обнаружил просфору со службы игумена.