В января 1938 г. Иосиф Исихаст вместе с Арсением присмотрели для себя заброшенную каливу в Малом скиту св. Анны, располагавшуюся в пещерах под скалистым обрывом, где они подвизались в течение следующих 30 лет. Подвижники обновили небольшую церковь св. Иоанна Предтечи и соорудили для себя из дерева, прутьев и глины хижину, разделявшуюся на три кельи, одна из которых предназначалась для Иосифа Исихаста, другая для Арсения, а третья – для приходящего иеромонаха. Здесь Иосиф Исихаст и Арсений на некоторое время вновь остались вдвоём. Само расположение каливы и недостаток места для жилых помещений не предполагали присутствия других братий. Тем не менее, со временем к подвижникам присоединились новые ученики из числа молодых монахов, в том числе монах Ефрем (впоследствии игумен монастыря Филофея, а затем основатель ряда монастырей на территории США), монах Иосиф (впоследствии духовник монастыря Ватопед и биограф старца), иеромонах Харалампий (впоследствии игумен монастыря преподобного Дионисия). Тяготы жизни в Малом скиту св. Анны (связанные, прежде всего, с необходимостью ежедневно поднимать грузы на большую высоту) плохо сказывались на здоровье молодых послушников, поэтому в июне 1951 г. Иосиф Исихаст принял решение переселиться поближе к морю. Он выбрал каливу св. Бессребреников в Новом скиту. В начале 1958 г. здоровье старца резко ухудшилось, на его шее появился болезненный нарыв. Уступая просьбам духовных чад, Иосиф Исихаст согласился принять лечение, хотя и считал усилия медиков ненужными. В следующем году страдал от сердечной недостаточности. В день Успения Пресвятой Богородицы старец отошёл ко Господу, предсказав свою кончину и предварительно причастившись на праздничной литургии. Мощи Иосифа Исихаста в настоящее время находятся в Ватопеде, а честная глава и остальная часть мощей – в монастыре Антония Великого (штат Аризона, США). Сообщалось о посмертных явлениях старца и о чудесах, имевших место при перенесении его мощей. Иосиф Исихаст почитается как местночтимый святой на Святой Горе Афон, а также в Румынии. Сохранилось большое количество писем Иосифа Исихаста к родственникам и духовным чадам, посвящённых различным вопросам духовной жизни. Подборка этих писем была опубликована старцем Ефремом из Филофеева монастыря под заглавием «Выражение монашеского опыта». Перу старца принадлежит также сочинение «Десятигласная духодвижимая труба», где в образной форме описываются ступени, которые необходимо преодолеть подвижнику по пути к стяжанию благодати. Сочинениям старца свойствен своеобразный стиль, сочетающий архаизацию с простонародными выражениями и с использованием рифмованной прозы.