Местопребыванием архимандрита Иосифа было первоначально поселение Алагир в центре Северной Осетии, в 1861–1869 гг. – Владикавказ. Архимандрит Иосиф много ездил по осетинским приходам, служил, проповедовал на осетинском языке. Составил для приходских школ осетинскую азбуку, начал работу над русско-осетинским словарём. В Осетии открывались школы, часто по инициативе и на средства местных священников. В 1863 г. Спасо-Преображенский храм во Владикавказе получил статус соборного. В 1868 г. архимандрит Иосиф по собственному прошению был уволен от должности управляющего осетинскими приходами. В 1868–1875 гг. надзор за ними осуществляли благочинные осетинских церквей. Наиболее важными событиями этого периода стали съезды осетинского духовенства в феврале и в мае 1873 г., на которых рассматривались вопросы противодействия отпадению осетин в ислам, борьбы с языческими пережитками, а также с небрежностью священнослужителей в исполнении своих обязанностей. Ко времени окончания Кавказской войны (1864 г.) значение Владикавказа как экономического и административного центра возросло, в 1863 г. он стал административным центром Терской области. Начиная с 1868 г. существовали планы создания епархии или викариатства с центром во Владикавказе, которые осуществились 3 апреля 1875 г., когда был издан указ императора Александра II об учреждении Владикавказского викариатства. Викариатство должно было «непосредственно заведовать церквами и причтами города Владикавказа, Северной Осетии и Алагирского завода». По ходатайству экзарха Грузии архиепископа Евсевия (Ильинского) Владикавказским епископом был назначен архимандрит Иосиф (Чепиговский). 30 ноября 1875 г. в тифлисском Сионском соборе состоялась его хиротония, в декабре того же года епископ Иосиф вернулся в Осетию. В первые годы существования в Владикавказское викариатство входило 20 приходов (к 1881 г. – 24 прихода), в Осетии действовало более 30 православных школ (в 1857 г. – одна церковноприходская школа в Алагире), осетинская женская школа во Владикавказе (открыта в 1862 г., затем преобразована в трёхклассную женскую школу и принята под покровительство великой княгини Ольги Фёдоровны, попечительницы совета Общества восстановления православного христианства на Кавказе). В 1876 г. было начато строительство кафедрального Михаило-Архангельского собора во Владикавказе. В 1881 г. в Осетии побывал экзарх Грузии архиепископ Иоанникий (Руднев), посетивший осетинские приходы. Во время его визита был поднят вопрос о возобновлении Владикавказского духовного училища, закрытого в 1864 г. В 1885 г. Владикавказское викариатство было преобразовано во Владикавказскую епархию в результате реорганизации Кавказской и Екатеринодарской епархии (с центром в Ставрополе), из которой была изъята Терская область, включенная в состав новообразованной Владикавказской кафедры.