Как следует из показаний митрополита Иосифа на следствии осенью 1930 г., после отказа от назначения на Одесскую кафедру он «первое время хотел уйти на покой от всех дел», однако после обращений к нему группы духовенства Ленинградской епархии от имени многочисленных верующих решил остаться их руководителем. При этом представители группы, по словам митрополита Иосифа, обещали, что они не будут обращаться к нему в то время, когда он пребывает в ссылке, ни по каким конкретным вопросам, и просили лишь о духовном руководстве. По мнению митрополита Иосифа, оппозиционное к митрополиту Сергию течение было «совершенно несправедливо окрещено иосифлянством..., гораздо основательнее оно должно быть названо вообще «антисергианским». А так как первый протест против Сергия был громко провозглашён не мною, а митрополитом Агафангелом Ярославским, то справедливее было бы именовать это течение «агафангелизмом» или как-нибудь ещё в этом роде». В то же время митрополит Иосиф показал: «Отрицая своё руководство над антисергианским течением, я всё же сознаю, что нужно кому-нибудь было быть духовным руководителем и советником того духовенства и верующих, которые... примкнули к нашей церковной группе, а так как кроме меня никого из митрополитов не было, то только этим я и объясняю, что ко мне со всего Союза приезжало духовенство и верующие за советами». Однако митрополит Иосиф замечал, что был главой организации «в чистоцерковном смысле. Практически действовал по моему доверию архиепископ Дмитрий». В начале февраля 1928 г. митрополит Иосиф объявил о согласии возглавить «духовным руководством и молитвенным общением и попечением» отделившуюся со своей паствой от Заместителя Патриаршего Местоблюстителя часть духовенства Ленинградской епархии, а также всех других, последовавших их примеру. Поскольку митрополит Иосиф находился в ссылке, временное управление Ленинградской епархией было передано епископу Димитрию (Любимову). За пределами Ленинградской епархии митрополита Иосифа в начале 1928 г. открыто поддержали ранее управлявшие епархиями: Вятской и Ижевской – Глазовский епископ Виктор (Островидов), который в декабре 1927 г. уже отделился от Заместителя Патриаршего Местоблюстителя; Великоустюжской – Никольский епископ Иерофей (Афонин); Воронежской – Козловский епископ Алексий (Буй). В Москве о поддержке митрополита Иосифа и епископа Димитрия заявил авторитетный среди верующих протоиерей Валентин Павлович Свенцицкий, настоятель Николаевского храма на Ильинке («Никола Большой Крест»). К иосифлянам присоединилась почти половина храмов Серпухова, ставшего центром иосифлянства в Московской епархии, а также отдельные приходы в Твери, Новгороде, Киеве, Харькове и других городах. Митрополит Иосиф возлагал большие надежды на объединение с вышедшими из подчинения Заместителю Патриаршего Местоблюстителя архиереями Ярославской церковной области, а также на поддержку епископата, заключённого в лагерях и находящегося в ссылках, прежде всего – на Соловецких островах.