Однако митрополит Агафангел (Преображенский) не одобрял идеи объединения церковной оппозиции под руководством митрополита Иосифа. 7 апреля 1928 г. в письме митрополиту Сергию он заявил, что отделился от Заместителя Местоблюстителя только в административном управлении, но не разрывает «союз веры и молитвы». Вскоре митрополит Агафангел примирился с митрополитом Сергием. Ещё раньше в подчинение митрополиту Сергию вернулись Ленинградские викарии архиепископ Гавриил (Воеводин) и епископ Серафим (Протопопов), получив назначения на другие кафедры, а оставшийся «непоминающим» епископ Григорий (Лебедев) ушёл на покой. Что касается отбывавших заключение в Соловецком лагере особого назначения (СЛОН) епископов, то многие из них негативно относились к «Декларации» митрополита Сергия. Однако в дальнейшем из-за опасений перед нараставшим расколом церкви большинство находившихся на Соловках архиереев поддержали (с некоторыми оговорками) позицию Заместителя Патриаршего Местоблюстителя. В помощь назначенному на Ленинградскую кафедру митрополиту Серафиму (Чичагову) в Ленинград прибыл освобождённый из Соловецкого лагеря авторитетный борец с обновленчеством епископ Мануил (Лемешевский; впоследствии митрополит), который убеждал верующих хранить церковное единство. Епископ Мануил противостоял иосифлянству и в Серпухове, куда он был назначен на викарную кафедру. Позиция соловецкого епископата, активная деятельность епископа Мануила в Ленинграде и Серпухове способствовали работе митрополита Сергия и Временного Священного Синода, направленной на ограничение церковного разделения. Весной 1928 г. иосифлянство оформляется организационно и идеологически. В марте ленинградскими иосифлянами, чтобы обосновать отход от Заместителя Патриаршего Местоблюстителя и снять обвинения в свой адрес со стороны части православного епископата, был составлен документ «Почему мы отошли от митрополита Сергия», где в десяти разделах кратко излагались причины, ставшие основанием для отделения. В действиях митрополита Сергия иосифлянами усматривалось наличие ереси, что, по мнению авторов документа, давало им право «на отхождение «прежде соборного рассмотрения» даже и от Патриарха». В это же время протоиерей Фёдор Константинович Андреев составил ряд листовок для популяризации иосифлянства среди верующих, например, «Об исповедничестве и подвижничестве». Протоиерей Ф.К. Андреев вместе с М.А. Новосёловым написал и получившую большую известность брошюру «Что должен знать православный христианин?». Иосифляне активно использовали в своих целях документы Русской православной церкви за границей, направленные против митрополита Сергия. Главной тактической целью иосифлянства было привлечение на свою сторону большей части духовенства, прежде всего, епископата, чтобы изолировать влияние Заместителя Патриаршего Местоблюстителя в патриаршей церкви. Епископы Димитрий (Любимов) и Сергий (Дружинин) обращались с посланиями в различные города с целью склонить на свою сторону духовенство и мирян, рукополагали священников и с мая 1928 г. начали совершать тайные хиротонии епископов для других епархий. Организаторам иосифлянства не удалось, как они надеялись, привлечь на свою сторону большинство церкви, однако иосифлянство распространилось далеко за пределы Ленинградской епархии.