Ходатайство Заместителя Патриаршего Местоблюстителя о легализации было отвергнуто. Само его составление наряду с попыткой провести осенью 1926 г. выборы патриарха путём опроса архиереев, вероятно, послужило одной из основных причин последовавшего вскоре ареста митрополита Сергия. Во время пребывания в тюрьме митрополита Сергия представители государственных органов продолжали обсуждение с ним условий, на которых власти соглашались признать патриаршую церковь. Помимо декларации лояльности к советской власти и осуждения враждебных по отношению к ней выступлений внутри страны и за рубежом от церковной власти требовали прещений эмигрантскому духовенству, согласования кандидатов на архиерейские кафедры с НКВД, увольнения на покой или даже запрещения в священнослужении арестованных архиереев с прекращением их поминовения за богослужением, обязательного поминовения на литургии гражданской власти. В свою очередь, митрополит Сергий настаивал на легализации высшего и епархиального церковного управления, на получении разрешения на созыв поместного Собора и на выборы патриарха, на освобождении заключённых и сосланных священнослужителей, на разрешении восстановить духовные школы и издавать церковный журнал. Власти не собирались положительно реагировать на все эти предложения, но всё же пошли на некоторые уступки. Было достигнуто соглашение, что после освобождения митрополит Сергий будет иметь резиденцию в Москве, было также дано принципиальное разрешение на образование и официальную легализацию Временного Синода. 30 марта 1927 г. митрополит Сергий был освобождён из-под ареста и вернулся к исполнению обязанностей Заместителя Патриаршего Местоблюстителя, получив разрешение жить в Москве. До ареста он был лишён такой возможности и находился в своём кафедральном городе – Нижнем Новгороде. 7 мая митрополит Сергий обратился в НКВД с ходатайством о легализации церковного управления. 18 мая провёл совещание с группой архиереев: Тверским митрополитом Серафимом (Александровым), членом Временного Синода в последние годы патриаршества Тихона, архиепископами Костромским Севастианом (Вести), Вологодским Сильвестром (Братановским), Звенигородским Филиппом (Гумилёвским), Хутынским Алексием (Симанским, впоследствии патриарх Алексий I) и Сумским епископом (впоследствии митрополит) Константином (Дьяковым). Из участников совещания митрополит Сергий образовал Временный Патриарший Священный Синод, полномочия которого по аналогии с Синодом, образованным патриархом Тихоном в 1923 г., проистекали из полномочий учредителя. В состав Синода Заместитель Местоблюстителя позже включил Новгородского митрополита Арсения (Стадницкого), пребывавшего в ссылке в Средней Азии, а также незадолго до того выпущенных на свободу архиепископов (впоследствии митрополитов) Самарского Анатолия (Грисюка) и Вятского Павла (Борисовского). 20 мая 1927 г. НКВД выдал справку о временной регистрации Патриаршего Синода.