Руководители иосифлянства во главе с митрополитом Иосифом были привлечены к следствию по делу «Всесоюзная контрреволюционная монархическая организация церковников “Истинно-православная церковь”» и приговорены в сентябре 1931 г. к длительным срокам заключения. Всего за март 1929 г. – февраль 1931 г. по следственным делам было арестовано свыше 4 тыс. иосифлян, в том числе около 1,6 тыс. священнослужителей. Последние крупные процессы по делу иосифлян прошли в Ленинграде, Москве и Воронеже в 1932–1933 гг. Одной из самых масштабных репрессивных акций стал арест в ночь на 18 февраля 1932 г. в Ленинграде большинства остававшихся на свободе монахов, а также связанных с монастырями представителей приходского духовенства и мирян, среди которых было много сторонников иосифлянства, – всего около 500 человек. Позднее, в 1937–1938 гг., почти все остававшиеся руководители иосифлянства, в том числе митрополит Иосиф (Петровых), епископы Сергий (Дружинин), Алексий (Буй), Нектарий (Трезвинский) и др., находившиеся в лагерях или в ссылках, были расстреляны. Одновременно с репрессиями шло закрытие властями иосифлянских храмов, лишь малую их часть возвращали в юрисдикцию Заместителя Патриаршего Местоблюстителя. Поставленные перед невозможностью совершать церковные службы легально, иосифляне в ряде районов страны уже в 1929 г. стали переходить к тайным служениям, в 1930–1933 гг. это происходило повсеместно. Однако в 1931–1932 гг. в Ленинграде и его пригородах ещё сохранялось девять официально действующих иосифлянских церквей. Роль центрального храма перешла к церкви св. Моисея на Пороховых. После арестов своих иерархов иосифляне утратили единое руководство и существовали в дальнейшем как самостоятельные автономные общины. В Ленинграде иосифляне пытались в 1932 г. добиться регистрации своего епархиального управления, но к концу того же года в городе практически не осталось легально действующего иосифлянского духовенства. В 1933 г. был закрыт последний иосифлянский храм в Москве; этот год иногда считается датой окончания легального существования иосифлянства. Однако все 1930 гг. продолжали официально действовать иосифлянские Троицкий храм в Лесном под Ленинградом и Благовещенский храм близ станции Мичуринец в Подмосковье. В 1941 г. Благовещенская, а в 1943 г. Троицкая иосифлянские общины перешли в Московский патриархат. Середину 1940 гг. исследователи считают фактическим концом иосифлянства. В это же время примиряются с патриаршей церковью немногие выжившие в лагерях известные деятели иосифлянства – протоиереи Василий Верюжский, Алексий Кибардин, Константин Быстреевский и др., за которыми последовала и их паства. Как правило, вливаясь в церковь, иосифлянские группы быстро теряли обособленность, хотя, например, в 1945 г. в Гатчине под Ленинградом существовала община бывших иосифлян во главе со священником Петром Белавским, близким когда-то к епископу Димитрию (Любимову). Другие представители иосифлянства, прежде всего, большинство бывших буевцев в Центральном Черноземье, оставались на нелегальном положении и впоследствии влились в катакомбное движение, сохраняя свою традицию и обрядность.