В качестве условий предоставления официального статуса советские власти требовали от патриаршей церкви не только лояльности к режиму, но и права на вмешательство во внутрицерковные дела (прежде всего, контроля за назначением и перемещением архиереев). Итогом стала компромиссная «Декларация» 1927 г. заместителя патриаршего местоблюстителя митрополита Сергия (Страгородского; впоследствии патриарх Московский и всея Руси) и образованного при нём Временного Священного Синода, после чего стала возможной регистрация центральных и епархиальных органов церковного управления. «Декларация» 1927 г. и последующие решения митрополита Сергия, принятые под давлением советских властей, вызвали церковное разделение. Большинство духовенства РПЦ согласилось с позицией митрополита Сергия: каноническое существование патриаршей церкви в СССР невозможно без признания Советским государством официального статуса органов церковного управления и, следовательно, принятия навязанных властью условий. В то же время значительная часть епископата и клира посчитала такой компромисс с советскими властями невозможным и вышла из повиновения священноначалию РПЦ. Всего от подчинения митрополиту Сергию отказалось больше сорока архиереев с частью своей паствы. Наиболее многочисленным и сплочённым церковным течением, оппозиционным митрополиту Сергию, являлось иосифлянство во главе с бывшим Ленинградским митрополитом Иосифом (Петровых). Общая численность приходов, присоединившихся к иосифлянству, составила около 2,5 тыс. Центром движения стал Ленинград, значительное распространение иосифлянство получило также в Вятской, Ижевской, Новгородской, Воронежской, Тамбовской, Краснодарской, Киевской и Харьковской епархиях. Заметную роль в церковной оппозиции играло и андреевское течение во главе с епископом Андреем (Ухтомским), который ещё в 1925 г. вышел из подчинения священноначалию РПЦ и через тайные епископские хиротонии создал собственную неканоническую иерархию. Церковные общины андреевцев особенно активно действовали в Среднем Поволжье и Предуралье. Епископ Андрей первым стал употреблять в отношении своих сторонников термин «истинно православные христиане», который в 1920–1930 гг. наиболее часто использовался для обозначения тайных оппозиционных церковных общин. Большинство других церковных оппозиционеров, часто объединяемых в литературе под собирательным определением «непоминающие» (не поминавшие за богослужением советские власти и митрополита Сергия), не входили ни в какие церковные течения и не были организационно связаны друг с другом, хотя иногда выделяют с большим или меньшим основанием их группы – Даниловскую группу непоминающих, Мечёвскую группу (последователи протоирея Сергия Мечёва) и др. Оппозиционные деятели обосновывали свой разрыв с митрополитом Сергием большей значимостью свободы церковной жизни перед наличием или отсутствием у церкви легального статуса. Хотя митрополит Иосиф не являлся противником официальной регистрации своей иерархии и был готов исполнять законные требования советских органов, не выходившие за рамки принципов формально провозглашенной в СССР религиозной свободы, однако в оппозиционных по отношению к митрополиту Сергию церковных кругах отчётливо выражалась сознательная готовность перейти в случае необходимости к скрытым от властей (катакомбным) формам церковного служения.