Несмотря на сохранение своей атеистической основы, государственная религиозная политика в СССР претерпела серьезные изменения, а гонения на верующих приобретали волнообразный характер. До конца 1920-х гг. острие антирелигиозных гонений было направлено главным образом на православную Церковь, которую отказывались признавать единой централизованной организацией под предлогом ее контрреволюционности. Одновременно ряду религиозных течений, особенно из числа преследовавшихся при царском режиме, предоставлялись немалые льготы.

В силу исторических условий Церковь действительно не могла быть союзницей нового строя. Вместе с тем церковное руководство в лице патриарха Тихона (Белавина) не поддержало и белое движение, выступая за прекращение кровопролития. Патриарх ратовал за гражданский мир, а в период вспыхнувших стихийных волнений против кампании по разграблению церквей был готов публично обратиться к пастве и клиру и остановить сопротивление. Власти пресекли эти попытки и начали подготовку к судебной расправе над патриархом, который с мая 1922 г. находился под домашним арестом в Донском монастыре, а в мае 1923 г. был помещен во внутреннюю тюрьму ГПУ. 12 апреля Политбюро ЦК РКП (б) приняло секретное постановление, приговаривавшее патриарха Тихона к смертной казни.

Развернувшаяся внутри Политбюро борьба за лидерство в связи с болезнью Ленина ослабила антицерковную политику. Продолжая следствие по делу патриарха и выбивая у него в ходе регулярных допросов признание в контрреволюционной деятельности, власти добились от Тихона «покаянного заявления» в Верховный суд, в котором объявлялось о лояльности Церкви к советской власти и подчинении ей в гражданском отношении. Покаяние патриарха позволяло Политбюро вывести религиозный вопрос из глубокого кризиса, ставшего результатом леворадикальной политики Ленина и Троцкого. В июне 1923 г. Тихон был освобожден из тюрьмы и смог возглавить Церковь.

Наряду с репрессиями органы ВЧК–ОГПУ активизировали назревавший еще до Октябрьского переворота церковный раскол путем поддержки так называемого обновленческого движения. Часть священников, оппозиционная официальному церковному руководству и возглавляемая протоиереем А. Введенским, в 1919 г. образовала группы «Религия в сочетании с жизнью» и «Друзья церковной реформации», которые высказывались в поддержку советской власти как «воплощающей христианские идеалы» и призывали к «обновлению Церкви». Обновленцы выступали за ликвидацию патриаршества, создание выборных органов коллегиального церковного управления, упразднения института монашества, предлагали упразднить иерархическое церковное устройство и провести литургическую реформу, в частности перевести богослужение на современный русский язык. В обновленчестве наряду со священнослужителями, искренне искавшими новые формы благочестия и литургической жизни, участвовали карьеристы и провокаторы. В целом обновленчество не имело ничего общего с религиозной реформацией, это было лишь приспособление части православного духовенства к существующей власти.

Созданную обновленцами в мае 1922 г. общественную организацию «Живая Церковь» ГПУ попыталось противопоставить каноническому руководству Русской Православной Церкви. Но когда власти убедились в неспособности обновленцев сокрушить патриаршую Церковь, они потеряли к ним всякий интерес.