После возвращения из лагеря выступил в марте 1928 г. с заявлением от имени находившихся на Соловках архиереев в поддержку выраженного в «Декларации» курса митрополита Сергия на лояльность к советской власти. 27 апреля того же года назначен архиепископом Рязанским и Зарайским (с августа 1929 г. – Рязанский и Шацкий), стал членом Временного Священного Синода при Заместителе Патриаршего Местоблюстителя. В мае 1928 г. вместе со священником Владимиром Воробьёвым посетил в Ярославле прервавшего общение с митрополитом Сергием Ярославского митрополита Агафангела (Преображенского) и убедил его примириться с Заместителем Местоблюстителя. После прибытия в Рязань долго не мог найти себе жильё, пока не поселился близ рязанского храма в честь Благовещения Пресвятой Богородицы. Жил стеснённо, большую часть времени проводил в храме за богослужениями. «Присутствовать на его службе было истинное наслаждение. Знаток церковных уставов восточной церкви, он ввёл в службу церковную много новшеств, заимствованных из Афона, из Иерусалима. Всё во владыке изумляло и восхищало. Особенно он полюбился рязанцам тем, что даже после длительных служб каждого благословлял неизменно с приветливой улыбкой и не прекращал благословения, пока последний из молящихся не подходил к нему – сколько бы человек ни было в храме», – писал рязанский историк и краевед Степан Дмитриевич Яхонтов. (Государственный архив Рязанской области). Священнослужители-певцы из клира составили церковный хор, который пел прекраснее правых хоров всех приходских храмов Рязани. В хор входили келейник Иувеналия игумен Евгений (Анохин), протодиакон Василий Баландин и др. За всенощными бдениями стихиры пелись на глас, обязательно с канонархом, так что содержание их до последнего слова было понятно молящимся. Особенно трогательными были великопостные службы – еженедельные пассии с чтением акафиста Страстям Христовым и пением ирмосов «Волною морскою». Именно Иувеналий ввёл в рязанских храмах особый чин молебного пения Пресвятой Богородице, именуемый Параклисисом, служащийся во все, кроме воскресных, дни Успенского поста и состоящий из пения нараспев канона Божьей Матери и чтения акафиста Её Успению (этот чин совершается в рязанских храмах и в наши дни). На богослужениях, проводимых Иувеналием, всегда присутствовало множество детей. По городу ходили слухи, что родители не могли их удержать дома – так велико было их желание быть рядом с архипастырем в храме и служить Богу. Девушки, подростки и маленькие дети проводили в кафедральном соборе целые дни, украшая храм. Девушки содержали и весь храм в чистоте: сметали пыль, мыли полы, смотрели за свечами – это был древний восточный христианский обычай, который поддерживал Иувеналий. Он был прекрасным проповедником: каждое его слово было глубоко продумано и прочувствовано, трогало сердца людей.