29 августа 1867 г. по прошению из-за болезни уволен на покой в рязанский в честь Преображения Господня монастырь с назначением его настоятелем. 21 августа 1868 г. в Рязанской епархии было учреждено Михайловское викариатство, монастырь стал резиденцией викария. В связи с этим Иринарх в сентябре того же года был переведён в рязанский во имя Святой Троицы монастырь, стал его настоятелем и управлял им до смерти. Вёл строгую, почти затворническую жизнь, большую часть времени проводил в келье, лишь изредка выходил на монастырский двор и в сад. Богослужения совершал только в самые большие праздники. Готовил к печати свои проповеди и поучения, которые издал в 1868 г. в десяти частях. Переписывался с Иннокентием (Борисовым), архиепископом Херсонским (был его учеником в период работы в Орловской духовной семинарии). Награждён орденами св. Владимира третьей (1835 г.) и второй (1851 г.) степени, св. Анны второй (1836 г.) и первой (1839 г.) степени. 3 февраля 1877 г. Иринарх был избран почётным членом попечительского правления при Рязанской духовной семинарии. В первой половине того же года у Иринарха появились признаки водяной болезни, которая прогрессировала и стала причиной его смерти. После кончины 28 сентября 1877 г. он был погребён у южной стены летнего Троицкого храма рязанского Троицкого монастыря, за правым клиросом. Над могилой была установлена медная плита. Панихиды по усопшему служили Рязанский архиепископ Палладий (Раев) и Михайловский епископ Василий (Левитов). Иринарх отличался скромностью и бескорыстием, после его смерти осталось лишь несколько десятков книг и 73 руб. Сохранился поясной живописный портрет Иринарха, выполненный в 1860–1870 гг. в составе цикла изображений Рязанских архиереев в мастерской Николая Васильевича Шумова в Рязани (Рязанский историко-архитектурный музей-заповедник). Иринарх представлен сидящим почти прямолично, в светло-фиолетовой рясе и чёрном клобуке, левая рука с чётками лежит на столике (указательный палец отставлен), на груди – панагия с образом Спасителя, справа и слева – по орденской звезде. У него широкое узнаваемое лицо, густые седые волосы до плеч, прямая раздвоенная борода средней длины, немного смещённая в правую сторону. Исследователи полагают, что портрет создан на основе более раннего живописного оригинала или эстампа. По многим деталям иконографии (звёзды орденов св. Владимира и св. Анны, характерный рисунок бороды) исследователи соотносят его с литографией конца 1850 – начала 1860 гг., отпечатанной в мастерской Андрея Ивановича Траншеля по рисунку Петра Фёдоровича Бореля (Исторический музей), судя по подписи, во время служения Иринарха в Подольской епархии. Иринарх в тёмной рясе и высоком клобуке, брови сдвинуты к переносице, черты лица крупные, волосы и борода седые, на панагии образ Божьей Матери с Младенцем, обшлага рукавов светлые, в левой руке – чётки. Аналогичный портрет с киевским цензорским разрешением 1862 г. был изготовлен в литографии Д. Крайза в Каменец-Подольске (1863 г., Российская государственная библиотека). Воспроизведения этого изображения помещались в различных изданиях. Дмитрию Александровичу Ровинскому был известен ещё более ранний портрет Иринарха, исполненный в литографии Розенберга во время пребывания иерарха на Рижской кафедре, как полагают исследователи, скорее всего, около 1836 г.