В ночь с 22 на 23 марта 1922 г. был арестован по делу об изъятии церковных ценностей в храме Христа Спасителя, заключён во внутреннюю тюрьму ОГПУ. Обвинён в контрреволюционной деятельности, в борьбе против изъятия церковных ценностей, в сотрудничестве с противником изъятия протоиереем Александром Хотовицким. И.М. Громогласов посещал приходские собрания храма Христа Спасителя в качестве консультанта по церковному праву и, возможно, неофициально служил в храме первое время после рукоположения. 14 августа 1922 г. переведён в Бутырскую тюрьму. В обвинительной речи на втором Московском процессе прозвучало требование применения высшей меры наказания к ряду подсудимых, в том числе к И.М. Громогласову. 11 декабря в обширном заключительном слове он отметил, что «перед лицом народной совести... учил религиозной свободе», считает декрет советской власти с юридической точки зрения законным и никогда не был членом каких-либо политических организаций ни при старой, ни при новой власти. 13 декабря 1922 г. приговорён к полутора годам заключения, которые по амнистии были сокращены до одного года. С учётом ведения следствия И.М. Громогласов отбыл четыре месяца заключения, находясь в Сокольническом исправительном доме, а затем снова во внутренней тюрьме ОГПУ. 24 июля 1923 г. освобождён, служил в церкви Воскресения Христова в Кадашах. Возведён патриархом Тихоном в сан протоиерея с возложением наперсного креста с украшениями. 1 августа 1923 г. ввиду кончины протоиерея Николая Смирнова (1 июня 1922 г.) временно назначен настоятелем Воскресенской церкви, 30 сентября общим собранием прихожан единогласно избран настоятелем. 8 марта 1924 г. арестован по обвинению в принадлежности к контрреволюционной организации. 24 марта в результате ходатайства жены по болезни освобождён из заразного барака Бутырской тюремной больницы. Участвовал в похоронах Тихона (ум. 7 апреля 1925 г.), произнёс речь над его гробом. Арестован и заключён во внутреннюю тюрьму ОГПУ, 19 мая 1925 г. решением особого совещания при Коллегии ОГПУ приговорён к ссылке на Урал. 28 июня был вызван в милицию, где ему было предложено выехать в трёхдневный срок в Свердловск за участие в религиозных собраниях у католички Анны Ивановны Абрикосовой (монахини Екатерины). И.М. Громогласов добился приёма у прокурора Верховного суда СССР Петра Ананьевича Красикова и получил отсрочку в исполнении приговора. Сослан в Сургут на три года. В это время переводил на русский язык работу сербского канониста епископа Никодима (Милаша) «Карательное право Церкви».