На допросе отказался признать себя виновным в предъявленных обвинениях. 12 октября 1922 г. освобождён под подписку о невыезде, стал служить в Александро-Невской церкви, вскоре был приглашён в кафедральный собор Петрозаводска. Следствие, продолженное Карельским революционным трибуналом, пришло к выводу, что обвинение против Евфимия ничем не доказано. 12 декабря 1922 г. Президиум Карельского революционного трибунала принял решение о применении ко всем обвиняемым амнистии в связи с пятой годовщиной Октябрьской революции и о прекращении дела. После того как Евфимий отказался принять предписание обновленцев покинуть Петрозаводск, обновленческое епархиальное управление обратилось к властям с просьбой применить против епископа свои меры. 28 декабря президиум Исполкома Карельской трудовой коммуны принял решение о выселении Евфимия и священников Г. Гумилёва и В. Хазова как «вредных элементов» в Сибирь на три года. Одновременно ГПУ было предложено немедленно принять к высылаемым «соответствующие меры изоляции», поскольку «их пребывание на свободе может поднять противоположное настроение масс». 30 декбря 1922 г. Евфимий был арестован без предъявления каких-либо обвинений. 30 марта 1923 г. Комиссия НКВД по административным высылкам приняла решение о высылке Евфимия вместе с другими обвиняемыми на три года в Нарымский уезд Томской губернии. Отбывал срок ссылки в Кёнгинском сельсовете. Получал вместе с другими ссыльными архиереями помощь из Томска от мученицы Татианы Гимблит. В ходатайстве о досрочном освобождении Евфимию было отказано. Во время ссылки состоял в переписке с Кронштадтским епископом Венедиктом (Плотниковым), временно управлявшим Олонецкой епархией с 1924 г., в частности, просил о представлении протоиерея В. Хазова кандидатом в викарные епископы в город Вытегру (просьба не была удовлетворена). Согласно заключению шестого отделения Секретного отдела ОГПУ, за время ссылки Евфимий «проявил себя ярым реакционером-черносотенцем». После окончания срока ссылки решением особого совещания при Коллегии ОГПУ от 26 марта 1926 г. к Евфимию было применено ограничение в местах проживания сроком на три года. Продолжал титуловаться епископом Олонецким, но после принятого Заместителем Патриаршего Местоблюстителя митрополитом Сергием (Страгородским, впоследствии Патриарх Московский и всея Руси) в «Декларации» 1927 г. решения об увольнении арестованных и высланных архиереев Евфимий числился уже находящимся на покое. В 1927–1928 гг. проживал в сторожке при Знаменской церкви города Томска, затем жил в Тобольске. В начале 1929 г. ему была предоставлена свобода в выборе места жительства. Время и обстоятельства кончины исследователям неизвестны.