В августе 1718 г. Иоанн написал «Объявление... о обращении раскольников заволжских», в котором была изложена история его общения со старообрядцами. В 1731 г. Иоанн, ослабевший от старости и болезней, передал полномочия строителя Саровской пустыни монаху Дорофею (Замятину), а сам большую часть времени проводил в уединённой молитве в пещерах, где слева от пещерной церкви, на месте первоначальных подвигов старца, стоял гроб, который он подготовил для себя. Последние годы жизни принесли старцу тяжёлые испытания. В 1730 г. саровский иеромонах Иосия (Самгин), утративший доверие Иоанна и смещённый им с должности казначея, ушёл из обители и возглавил Берлюковскую во имя святителя Николая Чудотворца пустынь. Конфликт усугубился показаниями, которые по собственной инициативе стал давать в Московской синодальной конторе саровский монах Георгий (Зворыкин Григорий), страдавший психическим заболеванием. После разбирательств его показаний и доноса иеромонаха Иосии в Саровской пустыни произвели обыск, была найдена запрещённая книга архимандрита Маркелла (Радышевского) «Возражение на Объявление о монашестве, на Регламент Духовный и на книгу О блаженствах», в которой критиковались церковные реформы императора Петра I и архиепископа Феофана (Прокоповича). На допросах выяснилось, что Иоанн приобрёл тетради с сочинениями архимандрита Маркелла в Москве у книготорговцев Щелягиных и поручил братии переписать их. Следствие по делу саровских монахов, получившее политический оборот, расследовалось в Тайной канцелярии. Осенью 1734 г. Иоанн, а также иеромонах Ефрем (Коротков), иеродиакон Феофилакт и монах Аарон были арестованы. Иоанн скончался в тюрьме Тайной канцелярии, последняя выдача «кормовых» денег, согласно расходной книге, состоялась 16 декабря 1737 г. Старец был похоронен рядом с Преображенской церковью в Колтовской слободе, находившейся около Тайной канцелярии.