В 1863 г. в Лондоне увидело свет подготовленное В.И. Кельсиевым «Собрание постановлений по части раскола» в двух книгах, не утратившее своё значение и в настоящее время. По предложению А.И. Герцена, предоставившего В.И. Кельсиеву корректуру перевода Священного Писания на русский язык, который издавался Лондонским Библейским обществом, В.И. Кельсиев занимался собственным переводом Библии на русский язык. Он оубликовал (под псевдонимом Вадим) в апреле 1860 г. перевод Пятикнижия («Библия: Священное Писание Ветхого и Нового Завета, переведённое с еврейского независимо от вставок в подлиннике и от его изменений, находящихся в греческих и славянских переводах: Ветхий Завет. Отдел первый, заключающий в себе Закон, или Пятикнижие» / Пер.: Вадим. Лондон, 1860 г., четыре выпуска). Во вводной статье к первому выпуску изложены принципы перевода, главный из них – стремление к «ближайшей, почти фотографической копии текста». В.И. Кельсиев использовал метод английского гебраиста Авраама Бениша, в 1851 г. опубликовавшего перевод Пятикнижия на английский язык, который был подстрочником масоретского текста. Перевод В.И. Кельсиева, по мнению исследователей, также имеет характер подстрочника, часто мало понятного. В.И. Кельсиев стремился максимально исключить влияние греческих и церковнославянских текстов: транскрибировал еврейские имена собственные (Иицехак (Исаак), Моше (Моисей)), использовал диалектные и разговорные русские лексемы («ящик», «сундук» вместо «скиния», «кивот»), создавал неологизмы («человечица» вместо «жена» (Быт. 2:23)). Перевод В.И. Кельсиева получил отрицательные оценки (А.И. Герцен, Михаил Никифорович Катков, Иоанн Кронштадтский). Хотя научная и литературная ценность труда В.И. Кельсиева была невелика, он ускорил появление синодального перевода Священного Писания. В.И. Кельсиев предпринял попытку (также неудачную) перевести на русский язык «Стоглав» («Стоглав: Собор, бывший в Москве при великом государе царе и великом князе Иоанне Васильевиче». Лондон, 1861 г.). В начале марта 1862 г. В.И. Кельсиев по турецкому паспорту прибыл в Россию для изучения настроений старообрядцев, организации перевозки нелегальной литературы и координации деятельности антиправительственных организаций. В марте – начале апреля В.И. Кельсиев встречался с единомышленниками А.И. Герцена, участвовал в революционном кружке А.И. Бенни и А.И. Ничипоренко, который выпускал в собственной типографии прокламации «Русская правда». В.И. Кельсиев пытался распространять прокламации среди старообрядцев, искал среди них союзников, но быстро убедился в несбыточности надежд на их революционность. В начале апреля В.И. Кельсиев вернулся в Лондон.