На средства А.П. Толстого с южной стороны скита был устроен деревянный корпус для Климента; строительство велось по плану, составленному преподобным Амвросием (Гренковым), и под его наблюдением. В корпусе размещалась большая библиотека, висели портреты старцев и мирских друзей Климента. Почти всё время пребывания Климента в Оптиной пустыни его келейником был монах Тимон (Трунов). Климент исполнял послушания библиотекаря в скиту и письмоводителя старца Амвросия, которому был очень предан. Привёл в порядок синодики в скиту. Отличался особой точностью и строгостью к себе и к другим в совершении богослужений по церковному уставу и исполнении монашеских правил, вспыльчивостью. Климент был привязан к своей обители и говорил: «Когда я по нужде бываю в миру, я не дождусь вернуться сюда. Мне скучно, если я не в Оптиной». Сообщалось о готовящемся назначении Климента настоятелем Малоярославецкого Черноостровского во имя святителя Николая Чудотворца монастыря, но оно не состоялось из-за его смерти. Ещё до поступления в монастырь К.Г.А. Зедергольм активно участвовал в литературной деятельности Оптиной пустыни. По благословению старца Макария (Иванова) он перевёл с греческого на русский язык поучения преподобного аввы Дорофея, перевод был отредактирован монахом Иувеналием (Половцевым) и Львом Александровичем Кавелиным (впоследствии архимандрит Леонид) и опубликован («Преподобного отца нашего аввы Дорофея душеполезные поучения и послания с присовокуплением вопросов его и ответов, данных на оные святыми старцами Варсануфием Великим и Иоанном Пророком». М., 1856 г.). Достоинства перевода отмечал Игнатий (Брянчанинов), книга неоднократно переиздавалась. К.Г.А. Зедергольм перевёл с латинского на русский язык книгу «Преподобного отца нашего Орсисия, аввы Тавенисиотского, учение об устроении монашеского жительства» (М., 1858 г.). Затем принимал участие в работе над переводом «Лествицы» преподобного Иоанна Лествичника на русский язык, составлял примечания («Преподобного отца нашего Иоанна, игумена Синайского горы, “Лествица”». М., 1862 г.). После поступления в оптинскую братию Климент, как правило, до обеда писал под диктовку отца Амвросия письма, а после обеда занимался книгами. Вместе с другими монахами работал над переводом на русский язык Слов преподобного Симеона Нового Богослова («Преподобного отца нашего Симеона Нового Богослова, игумена обители св. Маманта, двенадцать Слов». М., 1869 г.), поучений преподобного Феодора Студита («Преподобного и Богоносного отца нашего Феодора, игумена Студийского обители и исповедника Огласительные поучения и завещания». М., 1872 г.), подготовил к изданию русский перевод книги «Царский путь Креста Господня, вводящий в жизнь вечную» (М., 1878 г.). Также Климент перевёл «Увещательное послание к сербам Евгения Булгариса в ограждение их от латинских заблуждений» и «Преподобного отца нашего Иоанна Дамаскина Слово о восьми греховных помыслах».