Вернувшись в Москву в середине июля 1816 г., К.Ф. Калайдович безуспешно пытался поступить на службу в Архив Коллегии иностранных дел, при котором в 1811 г. по инициативе государственного канцлера графа Николая Петровича Румянцева была создана Комиссия печатания государственных грамот и договоров. В 1817 г. К.Ф. Калайдович присоединился к Павлу Михайловичу Строеву, занявшему в 1816 г. место главного смотрителя Комиссии печатания государственных грамот и договоров, в археографической поездке для описания монастырских рукописей, предпринятой по поручению графа Н.П. Румянцева. В Новоиерусалимском в честь Воскресения Христова мужском монастыре К.Ф. Калайдович обнаружил пергаменный «Изборник» 1073 г. (вторую по древности из датированных древнерусских рукописей после Остромирова Евангелия). В 1817 г. К.Ф. Калайдович был приглашён графом Н.П. Румянцевым участвовать в издании «Собрания государственных грамот и договоров» (СГГД). В 1822 г. К.Ф. Калайдович получил орден св. Анны третьей степени и был принят на действительную службу в Архив Коллегии иностранных дел, 20 октября 1822 г. назначен главным смотрителем Комиссии печатания государственных грамот и договоров. 12 января 1823 г. произведён в коллежские секретари, 22 января 1826 г. получил чин титулярного советника, 6 декабря того же года награждён орденом св. Владимира четвёртой степени. В 1824–1828 гг. участвовал в издании четвёртой части СГГД. После смерти 3 января 1826 г. графа Н.П. Румянцева, на средства и по инициативе которого К.Ф. Калайдович искал исторические и литературные памятники в архивах и библиотеках, печатал и комментировал исторические и литературные памятники, учёный был вынужден уйти из Комиссии печатания государственных грамот и договоров и прекратить начатое им описание Синодальной библиотеки (составленное К.Ф. Калайдовичем описание 101 рукописи Синодальной библиотеки в 1844 г. было подготовлено к изданию Вуколом Михайловичем Ундольским). Здоровье К.Ф. Калайдовича ухудшилось, вскоре началось душевное расстройство. 10 апреля 1828 г. К.Ф. Калайдович был освидетельствован и признан душевнобольным. Через несколько лет его состояние улучшилось, но к научной работе он вернуться не смог. Ещё в конце 1827 г. К.Ф. Калайдович получил разрешение на издание журнала «Русский зритель», он намеревался знакомить публику с найденными памятниками и документами, из которых лишь небольшая часть стала достоянием науки.