В 20-летнем возрасте Иван решил принять монашеский постриг и отправился в тверской Саввин монастырь, однако сквернословие мирян в монастырской трапезной неприятно поразило благочестивого юношу, и он с благословения старца Варсонофия Неумоя ушёл в Боровск к преподобному Пафнутию (Великие Минеи Четьи). 13 февраля 1460 г. Иван был пострижен в монашество, старец Пафнутий взял его к себе в келью, «уча и наказуя иноческому жительству» (Великие Минеи Четьи). Первоначально Иосиф проходил послушание в поварне, хлебопекарне, больнице, затем был поставлен певцом в церкви; пользовался особым доверием игумена («особь бо вся сказоваше ему, яко възлюбленну сыну»). Сохранилось упоминание, что Иосиф по поручению преподобного Пафнутия ездил в Воротынск ко двору князя Фёдора Львовича Воротынского, служившего великому князю Литовскому Казимиру (с 1448 г. – наместник Козельский). В Пафнутиевом Боровском монастыре приняли монашеский постриг братья Иосифа Вассиан и Акакий, а затем и племянники Досифей и Вассиан. Больного отца Иосиф поселил в своей келье и 15 лет ухаживал за ним: «...Во всем вся бысть ему: и старец, и учитель, и слуга, и подпора, и от уныния утешая, чтяше божественаа писаниа» (Великие Минеи Четьи). В монастырских послушаниях и в церковных службах Иосиф выделялся из всей братии: «В потребах служения манастырскаго искусен бе паче всех сущих тамо. И возрастом умерен и лицем благообразен, по древнему Иосифу, браду имея окряжену и должиною мерну, тогда темнорус, в старости же сединами сияя». По выражению автора «Жития преподобного Иосифа, составленного неизвестным», Иосиф был «книжному чтению искусен и доброгласен». Незадолго до преставления преподобного Пафнутия был поставлен в «уставщики» (Великие Минеи Четьи). По мнению исследователей, уже в это время ему приходилось заниматься организацией поминаний и вести синодики. Согласно завещанию Пафнутия Боровского, по настоянию великого князя Ивана III Васильевича и «по умолению братии» Иосиф стал игуменом монастыря после преставления преподобного Пафнутия. По сведениям епископа Саввы, он был рукоположён во священника Московским митрополитом Геронтием и благословлён на игуменство, после поставления его принял великий князь («приа его державный с великою любовию и угости»). По мнению исследователей, покровительство Иосифу оказывал Ростовский  архиепископ Вассиан I (Рыло), который также являлся пострижеником Боровского монастыря и учеником преподобного Пафнутия. В 1479 г. Иосиф был вынужден оставить игуменство и покинуть монастырь. В качестве причины он в послании монахам Пафнутиева монастыря указал на конфликт с великим князем из-за «монастырских сирот». По распоряжению великого князя монастырские крестьяне оказались «иные проданы, а иные биты, а иных в холопи емлют». Иосиф ездил к Ивану III, но ничего не добился. В Житиях причиной ухода Иосифа названо недовольство братии планами игумена ввести в монастыре строгий общежительный устав. Епископ Савва указывал, что Иосиф, следуя совету семи старцев обители, тайно оставил монастырь и в сопровождении единственного спутника – старца Герасима (Чёрного) – отправился странствовать (Великие Минеи Четьи).