Помимо архиерейских служб по праздничным и воскресным дням Иосиф часто заменял ушедших в отпуск священников, служил иерейским чином, исполнял требы. Был большим молитвенником, молился днём и ночью в домашней церкви или в келье. Был мягким и отзывчивым по характеру, прост в общении с людьми, скромен в быту, сам стирал и готовил на кухне. Лично вёл епархиальные дела, отвечал на многочисленные обращения; оказывал помощь священнослужителям, монашествующим, семинаристам, другим нуждающимся, перечислял денежные суммы детским домам. Регулярно, даже несмотря на преклонный возраст, объезжал с архипастырскими визитами приходы своей обширной епархии. Часто бывал в Караганде, где служил настоятелем Рождественского храма воспитанник оптинских старцев схиархимандрит Севастиан (Фомин). После кончины в 1966 г. Севастиана совершил по нему заупокойную литургию, впоследствии всегда после приезда в Караганду приходил на могилу старца. Иосиф тайно посещал место мученической кончины Верненского епископа Пимена (Белоликова; ум. в 1918 г.), могилы преподобномучеников Серафима (Богословского) и Феогноста (Пивоварова), убитых в Аксайском скиту в 1921 г. Архиерейское служение Иосифа на Алма-Атинской кафедре пришлось на время притеснений церкви со стороны Советского государства. В 1961 г. в епархии было 85 приходов, из которых к 1970 г. осталось только 46. На священников и на архиерея накладывались повышенные, непосильные для них налоги. Иосиф избегал прямого конфликта с властями, демонстрировал мягкость в общении с уполномоченным Совета по делам религии, но при необходимости стойко защищал свой клир, добивался отмены решений о снятии священников с регистрации; брал на себя ответственность за неуплату приходами части налогов. По отзывам уполномоченного Совета по делам религии, Иосиф «упустил из-под своего контроля епархиальные финансовые органы, углубляясь в дела «духовные», создав сильные церковные хоры, стремясь омолодить кадры членов «двадцатки» и снять ограничения с колокольного звона... Проявляет усердие в архиерейских службах, проводит их, несмотря на возраст, регулярно... Проповеди произносит выразительно, с подъёмом. Весьма умело уводит паству от решения острых политических и социальных задач, убеждая слушателей, что в мире нет ничего лучше Христа». 4 апреля 1967 г. Иосиф был вызван к участию в летней сессии Священного Синода РПЦ. 25 февраля 1968 г. возведён в сан митрополита. Был участником поместного Собора РПЦ 1971 г. Иосиф обсуждался в числе возможных кандидатов на выборах нового патриарха, однако отказался выставлять свою кандидатуру, сославшись на преклонный возраст и отсутствие богословского образования. Поддержал на Соборе в частном общении с Брюссельским архиепископом Василием (Кривошеиным) его предложение об отмене принятого под нажимом властей решения архиерейского Собора 18 июля 1961 г. о передаче управления хозяйственной жизнью приходов в ведение мирских лиц. Как один из старейших архиереев, участвовал в интронизации патриарха Пимена. Награждался орденом св. князя Владимира второй (1963 г.) и первой (1968 г.) степени; был удостоен права ношения двух панагий (1972 г.). Отпевание Иосифа 7 сентября 1975 г. возглавил Ташкентский архиепископ Варфоломей (Гондаровский). Был похоронен на городском кладбище Алма-Аты рядом со своим предшественником митрополитом Николаем (Могилёвским).