В 1892 г. в Курске Иустин принимал участие в открытии колонии для малолетних преступников, названной по предложению епископа «исправительной земледельческо-ремесленной колонией», совершил богослужение при освящении места и закладке первой постройки. Во время эпидемии холеры жертвовал средства на строительство лазаретов вокруг города, на создание приютов для детей-сирот. 3 сентября 1893 г. по настоянию Санкт-Петербургского митрополита Палладия (Раева) Иустин был переведён в Херсонскую и Одесскую епархию с возведением в сан архиепископа. 2 октября того же года прибыл в Одессу, 3 октября возглавил первое богослужение в кафедральном соборе. В епархии Иустин учредил противораскольническую миссию и реорганизовал на новых началах противосектантскую, провёл первый епархиальный миссионерский съезд. При вступлении Иустина на кафедру в епархии было 520 церковных школ, 19 367 учащихся; когда он покидал епархию – 678 школ и 35,2 тыс. учащихся. Одним из первых иерархов Русской церкви Иустин отозвался на призыв об открытии в епархиях отделов Палестинского Православного общества; отдел в Одессе был учреждён 19 декабря 1893 г. и стал вскоре одним из самых богатых. При нём был значительно расширен кафедральный собор, построено новое, величественное здание Одесской духовной семинарии. Иустин основал второе епархиальное женское училище в Елисаветграде (ныне Кировоград), которое в его честь было названо Иустиновским, и оказывал финансовую помощь многим ученикам, не имеющим возможности продолжать образование. В 1897 г. под его непосредственным руководством началась деятельность эмеритальной кассы для духовенства и кассы взаимопомощи. В 1902 г. Иустин учредил фонд для устройства квартир преподавателям Одесской духовной семинарии, в 1905 г. – попечительство о бедных воспитанниках семинарии (тогда же названо Иустиновским), на что пожертвовал 15 тыс. руб. Кроме того, Иустин пожертвовал на епархиальную богадельню для призрения бедных духовного звания более 30 тыс. руб. (около половины всех затрат на обустройство богадельни). На средства Иустина был выполнен иконостас в семинарской церкви. Всего на нужды Херсонской епархии Иустин пожертвовал свыше 90 тыс. руб. Библиотеке Одесской духовной семинарии завещал больше 300 книг и рукописи лекций, читавшихся в Санкт-Петербургской духовной академии в 1819–1823 гг., записи его отца и сборник проповедей (1799 г.) его деда – «студента богословия» И. Охотина. В 1895–1896 гг. Иустин присутствовал в Святейшем Синоде, 14 мая 1896 г. участвовал в коронации императора Николая II. 2 июня 1896 г. вернулся в Одессу. В том же году принял участие в торжествах при открытии мощей Феодосия (Углицкого), архиепископа Черниговского. 30 октября 1903 г. в Одессе отмечалось 50-летие священнослужения Иустина, для подготовки мероприятия с сентября 1902 г. действовал специальный комитет. В день торжества в богослужении участвовали до 120 протоиереев и священников, присутствовали 25 депутаций от епархий, где раньше служил Иустин, от духовно-учебных учреждений, где он преподавал, и т.д.