В конституции императора Западной Римской империи Грациана (375–383 гг.) от 17 мая 376 г. говорится о диоцезном соборе, который уполномочивается судить клириков за правонарушения небольшой тяжести. Такой собор должен созываться епископом из числа священников его епископии. Это – первый случай употребления термина «диоцез» в актах государственного права применительно к церковным делам. В конституции императора Феодосия I Великого (379–395 гг.) от 30 июля 381 г. для каждого диоцеза империи перечисляются епископы, с которыми остальным архиереям необходимо было иметь евхаристическое общение, чтобы считаться православными. Однако в этой конституции не сказано, соответствуют ли гражданским диоцезам церковные диоцезы. В Восточной Римской империи церковная область с епископом во главе обычно называлась «парикия», тогда как митрополия в современном её понимании именовалась «епархия» (аналог латинского «provincia»). Развитие церковной организации в IV в. и пример реформы Диоклетиана привели к объединению митрополий в группы под властью архиереев крупнейших городов; такие крупные церковные объединения стали называться диоцезами. Так, в актах второго Вселенского собора упоминаются церковные диоцезы Александрия, Восток и Асия. Архиереи, возглавлявшие диоцезы, получили наименование экзархов. В V–VI вв. восточные церковные диоцезы преобразовались в патриархаты. В XII в. в Византии экзархи ещё существовали, но не имели в подчинении митрополитов; титул экзарха превратился в почётное звание для архиереев. На это отличие современных ему экзархов от ранневизантийских обратил внимание Феодор IV Вальсамон (около 1140 – после 1199 гг.) при комментировании четвёртого Вселенского собора. Он отмечает, что экзархами на Халкидонском соборе назывались митрополиты, возглавлявшие диоцезы, т.е. руководившие обычными митрополитами (впоследствии патриархи). Иоанн Зонара (ум. после 1159 г.) в толковании на тот же канон пишет, что патриархи были экзархами диоцезов. В Западной Римской империи разделение территории государства на диоцезы не повлияло на церковную жизнь. Здесь диоцез и парикия (paroecia) рассматривались как синонимы и обозначали церковный округ, возглавляемый епископом. Диоцезом мог также называться приход или приходская церковь; юрисдикция архиерея в пределах его епархии тоже иногда именовалась диоцезом. Если на Востоке пересмотр административно-территориального деления империи автоматически приводил к изменениям в границах церковных областей, то на Западе считали, что для таких изменений требуется решение компетентной церковной власти (т.е. папы Римского). Учреждение диоцеза окончательно становится папской прерогативой с XI–XII вв. С XIII в. диоцез превращается в технический термин, аналогичный православной епархии (в современном смысле).