Резиденция Берлинского архиерея разместилась в берлинском районе Карлсхорст (при резиденции с апреля 1951 г. действовал домовый храм во имя Сергия Радонежского). За годы управления епархией (1948–1950 гг.) архиепископ Сергий вернул в лоно РПЦ множество эмигрантских семей, утративших с ней связь. Возвращение бывших эмигрантов в юрисдикцию РПЦ продолжалось и при последующих архиереях. 25 октября 1953 г. с РПЦ воссоединился бывший настоятель общины РПЦЗ в Берлине архимандрит Мстислав (Волонсевич), впоследствии архиепископ. 15 августа 1954 г. Берлинская и Германская епархия была преобразована в Германское благочиние в составе Западноевропейского экзархата. 15 августа 1957 г. Германское благочиние выделяется из состава Западноевропейского экзархата и вновь преобразуется в самостоятельную епархию, а правящему архиерею возвращается титул «Берлинский и Германский». 30 июня 1960 г. определением Священного Синода Берлинская и Германская епархия вошла в состав Среднеевропейского экзархата и стала именоваться Берлинская и Среднеевропейская, а епископ Берлинский стал экзархом Московского патриархата с титулом «Берлинский и Среднеевропейский экзарх Московского Патриархата в Средней Европе». На тот момент экзархат состоял из двух епархий – Берлинской и Среднеевропейской, Венской и Австрийской. 25 ноября 1965 г. в составе Среднеевропейского экзархата образовано Тегельское викариатство, на которое 28 ноября того же года хиротонисан Ионафана (Кополович). Для пастырского окормления Западной Германии 28 декабря 1965 г. образовано Мюнхенское викариатство Среднеевропейского экзархата, 30 января 1966 г. во епископа Мюнхенского хиротонисан Ириней (Зуземиль). В 1969 г. построен храм в честь Воздвижения Креста Господня в Мюнхене. 24 февраля 1971 г. произошло территориальное изменение Берлинской епархии: решением Священного Синода РПЦ в Среднеевропейском экзархате учреждены Баденская и Баварская епархия на территории федеральных земель Баварии и Баден-Вюртемберга и Дюссельдорфская епархия в пределах земель Бремен, Гамбург, Гессен, Нижняя Саксония, Рейнланд-Пфальц, Саар, Северный Рейн-Вестфалия и Шлезвиг-Гольштейн. В составе Берлинской епархии осталось семь приходов в Берлине, Веймаре, Дрездене, Лейпциге и Потсдаме. В 1981 г. возведён новый храм во имя Нектария Эгинского в Бишофсхайме.