Вскоре Иоанн XII обнаружил, что был не в состоянии контролировать римскую знать, как это делал его отец. В то же самое время король Италии Беренгар II (900–966 гг.) заявил претензии на папские владения. Римские священники стали искать защиты в католической Германии у Оттона I, поскольку короли Италии были слабы, а сильная Византия была православной. Папа в 960 г. обратился за помощью к Оттону I, который ранее был удостоен звания римского патриция. Тот решил извлечь из этого максимум политических выгод. Его мало трогала нравственность Иоанна XII, поскольку и его жена Адельгейда мало в чём уступала Мароции. Но он решил использовать трудности папы для достижения своих целей – коронации в Риме императором. Немецкий король в 961 г. вступил в Италию. Беренгар II отступил в свои крепости, и Оттон I 31 января 962 г. победоносно вошёл в Рим. Там он встретился с Иоанном XII и поклялся, что будет делать всё, чтобы защитить папу. Выполняя условия соглашения, 2 февраля 962 г. Иоанн XII возложил на Оттона I императорскую корону. Позднее, в 1034 г., появилось название «Римская империя», в 1157 г. – «Священная империя», в XV в. – «Священная Римская империя германской нации», но суть от этого не менялась – образовался союз, когда император должен был защищать светским мечом алтарь, а папа (духовным мечом) – императорский трон. Поэтому папа стал духовным орудием в руках императора. Папа и римская знать поклялась над могилой св. Петра быть верными Оттону I и не оказывать помощь Беренгару II или его сыну Адальберту. Спустя одиннадцать дней после коронации папа и император ратифицировали «Diploma Ottonianum» – акт, в соответствии с которым император стал гарантом независимости Папской области (ограниченной Неаполем и Капуей на юге и Специей и Венецией на севере). Это был первый случай эффективного гарантирования такой защиты после распада империи Каролингов почти 100 лет назад. Оттон I  часто изымал у своих светских феодалов земли и отдавал их духовенству. Эти «оттоновские привилегии» позволяли ему самому назначать епископов в германских епархиях. Иоанн XII это понял и стал настраивать против него венгров, византийцев и даже сарацин. Но это было уже явным нарушением договорённости, и Оттон I подступил с войсками к Риму. Его возмущала та жизнь, которую вёл папа Иоанн XII. Сразу же после коронации император пригласил молодого папу на встречу наедине, во время которой долго укорял его в безнравственности. Иоанн XII обещал раскаяться, но вместо этого начал проводить в Италии антиимператорскую политику. Оттон I утвердил за церковью все её прежние владения и несколько их расширил, а папа и римляне не только дали ему присягу в верности, но и обещали при выборах папы строго соблюдать канонические постановления и посвящать вновь выбранного только после утверждения императором. Ещё в начале 956 г. Иоанн XII написал папскому легату в Германии Вильгельму Майнцскому, призывая его продолжать активную работу, особенно против тех, кто «опустошает храмы Божьи». Он просил Вильгельма сообщить ему о том, что происходит в Западной Франции и Германии. Папа написал также новому архиепископу Трира Генриху, поощряя его вести праведную жизнь. В 960 г. Иоанн XII подтвердил назначение Дунстана (909–988 гг.) архиепископом Кентерберийским (Дунстан лично прибыл в Рим, чтобы получить паллий из рук Иоанна XII). 12 февраля 962 г. папа созвал Синод в Риме по приказу императора Оттона I. На нём он повелел создать для вновь обращённых славян архиепископство в Магдебурге и епископство в Мерзебурге. Папа также принял резолюцию отстранить Гуго де Вермандуа (920–962 гг.), который попытался вернуться на свою бывшую должность архиепископа Реймса (это отлучение было подтверждено Иоанном XII на другом Синоде, состоявшемся в Павии в том же году). Оттон I покинул Рим 14 февраля 962 г., чтобы привести к смирению Беренгара II. Перед отъездом он предложил Иоанну XII отказаться от его мирской распутной жизни, однако тот проигнорировал этот совет.