Борьба Генриха IV с папством продолжилась при папе Урбане II (1088–1099 гг.), так же как и Григорий VII противившемся снятию отлучения с Генриха IV. Использовав борьбу Генриха IV с папой Григорием VII, Польша освободилась от подчинения Римско-Германской империи. В 1076 г. польский князь Болеслав II получил королевский титул. В ответ Генрих IV в 1085 г. на Майнцском синоде провозгласил чешского князя Вратислава II королём Чехии и Польши (коронация состоялась в 1086 г.). Как полагают исследователи, для подтверждения этой новой титулатуры в императорской канцелярии была изготовлена так называемая учредительная грамота Пражского епископства (грамота не была утверждена), где давалось описание границ епископства на 970 гг., которое включало и Малую Польшу с Краковом. Против польского короля Болеслава II был направлен русско-германский союз, скреплённый браком Генриха IV с Евпраксией Всеволодовной, получившей в Германии имя Адельгейда (1089 г.). В Германии популярность императора росла на фоне его миротворческой политики, он провозгласил по всей империи «божий мир» (1085 г.). Император, справившись с оппозицией, возглавляемой Оттоном Нортхаймским и епископом Хальберштадтским Бурхардом, подчинил себе бóльшую часть Саксонии. По привилегии, дарованной Генрихом IV евреям города Вормса (1090 г.), им гарантировались защита жизни и собственности, свобода экономической деятельности и отправления религиозных обрядов, право нанимать домашних слуг из христиан, относительная автономия еврейской общины. Устанавливался обязательный порядок разбора споров между евреями и христианами. Тем самым Генрих IV создал юридический устав, содержавший основы урегулирования отношений между евреями и христианами в Германии, действовавший несколько веков. В 1090 г. Генрих IV отправился в новый поход на Италию, где сложилась опасная для императора династическая коалиция, закреплённая браком 17-летнего Вельфа, сына Вельфа IV, с 40-летней Матильдой Тосканской. Против Генриха IV в Италии вспыхнуло восстание (1093 г.), к которому присоединился сын Генриха IV Конрад, провозглашённый к тому времени королём Италии. Генрих IV заключил союз с Вельфом. На съезде князей в Майнце он лишил Конрада права наследования императорского титула, но смог добиться того, чтобы германским королём был избран младший сын Генрих (1098 г.). В 1093/1094 гг. между Генрихом IV и императрицей Адельгейдой наступил разрыв, который очень быстро, после вмешательства в дело сторонников Урбана II, приобрёл скандальные формы. В 1095 г. на Соборе в Пьяченце была рассмотрена жалоба императрицы на супруга, в результате чего брак был расторгнут. В 1104 г. Генрих, сын императора, объявивший себя защитником католической церкви, в союзе с папой Римским поднял мятеж против отца. По приказу сына Генрих IV был арестован на съезде князей в Майнце и заточён в тюрьму в Боккельхайме (1105 г.), из которой бежал. Во время подготовки к войне с сыном умер. Тело Генриха IV, с почестями захороненное епископом Льежским, было выкопано сыном, императором Генрихом V (1106–1125 гг.), и пять лет без погребения находилось в недостроенной часовне в городе Шпайер. После снятия церковного отлучения папой Пасхалием II (1099–1118 гг.) Генрих IV был погребён в усыпальнице франконской династии в городе Шпайер (август 1111 г.).