Византийцам также не удалось привлечь гуннов на свою сторону. В 522 г. Кавад I направил посольство в Константинополь и просил императора Юстина I усыновить его третьего сына Хосрова Ануширвана (шаханшах Хосров I в 531–579 гг.), который уже был его официальным наследником. Хосров в сопровождении Сиявуша и других высших чинов Ирана находился на границе в Северной Месопотамии и в случае согласия византийцев был готов отправиться в Константинополь. Однако император Юстин I отказался. Исследователи полагают, что срыв этого соглашения был воспринят Кавадом I как тяжкое оскорбление, и с 523 г. он открыл боевые действия. Союзные персам арабы напали на византийскую Сирию, разграбили окрестности Антиохии и Апамеи и увели большое число пленных; персидское войско захватило царство Иверия (Восточная Грузия), которое недавно заключило союз с Константинополем, и вынудило царя Гургена бежать к византийцам. По мнению исследователей, вновь захватив богатую добычу, Кавад I прекратил активные действия, лишь отражая ответные нападения византийцев. В 524–526 гг. сведений о войне нет, но в 527–531 гг. произошла новая вспышка противостояния. В 527 г. персы нанесли ряд поражений византийцам (в том числе Велизарию) близ крепости Дара в Северной Месопотамии, одновременно пытались овладеть Лазикой (Западная Грузия). Обе стороны на этот раз заключили союзы с различными племенами гуннов-сабиров, привлекая их на свою сторону. Кавад I тайно поддерживал общины самаритян и иудеев в Палестине, в 529 г. они подняли крупное восстание против византийцев, которое было подкреплено нападением союзных Каваду I арабов царя аль-Мунзира III на византийские приграничные посты в Заиорданье. В том же году очередные переговоры были сорваны после того, как византийцы узнали о союзе Кавада I с самаритянами и иудеями. Политика веротерпимости, которую уже несколько десятилетий реализовывал в Иране Кавад I, привлекала на его сторону различные религиозные меньшинства на византийском Ближнем Востоке. Получив помощь от Кавада I, они рассчитывали освободиться от давления на них правящей в Византии халкидонитской (православной) элиты, которое особенно начало усиливаться при императоре Юстине I. В 530 г. произошла крупная битва при Даре, в которой персы во главе с полководцем Перозом потерпели поражение от Велизария, хотя их силы не были уничтожены. В 531 г. персы организовали новое наступление и одержали победу при Каллинике; одновременно союзные им гунны-сабиры грабили обширные области византийской Армении, Каппадокии и Сирии. Осенью 531 г., со смертью Кавада I, военные действия были прекращены, и вскоре обе державы пересмотрели свои взаимоотношения. В сентябре 532 г. Иран и Византия заключили «вечный мир», стабилизировавший отношения до 540 г. В последние годы правления стареющего Кавада I укрепилось положение его третьего сына, Хосрова, который постепенно стал контролировать значительную часть государственных дел. Хосров стал одним из инициаторов истребления маздакитов. Кавад I скончался, успев 8 сентября 531 г., за несколько дней до смерти, возвести Хосрова на престол.