Как мученик с крестом в руке он представлен на левой створке (в пятом ряду сверху) диптиха-минология (XI в., монастырь великомученицы Екатерины на Синае), в эмалевом медальоне на раме пластины «Архангел Михаил» алтаря Пала д'Оро (1105 г.) в соборе Сан-Марко в Венеции, а также на створке иконы-минеи на декабрь (около 1200 г., монастырь великомученицы Екатерины на Синае). Сохранилась большого размера (100х72см) двухсторонняя икона конца XII в. «Богоматерь с Младенцем. Святой Иаков Перский» из церкви Богородицы Феоскепасты на Пафосе (Кипр). На ней Иаков Персиянин представлен в воинских доспехах, в ярко-красном плаще, маленькой «фригийской» шапочке, с серьгой в ухе, в руках щит и меч. Икона, по мнению исследователей, была процессионной; существует предположение, что первоначально обе стороны иконы были частями диптиха и стояли в местном иконном ряду кипрской церкви, посвящённой Иакову Персиянину. Иакова Персиянина редко изображали в средневизантийский период, хотя исследователям известно о существовании на Кипре посвящённых ему трёх храмов. Образ Иакова Персиянина был включён в роспись храма монастыря Иоанна Златоуста в Куцовендисе на Кипре (конец XI – начало XII вв.). В византийском искусстве с XIII в. Иакова Персиянина обычно изображали в восточном платье с тюрбаном на голове, как, например, на фресках церкви св. Власия в Веррии (XIII в.). На Балканах, где также было распространено почитание святого, сосуществовали мученический и воинский тип его изображения. В живописи XIV в. независимо от иконографического извода уделялось большое внимание костюму Иакова Персиянина со множеством деталей. На фреске в церкви св. Георгия в Старо-Нагоричино (1317–1318 гг.) он представлен с крестом в руке, в лиловом плаще, украшенном орнаментом, и в шапке с меховой опушкой. В Печке Патриаршей он изображён дважды: как мученик в медальоне в церкви св. Апостолов (около 1260 г.) и как воин в церкви Богоматери Одигитрии (около 1337 г.) – в рост, в красной рубахе, поверх короткая верхняя одежда со спущенными рукавами, украшенная восточным орнаментом, на голове восточный тюрбан, левой рукой он опирается на меч, в правой держит копьё. На фресках церкви Христа Пантократора монастыря в Дечанах (Косово и Метохия) ростовой образ Иакова Персиянина находится в верхнем регистре на столпе храма (около 1348 г.), сцена мучения представлена в нартексе (около 1350 г.). Изображения Иакова Персиянина сохранились в росписях церкви Спасителя в сербском монастыре Жича (1309–1316 гг.), в соборе монастыря Манасия (Ресава, Сербия, начало XV в.); на фреске монастыря апостола Иоанна Богослова в Поганово (Болгария, около 1499 г.) и др. В греко-грузинской рукописи XV в. (так называемой Афонской книге образцов. Российская национальная библиотека) он изображён в медальоне среди мучеников и в рост в позе оранта под 27 ноября, оба раза без головного убора. Сцена мучения Иакова Персиянина иногда исследователи встречают в иконописи, как, например, на иконе из церкви святителя Николая Болнички в Охриде (середина XVI в., Иконная галерея, Охрид). В левой части иконы изображено рассечение великомученика, в правой – Иаков Персиянин в мученическом венце, с крестом в руке. Его венец и одежда с длинными полыми рукавами напоминают костюмы балканской знати. В поствизантийской монументальной живописи сохранялись оба основных иконографических типа изображения Иакова Персиянина.