Существует мнение, что Иаков представлен в росписи алтаря Благовещенского собора Московского Кремля (середина XVI в.). Широкое распространение изображения Иакова получили во второй половине XVII в., во время управления Ростовской епархией митрополитом Ионой (Сысоевичем). Образ Иакова, как правило, дополняет изображения ростовских святителей Леонтия, Исаии и Игнатия, которых с XV в. писали вместе. В росписях 1680 г., исполненных артелью костромских и ярославских иконописцев под руководством Гурия Никитина в ярославской церкви во имя пророка Илии, Иаков помещён в центральной апсиде восточной стены алтаря в ряду святителей Петра, Алексия, Ионы, Филиппа Московских и святителей Леонтия, Исаии, Игнатия Ростовских, что свидетельствует о высокой степени почитания Иакова в епархии. В каждом храме Ростовского архиерейского дома (кремля) есть образ Иакова. Так, в церкви Воскресения (около 1670 г.) поясное изображение святителя представлено на откосе окна верхнего яруса, в церкви Спаса на Сенях (1675 г.) – ростовой образ на склоне арки солеи, в церкви апостола Иоанна Богослова (1683 г.) – на оконном откосе верхнего яруса (Иаков с кудрявыми волосами и волнистой клинообразной бородой). В росписях этих храмов участвовали костромские, ярославские и ростовские мастера. В 1686 г. митрополит Иона (Сысоевич) в Спасо-Иаковлевском монастыре над мощами Иакова построил вместо деревянного каменный Троицкий собор (в настоящее время освящён в честь Зачатия праведной Анной Пресвятой Богородицы). Росписи в соборе, выполненные в 1689 г., включают несколько изображений Иакова: ростовое в местном ряду каменного иконостаса и в составе двух композиций «на северной стене по сторонам портала – «Рождество св. Иакова» и «Погребение св. Иакова» (от обеих композиций сохранились лишь небольшие фрагменты), составляющие житийный цикл в предельно кратком варианте». На алтарной преграде Иаков изображён прямолично в рост, с благословляющей десницей, в левой руке перед грудью Евангелие. Сохранилась единоличная икона Иакова второй половины XIX в. (церковь Толгской иконы Божьей Матери в Ростове), написанная маслом, которая, по мнению исследователей, происходит из местного ряда иконостаса Иаковлевского храма. Святитель представлен в рост, вполоборота влево, с пышной седой бородой, в высокой митре. В Воскресенском храме монастыря над погребением Иакова в нише фундамента было устроено в 1912 г. мраморное надгробие, над которым помещалось изображение почивающего в гробу Иакова, написанное маслом на цинке (не сохранилось). В иконописи образ Иакова исследователи встречают, в основном, среди Ростовских святых. На Боголюбской иконе Божьей Матери конца XVI – начала XVII вв., приписываемой строгановскому иконописцу Семёну Бороздину (Русский музей), в молении перед Богородицей представлены коленопреклонённые святители Леонтий, Исаия, Игнатий и стоящие за ними Иаков, преподобный Пётр, царевич Ордынский, блаженный Исидор Твердислов, преподобный Авраамий Ростовский. На иконе «Спас Нерукотворный, с предстоящими святыми» 1645 г. (Государственный музей-заповедник «Ростовский кремль»), первоначально находившейся над городскими воротами Ростова, около середины XVIII в. были приписаны во втором ряду оплечные изображения ростовских святых, в том числе Иакова.