В иконописных подлинниках XVII–XIX вв. под 27 ноября указаны особенности образа Иакова: «Сед, власы кудреват, на главе шапка» (вторая четверть XVII в.; Российская национальная библиотека – описание дополнено оплечным рисунком пером); «сед, брада Богословля, в митре, риза святительска» (последняя четверть XVII в.; Институт русской литературы и искусства); «в шапке, брада Богословля, седа, ризы святительские, амфор [омофор], Евангелие» (1830 гг.; Институт русской литературы и искусства). Исследователи встречают и другие варианты: «Сед, брада аки у Андрея Стратилата, в шапке, ризы святительския» (под 6 января); «сед, брада поменши Иоанна Богослова, на главе клобук бел, ризы святительския, амфор и Евангелие» (1820 гг.; Российская национальная библиотека). Основной особенностью иконографии Иакова исследователи называют головной убор – архиерейскую шапку (митру), украшенную шитьём и иконами, отороченную мехом, похожую на княжеские шапки; она встречается гораздо реже, чем клобук в изображениях архиереев. В позднее время существовали изображения святого и в шапке, и в белом клобуке (так были представлены Ростовские святители Леонтий, Игнатий и Исаия), и в высокой митре, характерной для XVIII–XIX вв. В пособии для иконописцев Виктора Доримедонтовича  Фартусова 1910 г. описан внешний вид Иакова: «...Типа русскаго, лицо худощавое с большой седой бородой, волосы просты, в фелони и омофоре». Ранние известные изображения Иакова на его иконах и в настенных росписях середины – второй половины XVI в. были созданы после канонизации святителя. На таблетке середины XVI в. (Третьяковская галерея) Иаков представлен среди избранных святых – святителей Николая и Стефана, преподобного Саввы Освященного. На иконе «Ростовские святители и святитель Пётр Московский» середины XVI в. (Рыбинский государственный историко-архитектурный и художественный музей-заповедник) представлены в рост Иаков (в традиционном головном уборе), святители Леонтий, Исаия и Игнатий, на раме – полуфигура святителя Петра. На трёхрядной иконе «Воздвижение Креста. Покров Богородицы. Избранные святые» 1565 г. работы Д.И. Усова, иконописца князя Юрия Ивановича Тёмкина-Ростовского (Третьяковская галерея), Иаков – в фелони, омофоре и митре, с благословляющей десницей и Евангелием в левой руке, шапка волос и раздвоенная борода средней величины – включён в число избранных святых, рядом с другими Ростовскими святителями. Иаков изображён на выносной иконе Божьей Матери «Знамение» в композиции «Зачатие св. Иоанна Предтечи» на обороте (вторая половина XVI в., Третьяковская галерея) – на верхнем поле в группе избранных святых. Икона создана в новгородских землях, следовательно, уже в ранний период расширились границы распространения изображений Ростовского святителя. В 1563–1564 гг. выполнены росписи в соборе Преображенского монастыря Ярославля, где на северо-восточном столпе Иаков показан в рост, с разведёнными в стороны руками, пальцы десницы сложены в двуперстном благословении, на левой руке – Евангелие. Если в иконографии святителей Николая Чудотворца, Иоанна Златоуста, русских святителей Петра, Алексия и Ионы Московских, Леонтия Ростовского такой извод был широко распространён, то среди изображений Иакова другие подобные примеры исследователям неизвестны.