Один из ранних сохранившихся памятников – мозаики купола Святой Софии в Фессалонике (около 885 г.), где изображение Иакова Заведеева следует за образами апостолов Филиппа и Симона. Подобная последовательность характерна также для русских памятников XII в.: фрески Спасо-Преображенского собора Мирожского монастыря в Пскове (1130–1140 гг.), Георгиевской церкви в Старой Ладоге (1160–1170 гг.), Спасо-Преображенского собора Евфросиниева монастыря в Полоцке (1160 гг.). Мозаичная фигура Иакова Заведеева находилась в простенке барабана Святой Софии Киевской (1040 гг., на месте утраченной мозаики в настоящее время поздняя масляная живопись). Как и на большинстве других праздничных икон, в иконографии «Успение Пресвятой Богородицы» апостолы изображались без нимбов и без надписания имён. Иаков Заведеев, как правило, находится в левой группе апостолов, вместе с апостолом Петром, исключение составляют композиции так называемого облачного Успения, где летящие на облаках апостолы изображаются с нимбами и надписываются («Успение Пресвятой Богородицы» из Десятинного монастыря в Новгороде, начало XIII в.). С конца XVI в. подписи имён апостолов встречаются стабильно: две иконы из собрания К.В. Воронина, одна – конца XVI в., где Иаков Заведеев изображён справа от ложа Богоматери, и другая – последней трети XVIII в., где Иаков Заведеев вместе с апостолом Петром изображены на переднем плане. Иногда Иаков Заведеев в числе 12 апостолов присутствует на иконах «Покров Пресвятой Богородицы», как, например, на иконе из церкви Рождества Иоанна Предтечи Дионисиева Глушицкого Сосновецкого монастыря (первая четверть XVI в.). Иаков Заведеев изображается в композиции «Сошествие Святого Духа на апостолов», иконография которой, по мнению А. Грабара, сложилась в постиконоборческий период в IX в. Наиболее ранние из сохранившихся – миниатюры Кодекса Григория Назианзина 867/886 гг., Хлудовская Псалтирь (середина IX в.). Сюжет часто встречается в рукописях, например, в Гомилиях (Словах) Григория Богослова, третья четверть XI в., а также в византийской иконописи и в составе монументальной декорации храмов. По мнению протоиерея Н. Озолина, мозаическое изображение Пятидесятницы IX–X вв. располагалось в восточном куполе южной галереи собора Святой Софии в Константинополе. Купольные композиции «Сошествие Святого Духа на апостолов» сохранились в мозаиках кафоликона монастыря Осиос Лукас (1030–1040 гг.), собора Сан-Марко в Венеции (XII – начало ХIII в.). Сюжет присутствует во фресковой росписи трансепта Святой Софии Киевской (1040 гг.). С XIV в. изображение Пятидесятницы распространилось в иконописи в составе праздничных рядов и в качестве храмовых образов: иконы из праздничного ряда собора Святой Софии в Новгороде (около 1341 г.) и Благовещенского собора Московского Кремля (около 1405 г.); храмовая икона из Свято-Духова монастыря в Новгороде (вторая треть XV в.), на которой сохранились остатки инициалов около нимбов – Иаков Заведеев изображён в середине правой группы апостолов. В сценах апостольского служения образ Иакова Заведеева представлен: на фреске «Проповедь апостола Иакова» из цикла деяний апостолов в Спасо-Преображенском соборе Мирожского монастыря в Пскове (1130–1140 гг.); в росписи церкви великомученика Георгия в Старо-Нагоричино (1317–1318 гг.) – мученичество.