Состав одежд традиционный для чина прославления святого как преподобного: хитон, мантия, схима, пояс, аналав; как правило, изображается с покрытой головой – в куколе или в уборе восточного типа (например, в росписи кипрской церкви Панагии Аракос близ Лагудеры, 1192 г., – тюрбан). В греческом иконописном подлиннике – Ерминии иеромонаха Дионисия Фурноаграфиота (около 1730 – 1733 гг.) – в разделе «Песнотворцы» об облике Иосифа Песнописца сказано: «...Старец с остроконечною бородою, говорит: се возсия день спасения». В русских иконописных подлинниках сводной редакции (XVIII в.) отмечается подобие Иосифа Песнописца Николаю Чудотворцу: «…Сед, брада аки Николина, конец поуже, риза преподобническая, испод вохра с белилом»; в том же так называемом Большаковском подлиннике приведены два типа изображения святого, указывающие на его прославление как гимнографа: либо у Иосифа Песнописца «в левой руке книга, а правою рукою перстом на неё указывает», либо святой изображён как «словетворец», пишущий текст в свитке: «Ускори, Щедрый, и потщися, яко милостив, на помощь нашу, яко можеши хотяй». В иконописном подлиннике по списку Георгия Дмитриевича Филимонова содержится дополнение, сообщающее о необходимости различения двух Иосифов: «Ведати и сие подобает, яко два во святых обретаются Иосифа песнописца: первый Иосиф брат родной преподобного Феодора Студита, епископ Селунский, его же память ианнуария в 26 день, другий Иосиф, сей преподобный сосудохранитель великия церкви бывый, бе в лето 6338, многа и различна икон ради изгнания подъя». В XII в. в декорации византийских храмов появляется изображение монахов-гимнографов. Состав этой группы может различаться, однако в неё помимо наиболее почитаемых святых Иоанна Дамаскина и Космы Маюмского обычно включается Иосиф Песнописец. Наиболее ранний пример – фреска в церкви великомученика Пантелеимона в Горно-Нерези близ Скопье (1164 г.), где на северной стене наоса изображены в рост пять гимнографов (в порядке следования от алтаря: Косма Маюмский, Иоанн Дамаскин, Феодор Студит, Феофан Никейский), в руках у каждого развёрнутый свиток со словами их песнопений. Иосиф Песнописец облачён в традиционные монашеские одежды, в схиме, с куколем на голове. Лицо узкое, с подчёркнутыми скулами, борода средней длины, сужающаяся книзу. Правая рука отведена в сторону, в левой – развёрнутый вниз свиток с текстом «Прими, Христе, эти мои песни...», что, по наблюдению О.В. Овчаровой, может быть «слегка видоизменённым акростихом Покаянного канона Иосифа для вторничной утрени первого гласа. В следующем по времени памятнике – кипрской церкви Панагии Аракос (1192 г.) – образы четырёх гимнографов в наиболее часто встречающемся составе перенесены в алтарную зону: на триумфальной арке – Косма Маюмский и Иоанн Дамаскин, над южной нишей вимы – Иосиф Песнописец, симметрично ему, над северной, – Феофан Никейский. Каждый показан погрудно в медальоне, с развёрнутым вверх свитком. Ещё один вариант размещения в пространстве храма образов гимнографов представлен в росписи южного парекклисиона монастыря Хора (Кахрие-джами) в Константинополе (около 1316 – 1321 гг.) – в парусах купола представлены фигуры преподобных Иоанна Дамаскина и Космы Маюмского, Феофана Никейского и Иосифа Песнописца.