Древнейшие изображения Меркурия сохранились с IX в.; великомученик, как правило, молод, с курчавыми тёмными волосами, чуть прикрывающими уши, с короткой бородой. В «Ерминии» иеромонах Дионисия Фурноаграфиота (около 1730 – 1733 гг.) дано лаконичное описание внешности Меркурия: «...Молод, с показавшеюся бородой». В византийском искусстве его часто изображали в ряду прославленных воинов, таких как святые Димитрий Солунский, Георгий, Феодор Тирон, Феодор Стратилат и Прокопий Кесарийский. Параллельно существовали два иконографических извода, различавшиеся облачением: мученический, когда святой облачён в хитон и гиматий, и воинский – в доспехах и с оружием. В ранних памятниках преобладает воинский тип, например, на рельефе слоновой кости с изображением сорока мучеников Севастийских (конец X – начало XI вв., Государственный Эрмитаж) – Меркурий в рост, с копьём и мечом; в триптихе с Деисусом и со святыми (X–XI вв., Музеи Ватикана); в Арбавильском триптихе (конец X – середина XI вв., Лувр) – погрудно, с копьём; на фронтисписе Псалтири императора Василия II (около 1019 г.), на миниатюре из Минология (1055/1056 г.) – в рост, а также на фресках церкви великомученицы Варвары (1006–1021 гг.), Карабаш-килисе (долина Соганлы, Каппадокия, 1060–1061 гг.), базилики Константина в Еникёе, Каппадокия (XI в.), церкви святого Меркурия на острове Керкира (Корфу; 1074 г.), церкви Панагии Космосотиры в Феррах (Фересе, около 1152 г.), капеллы Палатина в Палермо (1154–1166 гг.), церкви Вознесения в Милешеве (около 1234 г.), церкви апостола Андрея в Ливади на острове Китира (XIII в.), капеллы святого Стефана церкви Святой Троицы в Сопочани (1263–1268 гг.) и др. Как мученик Меркурий изображён на иконных минеях (например, на иконах второй половины XI в. и около 1200 г. из монастыря великомученицы Екатерины на Синае). В рукописных минологиях присутствует сюжет усекновения главы Меркурия (на миниатюрах в Минологии императора Василия II, первая четверть XI в., и в Минологии деспота Димитрия Палеолога, 1322–1341 гг.). Уже в ранних памятниках Меркурия часто изображали с обнажённым мечом или вынимающим меч из ножен, что станет типичной чертой его иконографии, как, например, в росписи Диреклы-килисе (первая четверть X в.), на миниатюре в рукописи из афонского монастыря Дохиар, на мозаике кафоликона Осиос Лукас (1030–1040 гг.), в росписи церкви святителя Николая Каснициса в Кастории (вторая половина XII в.). Исследователи встречают отступления от достаточно устойчивой иконографии образа святого. На синайской иконе X в., где конный Меркурий поражает императора Юлиана Отступника, святой изображён безбородым; тот же безбородый тип представлен на пластине из собора Сан-Марко (около 1000 г.) и на иконе «Деисус и святые» (вторая половина XV в., монастырь великомученицы Екатерины на Синае). Иногда Меркурий с длинной бородой, как, например, на фреске в церкви святого Георгия в Кастории (1547 г.), а также в некоторых произведениях древнерусского искусства. Исследователи отмечают, что особой темой в агиографической литературе, нашедшей воплощение в иконографии, является Сказание об убийстве Меркурием императора Юлиана Отступника. Этот сюжет исследователи впервые встречают в рукописи «Слов» Григория Назианзина (879–882 гг.) в качестве иллюстрации ко «Второму обличительному слову Григория против царя Юлиана».