Сочинения: «О заслугах святого Афанасия Великого для церкви в борьбе с арианством» (СПб., 1850 г.); «Св. Захария, отец Иоанна Предтечи и Крестителя Господня», «Христианское Чтение», 1854 г., №7; «Разбор суждений новейших естествоиспытателей о земном шаре, в сравнении с учением Св. Писания о видимом мире» («Христианское Чтение», 1859 г.); «О предположениях новейших теологов, несогласных со Священным Писанием», «Странник», 1860, №5; «Иисус Христос, предсказывающий Своё Воскресение», «Духовная Беседа», 1861 г.; «Чудесные солнечные явления при Иисусе Навине и пророке Исайи», «Странник», 1861 г., №9; «Разбор суждений новейших естествоиспытателей о Ноевом потопе сравнительно с учением Слова Божия об этом предмете», «Христианское Чтение», 1861 г., №11, 1862 г., ч.1–2; «Важность библейского сказания о сотворении видимого мира», «Странник», 1863 г., №6; «Родословие Господа Иисуса Христа», «Христианское Чтение», 1864 г., №11; «Об отношении писателей классических к библейским по воззрению христианских апологетов» (СПб., 1872 г., диссертация). Статьи Е.И. Ловягина богословского, церковно-исторического и археологического характера, приготовленные им издания памятников христианской литературы, частью в оригинальном тексте, с русскими предисловиями и пояснениями, частью в переводах с подлинного текста, а также исполненные им переводы перечислены профессором А.И. Садовым в статье «Профессор Е.И. Ловягин» («Христианский Вестник» 1909 г., №15 (некролог Ловягина); «Константин фон Тишендорф и учёные труды его (некролог), «Христианское Чтение», 1875 г., т.1; «Храм св. Софии в Константинополе» (в «Духовной Беседе» за 1876 г. – обширное археологическое исследование, составленное на основании греческих первоисточников); «Богослужебные каноны на греческом, славянском и русском языках»; Под редакцией Е.И. Ловягина изданы в русском переводе два тома сочинений Фёдора Студита, несколько томов полного собрания сочинений Иоанна Златоуста и собрание древних литургий.