Положительно А.В. Касторский оценивал лишь замечание А.И. Пузыревского о преимуществе церковного пения как удобного материала для развития голоса и об отсутствии в нём «характера забавы» для детей. Не чужды были А.В. Касторскому и вопросы современного ему состояния церковно-певческого дела. В небольшой заметке «К вопросу об улучшении церковно-певческого дела» (1902 г.) по поводу статьи Фёдора Ефимовича Степанова, выступившего за создание Союза регентов («К улучшению церковного певческого дела»), А.В. Касторский высказывает многочисленные предложения, в том числе установить у регентов «единообразный взгляд на храмовое пение, т.е. на характер церковных композиций и стиль исполнения»; для искоренения «регентов-неучей» организовать постоянные учебные курсы при духовных семинариях, архиерейских хорах; периодически устраивать регентские съезды (окружные в губернских городах, центральные); ввести издание печатного органа. «Вождю хорового церковного пения» Степану Васильевичу Смоленскому, директору Придворной певческой капеллы, А.В. Касторский предлагал учредить «Вестник Певческой капеллы». А.В. Касторский – автор духовно-музыкальных сочинений и обработок старинных распевов: основных – знаменного, греческого, киевского, болгарского, обычного, местных – симоновского, феофановского, сербского и др. Преимущественно из гармонизаций составил сборник «Церковные хоры» в двух частях: «Песнопения всенощного бдения» (31 номер, в том числе 26 неизменяемых песнопений, а также 35 тропарей Господским и иным праздникам и святым, 31 величание, ирмосы на Рождество и на Воздвижение, «С нами Бог») и «Песнопения Божественной литургии» (41 номер с приложением из 15 запричастных песнопений). Исследователи отмечают, то отдельно изданные авторские произведения А.В. Касторского представляют собой развёрнутые хоровые композиции: «Ныне силы небесные», «Небо и земля», «Одеваяйся светом», «Покаяния отверзи ми двери», «На реках Вавилонских», «Ныне отпущаеши». Главные слова богослужебного текста и ударные слоги оттеняются альтерированными гармоническими аккордами и их обращениями (обычно с повышением или понижением терцового тона), многочисленными динамическими указаниями усиления или уменьшения звука, акцентами. Гармонические последования тонических и доминантовых аккордов (обиходное пение) сменяются кантиленой, мелодическими ходами голосов, получающих линеарное движение, как в старинном строчном пении.