Концерт имел огромный успех и был повторен в Вербное воскресенье того же года в Киеве и в 1875 г. в Харькове. Желая усовершенствовать свою вокальную технику (у него сформировался красивого тембра баритон), Я.С. Калишевский поступил в хор Русской оперы (с 1919 г. – Киевский театр оперы и балета). Ипполит Карлович Альтани, капельмейстер открывшейся в 1874 г. в Киеве первой антрепризы Иосифа Яковлевича Сетова, давал Я.С. Калишевскому эпизодические роли в спектаклях. Узнав о наборе в хор Итальянской оперы (работала в Харькове до учреждения там постоянной оперной труппы), Я.С. Калишевский принял участие в прослушивании и был принят. Освоив репертуар итальянской оперной труппы, он в 1876–1877 гг. путешествовал с ней в качестве певца и хормейстера. Два года занимался постановкой голоса по итальянской методике с антрепренером труппы профессором пения Р. де Росси, изучал итальянский язык. Благодаря занятиям с Р. де Росси Я.С. Калишевский значительно расширил диапазон своего голоса (фа большой октавы – до второй октавы), что позволило ему исполнять не только баритоновые, но и теноровые и басовые партии. Больше 20 лет Я.С. Калишевский был солистом на оперных сценах, выступил в 57 ролях в итальянских и русских операх. В 1878–1879 гг. управлял хором, организованным им в театральной труппе Н.Н. Савина (Харьков), гастролировавшей, в частности, в Киеве. В конце 1870 гг. Я.С. Калишевский вернулся в Киев и вновь пел в опере в антрепризе И.Я. Сетова (действовала до 1883 г.). Совмещение деятельности регента и артиста свидетельствует, по мнению исследователей о творческих поисках молодого Я.С. Калишевского. Однако основной его деятельностью стало служение регента. В 1882 г. он организовал хор сотрудников фото- и линотипографии Г.Т. Корчак-Новицкого и руководил им до 1884 г. Этот хор выступал с публичными духовными концертами; в 1880–1881 гг. в Москве и Санкт-Петербурге их организовывало Императорское Русское музыкальное общество (ИРМО). Концерты духовной музыки были новшеством и воспринимались как признак возрождения духовной певческой традиции. Активизировался интерес к качеству хорового исполнительства, стали формироваться конкурентные отношения между коллективами. Проведение в Киеве публичных хоровых концертов по инициативе Я.С. Калишевского привело к решению организовать в 1884 г. Киевский конкурс церковных хоров (с таким предложением выступило Киевское общество грамотности, возглавлявшееся Алексеем Фомичом Андрияшевым). Но конкурс не состоялся, как полагают исследователи, вследствие сложности предложенной оргкомитетом обязательной программы и нерешительности большинства регентов десяти лучших хоров Киева. Некоторое время Я.С. Калишевский работал в организованных им детских хорах воспитанников Сулимовских школ (заведения для бездомных и сирот под патронатом жён киевских генерал-губернаторов, финансировавшиеся из фондов шляхетского рода Сулимы) и училища слепых. По просьбе киевского, подольского и волынского генерал-губернатора Александра Романовича Дрентельна Я.С. Калишевский несколько лет работал с Сулимовским хором, выступившим перед императором Александром III в 1885 г.