В первый состав квартета помимо Николая Николаевича – старшего вошли выпускник Санкт-Петербургской консерватории по классу пения С.И. Габеля Яков Яковлевич Карклин (Екабс Карклиньш, первый тенор), чиновники Государственного контроля Ф.Г. Варзарь (Ворзар, второй тенор) и В.Д. Жданов (бас). Все певцы были участниками мужского хора при Государственном контроле Российской империи, покровителем которого был государственный контролёр Тертий Иванович Филиппов – знаток и собиратель русских народных песен, оказывавший квартету всемерную поддержку. Исследователям известно также о покровительстве музыкантам со стороны членов императорской семьи. Первая репетиция квартета состоялась 10 мая 1897 г. Несколько лет певцы выступали в закрытых концертах (в частных салонах, в иностранных посольствах, в Зимнем дворце). 28 марта 1899 г. в Малом зале Санкт-Петербургской консерватории состоялся первый публичный концерт, в основном, звучали сочинения западных композиторов (Вольфганга Амадея Моцарта, Л. ван Бетховена, Роберта Шумана, Феликса Мендельсона и др.). Аранжировки русских народных песен в первые два года выполнял, главным образом, Я.Я. Карклин, затем Николай Николаевич – старший. Со временем количество русских сочинений в репертуаре квартета увеличилось. До 1908 г. концерты коллектива были нечастыми, а состав неоднократно обновлялся. В 1899 г. на место Я.Я. Карклина, получившего должность преподавателя Томского отделения Императорского Российского музыкального общества, пришёл тенор Митрофан Михайлович Чупрынников. В 1904 г. Ф.Г. Варзаря и В.Д. Жданова заменили тенор Николай Матвеевич Сафонов и бас Владимир Иванович Касторский. В 1904 г. вместо Николая Николаевича – старшего пели баритоны Иоаким Викторович Тартаков и Владимир Иванович Лосев. С 1905 по 1910 гг. в составе квартета выступали: М.М. Чупрынников (первый тенор), Н.М. Сафонов (второй тенор), Николай Николаевич – старший (баритон), В.И. Касторский (бас). В этом же составе квартет весной 1908 г. впервые гастролировал в Париже и Лондоне, а в 1908–1910 гг. осуществил ряд грамзаписей. В 1909 или 1910 г., во время гастролей в Париже, на место получившего сольный ангажемент В.И. Касторского прибыл из Санкт-Петербурга брат Николая Николаевича – старшего Константин Николаевич Кедров (1876–1932 гг.), который под псевдонимом Ливанский пел в мужском вокальном ансамбле «Алеко». Он получил образование на юридическом и историко-филологическом факультетах Санкт-Петербургского университета, затем обучался вокалу в Санкт-Петербургской консерватории, служил псаломщиком (1904–1916 гг.) в придворной церкви Александра Невского в Аничковом дворце, преподавал в Санкт-Петербургском Технологическом институте императора Николая I. В 1908–1915 гг. квартет стал одним из самых известных русских вокальных ансамблей, часто выступал в России и за границей. В 1911–1913 гг. с квартетом несколько раз пел в концертах и записал на пластинки русские народные песни (в том числе в обработке Анатолия Константиновича Лядова, Сергея Михайловича Ляпунова и Николая Николаевича – старшего) Фёдор Иванович Шаляпин. Этот ансамбль стал первым русским профессиональным концертным вокальным квартетом, долгое время выступавшим на эстраде и специализировавшимся на исполнении репертуара a cappella.