Музей собрал свою уникальную коллекцию. И.Е. Забелин сформулировал принципы, которые отличают собрание Исторического музея от других музеев России. «Исторический музей не есть музей (редкостей), невиданных вещей. Он есть собрание памятников, т.е. разных вещей, систематически вводящих зрителя в бытовой порядок миновавшей жизни, почему для него дороги не редкости, а всякие рядовые предметы быта, лишь бы они пополняли общий круг бытовых нужд и потребностей». В беседе с великим князем Николаем Николаевичем старшим, посетившим музей 29 ноября 1887 г., И.Е. Забелин высказался кратко: «С Эрмитажем мы не можем равняться, да и цели наши иные, не искусство, не драгоценности, но собственно культурные предметы». Так, с середины 1880 гг. музей проводил целенаправленную политику комплектования фондов памятниками, отражающими жизнь разных социальных слоёв, их быт и культуру. В 1887 г. И.Е. Забелину удалось добиться ежегодных ассигнований из казны в размере 10 тыс. руб. на закупку коллекционного материала. Приобретались вещи как у продавцов, так и непосредственно «на торгу», т.е. у старинщиков и старьевщиков (в Москве – у Сухаревой башни, Никольских и Ильинских ворот). В течение десятков лет каждое воскресенье И.Е. Забелин ходил на Сухаревку в поисках экспонатов для музея. Историк Алексей Иванович Станкевич писал, что «среди даже образованных людей многие чуть не открыто смеялись тому, что он собирал пряничные доски и донца с гребнями, но те же лица с изумлением увидали потом, какой богатый материал для истории русского быта и искусства дало это собрание старых, ни на что не пригодных, на первый взгляд, досок. Подобно муравью, тащил Забелин в музей всякую крупную и мелкую старину, и благодаря ему музей обладает ценнейшими, громадными коллекциями старинных бытовых предметов – замков, ключей, чернильниц, указок, ножей, вилок, ложек, гребней, пуговиц, светцов, щипцов для снятия нагара с сальных свечей, стеклянных фляг и штофов, стаканов, кружек, чарок, ларцов, укладок и т.д. Есть и крупные вещи, например, сани, паникадила, колокола, дуги, шкафы и т.п.». Большими знатоками своего дела, преданно любившими музей, были не только Алексей Васильевич Орешников (1855–1933 гг.), нумизмат, хранитель музея в 1887–1918 гг., заведующий отделом (1918–1933 гг.), но и Владимир Ильич Сизов (1840–1904 гг.), археолог, первый учёный секретарь Исторического музея (1885–1904 гг.), А.И. Станкевич (1859–1922 гг.), заведующий библиотекой Исторического музея (1887–1914 гг.), Вячеслав Николаевич Щепкин (1863–1920 гг.), помощник хранителя (1887–1912 гг.), первый заведующий отделом рукописей (1912–1920 гг.). Коллекции Исторического музея быстро росли, и уже в начале XX в. музей испытывал недостаток мест хранения и экспозиционных площадей: в залах, посвящённых отдельным царствованиям и, согласно общему замыслу, оформленных в духе ведущих архитектурных веяний соответствующей эпохи, не находилось места для показа богатейшего собрания бытовых предметов, особенно с перемещением в 1912 г. в здание музея коллекций Петра Ивановича Щукина. Николай Сергеевич Щербатов ходатайствовал о передаче музею нового, дополнительного здания, чему помешала начавшаяся Первая мировая война, а затем революция.