При создании катехизиса Мартин Лютер в целом следовал сложившейся до него традиции. Он признавал, что католическая церковь сохранила основные структурные элементы древних предкрещальных поучений, а именно толкования Символа веры, заповедей – в виде декалога или двойной евангельской заповеди о любви к Богу и ближнему – и молитвы «Отче наш», и потому формально осталась верна «истинному катехизису». Предметом критики с его стороны была практика изучения основ веры, ставшая, как ему казалось, формальностью, не предполагающей понимание заучиваемых наизусть формулировок: «Преподавать это следует с кафедры, в назначенные часы или, если понадобится, ежедневно, а также повторять или читать вслух вечером и утром дома, для детей и слуг, чтобы воспитывать их христианами. И не так, чтобы только выучить наизусть и повторить лишь сами слова, как бывало раньше. Следует опрашивать их пункт за пунктом, что имеется в виду в каждой части, и как они её понимают». «Большой катехизис» и «Малый катехизис» М. Лютера стали результатами ряда взаимосвязанных, но самостоятельных направлений в его церковной деятельности и литературном творчестве. В частности, им предшествовали несколько циклов проповедей, посвящённых катехетической тематике. Считая средний уровень знания и понимания основ христианского вероучения среди мирян крайне низким, начиная с 1516 г. в своих проповедях он систематически обращался к толкованию декалога. В это время он ещё не окончательно отошёл от католической традиции. После окончаниия этого цикла, в начале 1517 г. он приступил к толкованию молитвы «Отче наш», а начиная с Великого поста 1523 г. стал ежегодно произносить в предпасхальный период проповеди катехетического содержания; этот обычай вскоре был поддержан его сторонниками (прежде всего, Иоанном Бугенхагеном и С. Фрёшелем) и стал традицией. С 1525 г. поддерживающие этот обычай проповедники стали читать циклы катехетических проповедей четыре раза в году. В это же время к основным трём темам добавляются проповеди о крещении и евхаристии. За 1528 г. М. Лютер произнёс три цикла проповедей, в каждом из которых полностью рассмотрел весь традиционный катехетический материал. Именно эти проповеди стали основой его «Малого катехизиса». Краткость и точность выражений, отличающие это сочинение, стали результатом тщательного многолетнего продумывания всего материала будущей книги. М. Лютер ставил задачу обновления сложившейся практики покаяния. Для этого ему требовалось не только подвергнуть критике традицию, сформулировать новое представление о покаянии и отстоять его правоту с теологической точки зрения, но и установить новые обычаи, которые бы не противоречили этому пониманию. Основой реформированной практики должно было стать обращение к Божественным заповедям вместо традиционных списков грехов и добродетелей и распространение идеи о том, что основой всех грехов является самолюбие, а источником всех добродетелей – любовь к Богу и ближнему. Эта программа была заявлена в изданном в 1518 г. «Кратком разъяснении десяти заповедей» и в последовавших за ним в 1519 г. толковании молитвы «Отче наш» («Краткое изложение Отче наш») и в 1520 г. толковании Символа веры («Краткое изложение веры»).