Wydania Księgi zgody aż do dzisiaj zawierają wraz z Małym katechizmem niewchodzące w jego skład dodatki: Książeczkę o ślubie i Książeczkę o chrzcie. Oprócz tego, zarówno za życia Lutra, jak i po jego śmierci, pojawiały się nieautoryzowane wydania Małego katechizmu, które zawierały zarówno zmiany drobne takie jak dodanie do Modlitwy Pańskiej doksologii („Albowiem Twoje jest królestwo, moc i chwała na wieki”), jak i znaczące, np. dodanie ustępów Władza kluczów Królestwa niebieskiego lub Pytania dla tych, którzy chcą przystąpić do sakramentu ołtarza. Zmiany te jednak nie były sprzeczne z nauczaniem Lutra.
Pierwsze wydanie Małego katechizmu nosiło tytuł Mały katechizm dla zwykłych proboszczów i kaznodziei. W wydaniu Księgi zgody z 1584 usunięto słowa „dla zwykłych proboszczów i kaznodziei”, ograniczając tytuł do Mały katechizm doktora Marcina Lutra.