W związku z tym ok. 1708 roku Bach oprawił papier rękopiśmienny o wymiarach sześć i pół cala na siedem i pół (Mała Księga Organowa jest “mała” w więcej niż jednym znaczeniu!). Następnie wykluczył pięciolinie i wpisał tytuł 164 chorałów.

Być może z tyłu głowy myślał o zmianie stanowiska (a przynajmniej, jak się okazało, o zastosowaniu niewielkiego nacisku, aby poprawić swoją sytuację w Weimarze). W każdym razie, w przypadkowej kolejności, skomponował lub skopiował ponad 40 preludiów w ciągu następnych kilku lat, zanim skutecznie odłożył projekt na półkę podczas swojego pobytu w Köthen w latach 1717-23.

Mając przed sobą perspektywę zostania Kantorem w kościele św. Tomasza w Lipsku, co wiązało się z odpowiedzialnością za nauczanie w Thomasschule, Bach nagle jeszcze bardziej odczuł brak wykształcenia uniwersyteckiego i aby odwołać się do zamiłowania Lipska do kolekcji, które wiązały się z funkcją dydaktyczną, postanowił powrócić do Orgelbüchlein wraz z 24 preludiami i fugami Well-Tempered Clavier oraz dwu- i trzyczęściowe inwencje i sinfonie.

Pomimo kilku poprawek i uzupełnień, Orgelbüchlein pozostał jednak “mały” w innym sensie. O ponad dwie trzecie przekroczył swój cel 164 sztuk i nie jest do końca jasne, co spowodowało, że stracił zainteresowanie kolekcją.

Mierzona liczbą taktów większość preludiów jest niezaprzeczalnie “mała”, ale każde z nich jest arcydziełem w miniaturze – niewielkie, ale doskonale uformowane. A jako “jak to zrobić” szablonów kompozycyjnych pokazują, jak upiększyć melodię rozdzierającym serce patosem (np. “O Mensch bewein” lub “Wenn wir in höchsten Nöten sein”).

Inne pokazują, że kanoniczne zaręczyny nie muszą być suche, jakkolwiek erudycyjne – “In dulci jubilo” to świąteczny krakers z dwoma równoczesnymi kanonami, jednym między zewnętrznymi częściami, drugim wiążącym bulgoczące wewnętrzne trojaczki.