Будучи младшим сыном городского музыканта Иоганна Амброзиуса Баха (1645-1695) уже был под влиянием и восхищением от музыки . По-видимому, под руководством отца овладел основами скрипичной игры и элементарной теории. В возрасте 10 лет Бах осиротел и перешел под опеку своего старшего брата Иоганна Кристофа (1671-1721), ученика Пахельбеля и органиста церкви Михаэлискирхе в Ордруфе; у него Бах обучался игре на клавишных инструментах. В 1700-1702 годах Бах учился в школе при церкви Михаэлискирхе в Люнебурге, где пел в церковном хоре и, возможно, познакомился с органистом и композитором Г. Бёмом. В те же годы несколько раз посещал Гамбург, чтобы услышать игру Рейнкена. Позднее в Кётене Бах служил капельмейстером при дворе князя Леопольда - талантливого музыканта и просвещенного покровителя искусств, кальвиниста по вероисповеданию.
Органная музыка в Германии ко времени Баха уже обладала давними традициями, сложившимися благодаря предшественникам Баха — Пахельбелю, Бёму, Букстехуде и другим композиторам, каждый из которых по-своему влиял на него. Со многими из них Бах был знаком лично. На композитора оказала влияние как музыка северонемецких композиторов (Георг Бём, с которым Бах встретился в Люнебурге, и Дитрих Букстехуде в Любеке), так и музыка южных композиторов: Бах переписывал себе произведения многих французских и итальянских композиторов, чтобы понять их музыкальный язык; позже он даже переложил несколько скрипичных концертов Вивальди для органа.