Через два дня после начала войны, 24 июня 1941 года, одновременно в газетах «Известия» и «Красная звезда» был опубликован текст песни «Священная война» за подписью известного советского поэта и сталинского лауреата В. И. Лебедева-Кумача. Сразу же после публикации композитор А. В. Александров написал к ней музыку. Печатать слова и ноты не было времени, и Александров написал их мелом на доске, а певцы и музыканты переписали их в свои тетради. Ещё день был отведён на репетицию.
26 июня 1941 года на Белорусском вокзале одна из не выехавших ещё на фронт групп Краснознамённого ансамбля красноармейской песни и пляски СССР впервые исполнила эту песню. По воспоминаниям очевидцев, песню в тот день исполнили пять раз подряд. В мае 2005 года, в память об этом событии, на здании вокзала была установлена мемориальная доска.
Однако вплоть до 15 октября 1941 года «Священная война» широко не исполнялась, так как считалось, что она имеет чрезмерно трагичное звучание: в ней пелось не о скорой победе «малой кровью», а о тяжёлой смертной битве. И только с 15 октября 1941 года, когда вермахт захватил уже Калугу, Ржев и Калинин, «Священная война» стала ежедневно звучать по всесоюзному радио — каждое утро после боя кремлёвских курантов.
Песня приобрела массовую популярность на фронтах Великой Отечественной войны и поддерживала высокий боевой дух в войсках, особенно в тяжёлых оборонительных боях. За время войны песня дважды записывалась на грампластинки: в 1941 (Грампласттрест № 11019) и 1942 годах (Грампласттрест № 119 /трехзначная нумерация 1942—1943 годы/).
В послевоенное время часто исполнялась Краснознамённым ансамблем песни и пляски Советской Армии им. А. В. Александрова и имела широкий успех, как в СССР, так и на зарубежных гастролях.
22 мая 2007 года Ансамблем песни и пляски Российской армии им. А. В. Александрова под бурные аплодисменты песня была исполнена в штаб-квартире НАТО в Брюсселе. В некоторых российских СМИ посчитали, что такой песенный ответ на негативное отношение Запада к России приобрёл неоднозначный смысл.