В этом словосочетании "по окончании" - это предлог, образованный от существительного. Его легко определить по значению - после какого-то события. Этот предлог пишется с двумя гласными "и" на конце. Так что правильно будет "по окончании праздника".
Написание "по окончанию" возможно только в том случае, если используется существительное "окончание" в дательном падеже. Пример: По окончанию существительного можно определить его падеж.