Как раньше говорили это слово? Например, вместо "краш" говорили "любовник".
Это слово является записанной русскими буквами транскрипцией английского слова default. Дословный перевод: значение по умолчанию. Соответственно, «по дефолту» = «по-умолчанию».