Короткий ответ после чтения исходника, который вы привели: у нас есть варианты. То, какой метод хэширования использует конкретно ваша версия питона, зависит от того, с какими флагами компиляции его собрали.
Полностью весь ответ на ваш вопрос содержится в исходнике, ссылку на который вы привели. Там есть всё: названия алгоритмов, конкретный код, со стопроцентной точностью описывающий, как питон будет хэшировать данные, комментарии разработчиков, объясняющие принятые решения.
Я не специалист в использовании конкретно питона, но вот какую информацию можно получить непосредственно из исходников, которые вы дали.
Со строчки
34 разработчики описывают стратегию хэширования в общих словах.
Дальше идут объявления функций хэширования для данных разных типов. В вашем вопросе сказано, что вы передали в `hash` набор байт, значит, скорее всего, вызов сдиспетчился в функцию под названием `
_Py_HashBytes`. В теле этой функции видно, что она делает некоторые предварительные преобразования исходных данных, а потом делегирует работу структуре под названием `
PyHash_Func`, вызывая у неё метод `hash`.
Если пройтись по коду полнотекстовым поиском, можно найти несколько деклараций `PyHash_Func`, каждая из которых скрыта за директивами препроцессора. В зависимости от значения макроса `Py_HASH_ALGORITHM` определение PyHash_Func в скомпилированном коде будет разное.
На строчке
23 можно увидеть, что мы можем делегировать функцию хэширования какому-то внешнему модулю. То есть, в целом, получается, что вы можете скомпилировать ваш питон из исходников с такой функцией хэширования, какая будет вам удобна.
На строчке
289 можно увидеть, что мы можем использовать хэширование методом FNV, код которого начинается на строчке
250. Что это за алгоритм, можно нагуглить по его формальному названию, которое написано в комментарии выше.
Прокрутив до строчки
492 можно увидеть сразу два варианта использования алгоритма SipHash, SipHash13 и SipHash24, определение которых начинается на строчке
318 вместе со ссылками на источники.
Просто читайте исходники. Это главный источник финальной, стопроцентной истины о том, как работает программа.