Какие разделы математики наиболее важны для машинного обучения?

Из очевидного: матричные операции (векторные).

А в остальном определятся целями задачи и предметной областью - смотря что за модель, смотря как учим.

Обычно на курсах читают как минимум:

• Линейная алгебра

• Матанализ и методы оптимизации

• Основы теории вероятности

• Матстатистика

Моделирование процесса (физического или информативного) путем исследования основных динамик.

Построение гипотез.

Тщательная оценка качества источника данных.

Количественная оценка неопределенности, касающейся данных и прогнозов.

Развитие навыка идентификации скрытой характеристики в потоке информации.