Как вывести формулу линейного дискриминанта для случая независимых признаков?
ПрограммированиеМатематикаМашинное обучение
Анонимный вопросМашинное обучение и Нейронные сети
· 7,8 K
Openstack DevOps and IBM/Informix Certified DBA . Phd in Math (Duality of spaces of... · 22 сент 2022
Думаю, что сам алгоритм LDA не изменится, но количество собственных значений неколлинеарных собственных векторов достаточно большой величины по модулю у матрицы SW^(−1)*SB может оказаться равным размерности пространства.
=====================================
Линейный дискриминантный анализ можно разбить на следующие этапы:
1.Вычислите матрицы рассеяния внутри класса и между классами
2.Вычислите собственные векторы и соответствующие собственные значения для матриц рассеяния
3.Отсортируйте собственные значения и выберите лучшие k
4.Создайте новую матрицу, содержащую собственные векторы, которые сопоставляются с собственными значениями k
5.Получите новые функции (например, компоненты LDA), взяв скалярное произведение данных и матрицы из шага 4.
Линейный дискриминантный анализ (LDA) - это метод машинного обучения, который используется для классификации объектов на основе их признаков. Для случая независимых признаков, формула линейного дискриминанта выглядит следующим образом:
f(x)=i=1∑p
wi
xi
+w0
,
где $x = (x_1, x_2, …, x_p)$ - вектор признаков объекта, $w = (w_1, w_2, …, w_p)$ - вектор весов признаков, $w_0$... Читать далее