Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Какие пути решения есть,при возникновении «проблемы мультиколлинеарности» в задачах многомерной линейной регрессии?

ПрограммированиеМашинное обучение+3
  · 1,6 K
Начальник информационного отдела НЧОУ ВО "Северный институт предпринимательства"  · 23 июн 2022
Мультиколлинеарность относится к разряду серьезных проблем в том случае, если в качестве главной цели проводимого исследования является определение степени влияния каждой из объясняющих переменных на зависимую переменную. Наличие мультиколлинеарности относится к ситуации, когда происходит увеличение стандартных ошибок, что приводит к искажению истинных зависимостей между переменными.
Для прогнозирования будущих значений зависимой переменной при высоком коэффициенте обусловленности (R2 > 0,9) наличие мультиколлинеарности обычно не оказывает влияния на прогнозных качествах модели.
Единого подхода к устранению мультиколлинеарности не существует, так как причины и последствия мультиколлинеарности не являются однозначными и во многом сказывается зависимость от результатов выборки и экономического содержания объясняющих переменных. Давайте приступим к перечислению наиболее употребительных методов:
Исключение переменной из модели. Данный метод можно отнести к числу простейших методов устранения мультиколлинеарности, так как его применение приведет к исключению из модели одной или нескольких коррелированных переменных. Но надо внимательно отнестись к применению данного метода, потому что в данной ситуации возможно возникновение ошибок спецификации.
Получение дополнительных данных или новой выборки. Применение данного метода возможно в том случае, если получение дополнительных данных не вызывает трудностей. Например, первоначальная выборка из-за большого числа наблюдений сглаживалась простой арифметической средней. 
Изменение спецификации модели. Преобразование модели. В некоторых случаях проблемный аспект, связанный с наличием мультиколлинеарности, может быть решен путем изменения спецификации модели. Вместо первоначальной модели используется другая модель с тем же набором объясняющих переменных. Например, модель множественной линейной регрессии заменяется на нелинейную модель с тем же набором объясняющих переменных.
К числу способов преобразования мультиколлинеарности переменных можно отнести следующие:
  • • использование нелинейных форм;
  • • использование агрегатов (линейных комбинаций переменных);
  • • использование первых результатов разности вместо самих переменных.
Использование предварительной информации о некоторых параметрах. Возможна ситуация, когда значения коэффициентов, рассчитанных для каких- либо предварительных моделей или для аналогичной модели по ранее полученной выборке, могут быть использованы для исследуемой в данный момент модели.
Преобразование переменных. В некоторых случаях становится возможным минимизация либо устранение проблемы мультиколлинеарности при помощи преобразования переменных, например разделение всех переменных уравнения множественной регрессии на одну из коррелирующих переменных.
Данный опус написан на основе данных, полученных с сайта