Проблема мультиколлинеарности в линейных регрессионных моделях

Понятие мультиколлинеарности и ее последствия на результаты идентификации регрессионных моделей

Еще один момент, тесно связанный с правильностью выбора регрессоров, который условно тоже можно отнести к задаче анализа качества спецификации, это проблема мультиколлинеарности в линейных регрессионных моделях. Эта проблема подходит к задаче правильности выбора экзогенных переменных для включения их в уравнение регрессии с позиции корректности применения процедуры метода наименьших квадратов для оценки параметров линейного уравнения множественной регрессии.

Процедура метода наименьших квадратов требует неколлинеарности матрицы коэффициентов уравнений наблюдений X. Это означает, что все столбцы матрицы X должны быть взаимно независимыми. Число независимых столбцов матрицы равно ее рангу. Если число столбцов в матрице X равно к, то и ранг матрицы X тоже должен быть равным к. Ранг матрицы равен размерности не равного нулю определителя, который можно вырезать из матрицы (ХТХ). Математически это условие можно записать следующим образом:

Если матрица X неколлинеарная, то она имеет полный ранг равный k. В случае, когда в матрице X присутствуют линейно зависимые столбцы, то ее ранг будет меньше k, а определитель матрицы (ХТХ) будет равен нулю. Это в свою очередь приводит к тому, что процедура МНК становится не реализуемой, так как в этом случае не существует обратная матрица .

Рассматриваются два вида мультиколлинеарности: совершенная (полная) и частичная мультиколлинеарность.

Если регрессоры в модели жестко связаны между собой линейной зависимостью, то такую мулътиколлинеарностъ называют совершенной или полной.

На практике регрессоры модели связаны некоторой стохастической зависимостью, которая характеризуется коэфициентами корреляции между ними.

При полной мультиколлинсарности пропадает возможность однозначного определения оценок параметров модели. В этом легко убедиться на простом примере. Пусть спецификация модели имеет вид:

(6.18).

Предположим, что между регрессорами и существует жесткая функциональная связь вида.

(6.19).

Подставив (6.19) в (6.18) и произведя приведение подобных, получим:

(6.20).

После замены переменных:

получится уравнение парной регрессии с параметрами и , оценкам которых необходимо найти три неизвестных величины. Известно, что такая система алгебраических уравнений единственного решения не имеет.

В случае частичной мультиколлинеарности связь между экзогенными переменными носит стохастический характер и ее следует записать в виде эконометрической модели, т. е. включить в качестве дополнительного слагаемого случайное возмущение. Это приведет к тому, что , но формально отличным от нуля. Такую матрицу называют плохо обусловленной. Последнее обстоятельство обеспечивает существование обратной матрицы (ХTХ) 1 и, как следствие, получение оценок параметров линейной модели, их стандартных ошибок, так что получить прогнозное значение эндогенной переменной будет возможно, но их значения становятся неустойчивыми. Неустойчивость оценок проявляется в том, что небольшие изменения в данных выборки (например, в результате добавления в выборку еще одного наблюдения или наоборот удаления, какого либо наблюдения) приводят к большим изменениям в оценках параметров.

Частичная коллинеарность приводит к следующим неприятным последствиям:

• • увеличение дисперсии оценок параметров модели;
• • получение неустойчивых результатов оценки модели;
• • получение абсурдного с точки зрения экономической теории результата.

Увеличение дисперсий оценок параметров модели в свою очередь приводит к расширению доверительных интервалов оценок параметров. Это неизбежно сказывается на результатах тестирования равенства нулю параметров при регрессорах. В число незначимых могут быть включены важные для практики регрессоры.

Одним из показателей степени связи между регрессорами служит матрица коэффициентов корреляций. Если между некоторой парой регрессоров наблюдается высокая степень взаимозависимости г^, близок к единице, это неизбежно приведет к нежелательным последствиям при оценке модели.