Множественная линейная регрессия

После изучения данной главы студент должен: знать

• • основную задачу множественного регрессионного анализа и методы ее решения;
• • предпосылки МНК для модели множественной регрессии; уметь
• • проверять статистические гипотезы относительно свойств модели множественной линейной регрессии;
• • интерпретировать результаты множественного регрессионного анализа;
• • проводить ранжирование входных факторов по степени влияния па результат; владеть
• • методами анализа линейных моделей множественной регрессии;
• • методами построения прогнозов различных типов по модели множественной регрессии.

Классическая линейная модель множественной регрессии

Обычно на любой экономический показатель влияет не один, а несколько факторов. Например, спрос на некоторый товар определяется не только его ценой, но и ценами на замещающие и дополняющие товары, доходом потребителей и другими факторами.

В этом случае вместо функции парной регрессии М (У| Х = х)= f (x) рассматривается функция множественной регрессии.

Теоретическая модель множественной линейной регрессии имеет вид или для индивидуальных наблюдений.

где N — объем генеральной совокупности.

После выбора в качестве модели линейной функции множественной регрессии необходимо оценить коэффициенты регрессии.

Пусть имеется п наблюдений вектора объясняющих переменных X = = (Х{, Х₂…; Х_т) и зависимой переменной У:

Если п = т + 1, то оценки коэффициентов рассчитываются единственным образом. Здесь т — число объясняющих переменных.

Если п < т. + 1, то система будет иметь бесконечное множество решений.

Если п > т + 1, то нельзя подобрать линейную функцию (4.2), точно удовлетворяющую всем наблюдениям, и возникает необходимость оптимизации, т. е. нахождения оценок параметров модели (4.3), при которых линейная функция дает наилучшее приближение для имеющихся наблюдений.

Самым распространенным методом оценки параметров модели множественной линейной регрессии является метод наименьших квадратов.

Для применения МНК необходима выполнимость ряда предпосылок, которые позволят проводить анализ в рамках классической линейной модели множественной регрессии (КЛММР). В параграфе 3.3 были рассмотрены предпосылки МНК для парной линейной регрессии. Для случая множественной линейной регрессии необходимо выполнение дополнительных предпосылок. Ниже перечислены все предпосылки, выполнение которых требуется для нахождения коэффициентов КЛММР.

Предпосылки МНК для модели множественной линейной регрессии.

• 1. Математическое ожидание случайных отклонений е₇ равно нулю: M (Ej) = 0 для всех наблюдений. Это означает, что случайное отклонение не должно иметь систематического смещения.
• 2. Дисперсия случайных отклонений постоянна для всех наблюдений:

3. Случайные отклонения е, и е_; (г Ф j) не коррелируют (отсутствует автокорреляция):

4. Случайные отклонения должны быть статистически независимы (некоррелированы) от объясняющих переменных.

Для множественной линейной регрессии требуется выполнение еще двух предпосылок.

• 5. Отсутствие мультиколлинеарности. Между объясняющими переменными отсутствует строгая (сильная) линейная зависимость.
• 6. Отклонения e_f-, i = 1, 2, п, имеют нормальные распределения г, ~ ~ N (0; а²). Выполнимость данной предпосылки важна для проверки статистических гипотез и построения интервальных оценок.

Замечание 4.1. При построении классических линейных регрессионных моделей считается также, что объясняющие переменные не являются случайными величинами.

Теорема 4.1 (Гаусса — Маркова). При выполнении приведенных предпосылок МНК оценки коэффициентов buj = 0, 1,2, …, т, являются несмещенными, эффективными и состоятельными.