Метод наименьших модулей

Наиболее естественным вариантом модификации целевой функции метода наименьших квадратов является использование абсолютных величин остатков, а именно.

где x_i — строка матрицы X модели (8.1), соответствующая i-му наблюдению; N — объем выборки.

Оценки (8.12) были введены Ф. Эджуортом [99], который назвал их оценками метода наименьших модулей, или МИМ-оценками. Из отечественных авторов, исследовавших метод наименьших модулей и свойства МНМ-оценок, следует отметить В. И. Мудрова [64].

Регрессии, построенные по методу наименьших модулей, часто называютрегрессиями, поскольку пространство, в котором решается задача оптимизации (8.12), сопряжено с L,-метрикой, тогда как регрессию, построенную по методу наименьших квадратов, называют 1₂-регрессией. Следовательно, оценки, полученные по методу наименьших модулей, будут менее чувствительны к наличию аномальных наблюдений в выборке. При этом следует различать грубые ошибки типа у-direction [100], относящиеся к значениям зависимой переменной (см. рис. 8.2), и типа x-direction (относящиеся к значениям независимой переменной). Во втором случае оценки, получаемые на основе метода наименьших модулей, не будут являться устойчивыми. При использовании МНМ следует особое внимание уделить выбору значений входных переменных, который можно осуществить различными способами, в том числе путем использования теории планирования оптимальных экспериментов (см. гл. 10).

Решение задачи оптимизации (8.12), как правило, не может быть получено путем привлечения обычных аналитических методов, как это делается в МНК, поскольку вычисление производных от функции модуля приводит к получению разрывных функций типа sign (x) с разрывами второго рода [70]. Такая особенность, с одной стороны, затрудняет процесс поиска решения соответствующего уравнения, а с другой — может приводить к получению неоднозначных решений. Поэтому на практике оптимизация целевых функций типа (8.12) чаще всего осуществляется с помощью методов линейного программирования |74|.