К вопросу переопределения систем уравнений с целью использования избыточной информации

Чрезвычайно просто доказывается, что средняя арифметическая ряда чисел обладает следующим замечательным свойством: сумма квадратов отклонений данных чисел от нее.

(1).

оказывается минимальной.

Как видно из выражения (1), величина представляет собой функцию от аргумента. Задача отыскания такого значения, при котором должно приобрести минимальное значение, решается следующим образом. Вычисляется производная по, которая затем приравнивается нулю:

(2).

После сокращения множителя -2 получается:

(3).

Решая уравнение (3), получаем:

(4).

Таким образом, искомая величина, приводящая к минимуму, оказывается средней арифметической.

Сказанное о средней арифметической было обобщено великим немецким математиком К. Ф. Гауссом (1777−1855). Им был открыт основной закон, с которым связан способ наименьших квадратов — закон погрешностей [1].

Метод наименьших квадратов был одним из наиболее эффективных средств, применявшихся Гауссом в его исследованиях. Впервые он возник в работе Гаусса в последние годы 18-го века; тогда Гаусс не придал ему особого значения; впоследствии Гаусс вспоминал, что был уверен в том, что его предшественник по астрономической обсерватории Геттингене Тобиас Майер старший, уже знал этот метод. Просмотрев бумаги Майера, Гаусс убедился в обратном; но и тогда он еще не мог решиться объявить себя автором метода. Таким образом, формально приоритет принадлежит Лежандру, опубликовавшему его в 1806 году, хотя Гаусс, несомненно, неоднократно применял этот метод задолго до этой даты [2].

Метод наименьших квадратов был для Гаусса необходимым теоретическим средством в экспериментальных исследованиях; он все больше и больше укреплялся в мысли, что метод этот — самое важное свидетельство связи математики с природой. Его эффективность была нагляднейшим подтверждением того факта, что природное явление можно с успехом исследовать математическими методами [2].

Было бы неправильно рассматривать огромный объем работы Гаусса с числами как трату времени, не имеющую отношения к его теоретической работе, или как досадную помеху, навязанную Гауссу нуждой и социальным положением. Работа Гаусса с числами составляла неотъемлемую часть его «теоретических» исследований и нередко служила первым толчком к открытиям и догадкам. Обработка экспериментов требовала огромных вычислений; поистине, репутация и эффективность Гаусса как ученого неотделимы от его казавшейся безграничной способности «сгущать» данные своих наблюдений и очищать их с помощью метода наименьших квадратов [2]. Теоретическая сторона работы с числами часто недооценивается, быть может, вследствие современного тяготения к «строгим» и нечисловым рассуждениям. Но само это тяготение стало возможным благодаря работе, проделанной Гауссом и последующими поколениями математиков, находившихся под его влиянием. Лишь в начале XX столетия, с развитием численного анализа, количественные соображения того рода, что применял Гаусс, получили твердую основу и стали общепринятыми. Теперь, с появлением электронных вычислительных машин, эта область снова играет большую роль внутри математики [2].

Возникает вопрос: возможен ли метод наименьших кубов? Метод наименьших кубов возможен, т.к. условие, которое мы выбираем, произвольно. Просто он хуже метода наименьших квадратов с другой точки зрения. Мы будем получать оценки коэффициентов со значительно меньшей точностью. Да и в вычислительном отношении этот путь сложнее [3].

Существует и метод, в котором минимизируется сумма модулей (абсолютных величин) невязок. Но этот путь связан с дополнительными вычислительными трудностями. В последнее время были предложены и другие подходы. Можно, например, минимизировать модуль максимальной невязки.

Итак, все постулаты, которые мы используем, произвольны. Их выбор делается на основе каких-то внешних соображений. Поэтому мы можем построить не только МНК, но и метод наименьших кубов, и любые другие методы. Они не будут равноценными с точки зрения точности полученных оценок, трудности вычислений и др.

Математики и физики разработали много разнообразных методов обработки результатов эксперимента. Но ни один из них не может конкурировать по популярности, по широте приложений с методом наименьших квадратов, который был создан гением Карла Фридриха Гаусса и Адриена Мари Лежандра (1752−1833) более 200 лет назад.

В докладе рассматриваются особенности подходов К. Ф. Гаусса и А. М. Лежандра.

Как и все великие законы, метод наименьших квадратов не «выведен» из ранее известных формул и законов, а установлен на основе интуиции, озарения, анализа на основе качественных математических и физических соображений, аналитических преобразований и многочисленных расчетов.

Когда мы ставим эксперимент, то обычно стремимся провести больше (во всяком случае, не меньше) опытов, чем число неизвестных коэффициентов. И стремимся эффективно использовать избыточную информацию. Поэтому система линейных уравнений оказывается переопределенной, а иногда противоречивой (т.е. она может иметь бесконечно много решений или может не иметь решений). Переопределенность возникает, когда число уравнений больше числа неизвестных; противоречивости — когда некоторые из уравнений несовместны друг с другом.

МНК обладает тем замечательным свойством, что он делает определенной любую, произвольную систему уравнений [3].

В докладе обсуждаются результаты исследования нами этого вопроса.

линейный уравнение погрешность гаусс.

• 1. Ястремский Б. С. Математическая статистика. — М.: Госстатиздат, 1956. — 176 с.
• 2. Бюлер В. Гаусс. Биографическое исследование. Пер. с англ. А.Л. Тоома/ Под ред. С. Г. Гиндикина. — М.: Наука, 1989. — 208с.
• 3. Адлер Ю. П., Маркова Е. В., Грановский Ю. В. Планирование эксперимента при поиске оптимальных условий. — М.: Наука, 1971. — 284 с.