Использование метода наименьших квадратов для идентификации параметров системы

Постановка задачи.

Имеется система, преобразующая сигнал U в выходной сигнал X.

Дана эмпирическая таблица значений U и соответствующих Х.

Необходимо восстановить вектор по эмпирическим данным с помощью метода наименьших квадратов (далее МНК).

Представим преобразование системы в виде .

Тогда сумма квадратов отклонений для n эмпирических наблюдений выглядит следующим образом:

Возьмем производную по вектору и приравняем производную к нулю. Учтем, что производная по вектору есть градиент, то есть вектор частных производных по каждой из переменных вектора.

Минимум функции суммы квадратов отклонений ищем из уравнения:

Так как — это матрица размерностью, то умножение саму на себя невозможно. Поэтому преобразуем уравнение с помощью следующих свойств:

.

где с — это число, а, А — это матрица.

.

где, А и В — матрицы соответствующей размерности.

Тогда уравнение преобразуется следующим образом:

(1).

Таким образом, формула (1) является конечной формулой расчета коэффициентов функции преобразования. Стоит отметить, что при наличии шумовых воздействий на систему коэффициенты, вычисленные по данной формуле, будут максимально приближенными к реальным коэффициентам, с величиной дисперсии прямо пропорциональной силе шумового воздействия.