7.7. Суть метода наименьших квадратов

Дальнейшие рассуждения будем проводить в предположении, что все измерения значений функции y₀, y₁, y₂,…, y_n произведены с одинаковой точностью. Тогда оценка параметров а₀, а₁, а₂,…, а_n определяется из условия минимума суммы квадратов отклонений измеренных значений y_k от расчетных f(x_k; а₀, а₁, а₂,…, а_n):

(7.14)

Отыскание же значений параметров а₀, а₁, а₂,…, а_n, которые доставляют min значение функции

(7.15)

сводится к решению системы уравнений

(7.16)

Наиболее распространен способ выбора функции f(x_k; а₀, а₁, а₂,…, а_n) в виде линейной комбинации:

(7.17)

Здесь базисные функции (известные); n << k; а₀, а₁, а₂,…, а_n – коэффициенты, определяемые методом наименьших квадратов. Запишем в явном виде условие (7.16), учитывая выражение (7.17):

(7.18)

Из системы линейных уравнений (7.18) определяются все коэффициенты a_k. Система (7.18) называется системой нормальных уравнений, матрица которой имеет вид

(7.19)

Здесь

(7.20)

Матрица (7.19) называется матрицей Грама. Расширенную матрицу получим добавлением справа столбца свободных членов:

(7.21),

где (7.22)