2. Итерационный метод главных компонент для данных с пропусками

Пусть задана прямоугольная таблица, клетки которой либо заполнены действительными числами или значком @, означающим отсутствие данных. Требуется правдоподобным образом восстановить отсутствующие данные. При более детальном рассмотрении возникают три задачи:

заполнить пропуски в таблице;

отредактировать таблицу– изменить значения известных данных таким образом, чтобы наилучшим образом работали модели, используемые при восстановлении пропущенных данных;

построить по таблице вычислитель, заполняющий пробелы в приходящей для анализа строке данных с пробелами (в предположении, что данные в этой строке связаны теми же соотношениями, что и в строках таблицы).

Для решения этих задач предлагается использовать метод последовательного приближения множества векторов данных (строк таблицы) прямыми.

Основная процедура – поиск наилучшего приближения таблицы с пропусками матрицей видаx_iy_j+b_j.

Пусть задана таблица с пропусками A=(a_ij). Ставится задача поиска наилучшего приближенияA матрицей видаx_iy_j+b_j методом наименьших квадратов:

(1)

Если фиксированы два из трех векторов x_i, y_j иb_j, то третий легко находится по явным формулам. Задаваясь практически произвольными начальными приближениями для двух из них, ищем значение третьего, далее, объявляем неизвестным другой вектор из трех, находим его значение, наконец, находим третий и т.д. (по кругу) – эти простые итерации, очевидно, сходятся. Более того, по фиксированномуx_i, можно сразу по явным формулам посчитать значенияy_jиb_j– таким образом расщепление производится не на три, а на две составляющие.

При фиксированных векторах y_jиb_jзначенияx_i, доставляющие минимум форме (1), определяются из равенствx_i=0 следующим образом:

.

При фиксированном векторе x_i значенияy_jиb_j, доставляющие минимум форме (1), определяются из двух равенствy_j=0 и b_j=0 следующим образом:

Для каждого j имеем систему из двух уравнений относительноy_j иb_j:

, где,,k=0..1, l=0..1.

Выражая из первого уравнения b_jи подставляя полученное значение во второе, получим:

,.

Начальные значения:

y – случайный, нормирован на 1 (т.е.)

, где(число известных данных вj-ом столбце), т.е.b_j определяется как среднее значение в столбце.

Критерий остановки – малость относительно улучшения /, где– полученное за цикл уменьшение значения, а– само текущее значение. Второй критерий – малость самого значения. Окончательно: процедура останавливается, еслиили для некоторых, 0.

Последовательное исчерпание матрицы A.

Для данной матрицы A ищем наилучшее приближение матрицейP₁ видаx_iy_j+b_j. Далее, дляA-P₁ищем наилучшее приближение этого же видаP₂ и т.д. Контроль ведется, например, по остаточной дисперсии столбцов.

Q-факторное заполнение пропусков есть их определение из суммыQполученных матриц видаx_iy_j+b_j,

Q-факторный “ремонт” таблицы – замена ее на суммуQполученных матриц видаx_iy_j+b_j.

Пусть в результате описанного процесса построена последовательность матриц P_q видаx_iy_j+b_j (), исчерпывающая исходную матрицуA с заданной точностью. Опишем операцию восстановления данных в поступающей на обработку строкеa_j с пробелами(некоторыеa_j=@). Для каждогоq по заданной строке определим числоx^q(a) и вектор:

;

;

;

…………….. (2)

;

;

……………..

Здесь многообразие M – прямая, координаты точек наM задаются параметрическим уравнениемz_j=ty_j+b_j, а проекцияPr_M(a) определяется согласно (2):

Pr(a)=t(a)y_j+b_j;

. (3)

Для Q-факторного восстановления данных полагаем:

,. (4)

Если пробелы отсутствуют, то описанный метод приводит к обычным главным компонентам – сингулярному разложению исходной таблицы данных. В этом случае, начиная с q=2, (b=0). В общем случае это не так и центрирование к данным с пробелами неприменимо.

Также следует учесть, что при отсутствии пробелов, полученные прямые будут ортогональны, то есть получим ортогональную систему факторов (прямых). Исходя из этого, при неполных данных возможен процесс ортогонализации полученной системы факторов, который заключается в том, что исходная таблица восстанавливается при помощи полученной системы, после чего эта система пересчитывается заново, но уже на полных данных.