Достаточные статистики

В ряде задач системного анализа исследователю для проведения работы не обязательно хранить всю информацию о функционировании объектов, т.е. не нужно при расчетах иметь выборку о реализациях наблюдаемой случайной величины, на основании которой оценивают параметры системы для включения в дальнейшем их в модель.

Объем требуемой для расчетов информации можно существенно со­кратить, если вычислить заранее значения некоторого количества чис­ловых характеристик. При этом необходимо убедиться, что рассчитан­ные значения характеристик содержат всю информацию, имевшуюся в первоначальных данных.

Рассмотрим следующую модель оценивания. Пусть имеется слу­чайная величина или случайный вектор Т, который принимает значения T_v T₂, ...,T_n. Требуется оценить некоторый вектор в. При этом предпо­лагается, что оценивание параметра 0 производится по наблюдениям F₁, T₂, ..., T_n. Случайная величина T и параметр 0 связаны условной плотностью распределения/(770) при 0=0.

Введем статистику M(T), которая является функцией наблюдаемой случайной величины.

Приведем байесовское определение достаточной статистики. Со­гласно [41] статистику M называют достаточной, если при любом ап­риорном распределении параметра 0 его апостериорное распределение зависит от значения T только через M(T). Статистику с такими свой­ствами называют достаточной потому, что для вычисления апостери­орного распределения 0, исходя из любого априорного распределения, исследователю достаточно знать лишь значение M(T). При этом нет необходимости сохранять значения самого случайного вектора Т, ко­торый может иметь большую размерность.

На практике это обстоятельство является важным при проведении автоматизированных расчетов, так как использование вместо массива случайных величин T достаточных статистик M(T) резко сокращает объем требуемой памяти ЭВМ.

Приведем теорему, которая дает простой способ распознавания до­статочных статистик.

Теорема. Статистика M достаточна для семейства плотностей распределения/(770) тогда и только тогда, когда функцию J(TIQ) мож­но представить в виде произведения следующим образом:

f (Tl В) = u(T)v[M (T),Q]

для всех Te 3 и 0є 0.

Здесь функция и положительна и не зависит от 0; функция v неотри­цательна и зависит от T только через M(T).

Доказательство теоремы приведено в [41].

Пример 1. Пусть T_v T₂, ...,T_n- выборка, подчиняющаяся нормаль­ному распределению с неизвестными значениями математического ожидания т и среднего квадратического отклонения о.

Совместная плотность распределения/^; т, о²) выборки T_v T₁,..., T_n задается следующим образом:

(8.11)

_Л 1 п

Введем обозначение т = - У Т.

Пы\ '

Произведем некоторые преобразования:

J_j(T_i-M)² =Y_i(T_i-M)² + п(т-т)²,

1=1 ,=1

и получим, что плотность распределения (8.11) зависит от результатов

наблюдений T_vT_v ...,T_n только через величины т a J(T -т)². Таким

^,J(T_i-M)²

M (Т_{,Т₂,....,T_n)=

будет являться достаточной статистикой.

Пример 2. В теории надежности широкое распространение при расчетах получил экспоненциальный закон распределения. Пусть T, T₂,..., T_n - выборка наработок до отказа, подчиняющаяся экспоненци­альному закону распределения с неизвестным параметром X. Совмес­тная плотность распределения/^; X) выборки T_v T₁, ...,T_n задается фор­мулой

ж,T₂,...,T_n-X)=X" ехр -XjT_i L

_Л 1 п

Введем обозначение Tn = -JT_i. Откуда следует ” ¹⁼¹

fn(Ti>T₂,...,T_n;X) = Xⁿ ехр(-Хмп).

В данном выражении совместная плотность зависит только от величи­ны т, которая является для экспоненциального закона распределения

достаточной статистикои.

Из примеров 1 и 2 видно, что имеется достаточная статистика, ко­торую можно представить одной или двумя скалярными функциями от результатов наблюдения {T_v T₁, ..., TJ. Независимо от объема выбор­ки наблюдаемой случайной величины размерность достаточной стати­стики одна и та же. Обработка результатов наблюдений и анализ ха­рактеристик сложной системы существенно упрощаются, если наблю­дения описываются функцией распределения, обладающей достаточ­ной статистикой фиксированной размерности.