Вероятностная классификация

При статистическом распознавании образов оптимальный классификатор относит образец x_J. к классу С, руководствуясь решающим правилом Байеса. Для двух классов оно выглядит так:

V отнести хК к С\, если р{с.I.I}>р{с21 хК}, V отнести f к С2, если Р{С. I.I}< Р{С2 I хК }.

Смысл правила простой: образец f относится к группе, имеющей наи­большую апостериорную вероятность. Это правило оптимально в том смыс­ле, что оно минимизирует среднее число неправильных классификаций. Ес­

ли имеется такая пара функций {<PJ(X)' q>z(x)}, что выполнены условия:

<р\(Х)< <Р2(х), если p{c1Ix} < Р{С2 I х },

<Р2(Х» <Р.(Х), если Р{С\ I х}> Р{С2 I х },

то байесовское соотношение между априорной и апостериорной вероятно­стью сохраняет силу, и поэтому эти функции можно использовать в качестве упрощенных решающих функций. Так имеет смысл делать, если эти функции строятся и вычисляются более просто.

Хотя правило выглядит очень простым, применить его на практике ока­зывается трудно, так как бывают неизвестны апостериорные вероятности (или даже значения упрощенных решающих функций). Их значения можно оценить. В силу теоремы Байеса апостериорные вероятности можно выразить через априорные вероятности и функции плотности по формуле Р {С;

Ix} = Р{ С; }Р{х I С; ~ Р{ Cj }Р{х I Cj},

где j - номер класса. Таким образом, правило Байеса для произвольного числа классов принимает вид:

V отнести х к С; ,если Р{х I С; }Р{ С; } >Р{х I Cj }Р{ Cj) для Bcex j::i:i.