logo
МИРЭА / Методичка_2010 / Методичка_2010

*Связь с байесовским распознаванием

Модель нейрона, состоящая из сумматора и нелинейной, но непрерывной и гладкой монотонной функции (сигмоиды) замечательно соответствует байесовскому правилу для объединения независимых однородных свидетельств. Это легко показать в частности в случае, если анализируются события двух видов (т.е. входы нейрона принимают два возможных значения), голосующие соответственно с вероятностью pиqв пользу двух альтернативных гипотез (один выход нейрона, принимающий значения от 0 до 1, соответствующие вероятности гипотезыH, тестируемой против гипотезы «неH»=HС).

Пусть нейрон имеет nвходов (nголосующих событий). Пусть теперь в конкретном экспериментеkизnвходов имеют значение 1, а остальные – значение 0. В этом случае по теореме Байеса мы получим оценку

P(H/(k,n)) = P(H)pkq(n-k)/(P(H)pkq(n-k)+ P(HC)p(n-k)qk),

что при изменении k=0..nдает замечательный симметричный график сигмоиды.