2.1. Элементы нейронных сетей

В нейроинформатике выработана специальная "схемотехника", в которой элементарные устройства – сумматоры, синапсы, нейроны и т.п. объединяются в сети, предназначенные для решения задач [6,9].

Самый заслуженный и, вероятно, наиболее важный элемент нейросистем – это адаптивный сумматор. Адаптивный сумматор вычисляет скалярное произведение вектора входного сигналаxна вектор параметров. На схемах будем обозначать его так, как показано на рис.1. Адаптивным называем его из-за наличия вектора настраиваемых параметров. Для многих задач полезно иметь линейную неоднородную функцию выходных сигналов. Ее вычисление также можно представить с помощью адаптивного сумматора, имеющегоn+1 вход и получающего на 0-й вход постоянный единичный сигнал (рис.2).

Нелинейный преобразователь сигналаизображен на рис.3. Он получает скалярный входной сигналxи переводит его в(x).Точка ветвления служит для рассылки одного сигнала по нескольким адресам (рис.4). Она получает скалярный входной сигналxи передает его всем своим выходам.Стандартный формальный нейронсоставлен из входного сумматора, нелинейного преобразователя и точки ветвления на выходе (рис.5).Линейная связь ‑ синапс– отдельно от сумматоров не встречается, однако для некоторых рассуждений бывает удобно выделить этот элемент (рис.6). Он умножает входной сигналx на "вес синапса".