3.1.4 Задача аппроксимации

Одним из самых замечательных свойств нейронных сетей является способность аппроксимировать и, более того, быть универсальными аппроксиматорами. Сказанное означает, что с помощью нейронных цепей можно аппроксимировать сколь угодно точно непрерывные функции многих переменных.

Нейросетевые алгоритмы аппроксимации экспериментальных данных считаются лучшими. Они основываются на теоретических исследованиях А.М.Колмогорова, где доказано, что любую функцию многих переменных можно смоделировать двухслойной нейронной сетью с прямыми связями с n нейронами входящего слоя, (2n+1) нейронами скрытого слоя, m нейронами выходного слоя с функциями активации f, которые должны быть непрерывными и дифференцируемыми в области определения. Этим требованиям отвечают сигмоидальные функции.

Математическая модель двухслойной сети имеет вид: ,

где a_k, b_km, c_mi – синаптические коэффициенты, f₁, f₂, f₃ – передаточные функции слоев (функции активации).