Software & Systems

При проведении различного рода исследований зачастую приходится прибегать к обработке больших массивов однородной информации. При этом объем выборки может достигать огромных размеров, и оперировать им становится не очень удобно. Если в условиях конкретной задачи можно исходить из предположения о том, что данная выборка распределена по какому-либо закону, пусть даже нам неизвестному, то в таком случае можно перейти от хранения информации в виде числовых массивов к хранению по закону распределения числового ряда.

Кроме аппроксимации функций многочленами в последнее время все больше внимания уделяется приближению функций многих переменных с помощью линейных операций и суперпозиций функций одного переменного. Такое приближение осуществляется специальными формальными «устройствами» – нейронными сетями.

Возможность использования в качестве универсального аппроксиматора радиально-базисной нейронной сети (RBF) обосновывается с помощью теоремы об универсальной аппроксимации [1]. Аппроксимирующее выражение для RBF-сети может быть записано в виде

,                         (1)

где jk(x, a1, …, an) – семейство базисных функций; a1, …, an – набор неизвестных параметров базисной функции, которые настраиваются в процессе обучения; wk – весовые коэффициенты RBF-сети [2]. Проблему подбора параметров базисных функций и значений весов wk сети можно свести к минимизации целевой функции [2], которая записывается в форме

.             (2)

Чаще всего в качестве радиальной функции применяется функция Гаусса. В одномерном случае при размещении ее центра в точке ck она может быть определена [2] как

.                                            (3)

В разработанном программном комплексе аппроксимации законов распределения (Свид. о гос. регистр. прогр. для ЭВМ № 2011611521 от 16.02.2011, авторы Прохоров С.А., Лёзин И.А., Лёзина И.В.) в качестве узлов сети используются не только классические радиально-базисные функции, но и сигмоидальные функции:

;

степенные функции:

;

ортогональные полиномы Лежандра:

,

;

Чебышева I рода:

;

Чебышева II рода:

;

Лагерра:

;

Эрмита:

,

.

При использовании имитационного моделирования для генерации входных данных есть возможность оценить среднее квадратическое отклонение аппроксимации относительно теоретической плотности вероятности:

.                                      (4)

Согласно методике, изложенной в [3], в качестве метрологической характеристики можно выбирать максимальное значение модуля погрешностей оценки:

,                                        (5)

где S – число испытаний, зависящее от доверительной информации PД. Так, если PД=0,95, то число испытаний равно 29 независимо от закона распределения погрешностей.

Рассмотрим примеры различных плотностей вероятности и возможности RBF-сетей для их аппроксимации. В качестве базисных функций возьмем сигмоидальные, радиальные, степенные функции, а также полиномы Лежандра, Чебышева I и II рода, Лагерра и Эрмита. Объем каждой выборки N=10 000, число дифференциальных коридоров M=20, количество нейронов в скрытом слое K=5, K=10, K=15. На рисунке представлен результат аппроксимации плотности вероятности RBF-сетью.

В таблице приведены значения максимума для среднего квадратического отклонения для всех указанных выше базисов при числе испытаний, равном 29, и различном количестве нейронов в скрытом слое.

Значения максимума для среднего квадратического отклонения аппроксимации плотности вероятностей Симпсона и Рэлея RBF-сетью

Аппроксимация плотности вероятности Симпсона ортогональными полиномами Лежандра RBF-сетью (K=15)

Исследования показали, что использование для аппроксимации плотности распределения вероятности RBF-сетей c сигмоидальными, степенными функциями, а также полиномами Лежандра, Чебышева I и II рода, Лагерра и Эрмита дало результаты не хуже, чем при использовании традиционных радиально-базисных сетей.

Литература

1.     Хайкин С. Нейронные сети: полный курс. 2-е изд.; [пер. с англ.]. М.: Издат. дом «Вильямс», 2006. 1104 с.

2.     Осовский С. Нейронные сети для обработки информации; [пер. с польск. И.Д. Рудинского]. М.: Финансы и статистика, 2002. 344 с.

3.     Методы нормирования метрологических характеристик, оценки и контроля характеристик погрешностей средств статистических измерений. РТМ 25139-74. М.: Минприбор, 1974.

4.     Прохоров С.А. Аппроксимативный анализ случайных процессов. Самара: СГАУ, 2001. 329 с.