Software & Systems

Искусственные нейронные сети (ИНС) являются видом математических моделей, которые строятся по принципу организации и функционирования их биологических аналогов – сетей нервных клеток (нейронов) мозга. В основе построения лежит идея о том, что нейроны можно моделировать довольно простыми автоматами (называемыми искусственными нейронами), а вся сложность мозга, гибкость его функционирования и другие важнейшие качества определяются связями между нейронами.

К задачам, успешно решаемым нейросетями на данном этапе их развития, относятся:

-    распознавание зрительных, слуховых образов (от распознавания текста и целей на экране радара до систем голосового управления);

-    ассоциативный поиск информации и создание ассоциативных моделей, синтез речи, формирование естественного языка;

-    формирование моделей и различных нелинейных и трудно описываемых математически систем, прогнозирование развития этих систем во времени (применение на производстве, прогнозирование развития циклонов и других природных процессов, прогнозирование изменений курсов валют и других финансовых процессов);

-    системы управления и регулирования с предсказанием; управление роботами, другими сложными устройствами;

-    разнообразные конечные автоматы (системы массового обслуживания и коммутации, телекоммуникационные системы);

-    принятие решений и диагностика, исключающие логический вывод, особенно в областях, где отсутствуют четкие математические модели (медицина, криминалистика, финансовая сфера).

Уникальное свойство нейросетей – универсальность. Благодаря универсальности и перспективности для решения глобальных задач, например, построения ИИ и моделирования процесса мышления, нейросети являются важным направлением исследования, требующим тщательного изучения.

Этапы обучения сети

Инициализация. Весовым коэффициентам и смещениям сети присваиваются малые случайные значения из диапазонов (Wmin, Wmax) и (dWmin, dWmax) соответственно.

Определение элемента обучающей выборки: (<текущий вход>, <желаемый выход>). Текущие входы (x0, x1, ..., xN-1) должны различаться для всех элементов обучающей выборки. При использовании многослойного персептрона в качестве классификатора желаемый выходной сигнал (d0, d1, ..., dN-1) состоит из нулей, за исключением одного единичного элемента, соответствующего классу, которому принадлежит текущий входной сигнал.

Вычисление текущего выходного сигнала. Данный сигнал определяется в соответствии с традиционной схемой функционирования многослойной нейронной сети.

Настройка синаптических весов. Для настройки весовых коэффициентов используется рекурсивный алгоритм, который сначала применяется к выходным нейронам сети, а затем проходит сеть в обратном направлении до первого слоя. Синаптические веса настраиваются в соответствии с формулой Wij(t+1) = Wij(t)+rgjxi, где wij – вес от нейрона i или от элемента входного сигнала i к нейрону j в момент t; xi – выход нейрона i или i-й элемент входного сигнала; r – шаг обучения; gj – значение ошибки для нейрона j.

Если нейрон с номером j принадлежит последнему слою, то gj=yj(1-yj)(dj-yj), где dj – желаемый выход нейрона j; yj – текущий выход нейрона j.

Если нейрон с номером j принадлежит одному из слоев с первого по предпоследний, то gj=x¢j(1- -x¢j)∑gk wjk, где k пробегает все нейроны слоя с номером на единицу больше, чем у того, которому принадлежит нейрон j.

Внешние смещения нейронов настраиваются аналогичным образом.

Рассмотренная модель может использоваться для распознавания образов, классификации, прогнозирования. Были попытки построения экспертных систем на основе многослойных персептронов с обучением по методу обратного распространения.

У этой модели нейронной сети есть недостатки. Многокритериальная задача оптимизации в методе обратного распространения рассматривается как набор однокритериальных – на каждой итерации изменяются значения параметров сети, улучшающие работу лишь с одним примером обучающей выборки. Такой подход существенно уменьшает скорость обучения.

Классический метод обратного распространения относится к алгоритмам с линейной сходимостью. Для увеличения скорости сходимости необходимо использовать матрицы вторых производных функции ошибки.

Несмотря на недостатки, обратное распространение – первый эффективный алгоритм обучения многослойных нейронных сетей, один из самых популярных алгоритмов обучения, с его помощью были решены и решаются многочисленные практические задачи.

Алгоритм обратного распространения – это итеративный градиентный алгоритм, используемый с целью минимизации среднеквадратичного отклонения текущего выхода многослойного персептрона и желаемого выхода.

Он используется для обучения многослойных нейронных сетей с последовательными связями. Нейроны в таких сетях делятся на группы с общим входным сигналом – слои. На каждый нейрон первого слоя подаются все элементы внешнего входного сигнала. Все выходы нейронов m-го слоя подаются на каждый нейрон слоя m+1. Нейроны выполняют взвешенное суммирование элементов входных сигналов. К сумме элементов входных сигналов, помноженных на соответствующие синаптические веса, прибавляется смещение нейрона. Над результатом суммирования выполняется нелинейное преобразование – функция активации (передаточная функция). Значение функции активации есть выход нейрона.

Для разработки и проверки алгоритма обратного распространения ошибки была разработана модель на MS Excel (рис. 1).

Модель опробована на примере решения стандартной задачи вычисления значений функции XOR. Поэтому в исходном файле задается обучающая выборка (см. табл.).

Вычисления значений функции XOR

В результате работы программы, которая состоит из 4 обработчиков, на Visual Basic For Applications в MS Excel моделируются процессы обучения сети, для которых исходные данные выбраны в соответствии с заданными отклонениями. Результаты работы показали хорошую сходимость использованного алгоритма обучения.

Разработанная библиотека классов (рис. 2) использована для моделирования нейросети и ее обучения решению задачи «Функция XOR».

Результаты обучения (изменение весов связей) записывались в файл. По этим результатам построен график в MS Excel (рис. 3).

Аналогичный процесс обучения для тех же исходных данных смоделирован средствами Visual Basic. Результаты также представлены на графике (рис. 4).

Сравнение графиков позволяет сделать вывод о полной идентичности двух представленных моделей.

Решения прикладных задач

Методы решения прикладных задач с использованием технологии нейросетей находят широкое применение в различных областях науки и техники.

Одной из сфер, где использование нейронных технологий перспективно, является диагностика и прогнозирование нештатных ситуаций в сложных технических системах [1]. Таковыми являются системы управления работой буровых установок, обеспечивающие выполнение основного производственного процесса в жизненно важных отраслях (добыча нефти и газа) [2].

В данной работе задача выявления предаварийных ситуаций на буровой формализуется как совокупность следующих подзадач:

·     определение состава информационных признаков, необходимых для анализа текущей ситуации на буровой и надежного предсказания приближения аварийной ситуации;

·     определение структуры нейросети, необходимой для анализа выбранных признаков и формирования на выходе сигнала, предупреждающего о возможности возникновения аварии или о факте ее возникновения;

·     разработка программного комплекса, реализующего разработанную структуру нейросети и обучение этой сети на реальных данных, описывающих нормальные режимы работы буровой и различного рода аварии;

·     разработка средств сопряжения программного комплекса с информационной подсистемой системы управления работой буровой установки и определение способов использования результатов, выдаваемых программным комплексом, для принятия решений по управлению работой буровой.

Для анализа аварийных ситуаций первоочередной является задача распознавания состояния буровой, соответствующего определенному этапу технологического процесса, по имеющимся показаниям датчиков. На рисунке 5 показан график изменения состояний буровой вместе с графиком изменения одного из измеряемых параметров, в качестве которого выбран вес на крюке тальблока. Даже при беглом анализе графиков можно сделать вывод о взаимосвязи этих величин.

Для автоматизации решения задачи отбора наиболее информативных признаков для обучения нейросети распознаванию состояний буровой разработан программный комплекс, использующий ранее разработанную авторами библиотеку классов на языке С++ в среде программирования Borland C++ Builder.

Тестирование разработанной программы показало, что доля правильно распознанных векторов обучающей выборки составила от 0,75 до 0,88 для различных состояний буровой.

Литература

1.   Абу-Абед Ф.Н. Нейросетевые модели при проектировании технологии производства // Математ. и компьютер. моделирование естественно-научных и социальных проблем: сб. стат. II Междунар. науч.-технич. конф. молодых специалистов, аспирантов и студентов. Пенза: «Приволжский дом знаний», 2008. С. 133–135.

2.   Лукьянов Э.Е., Стрельченко В.В. Геолого-технологи­ческие исследования в процессе бурения. М.: Нефть и газ, 1997. 688 с.

3.   Каллан Р. Основные концепции нейронных сетей. М.: Издат. дом «Вильямс», 2001. 288 с.

4.   Люггер ДЖ. Ф. Искусственный интеллект: стратегии и методы решения сложных проблем. М.: Издат. дом «Вильямс», 2003.

5.   Заенцев И.В. Нейронные сети: основные модели: учеб. пособие. Воронеж, 1999. 76 с.