При решении слабоструктурированных задач, таких как задачи принятия решений по созданию безопасных условий труда, возникают существенные трудности в использовании чисто математических моделей, когда целесообразность решений и их качество во многом определяются опытом и знаниями работника, принимающего решения. Более того, применяемые в системном анализе математические модели, реализуемые в виде специализированных пакетов прикладных программ, часто связаны с большими объемами разноплановой информации (параметров, ограничений), сбор которой в реальных производственных условиях организовать крайне трудно или просто невозможно. Особые трудности вызывает учет в моделях постоянных структурных изменений воздействующих факторов и производственных условий, в которых формируется то или иное состояние безопасности труда.

Существующие формальные средства анализа решений отличаются высокой трудоемкостью модификации, требуют использования множества факторов: нормативный характер модели не учитывает меняющуюся специфику конкретного производства. Системы поддержки решений, основанные на использовании имитационных моделей, оптимальны только в искусственных областях, не существующих в реальной жизни. Решение, направленное на повышение безопасности и улучшение условий труда, выбираемое специалистом по результатам работы с формальными моделями, не обладает необходимой эффективностью, не учитывает текущей неопределенности производства и, как правило, ему непонятно.

Из систем, основанных на знаниях, наиболее развитыми, обладающими возможностями эффективного решения широкого спектра информационно-технологических задач организации безопасного производства являются экспертные системы (ЭС). Классификация систем, использующих знания, по отношению к экспертным системам приведена на рисунке 1. В числе важных отличительных особенностей ЭС можно выделить переработку больших объемов знаний, представление знаний в доступной унифицированной форме, универсальность механизма логических выводов, способность объяснить результаты обработки знаний.

ЭС применяется для снижения трудоемкости и повышения эффективности использования формальных моделей, поддерживает эволюционизирующие модели в развивающейся среде решений по созданию безопасного производства, освобождает специалиста по охране труда (СОТ) от этой громоздкой задачи и предупреждает ошибки при ее решении. Система организует выбор модели для любого специфического использования путем многократных итераций.

Каждый компонент системы анализа и поддержки решений, базирующийся на формальных моделях, может быть усилен встроенной ЭС, генерирующей эвристические правила, устраняющие трудоемкий процесс ввода многочисленных параметров, повышающие чувствительность и качество управления моделями с помощью диалогового компонента, организующие пояснение решаемой задачи, рассмотрение большого числа альтернатив и оценку ожидаемого эффекта. В базе моделей, реализующих эконометрический анализ, прогнозирование, имитационное моделирование, оптимизацию, использование специальных моделей, для применения выбираются именно те модели, которые являются наиболее подходящими для решения данной задачи, существенно улучшают возможности СОТ, принимающего решения. В свою очередь, формальные модели обеспечивают ЭС стандартными приемами и улучшают процесс структуризации задач экспертизы. ЭС могут использовать имитационные модели для формирования стратегии поиска, сопровождающейся обоснованиями и объяснениями, динамическими процессами визуального решения задачи. В формальных системах интеллект сосредоточен у пользователя, в экспертных – в ПЭВМ [1,2].

Интегрированные ЭС объединяют и усиливают возможности формальных и экспертных технологий, решают задачи, не поддающиеся обычному алгоритмическому описанию в быстро меняющейся и неограниченной проблемной области охраны труда. Средствами ЭС реализуются процедуры улучшения "жестких" моделей поддержки решений по обеспечению безопасности производства, актуализируется система поддержки решений, включая создание гибкой сети ответов не только на вопросы "что, если?", но и "почему?".

При поиске решений и их оценке используются подходы, имитирующие действия работников, организующие обработку информации аналогично обработке, производимой человеком, что возможно в среде гибких и адаптивных ЭС, результаты функционирования которых легко воспринимаемы, без особого труда оцениваются пользователем, повышают его продуктивность и эффективность принимаемых решений. ЭС поддерживает решения работающего с ней СОТ, а не заменяет его.

Функциональные элементы. В самом общем случае под ЭС обеспечения безопасности производства (ЭС ОБП) будем понимать систему накопления и обработки информации по созданию безопасных условий труда, включающей знания, при обязательном участии экспертов в процедурах формализации и обработки знаний для решения сложных, недостаточно определенных задач. ЭС ОБП рассматривается как система машинных логических рассуждений, выдающая окончательные решения с применением правил, отражающих опыт и знания специалистов по охране труда.

ЭС ОБП может быть представлена в виде совокупности целевых ЭС, моделирующих деятельность специалиста по охране труда в узкой предметной области при решении определенной задачи, сочетая информационно-справочные функции с функциями принятия решений с использованием средств гибкого диалога пользователя с системой. В обобщенной ЭС ОБП знания представляются фактами, фиксирующими количественные и качественные показатели состояния безопасности труда, характеристики несчастных случаев, производственных заболеваний, состояния того или иного производства, демографические характеристики работников и т.п., и правилами, описывающими в виде логических условий соотношения между фактами.

ЭС ОБП и каждая из входящих в нее локальных (целевых) ЭС могут быть представлены в виде трех подсистем: базы знаний, процедуры принятия решений и интерфейса пользователя (рис. 2).

При более детализированном описании могут быть выделены компоненты: приобретения знаний, обеспечивающие ввод знаний в соответствии с установленной процедурой тестирования; диалога, организующие взаимодействие с пользователем; объяснения, поддерживающие доверие пользователя к результатам вывода и инициирующие отладку знаний; базы знаний, содержащие знания о решении задач и факты о конкретных ситуациях при обеспечении безопасности производства; рабочей памяти, включающие данные о текущем состоянии безопасности условий труда в определенном производстве в виде значений атрибутов объектов [3].

В информационно-справочном режиме ЭС реализует консультационные, диагностические функции, включая обучение, объяснение и планирование действий с пассивной ролью пользователя при определении решения для однозначно описанной ситуации. В этом режиме организуется передача пользователю имеющихся знаний в соответствии с некоторой методикой или подсказка при возникающих затруднениях, диагностирование совместно с пользователем тех или иных ситуаций, прогнозирование и ретроспективный поиск. База знаний системы в таком режиме является замкнутой, процедура принятия решений содержит встроенные функции, которыми управляет некоторый жесткоструктурированный пользовательский интерфейс, и не требуются никакие специальные знания пользователя.

В режиме принятия решений организуется поиск высококачественных решений в недостаточно определенной ситуации с активной ролью СОТ при чередовании двух процедур: извлечения знаний и их предъявления. Работа системы в таком режиме рассчитана на специалистов достаточно высокой квалификации, система выполняет роль специфического инструмента СОТ, снабжает пользователей разнообразной информацией, осуществляет различные расчеты, производит традиционную обработку данных, обработку графического и гипертекстового представления данных, формирует альтернативные решения, повышая эффективность работы СОТ.

База знаний ЭС ОБП – совокупность интегрированных знаний, включающих наряду со знаниями аргументации в виде фактов, правил и комментариев другие типы знаний, такие, как базы данных, электронные таблицы, тексты, графики, процедурные модели, графические представления и др. Факты базы знаний представляют информацию о состоянии производственного травматизма, заболеваемости и условий труда на рабочем месте. Правила имеют эвристический характер и устанавливают ситуационные, концептуальные и причинные взаимосвязи между фактами, а также содержат знания о том, какое решение принимать, как рассуждать в определенной ситуации. Для создания набора правил необходимо определить сами конкретные правила и выявить знания применения этих правил. Комментарии используются для объяснения конкретному пользователю хода рассуждений ЭС при получении того или иного заключения. В качестве одного из основных требований к ЭС ОБП рассматривается мотивированность, обоснованность заключений системы. Тщательная формулировка комментариев имеет особое значение для изучения опыта квалифицированных экспертов и профессионального обучения работников.

Правила в БЗ БП имеют вид правил-вопросов для получения информации из внешних источников, арифметических, правил нечеткой логики, байесовских. С помощью правил-вопросов вводятся данные, необходимые для ведения расчетно-логических операций в конкретной ситуации, арифметические правила используются для вычисления числовых атрибутов, правила нечеткой логики обеспечивают ввод значений символьных атрибутов с учетом неточности входной информации и (или) знаний, байесовские правила позволяют установить в зависимости от влияния разных факторов с различной значимостью коэффициент определенности утверждений. Расчетные правила описывают условия применения расчетных методов путем обращения к внешним процедурам или к табличной информации. В общем случае правилами реализуются операции управления базой данных и знаний, стандартными запросами информации, операциями с числами, моделями, удаленными связями, графическими образами и др. Для всех видов правил структура условия применимости одинакова.

Хотя база знаний должна быть детально исчерпывающей, ее следует ограничивать, учитывая степень важности фактов и правил, требующихся для достижения поставленных целей.

Целевые ЭС включают базы знаний, наполняемые в зависимости от особенностей конкретных производственных процессов с учетом специфики различных предприятий и организаций и содержащие набор решений и мероприятий, используемых специалистами в их профессиональной деятельности при обеспечении безопасного производства.

Фактографическая информация (факты), содержащая сведения о состоянии безопасности и условий труда, хранится в виде списков в базе данных реляционного типа. Каждая запись рассматривается как реализация события – несчастного случая, заболевания, конкретного состояния условий труда. Совокупность фактов в виде значений атрибутов, извлекаемых из базы или получаемых от специалиста, используется в процедурах поиска и принятия решений.

Наиболее целесообразную и относительно простую и строгую форму описания знаний о состоянии и организации безопасного производства представляют продукционные модели, обладающие модульностью, легкостью расширения и модификации и психологической воспринимаемостью. Эти модели могут быть реализованы как процедурно, так и декларативно.

Под продукционной системой понимают метод формализации знаний в виде организованного множества правил типа "ЕСЛИ...ТО", раскрывающих наполнение структуры "Условие–Действие", в которой условия отражают состояние некой базы данных, а действия – содержание операций, производимых при наличии установленного состояния. Информационная структура, подлежащая преобразованию, представляет некоторое декларативное знание, а правила-продукции – процедурные знания о предметной области.

Правила БЗ БП в самом общем случае имеют вид ЕСЛИ <логическое выражение>, ТО <текст процедуры> [комментарий]. Часть "ЕСЛИ" строится как логическая комбинация некоторых объектов и событий и характеризует условия применимости правила (значение логического выражения больше 0), часть "ТО" представляется как список работ, которые необходимо выполнить при принятой логической комбинации фактов или ее изменении, и концентрирует действия, производимые системой при поиске решений. Комментарии используются для формирования объяснений.

Связь между фактами в БЗ БП представляется правилами, каждое из которых состоит из двух частей: предпосылки ("ЕСЛИ") и заключения ("ТО"). И предпосылка, и заключение есть факты базы знаний, описанные парами "объект–значение". Смысл правила в том, что если верна предпосылка, то верно и заключение. Простейшая структура правила может быть представлена в виде: если ПРЕДПОСЫЛКА, то ЗАКЛЮЧЕНИЕ. Правила могут иметь более сложную структуру, например: "ЕСЛИ А и В и С и Правило N, то К и L и М".

Процедура принятия решений (вывода) является главным механизмом в ЭС, осуществляющим поиск сведений в базе знаний и получение по правилам рациональной логики затребованных решений. Механизм вывода, состоящий из программных средств, реализует рассуждения, требующиеся для принятия решения, и при необходимости объясняет их последовательность. Механизм вывода реализует установленную схему поиска решений, последовательность и содержание действий в соответствии со стратегией, описываемой определенной частью знаний метауровня. Производится выбор модулей БЗ БП, относящихся к рассматриваемой ситуации, что обеспечивает сокращение пространства поиска за счет рассмотрения только активных, потенциально подходящих к ситуации модулей и данных.

Окончательное заключение системы формируется в процессе анализа дерева решений и является совокупностью элементарных решений по отдельным гипотезам. Пользователь может изменить свое решение, выбрать другой способ и получить оценку его целесообразности. После принятия пользователем окончательного решения система оценивает его эффективность в среде принятых показателей.

В процессе поиска решений используются режимы свободного ввода данных и ввода по запросу. Режим свободного ввода данных инициируется пользователем при необходимости воздействия на процедуры поиска. Вводимые данные могут относиться к любому узлу вычислительной сети, помещаться в любые соответствующие места в дереве решений. В режиме по запросу система осуществляет выбор вопросов согласно заданному контексту (цели поиска), отвечая на которые пользователь увеличивает полноту данных расчетных процедур. При выборе вопросов предусмотрена специальная процедура с применением функции качества, учитывающая степень легкости ответов и степень их влияния на окончательное решение; рассматривается возможность отсутствия ответов на вопросы.

Чтобы функционирование ЭС ОБП наиболее полно имитировало действия СОТ при принятии решений и ее работа была ему понятна, механизм вывода должен наиболее точно воспроизводить процесс принятия решения специалистом. Для достижения большей полноты имитации профессиональных действий СОТ применяются текстово-графические представления динамики развития ситуаций принятия решений, рассматриваемые в качестве некоторых декларативных структур, включающих графические примитивы и способы их соединения в завершенные образы. Динамический образ строится как последовательность меняющихся статических картин в результате производимых действий с особым сопровождением тенденций к нештатному (аварийному) изменению состояния ситуации путем трансформации образа с сохранением целостности и адекватности восприятия картины и с выдачей информации и рекомендаций по принятию решений [4].

Интерфейс пользователя организует взаимодействие между системой и пользователем для решения поставленной задачи. В зависимости от потребностей и возможностей пользователя предусматривается гибкая настройка интерфейса, управляющая формой и содержанием взаимодействия, воспроизводящая привычные способы манипулирования информацией.

Технология построения. Построению ЭС ОБП должно предшествовать точное знание пользы ее применения. Для этого необходимо сформулировать правильные цели, дающие возможность выбора точных задач и, следовательно, получения полезных решений. Должны быть определены назначение и место ЭС в организации безопасного производства, периодичность ее использования, характер требующейся от пользователей информации и степень взаимодействия с ними в процессе консультации, скорость выдачи типичных консультаций, время, связанное с принятием решения. Целесообразность применения ЭС ОБП, степень и глубина наполнения ее базы знаний для решения поставленной проблемы определяются эффективностью воздействия системы на организацию безопасных условий труда как обеспечивающей части производства. Если эффективность не превышает величины материальных вложений, то разработка ЭС ОБП данной конфигурации неоправданна.

Цели ЭС ОБП могут быть разделены на три типа: конечные, промежуточные и вспомогательные. Конечная цель системы – создание интеллектуально-информационной среды, эффективно воздействующей на организацию безопасного производства. Промежуточные цели системы подразделяют общую проблему на подзадачи, подпроблемы, которые должны быть решены при реализации конечной цели и могут потребовать для своего решения отдельных или изолированных систем знаний. К их числу относятся такие, как совершенствование состояния безопасности труда, снижение уровня заболеваемости, нормализация условий труда на рабочих местах и т.п.

Вспомогательные цели определяют конкретные области экспертизы, и для решения перечисленных задач (промежуточных целей) требуется их совместное достижение. Каждая вспомогательная цель предполагает наличие в базе знаний ряда связанных задач.

Опыт создания ЭС подтверждает, что пользователям-специалистам легче критиковать, тестировать работающую систему, чем формулировать требования к ее построению, создателям системы легче корректировать и дополнять существующие факты и правила, нежели проводить разработку в окончательном варианте. Функциональная структура процесса разработки автоматизированного рабочего места (АРМ) СОТ, программным наполнением которого является совокупность целевых ЭС, приведена на рисунке 3.

Технология построения ЭС ОБП может быть организована в виде последовательности типичных циклов повторяющихся работ, в состав которых входят определение задачи, создание набора правил, тестирование, разработка интерфейса пользователя, тестирование пользователя, инсталляция. Построение прототипа ЭС производится в результате выполнения первого цикла работ. Каждое последующее повторение цикла улучшает состояние предшествующего, расширяя при этом набор правил, корректируя процедуру вывода и приближая систему к общим целям проекта. Многократные повторения цикла разработки образуют некую спираль, продвижение вверх по которой может привести к изменению целей с учетом накопленного в процессе построения системы опыта (рис. 4). Все блоки поддержки в процессе построения ЭС ОБП связаны друг с другом, что позволяет при работе в одном режиме обращаться к другому.

На этапе спецификации задач выявляется наиболее полный перечень проблем, которыми пользователь оперировал ранее и которые предполагается решать с использованием ЭС. В качестве задач, решаемых ЭС ОБП, рассматриваются основные задачи, поставленные перед АРМ СОТ.

На следующем этапе проводится спецификация правил, трансформирующих входные данные в требуемый результат. Набор правил уточняется и увеличивается по мере рассмотрения конкретных примеров или построения обобщенных шаблонов рассуждения с подробным объяснением логики получения решения.

На первом этапе отладки правила удобно считать независимыми, хотя они редко бывают независимы друг от друга, и на последующих этапах необходимо стремиться к учету этих зависимостей, исключая ошибочность, противоречивость, неполноту правил. Неверная предпосылка правила может привести к его использованию в неподходящем контексте. Если ошибочно действие правила, то трудно предсказать конечный результат его применения вследствие некорректности условия и действия правила. Необходимо последовательно вводить специальные правила, препятствующие образованию ошибочных комбинаций с расстановкой различных коэффициентов, характеризующих определенность и качество правил.

На этапе тестирования выявляются неточности, неполнота и противоречия в наборе правил, расхождения между решениями и обоснованиями системы и эксперта, системы и конечного пользователя.

К началу этапа разработки интерфейса пользователя необходимые знания аргументации должны быть корректно размещены в наборах правил. Конструкция интерфейса определяется характером запросов пользователя и возможностями средств его разработки и должна включать систему меню, подсказок и сообщений с детальной спецификацией используемой терминологии, расположения информации на экране, применения различных цветов, позволяющую пользователю управлять механизмом вывода, получать консультации и решения и отслеживать процесс их получения. Могут быть индивидуализированы стандартные текстовые описания в конкретных правилах, скорректирована последовательность использования правил.

Решения, выдаваемые ЭС, определяются как разработанным набором правил, так и способом его логической обработки, используемым в механизме вывода. При решении одной и той же задачи с одинаковым набором правил в случае применения разных последовательностей правил могут быть получены различные решения.

Инсталляция – последний этап цикла разработки, заключающийся в генерации ЭС ОБП на АРМ СОТ. За первой инсталляцией, как правило, организуется следующий цикл по спирали разработки, в рамках которого описывается расширенный набор задач новой ЭС, более углублено специфицируется и тестируется набор правил, пользовательский интерфейс, производятся инсталляции и при необходимости осуществляется переход к следующему циклу разработки.

В ЭС ОБП процедура принятия решений – механизм вывода – представляет программный комплекс обработки БЗ БП с использованием фактов этой базы для решения поставленной задачи методом обратной цепочки. Реализуется стратегия поиска от целей (или от данных) в обратном направлении – от искомого конечного состояния к начальным условиям с анализом правил, которые могут привести к поставленной цели.

Основой процедуры является управляющая структура метаправил, позволяющая разбивать исходную задачу на подзадачи, решать их независимо и планировать последовательность решения в среде выделенных модулей знаний, в которых правила разбиваются на классы и в каждый текущий момент механизм вывода работает с одним классом.

В рабочей памяти определяется наличие ситуации-объекта-цели, соответствующей предпосылке правила. Затем перебирается список правил для определения правила, содержащего в своей правой части объект-цель, то есть ведется поиск заключения правила, содержащего заданный объект-цель. После того как правила найдены, строится обратная цепочка для проверки фактов каждой предпосылки (и так до тех пор, пока подходящие правила не будут исчерпаны). При поиске правил применяются указатели заключений и указатели предпосылок правил, учитываются их коэффициенты определенности с помощью механизма нечетких рассуждений, осуществляется выбор оптимального по заданному критерию.

В процессе функционирования знания в ЭС ОБП используются в двух уровнях: нижнем – в виде прикладных программ, включающих соответствующие математические методы (то есть жесткие формальные модели), и верхнем – в виде экспертных знаний, выраженных системой правил (то есть мягкие модели). Продукционные правила согласно заданной процедуре вызывают для исполнения некоторый математический метод, обеспечивая интерактивную интерпретацию результатов с контролем действий пользователей и поддержку внутренней непротиворечивости выполнения зависимых действий.

Для представления всех возможных планов распределения профилактических мер (ресурсов) и решений по обеспечению безопасности производства используется дерево распределений (решений), каждый уровень которого описывает различные виды решений в рассматриваемой ситуации. Любой возможный план распределения мероприятий и действий соответствует определенному пути, который следует пройти от корня дерева (назначенной цели) через различные его ветви. Принятию решений предшествует анализ, заключающийся в определенной формализации и качественном обосновании решения, выполняемом на интуитивном уровне лицом, принимающим решение с точки зрения наиболее предпочтительных последствий.

В общем случае консультация рассматривается как последовательность сеансов целенаправленно задаваемых системой вопросов и ответов на них пользователя. Система обращается к пользователю в тех случаях, когда она или не может решить подзадачу, или устанавливается, что пользователь это сделает лучше. Обеспечивается поддержание метадиалога определенной структуры, получение сведений от внешних программ, базы данных, решение задач в условиях неопределенности, неполноты данных и знаний. Средствами консультации могут быть изменены первоначальные цели для повторного решения задачи или изменены управляющие правила – решения. Окончание сеанса консультации считается нормальным, если пользователь получает искомое заявление.

Интерактивные средства консультации поддерживаются механизмом вывода по информации пользователя и в соответствии с независимой от него технологией, системой объяснений решающих процедур и результатов, средствами оказания помощи при возникновении затруднений у пользователя. Предусмотрена возможность отказа от ответов и специальная процедура с применением функции качества при выборе вопросов (оценка легкости ответов и степени их влияния на окончательное решение).

Процесс принятия решения состоит в процедуре построения направленного графа, представляющего все возможные альтернативы, и выборе одного или нескольких путей в сформированном графе. Если правило, необходимое для построения графа, не найдено, поступает запрос к специалисту-пользователю на его ввод. Процедуры оптимизации заключаются в нахождении оптимальной стратегии, максимизирующей ожидаемую полезность решения (мероприятия, действия) по созданию безопасных условий труда в конкретном производстве.

Реализуются две процедуры поиска наиболее рационального решения по ОБП. В первой формируется граф и оцениваются все его пути в поисках лучшей альтернативы для достижения цели. Производится максимизация ценности пути в графе с учетом времени и стоимости его построения. Стратегия осуществима только при небольшом числе правил из-за возможности комбинаторного взрыва. Во второй процедуре путь оценивается во время его формирования на каждом шаге, и процесс построения графа заканчивается, если найденный путь отвечает заданному значению функции оценки. В качестве критерия ценности пути могут быть использованы комплексный критерий, оценивающий точность правил, предпочтение, отдаваемое пользователем, разница между выдаваемой и желаемой информацией, число интегрированных моделей.

О производственной целесообразности. ЭС ОБП организуется практическое применение формализованных знаний о процессах принятия решений по ОБП путем исследования программных процедур, реализующих модели принятия решений в конкретных задачах, возникающих у СОТ в их профессиональной деятельности. Функционирование системы инициируется лицом, принимающим решение, в гибкой диалоговой среде, и процесс принятия решения состоит в выборе некоторой совокупности из множества альтернатив и их упорядочении. Гарантируется некоторый независимый от действия пользователя нижний уровень качества решения, который может быть повышен в результате воздействия компетентности, профессионализма лица, принимающего решение, избирающего тот или иной метод принятия решения, его представления о последствиях решения, выбора метода и предыдущего опыта.

ЭС с точки зрения практической ценности распространяют опыт и знания высококвалифицированных специалистов, повышают качество принимаемых решений, восполняя нехватку специалистов в конкретной проблемной области, исключают нежелательные последствия излишней специализации работника, обладают эффектом обучения.

Следует иметь в виду, что ЭС можно быстро копировать и использовать одновременно во многих местах, Она легко развивается и модифицируется, способствует более глубокому пониманию сущности проблемы вследствие преобразования неопределенных, альтернативных, стабильных или непрерывно изменяемых экспертных знаний в четкие правила.

ЭС может быть независимым инструментом в работе специалистов по охране труда, которые, как правило, находятся под давлением администрации, перегружены, не всегда в состоянии найти время для расширения своих знаний.

Эффективность применения экспертных технологий при создании безопасных условий труда рассматривается исходя из интересов и возможностей конкретного производства и оценивается конечными результатами сложных вычислений в виде своевременных и рациональных решений, направленных на предотвращение определенных нештатных ситуаций, приводящих к возникновению травматизма, заболеваемости, ухудшению производственных условий. Экспертная технология рассматривается как более эффективная, если ею вырабатываются решения экономически более эффективные в сравнении с технологией, предлагающей менее экономичные меры при равной высокой социальной и экологической значимости решений. Особое значение приобретает использование экспертных технологий в накоплении знаний, обеспечивающих организацию интеллектуальных процедур подготовки и аттестации персонала по безопасности производства.

Список литературы

1. Попов Э.В., Фоминых И.Б., Кисель Е.Б. Статические и динамические экспертные системы. – М., 1995. – 125 с.

2. Поспелов Д.А. Ситуационное управление: теория и практика. – М.: Наука, 1986. – 288 с.

3. Халин Е.В. Информационная технология обеспечения безопасности производства. - М.: ВИНИТИ, 1997. – 172 с.

4. Человеческий фактор: В 6 т. – М.: Мир, 1992. Эргоно- мика в автоматизированных системах./ Под ред. Г.Салвенди – Т.6.  –522 с.