Программные продукты и системы

Развитие информационных технологий привело к накоплению больших объемов разнородной слабоструктурированной информации. Для результативного использования этой информации при решении различного рода задач необходимо создавать базы знаний (БЗ), которые позволяют систематизировать хранимые в них знания, а также обеспечивают возможность эффективной работы с ними как компьютерной системы, так и человека. Появление БЗ обусловило возникновение специализированных моделей и языков представления знаний, а также программных средств, позволяющих разрабатывать БЗ, в том числе распределенными коллективами разработчиков. Объем и разнородность хранимой в базе информации требуют ее структуризации, то есть выделения в ней взаимосвязанных фрагментов с целью повышения эффективности ее обработки, а также для дидактических целей.

БЗ – ключевой компонент такого класса компьютерных систем, как системы, основан- ные на знаниях, разработка которых является одним из перспективных направлений в области искусственного интеллекта [1]. Системы, основанные на знаниях, находят применение в самых различных областях человеческой деятельности – в медицине, автоматизации и управлении производством, обучении, средствах автоматизации проектирования и многих других [2].

В данной статье рассмотрены проблемы в области разработки БЗ с позиции обеспечения обучаемости систем, основанных на знаниях, как необходимом свойстве интеллектуальных систем. Для решения указанных проблем предложены семантическая модель БЗ, обеспечивающая согласованное использование различных видов знаний и моделей их представления, возможность представления многоуровневых метазнаний и структуризации БЗ, а также метод и инструментальные средства разработки БЗ, построенных на основе указанной модели.

Проблемы в области инженерии знаний

Расширение областей применения систем, основанных на знаниях, обусловило необходимость поддержки решения комплексных задач. Под комплексной будем понимать задачу, решение которой предполагает применение формализованных знаний различного вида и различных моделей их обработки, что, в свою очередь, требует обеспечения совместимости и интеграции используемых знаний, а также моделей их обработки.

На сегодняшний день основным подходом к реализации систем, способных решать комплексные задачи, является разработка гибридных систем, одной из главных проблем при создании которых является совместное использование различных видов знаний в интересах взаимокомпенсации недостатков и объединения преимуществ разнородных моделей для решения поставленной задачи [3]. Кроме того, использование различных видов знаний позволяет увеличить число классов решаемых задач по сравнению с системами, использующими ограниченный набор видов знаний. Такое увеличение достигается за счет комбинирования различных подходов при решении подзадач в рамках одной задачи, которое становится возможным благодаря унификации представления различных видов знаний в рамках одной системы. Как следствие, актуальной является задача разработки общей унифицированной формальной основы для представления различных видов знаний в рамках одной системы и обеспечения их совместного использования при решении комплексных задач. В рамках данной работы основное внимание уделяется обеспечению совместимости различных видов знаний, в том числе метазнаний, путем унификации представления различных видов знаний в рамках одной БЗ [4–8].

Настоящая работа посвящена решению задач, связанных с разработкой моделей, методов и средств создания БЗ компьютерных систем, способных решать комплексные задачи.

Несмотря на достигнутые успехи в области создания БЗ остаются актуальными следующие проблемы:

-     трудоемкость одновременного использования моделей представления различных видов знаний;

-     несовместимость уже разработанных компонентов БЗ приводит к необходимости повторной разработки уже существующих решений;

-     изменения, вносимые в БЗ, могут вызвать необходимость внесения существенных изменений в саму ее структуру, особенно в случае динамических БЗ;

-     имеющиеся вполне развитые средства создания БЗ не в полной мере обеспечивают комплексную поддержку (в том числе информационную) коллектива разработчиков на всех стадиях ее проектирования, а также не обладают достаточной гибкостью и расширяемостью;

-     существующие средства ориентированы, как правило, на какой-либо конкретный формат хранения знаний, что затрудняет перенос уже разработанной БЗ на другую платформу интерпретации модели.

Основной причиной указанных проблем является отсутствие унификации представления различных видов знаний, в том числе метазнаний, в рамках одной и той же БЗ, а также модели структуризации БЗ, позволяющей структурировать ее по различным аспектам одновременно.

Предлагаемый подход

Существующие реализации подходов к решению указанных выше проблем, как правило, направлены на решение какой-либо одной из них и не учитывают необходимости решения всех проблем в комплексе.

В основе подхода, предлагаемого в данной работе, лежат идеи построения систем на базе семантических сетей, предложенные в [9]. Эти идеи послужили базисом для создания технологии OSTIS [10], которая представляет собой комплекс моделей, средств и методов, предназначенных для разработки интеллектуальных систем, а также для постоянного обновления и совершенствования самой этой технологии. OSTIS базируется на применении в качестве способа кодирования информации унифи- цированных семантических сетей с базовой теоретико-множественной интерпретацией их элементов. Такой способ назван SC-кодом (Semantic Code) [9], а семантические сети, представленные в SC-коде, – sc-графами (sc-текстами или текстами SC-кода). Элементы таких сетей, представленных в SC-коде, будем называть sc-элементами, узлы таких сетей – sc-узлами, связи между ними – sc-коннекторами (sc-дугами, sc-ребрами). Для визуализации текстов SC-кода используются такие внешние языки, как SCg (Semantic Code graphical), SCn (Semantic Code natural) и SCs (Semantic Code string) [10]. Модель какой-либо сущности, записанная средствами SC-кода, названа sc-моделью указанной сущности.

Для решения проблемы согласованного использования различных видов знаний в рамках БЗ, совместимости и гибкости баз, а также высоких трудозатрат и длительных сроков их создания предлагается разработать следующее.

·     Унифицированную семантическую модель БЗ, которая обеспечивает унификацию представления различных видов знаний и возможность использования широкого набора видов структуризации БЗ за счет внутреннего представления базы в памяти интеллектуальной системы в форме смыслового представления в виде формализованной семантической сети, а также выделения иерархической системы предметных областей и явного представления онтологий, описывающих семантику всех рассматриваемых в БЗ предметных областей и соответствующих им языков. Использование указанных принципов позволит обеспечить возможность согласованного использования различных видов знаний, совместимость разрабатываемых баз знаний между собой, а также их гибкость.

·     Метод согласованной разработки БЗ, построенных по указанной модели, основанный на формальной онтологии проектных действий разработчиков БЗ, реализующий компонентный подход и ориентированный на коллективную разработку баз. Такой метод позволит обеспечить корректность и согласованность проектной деятельности разработчиков непосредственно в процессе использования БЗ.

·     Библиотеку многократно используемых совместимых компонентов БЗ, включающую средства поиска компонентов на основе их спецификаций. Наличие этой библиотеки позволит существенно сократить трудозатраты на разработку БЗ за счет возможности повторного использования готовых компонентов.

·     Средства автоматизации деятельности разработчиков БЗ, а также их информационной поддержки, включающие систему автоматизации разработки БЗ и подсистему консультационного обслуживания разработчиков в рамках метасистемы IMS [10], реализующие предложенный метод и позволяющие осуществлять согласование, верификацию и редактирование фрагментов БЗ непосредственно в процессе ее использования. Наличие таких средств позволит снизить сроки создания БЗ и требования к их разработчикам. Указанные средства предпо- лагается разрабатывать с использованием тех- нологии OSTIS [10], что, в свою очередь, поз- волит обеспечить гибкость самих средств.

Семантическая модель БЗ

Для преобразования различного вида знаний, хранимых в памяти компьютерной системы, в единую, хорошо структурированную БЗ необходимо привести их к единому синтаксическому и семантическому фундаменту, основанному на некоторой универсальной онтологии представления. В данной работе в ее роли выступает формальная онтология sc-элементов, в рамках которой уточняются типология сущностей, описываемых в БЗ, а также типология знаков, входящих в ее состав, которая отражает характер соотношения указанных знаков с текущим состоянием БЗ. Разработка такой онтологии позволяет описать в рамках единой БЗ синтаксические и семантические свойства sc-элементов, что, в свою очередь, обеспечивает свойство рефлексивности для систем, построенных на основе предлагаемого подхода. В частности, рассматриваемая онтология позволяет описывать свойства не только объектов внешнего мира, но и самих внутренних знаков (sc-элементов).

Существующие подходы к разработке БЗ основаны на рассмотрении в качестве объектов спецификации конкретных элементов БЗ (классов, экземпляров, отношений и др.). Однако при накоплении больших объемов информации возникает необходимость выделять целые фрагменты БЗ и иметь возможность их специфицировать, рассматривая как отдельные сущности. Это необходимо для обеспечения неограниченного перехода от знаний к метазнаниям. В рамках данной работы такой фрагмент БЗ назван структурой (sc-структурой). Формально структура трактуется как множество, элементами которого являются все sc-элементы, входящие в состав обозначаемого данной структурой фрагмента базы.

Понятие структуры является формальной основой для семантической модели БЗ и моделей ее структуризации в различных аспектах. В работах [11, 12] рассмотрены различные отношения, заданные на структурах.

На основе понятия структуры уточнено понятие знания как важнейшего вида сущностей, описываемых в БЗ. Наиболее часто используемыми видами знаний в рамках предлагаемой модели БЗ являются семантическая окрестность, фактографическое знание, сравнение, раздел БЗ, предметная область, онтология, за- дача, программа, план, решение, утверждение, определение, рассуждение и др.

Формальное уточнение понятий структуры и знания позволяет обеспечить возможность неограниченного перехода от знаний к соответствующим им метазнаниям. Такое свойство достигается за счет возможности обозначать произвольный фрагмент БЗ одним sc-элементом и, соответственно, рассматривать его как единое целое, специфицировать его свойства и связи с другими фрагментами. В свою очередь, такая спецификация в дальнейшем может снова рассматриваться как объект формального описания.

Для спецификации отдельных сущностей в рамках БЗ вводится понятие семантической окрестности. Она представляет собой спецификацию некоторой сущности по определенному набору признаков, по сути являющуюся совокупностью метаинформации. Формально набор таких признаков определяется набором отношений и классов, которым принадлежит описываемая сущность, и служит основой для классификации семантических окрестностей. В общем случае набор признаков, специфицирующих сущности, принадлежащие некоторым классам, будет различен. Кроме того, часто возникает необходимость специфицировать одну и ту же сущность в различных аспектах и явно фиксировать эти аспекты в БЗ.

С точки зрения процесса разработки БЗ важнейшими видами знаний являются предметные области и онтологии. В рамках предлагаемого подхода они составляют основу для создания формальных средств описания различных видов знаний в БЗ, позволяющей сосредоточить внимание на определенном классе исследуемых сущностей и определенном семействе отношений, которые заданы на указанном классе. Для формальной спецификации (описания свойств) соответствующей предметной области, ориентированной на описание свойств и взаимосвязей понятий, входящих в состав указанной предметной области, используется такой вид знаний, как онтология.

В рамках предлагаемого подхода уточняется понятие онтологии и вводится их типология, основанная на выделенной типологии семантических окрестностей. Такой подход к выделению классов онтологий базируется на подходе к классификации онтологий в зависимости от набора используемых для описания свойств сущностей отношений.

С формальной точки зрения в рамках предлагаемой модели БЗ онтологию будем тракто- вать как результат объединения семантических окрестностей одного вида. В зависимости от рассматриваемых свойств понятий предметной области, которые описываются в онтологии, то есть типа объединяемых семантических окрестностей, выделяют следующие типы онтологий: структурная спецификация предметной области, теоретико-множественная онтология, логическая онтология, терминологическая онтология, онтология задач и решений задач, онтология классов задач и способов решения задач и др. Более подробно данная типология рассмотрена в работах [11, 12].

Основной целью структуризации является разделение спецификации описываемого мира на части. Это позволяет при рассмотрении каждой из частей абстрагироваться от деталей, не существенных для решения текущей задачи, по аналогии с экспериментами в различных естественных науках.

С использованием рассмотренных ранее моделей разработана формальная модель структуризации БЗ:

MSTR = (STRS, STRC, STRR),

где STRS – множество разделов БЗ; STRC – множество выделяемых классов разделов БЗ, определяемое набором признаков структуризации; STRR – множество отношений, специфицирующих разделы БЗ, в том числе декомпозицию разделов на подразделы. Подробнее данная модель рассмотрена в [11, 12].

Предложенная модель структуризации на основе выделения разделов и формирования их иерархии позволяет структурировать БЗ на основе произвольного набора признаков, то есть с различных точек зрения, при этом совмещая их в рамках одной БЗ.

На основе перечисленных результатов построена семантическая модель БЗ, удовлетворяющая перечисленным выше требованиям:

MKB = (MS, ONTR, ONTHL, {MSTR1, MSTR2, …, MSTRn}),

где MS – множество структур, хранимых в БЗ; ONTR – онтология sc-элементов, являющаяся онтологией представления в рамках предлагаемого подхода; ONTHL = {ONTSTR, ONTK, ONTSN, ONTSD, ONTO} – набор онтологий верхнего уровня (ONTSTR – онтология предметной области структур, ONTK – онтология предметной области знаний, ONTSN – онтология предметной области семантических окрестностей, ONTSD – онтология предметной области предметных областей, ONTO – онтология предметной области онтологий); MSTRi – модель структуризации БЗ по i-му признаку.

Разрабатываемые при помощи предлагаемой модели БЗ обладают следующими основными достоинствами:

-     согласованное использование различных видов знаний за счет применения в качестве формальной основы для кодирования информации унифицированных семантических сетей с базовой теоретико-множественной интерпретацией, синтаксис и семантика которых уточняются в рамках онтологии sc-элементов;

-     возможность структуризации с точки зрения различных аспектов и описания в БЗ метазнаний за счет использования модели структуры, позволяющей рассматривать и специфицировать фрагмент БЗ как единое целое;

-     удобство обработки БЗ за счет возможности использования метаинформации в процессе обработки, а также локализации области поиска путей решения задач рамками одной или нескольких предметных областей, явно специфицируемых в БЗ;

-     легкость модификации БЗ за счет явной спецификации в ней предметных областей и их онтологий, что позволяет в процессе разработки и изменения БЗ локализовать те ее фрагменты, в которые также потребуется вносить изменения.

Метод и средства разработки БЗ

Разработка БЗ – трудоемкий и продолжительный процесс. Среди путей сокращения сроков создания БЗ основными являются обеспечение совместной разработки БЗ распределенным коллективом разработчиков, автоматизация их деятельности, а также повторное использование уже разработанных компонентов БЗ [13–18].

Однако полностью автоматизировать процесс разработки БЗ невозможно, поскольку некоторые этапы, например, формирование системы понятий, требуют согласованных усилий некоторого числа разработчиков и экспертов и носят субъективный характер.

Кроме того, в процессе эксплуатации любой системы, основанной на знаниях, постоянно возникает необходимость совершенствования ее БЗ: добавление новых знаний, удаление неактуальной информации, поиск и исправление ошибок и неточностей. Актуализация информации, хранящейся в БЗ, в соответствии с текущим состоянием описываемых предметных областей (в особенности динамических) может потребовать таких существенных изменений, как замена одной системы понятий на другую, в том числе – введение новых понятий, исключение устаревших, переопределение имеющихся понятий и т.д. В связи с тем, что существующие в различных сферах применения систем, основанных на знаниях, стандарты, требования и технологии постоянно меняются, процесс эволюции БЗ должен осуществляться непрерывно непосредственно в процессе эксплуатации такой системы [18]. Подавляющее большинство средств разработки БЗ не обеспечивают такую возможность, разделяя при этом процессы разработки, совершенствования и эксплуатации БЗ систем, основанных на знаниях.

Библиотека многократно используемых компонентов БЗ. Для сокращения трудозатрат при разработке БЗ систем, основанных на знаниях, предлагается использовать уже разработанные фрагменты БЗ или БЗ каких-либо систем целиком. Для организации хранения и поиска таких компонентов в рамках данной работы предложена библиотека многократно используемых компонентов БЗ, входящая в состав метасистемы IMS [10].

Данная библиотека включает множество компонентов различного уровня сложности, средства их спецификации и средства автоматизации поиска компонентов на основе спецификаций. Каждый многократно используемый компонент БЗ представляет собой структуру и имеет формальную спецификацию, то есть некоторую семантическую окрестность, характеризующую данный компонент. На основе формальной спецификации осуществляются поиск подходящего компонента в библиотеке, сравнение его с другими компонентами и т.д.

Средства автоматизации поиска компонентов включают программные средства поиска зависимостей между компонентами, поиска компонентов, в рамках которых описываются указываемые понятия, а также поиска компонентов по фрагменту их спецификации и др. Подробнее компонентная разработка БЗ на основе технологии OSTIS рассмотрена в [19].

Метод согласованной разработки БЗ. При разработке БЗ необходимо на каждом этапе обеспечивать семантическую совместимость БЗ и их компонентов, то есть все используемые понятия должны одинаково трактоваться в различных компонентах. Данная задача особенно актуальна в условиях коллективной разработки, а также в ситуациях, когда система используемых понятий изменяется. Для обеспечения такой совместимости необходимо использовать онтологии, а также осуществлять фиксацию протоколов согласованных изменений в БЗ.

Для решения указанных проблем предлагается метод создания БЗ, основанный на формальной модели проектной деятельности различных разработчиков БЗ, каждый из которых может выполнять определенную роль в процессе разработки. Построение модели и выделение классов таких действий позволяют автоматизировать процесс коллективной разработки, а также минимизировать накладные расходы на согласование деятельности различных разработчиков. Основное внимание в предложенном методе уделяется процессам согласования трактовки понятий в рамках создаваемой БЗ. Данный метод предполагает два основных этапа – создание стартовой версии ostis-системы (в том числе ее БЗ) и этап непосредственной разработки БЗ (рис. 1).

Процесс создания и редактирования БЗ ostis-системы по сути сводится к формированию разработчиками предложений по редактированию того или иного раздела БЗ и последующему рассмотрению этих предложений ее администраторами. Кроме того, предполагается, что в случае необходимости для верификации поступающих предложений по редактированию БЗ могут привлекаться эксперты, а управление процессом разработки осуществляется менеджерами соответствующих проектов по разработке БЗ (рис. 2). Такой подход обеспечивает широкие возможности автоматизации процесса создания БЗ, а также ее последующего анализа и совершенствования.

Разработанный метод согласованного построения и модификации БЗ на основе формальной онтологии проектной деятельности с применением многократно используемых компонентов позволяет обеспечить корректность и согласованность проектной деятельности разработчиков непосредственно в процессе использования БЗ.

Рассмотренный метод реализован в виде соответствующих программных средств, более подробно рассмотренных в работах [12, 19]. Структура программных средств поддержки коллективной разработки гибридных БЗ представлена на рисунке 3. Особенностью рассмотренных средств является их реализация на основе технологии OSTIS, что позволяет обеспечить легкость добавления новой функциональности за счет обеспечения совместимости всех компонентов системы.

Заключение

Предложенные модели, метод и инструментальные средства были использованы при разработке прототипа системы автоматизации предприятий рецептурного производства [20], при разработке БЗ некоторых систем, в частности, метасистемы IMS, а также ряда прикладных интеллектуальных справочных систем по различным предметным областям, таким как геометрия, дискретная математика, числовые модели, химия.

Работа выполнена при поддержке БРФФИ-РФФИ, проект № Ф18Р-220.

Литература

1.    Гаврилова Т.А., Кудрявцев Д.В., Муромцев Д.И. Инженерия знаний: модели и методы. СПб: Лань, 2016. 324 с.

2.    Alor-Hernandez G., Valencia-Garcıa R. (Eds.). Current Trends on Knowledge-Based Systems. Springer, 2017, 290 p. DOI: 10.1007/978-3-319-51905-0_1.

3.    Колесников А.В., Кириков И.А., Листопад С.В. Гибридные интеллектуальные системы с самоорганизацией: координация, согласованность, спор. М.: Изд-во ИПИ РАН, 2014. 189 с.

4.    Валькман Ю.Р., Гриценко В.И., Рыхальский А.Ю. Модельно-параметрическое пространство. Теория и приложение. Киев: Наукова думка, 2010. 235 с.

5.    Загорулько Ю.А. О концепции интегрированной модели представления знаний // Изв. ТПУ. 2013. Т. 322. № 5. С. 98–103.

6.    Клещев А.С. Семантические порождающие модели. Общая точка зрения на фреймы и продукции в экспертных системах. Владивосток: Изд-во ИАПУ, 1986. 39 с.

7.    Рубашкин В.Ш. Онтологическая семантика. Знания. Онтологии. Онтологически ориентированные методы информационного анализа текстов. М.: Физматлит, 2012. 348 с.

8.    Щедровицкий Г.П. Синтез знаний: проблемы и методы. В кн.: На пути к теории научного знания; [под ред. В.И. Корюкина]. М.: Наука, 1984. 199 с.

9.    Голенков В.В. Графодинамические модели и методы параллельной асинхронной переработки информации в интеллектуальных системах: автореф. дис. … д-ра техн. наук. Минск, 1996.

10. Метасистема IMS. URL: http:// ims.ostis.net (дата обращения: 20.04.2020).

11. Давыденко И.Т. Семантическая модель коллективного проектирования баз знаний // Открытые семантические технологии проектирования интеллектуальных систем: сб. тр. конф. Минск. 2016. C. 107–114.

12. Davydenko I.T. Ontology-based knowledge base design. Open Semantic Technologies for Intelligent Systems, 2017, pp. 57–72.

13. Ефименко И.В., Хорошевский В.Ф. Онтологическое моделирование экономики предприятий и отраслей современной России. Ч. 1. Онтологическое моделирование: подходы, модели, методы, средства, решения. М., 2011. 76 с.

14. Esanakula J.R., Sridhar C.N.V., Rangadu V.P. Knowledge based engineering: Notion, approaches and future trends. American Journal of Intelligent Systems, 2015, vol. 5, no. 1, pp. 1–17. DOI: 10.5923/j.ajis. 20150501.01.

15. Wielinga B.J., Schreiber A.T. Towards Very Large Knowledge Bases: Knowledge Building & Knowledge Sharing. IOS Press, 1994, pp. 110–120.

16. Hartung R., Hakansson A. Using meta-agents to reason with multiple ontologies. KES-AMSTA, Springer-Verlag, Berlin Heidelberg, 2008, vol. 4953, pp. 261–270.

17. Debruyne С., De Leenheer P., Meersman R. On the move to meaningful Internet systems. Proc. Workshops OTM-2009, Heidelberg, Springer, 2009, pp. 1147–1164.

18. Лапшин В.А. Онтологии в компьютерных системах. М.: Науч. мир, 2010. 222 с.

19. Golenkov V., Shunkevich D., Davydenko I., Grakova N. Principles of organization and automation of the semantic computer systems development. Open Semantic Technologies for Intelligent Systems, 2019, pp. 53–90.

20. Golenkov V.V., Rusetski K.V., Shunkevich D.V., Davydenko I.T., Zakharov V.V., Ivashenko V.P., Koronchik D.N., Taberko V.V., Ivanyuk D.S. Ontology-based design of batch manufacturing enterprises. Open Semantic Technologies for Intelligent Systems, 2017, рр. 265–280.

References

1. Gavrilova T.A., Kudryavtsev D.V., Muromtsev D.I. Knowledge Engineering: Models and Methods.
   St. Petersburg, 2016, 324 p. (in Russ.).
2. Alor-Hernandez G., Valencia-Garcıa R. (Eds.). Current Trends on Knowledge-Based Systems. Springer, 2017, 290 p. DOI: 10.1007/978-3-319-51905-0_1.
3. Kolesnikov A.V., Kirikov I.A., Listopad S.V. Hybrid Intelligent Systems with Self-Organization: Coordination, Consistency, Dispute. Moscow, 2014, 189 p. (in Russ.).
4. Valkman Yu.R., Gritsenko V.I., Rykhalskiy A.Yu. Model-Parametric Space. Theory and Application. Kiev, 2010, 235 p. (in Russ.).
5. Zagorulko Yu.A. On the concept of an integrated knowledge representation model. Bull. of the Tomsk Polytech. Univ., 2013, vol. 322, no. 5, pp. 98–103 (in Russ.).
6. Kleshchev A.S. Semantic Generative Models. General View of Frames and Products in Expert Systems. Vladivostok, 1986, 39 p. (in Russ.).
7. Rubashkin V.Sh. Ontological Semantics. Knowledge. Ontologies. Ontologically Oriented Methods of Text Information Analysis. Moscow, 2012, 348 p. (in Russ.).
8. Shchedrovitsky G.P. The synthesis of knowledge: problems and methods. In: Towards a Theory of Scientific Knowledge. Moscow, 1984, 199 p. (in Russ.).
9. Golenkov V.V. Graph-dynamic models and methods of parallel asynchronous processing of information in intelligent systems: Thes. Ph.D., Minsk, 1996.
10. Metasystem IMS. Available at: http://ims.ostis.net (accessed April 20, 2020).
11. Davydenko I.T. The semantic model of knowledge bases collective design. Proc. Open Semantic Technologies for Intelligent Systems, Minsk, 2016, pp. 107–114.
12. Davydenko I.T. Ontology-based knowledge base design. Open Semantic Technologies for Intelligent Systems, 2017, pp. 57–72, pp. 57–72.
13. Efimenko I.V., Khoroshevsky V.F. Ontological modeling of the economics of enterprises and branches of modern Russia. Pt. 1. Ontological Modeling: Approaches, Models, Methods, Means. Moscow, 2011, 76 p. (in Russ.).
14. Esanakula J.R., Sridhar C.N.V., Rangadu V.P. Knowledge based engineering: Notion, approaches and future trends. American Journal of Intelligent Systems, 2015, vol. 5, no. 1, pp. 1–17. DOI: 10.5923/j.ajis.
    20150501.01.
15. Wielinga B.J., Schreiber A.T. Towards Very Large Knowledge Bases: Knowledge Building & Knowledge Sharing. IOS Press, 1994, pp. 110–120.
16. Hartung R., Hakansson A. Using Meta-Agents to Reason with Multiple Ontologies. KES-AMSTA, Springer-Verlag Berlin Heidelberg, 2008, vol. 4953, pp. 261–270.
17. Debruyne С., de Leenheer P., Meersman R. On the move to meaningful Internet systems. Proc. Workshops OTM-2009, Heidelberg, Springer, 2009, pp. 1147–1164.
18. Lapshin V.A. Ontologies in Computer Systems. Moscow, 2010,  222  p. (in Russ.).
19. Golenkov V., Shunkevich D., Davydenko I., Grakova N. Principles of organization and automation of the semantic computer systems development. Open Semantic Technologies for Intelligent Systems, 2019,
    pp. 53–90.
20. Golenkov V.V., Rusetski K.V., Shunkevich D.V., Davydenko I.T., Zakharov V.V., Ivashenko V.P., Koronchik D.N., Taberko V.V., Ivanyuk D.S. Ontology-based design of batch manufacturing enterprises. Open Semantic Technologies for Intelligent Systems, 2017, рр. 265–280.