ISSN 0236-235X (P)
ISSN 2311-2735 (E)

Публикационная активность

(сведения по итогам 2016 г.)
2-летний импакт-фактор РИНЦ: 0,493
2-летний импакт-фактор РИНЦ без самоцитирования: 0,389
Двухлетний импакт-фактор РИНЦ с учетом цитирования из всех
источников: 0,732
5-летний импакт-фактор РИНЦ: 0,364
5-летний импакт-фактор РИНЦ без самоцитирования: 0,303
Суммарное число цитирований журнала в РИНЦ: 5022
Пятилетний индекс Херфиндаля по цитирующим журналам: 355
Индекс Херфиндаля по организациям авторов: 499
Десятилетний индекс Хирша: 11
Место в общем рейтинге SCIENCE INDEX за 2016 год: 304
Место в рейтинге SCIENCE INDEX за 2016 год по тематике "Автоматика. Вычислительная техника": 11

Больше данных по публикационной активности нашего журнале за 2008-2016 гг. на сайте РИНЦ

Вход


Забыли пароль? / Регистрация

Добавить в закладки

Следующий номер на сайте

3
Ожидается:
16 Июня 2018

Кластеризация документов проектного репозитария на основе нейронной сети Кохонена

Статья опубликована в выпуске журнала № 4 за 2008 год.[ 23.12.2008 ]
Аннотация:
Abstract:
Авторы: Корунова Н.В. () - , ,
Ключевые слова: анализ, нейронная сеть, классификация, кластеризация
Keywords: analysis, neural network, classification, clusterization
Количество просмотров: 8694
Версия для печати
Выпуск в формате PDF (8.40Мб)

Размер шрифта:       Шрифт:

Кластерный анализ занимает одно из центральных мест среди методов анализа данных и представляет собой совокупность методов, подходов и процедур, разработанных для решения проблемы формирования однородных классов (кластеров) в произвольной проблемной области. Рассматриваемая проблемная область представляет собой огромный массив документации, содержащий неструктурированные электронные информационные ресурсы (ЭИР), такие как положения, стандарты, инструкции, руководства, спецификации проектов и т.п. При поддержке архива экспертом возникает ряд проблем: экспоненциальный рост количества ЭИР, субъективное разбиение ЭИР на категории, динамичность и дублирование информации. Проблемы позволяет устранить автоматическая кластеризация ЭИР.

Задача кластеризации заключается в следующем. Имеются выборка Xℓ={x1,..., xℓ}X и функция расстояния между объектами ρ(x,x′). Требуется разбить выборку на подмножества, называемые кластерами, так, чтобы каждый кластер состоял из объектов, близких по метрике ρ, а объекты разных кластеров существенно отличались. При этом каждому объекту xiXℓ приписывается метка (номер) кластера yi.

Алгоритм кластеризации – это функция a:X→Y, которая любому объекту xÎX ставит в соответствие метку кластера yÎY.

Решение задачи кластеризации ЭИР проектного репозитария выдвигает ряд требований к алгоритму кластеризации:

-    отсутствие обучающей выборки;

-    применимость сильно сгруппированных данных;

-    автоматическое определение оптимального числа кластеров;

-    не более чем логлинейный рост времени работы кластеризатора с увеличением количества текстов;

-    минимальная (в лучшем случае отсутствующая) настройка со стороны пользователя.

Задача кластеризации текстов с трудом поддается формализации. Оценка адекватности разбиения ЭИР на кластеры основывается на мнении эксперта и трудновыразима в виде одной численной характеристики. Возникает требование интерпретируемости результата: кластерам должны быть присвоены некоторые метки, отражающие их семантику. Следовательно, процедура кластеризации должна еще обладать свойством интерпретируемости найденных кластеров в терминах смысла содержания относящихся к ним документов.

Рассмотрим наиболее распространенные алгоритмы кластеризации.

В общем виде методы кластеризации могут быть разбиты на две группы: представляющие тексты в виде векторов в многомерном пространстве признаков (и использующие метрику близости между векторами) и применяющие другие представления анализируемых текстов. Первая группа – это алгоритмы иерархической кластеризации (Single/Complete/Average Link), неиерархические алгоритмы (методы ближайшего соседа – модификация k-means, FCM, нейронные сети SOM, ART), а также большое число других базирующихся на них методов. Примером алгоритмов второй группы является алгоритм Suffix Trie Clustering (STC – древовидные структуры).

Неиерархические методы выявляют более высокую устойчивость по отношению к шумам и выбросам, некорректному выбору метрики, включению незначимых переменных в набор, участвующий в кластеризации. Но при этом в большинстве алгоритмов необходимо заранее определить количество кластеров, итераций или правило остановки, а также некоторые другие параметры кластеризации.

Иерархические методы строят полное дерево вложенных кластеров. Сложности данных методов кластеризации – ограничение объема набора данных, выбор меры близости, негибкость полученных классификаций.

Недостатки метода STC – обязательное наличие первоначального дерева, значительное время работы при больших размерах первоначального дерева.

При анализе рассмотренных методов кластеризации выявлено, что максимально соответствует перечисленным требованиям к алгоритму кластеризации метод нейронных сетей SOM (Self-Organizing Map – самоорганизующиеся карты Кохонена).

Нейронная сеть, использующая метод обучения без учителя (unsupervised learning) – SOM, не требует наличия обучающей выборки, применима к сильно сгруппированным данным; сама определяет количество получаемых кластеров, дает возможность настроить параметры сети по умолчанию. При этом увеличение количества текстов не влечет за собой экспоненциальный рост времени обработки, и интерпретация найденных кластеров осуществляется осмысленно в ключевых словах.

Входным вектором X является результат анализа ЭИР – частотный портрет. Автоматически извлекается индекс в виде вектора основных понятий и их связи с весовыми характеристиками. В качестве смыслового портрета текста рассматривается сеть понятий – множество ключевых слов или словосочетаний. Каждое понятие имеет некоторый вес, отражающий значимость этого понятия в тексте.

Для кластеризации ЭИР используются две основные процедуры настройки нейронной сети – инициализация весов нейронов случайным образом и алгоритм SOM:

·    определение расстояний между входным вектором X и вектором весов W каждого нейрона по формуле: ;

·    определение нейрона-победителя с минимальным расстоянием;

·    определение области активации нейрона-победителя;

·    определение весов нейронов внутри области активации по формуле:  , где – норма обучения.

Далее следует запись обработанного ЭИР в получаемый динамический массив кластеров. Таким образом, сеть SOM имеет набор входных элементов (частотные портреты ЭИР) и набор выходных элементов (множество кластеров). Обучение нейронной сети происходит на каждом документе.

Модуль кластеризации представляет собой отдельный модуль программы «Интеллектуальный сетевой архив ЭИР», предназначенный для разбивки массива текстовых документов на классы на основе частотных портретов, полученных при проведении процесса индексирования. Программное обеспечение реализовано в среде Borland Delphi Enterprise 7.0.

В модуле кластеризации реализован алгоритм нейронной сети Кохонена. Кластеризатор позволяет пользователю:

·    интерактивно настроить параметры подключения и подключиться к базе данных, а также изменить параметры нейронной сети;

·    запустить процесс кластеризации;

·    получить дерево результатов (где корневые директории – кластеры, содержащие каждый свои документы);

·    сохранить полученный результат в базе данных или в файле.

Для обработки данных в качестве эксперимента были выбраны 65 документов из проектной документации организации. Были получены частотные словари, при этом отобраны только термины, приведенные к основе с помощью морфологического анализа, а также исключены стоп-слова.

Полученные данные из 65 документов с 2911 терминами были обработаны кластеризатором с использованием нейронной сети Кохонена. Данная нейронная сеть имеет несколько настраиваемых числовых параметров: число нейронов, норма обучения, множитель для нормы обучения, радиус активности области нейрона-победителя, число производимых итераций, шаг модификации.

Время обработки резко возрастает при увеличении числа нейронов, радиуса активации и при уменьшении нормы обучения.

В ходе исследований были выявлены тенденции влияния на получаемое множество классов при изменении перечисленных выше параметров нейронной сети. В результате получены наборы комбинаций числовых параметров нейронной сети для кластеризации ЭИР в зависимости от желаемой точности/полноты классов.

При оценке адекватности разбиения ЭИР на кластеры выявлено, что кластеры в большинстве своем разбивают по типам документов, при этом выносят в отдельные кластеры ЭИР с резко отличающейся лексикой. Полученный результат кластеризации адекватен экспертной разбивке проблемной области.

В заключение можно сделать следующие выводы. Нейросетевой кластеризатор на основе SOM прост в реализации, удобен в обучении, требует минимального участия эксперта, а также позволяет выбирать оптимальное соотношение точность/полнота за счет настройки числовых параметров в алгоритме обучения. С другой стороны, низкая адекватность модели представления текста не позволяет улучшить характеристики точность/полнота. Таким образом, существует необходимость разработки более сложной модели текста, такой как гибридная семантическая сеть.


Постоянный адрес статьи:
http://swsys.ru/index.php?page=article&id=1616
Версия для печати
Выпуск в формате PDF (8.40Мб)
Статья опубликована в выпуске журнала № 4 за 2008 год.

Возможно, Вас заинтересуют следующие статьи схожих тематик: