ISSN 0236-235X (P)
ISSN 2311-2735 (E)

Публикационная активность

(сведения по итогам 2017 г.)
2-летний импакт-фактор РИНЦ: 0,500
2-летний импакт-фактор РИНЦ без самоцитирования: 0,405
Двухлетний импакт-фактор РИНЦ с учетом цитирования из всех
источников: 0,817
5-летний импакт-фактор РИНЦ: 0,319
5-летний импакт-фактор РИНЦ без самоцитирования: 0,264
Суммарное число цитирований журнала в РИНЦ: 6012
Пятилетний индекс Херфиндаля по цитирующим журналам: 404
Индекс Херфиндаля по организациям авторов: 338
Десятилетний индекс Хирша: 17
Место в общем рейтинге SCIENCE INDEX за 2017 год: 527
Место в рейтинге SCIENCE INDEX за 2017 год по тематике "Автоматика. Вычислительная техника": 16

Больше данных по публикационной активности нашего журнале за 2008-2017 гг. на сайте РИНЦ

Вход


Забыли пароль? / Регистрация

Добавить в закладки

Следующий номер на сайте

4
Ожидается:
16 Декабря 2018

Программная реализация эволюционного алгоритма решения одной задачи автоматической классификации

Program realization of evolutionary algorithm for the solution of one automatic classification problem
Статья опубликована в выпуске журнала № 1 за 2010 год.[ 22.03.2010 ]
Аннотация:Работа посвящена программной реализации эволюционных алгоритмов в задачах классификации. Решение задачи автоматической классификации приводится к трехпараметрической модели алгоритмов вычисления оценок, а оптимизация функционала, характеризующего качества классификации, осуществляется с применением эволюционного алгоритма. Оценена вычислительная сложность предложенного алгоритма.
Abstract:. In this paper is considered the optimal classification problem of the objects, describing by numerical attributes. The work is devoted to application of evolutionary algorithms in classification problem. The problem is solved in the framework of three-parametrical calculation algorithm of estimations and optimization of the functional, describing quality of classification, is carried out with application of evolutionary algorithm. It is estimated computing complexity of the offered algorithm.
Авторы: Керимов А.К. (adalat_kerim@mail.ru) - Азербайджанский государственный экономический университет, г. Баку, , , доктор физико-математических наук, Давудова Р.И. (d.rewana@rambler.ru) - Институт кибернетики Национальной академии наук Азербайджана, г. Баку, ,
Ключевые слова: ген, потомок, особь, популяция, мутация, кроссовер (кроссинговер), дарвинизм, ламаркизм, эволюция
Keywords: gene, child, person, population, mutation, crossover, Lamark's and Darwin's evolution, hypergraph, evolution
Количество просмотров: 6600
Версия для печати
Выпуск в формате PDF (4.03Мб)
Скачать обложку в формате PDF (1.25Мб)

Размер шрифта:       Шрифт:

В статье рассматривается задача построения оптимальной классификации без обучения объектов (автоматическая классификация), характеризующихся количественными признаками. Искомая (оптимальная) классификация представляет собой решение некоторой задачи минимизации определенного типа функционала, характеризующего качество классификации. Данная проблема решается в рамках трехпараметрической модели алгоритма вычисления оценок (АВО) [1, 2], а оптимизация соответствующего функционала, характеризующего качества классификации, проводится с применением эволюционного алгоритма по принципу Ж. Ламарка.

Пусть дано множество допустимых однотипных сложных объектов:

,                                                (1)

состояния которых описываются набором некоторых числовых признаков

.                  (2)

Здесь T - прямоугольная матрица; xij - j-й признак i-го объекта; Mj - ограниченная область изменения j-го признака. Множество объектов (1) считается допустимым, если признаки (2) определены областью значений Mj, то есть для "i xijÎMj, где . Однотипными считаются системы, описание состояний которых дано в одном и том же признаковом пространстве. Таблицу Т называют признаковой матрицей. Каждый объект xi  из (1) можно определить отображением , где  – пространство n-мерных векторов действительных чисел.

Определение 1. Подмножества , набора объектов X называются классами и удовлетворяют следующим условиям:

1) ;

2) ;

3) для, где  – мера сходства объекта  и класса;

4) для 

и , где  – мера сходства объектов xq и xt.

Предполагается, что количество классов l до классификации неизвестно.

Задача автоматической классификации состоит в том, чтобы по описанию допустимых объектов (2) вычислить значения предикатов , где , то есть

Для решения рассматриваемой задачи предложен подход, комбинирующий два алгоритма - входящий в семейство АВО [1, 2] и эволюционный алгоритм по принципу Ламарка [3].

Задача решается в два этапа. На первом этапе сформулированная задача решается в рамках (n+2)-параметрической модели АВО. В этой модели введен вектор пороговых параметров , где . Здесь  характеризует близость двух объектов по i-му признаку,  характеризует близость двух объектов,  – близость объекта к классу. Вектор  заменен обобщенным вектором , где параметр  характеризует близость двух объектов по обобщенному признаку и связан с вектором соотношениями  , , то есть (n+2)-параметрическая модель сводится к трехпараметрической модели АВО [2].

Введем вектор весов признаков , , , компоненты которого задаются экспертно.

Понятия близости определяются в соответствии с АВО (табл. 1).

Таблица 1

Название

Формула

Мера близости объектов xp и xq по j-му признаку

Мера близости объектов xp и xq

Бинарная функция близости объектов xpÎX и xqÎX

Мера близости объекта xpÎX и класса (множества объектов) KiÌX

Бинарная функция близости объекта xpÎX и класса KiÌX

На первом этапе для начального значения вектора  вычисляются Г(p,q), по вычисленным значениям  строится начальная классификация и определяется начальное количество классов l. Для фиксированного , основываясь на R(p,Ki) и Г(p,Ki), , проводится уточнение полученной классификации.

На втором этапе для оптимизации полученной классификации осуществляется минимизация функционала, характеризующего качество классификации (3) с применением эволюционного алгоритма по принципу Ламарка, то есть

,             (3)

где  – расстояние между объектами с номерами p и q; U - допустимая область трехмерного вектора пороговых оценок:

.                                       (4)

История эволюционных вычислений началась с разработки различных независимых моделей эволюционного процесса. В отличие от эволюции природы эволюционные алгоритмы только моделируют те процессы в популяции, которые являются существенными для развития.

По Чарльзу Дарвину, биологические популяции развиваются из поколения в поколение, подчиняясь законам естественного отбора, и выживает наиболее приспособленный. Генетические алгоритмы основаны на тех же процессах, что происходят с биологическими организмами. Основной идеей Ламарка, в отличие от Дарвина, является то, что организмы изменяются под воздействием окружающей среды и условий жизнедеятельности, а не только на генетическом уровне [3]. По теории эволюции Ламарка, характерные особенности организма, приобретенные им в результате адаптации на протяжении жизни, передаются его потомкам.

Определение 2. Классификация, полученная из решения задачи (3), (4) и удовлетворяющая условиям 1–4 определения 1, называется оптимальной.

В общем случае функционал (3) является ступенчатым и не обладает свойствами унимодальности и дифференцируемости, что исключает возможность применения классических методов оптимизации. Использование указанных методов порождает определенные проблемы, связанные со сходимостью итерационных процессов.

В работе [4] для решения задачи автоматической классификации предлагается новый алгоритмический подход, состоящий из двух эвристических алгоритмов - алгоритма, входящего в семейство АВО, и самоорганизующегося генетического алгоритма, который выбирает приоритетную схему многородительской репродукции и эффективного числа родителей.

В данной работе для решения задачи (3), (4) предлагается новый подход, базирующийся на эволюционном принципе Ж. Ламарка. Кратко опишем модифицированный эволюционный алгоритм по принципу Ламарка.

Шаг 0. Пусть k=0.

Шаг 1. Генерируется случайная начальная популяция.

Шаг 2. Вычисляется функция приспособленности.

Шаг 3. Из популяции случайно выбираются k_m особей и d_i битов для многоточечной мутации.

Шаг 4. Проводится многоточечная мутация. Полученные особи остаются в популяции (заменяя своих родителей).

Шаг 5. Случайно выбирается первый член пары скрещивания, вторым членом будет самая близкая к нему особь. Перейти к шагу 7 (инбридинг).

Шаг 6. Выбираются максимально далекие особи (аутбридинг).

Шаг 7. Проводится операция двухточечного кроссинговера между двумя выбранными особями. Полученные потомки заменяют в популяции обоих родителей.

Шаг 8. Вычисляется целевая функция.

Шаг 9. Проверяются условия для завершения алгоритма. Если условия удовлетворяются, необходимо остановиться, иначе принять k=k+1 и перейти к шагу 3.

Проведены многочисленные вычислительные эксперименты при разных значениях m и n. Приведем один из них.

Рассматривается задача автоматической классификации m=20 объектов (точек в пространстве), которые описываются n=3 признаками (координатами) (табл. 2). Значение вектора весов V=(1,1,1). Критерий завершения работы алгоритма выбирается следующим образом: если после двух последовательных итераций удовлетворяется условие то процесс заканчивается, в противном случае продолжается, где fk – значение функционала на k-й итерации; s – заданная точность. Результаты расчета приведены в таблице 3.

Таблица 2

Значения матрицы признаков Т

Номера точек

Координаты

I

II

III

1

21.00

16.00

14.00

2

20.80

18.00

14.00

3

8.80

8.30

4.50

4

9.00

8.40

4.70

5

0.30

1.00

0.20

6

20.00

17.00

13.00

7

4.70

7.30

8.50

8

6.10

7.80

9.30

9

11.60

8.70

4.90

10

8.50

7.90

4.00

11

8.70

9.30

6.80

12

7.20

10.50

8.40

13

8.20

8.30

4.40

14

10.00

9.50

7.30

15

2.80

6.10

4.30

16

3.20

5.80

3.50

17

9.50

11.20

7.30

18

3.40

6.90

3.50

19

17.00

9.00

6.00

20

8.20

8.80

4.60

Для рассмотренных объектов  построена оптимальная классификация при пороговых значениях (2.53*10-1,3.28*10-1, 2.42*10-1), для которой значение функционала составляет 66.33335, а количество классов l=3. Вычислительные эксперименты показали, что при некоторых значениях e, dk, ds получается тривиальная классификация, то есть либо все объекты входят в один класс, либо каждый объект образует отдельный класс. При значениях e, dk, ds =(9.335938*10-1, 2.187500*10-1, 8.867188*10-1) получается первый случай, а для векторов (6.445313*10-1, 3.437500*10-1, 6.132813*10-1), (3.320313*10-1, 2.617188*10-1,8.867188*10-1), (5.585938*10-1, 9.023438*10-1, 7.539063*10-1) – второй случай.

Оценивание вычислительной сложности предложенного алгоритма

Если решение задачи проводится с применением суперпозиций нескольких алгоритмов A1, A2,..., Ap , то есть A=A1ÄA2Ä... ÄAp, причем i-й алгоритм имеет вычислительную сложность R(Ai), тогда для вычислительной сложности алгоритма A справедливо следующее: R(A)=R(A1)+ +R(A2)+ …+R(Ap).

Таблица 3

Классификация объектов при разных значениях e, dk, ds

Значения e, dk, ds (соответственно)

Количество классов (объектов)

Объекты, принадлежащие классам

Неотне-сенные объекты

Значение функционала

I

II

III

9.02*10-1, 4.49*10-1,  3.94*10-1 

2

(16,4)

3,4,7,8,9, 10, 11, 12, 13,14,15, 16,17,18, 19,20

1,2,5,6

123.333

7.14*10-1, 7.89*10-1, 2.18*10-1

2

(15,5)

3,4,5,7,9, 10,11,12, 13,14, 15, 16, 17,18, 20

1,2,6, 8,19

114.6666

2.62*10-1, 5.39*10-1, 2.38*10-1

3

(14,3,2)

3,4,7,8,9,

10,11,12,

13,14,15,

17,19,20

1,2,6

16,18

5

80.99998

5.58*10-1, 9.02*10-1, 7.53*10-1

2

(15,3)

3,4,7,8,9, 10,11,12, 13,14,15, 16,17,18,20

1,2,6

5,19

110.0000

5.54*10-1, 2.26*10-1, 9.02*10-1

3

(14,2,1)

3,4,7,8,9, 10,11,12, 13,14,17, 18,19,20

2,5

1

6,15,16

90.33334

3.32*10-1, 2.61*10-1, 8.86*10-1

3

(13,2,4)

3,4,7,8,10, 12,13,15, 16,17,18, 19,20

1,2

7,15,16,18

5,6,9,

11,14

71.0000

2.53*10-1, 3.28*10-1, 2.42*10-1

3

(13,3,4)

3,4,5,8,9, 10,11,12, 13,14,17, 19,20

1,2,6

7,15,16,18

66.33335

Верхние границы вычислительных сложностей отдельных программных модулей составляют, соответственно, , , , , , , где m – количество объектов; n – количество признаков; k_pop – количество особей, формирующих популяцию. Тогда для верхней границы

вычислительной сложности предложенного алгоритма получается:

 

Итак, доказана следующая теорема: алгоритм, состоящий из суперпозиций АВО и эволюционного алгоритма для решения задачи авто- матической классификации m объектов, описываемых n количественными признаками, имеет вычислительную сложность , иными словами, предложенный алгоритм принадлежит к классу эффективных алгоритмов P.

В заключение следует отметить, что авторами предложен новый алгоритм, состоящий из комбинаций двух алгоритмов - алгоритма, входящего в семейство АВО, и эволюционного алгоритма по принципу Ламарка. Разработан программный комплекс, реализующий этот алгоритм, проведены вычислительные эксперименты. Оценена вычислительная сложность алгоритма, установлено, что этот алгоритм входит в класс эффективных алгоритмов P.

Литература

1.   Журавлев Ю.И., Никифоров В.В. Алгоритмы распознавания, основанные на вычислении оценок // Кибернетика. 1971. № 3. С. 1–11.

2.   Зенкин А.А., Зенкин А.И. Задача построения оптимальных классификаций // Сб. работ по мат. кибернетике ВЦ АН СССР. М., 1981. С. 20–33.

3.   Емельянов В.В., Курейчик В.В., Курейчик В.М. Теория и практика эволюционного моделирования. М.: Физматлит, 2003. 432 с.

4.   Керимов А.К., Давудова Р.И. Генетический алгоритм в задачах автоматической классификации / Сб. докл. Междунар. конф. по мягким вычислениям и измерениям (SCM’2006). СПб, 2006. Т. 1. С. 250–252.

5.   Керимов А.К., Давудова Р.И. Эволюционный алгоритм для решения задачи автоматической классификации // Искусственный интеллект и принятие решений. 2009. № 4. С. 74–79.


Постоянный адрес статьи:
http://swsys.ru/index.php?page=article&id=2418
Версия для печати
Выпуск в формате PDF (4.03Мб)
Скачать обложку в формате PDF (1.25Мб)
Статья опубликована в выпуске журнала № 1 за 2010 год.

Возможно, Вас заинтересуют следующие статьи схожих тематик: