На правах рукописи

РЫЖКОВ ВЛАДИМИР АЛЕКСАНДРОВИЧ

СОВЕРШЕНСТВОВАНИЕ

САМООРГАНИЗУЮЩИХСЯ НЕЙРОННЫХ СЕТЕЙ КОХОНЕНА

ДЛЯ СИСТЕМ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ

Специальность: 05.13.01 - Системный анализ, управление

и обработка информации (технические системы)

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Москва – 2010 2

Работа выполнена в ГОУ ВПО Московском государственном технологическом университете "СТАНКИН"

Научный руководитель: кандидат физико-математических наук, доцент Лычкин Евгений Николаевич

Официальные оппоненты: доктор технических наук, Дубинина Вера Гавриловна, доктор технических наук, доцент Демидова Лилия Анатольевна

Ведущая организация: ГОУ ВПО Московский государственный университет печати

Защита состоится 5 октября 2010 г. в 1100 часов на заседании диссертационного совета Д 212.142.03 при ГОУ ВПО Московском государственном технологическом университете "СТАНКИН" по адресу: 101472, Москва, Вадковский пер., д. 3А.

С диссертацией можно ознакомиться в библиотеке ГОУ ВПО Московского государственного технологического университета "СТАНКИН".

Автореферат разослан " 5 " августа 2010 г.

Ученый секретарь диссертационного совета Д 212.142. Семячкова Е.Г.

к.т.н., доцент Актуальность работы В настоящее время в разных областях науки и деятельности человека (экономика, финансы, медицина, телекоммуникации, химия, биология, физика и т.п.) сформированы большие массивы разнородной информации. Такая информация может представлять собой переменные состояния каких-либо наблюдаемых объектов или процессов, например, машин, станков, комплексов и целых предприятий и храниться в виде электронных таблиц в базах данных.

В связи с этим актуальными становятся задачи анализа данных и получения в кратчайшие сроки информации о качественном распределении показателей, признаков и состояний изучаемых или используемых объектов на основании уже имеющейся о них информации с целью дальнейшего построения стратегии их применения и развития.

Специфика современных задач анализа данных такова, что часто для их решения предоставляется либо чрезмерно большой массив разнородных данных, либо, наоборот, количество данных для анализа мало и значения в некоторых их признаках отсутствуют или пропущены.

Для решения таких задач используются методы хранилищ данных, статистические методы, эволюционные алгоритмы, стохастические методы, методы нечеткой логики, методы искусственных нейронных сетей.

В настоящей работе развивается метод самоорганизующихся нейронных сетей Кохонена, основными отличиями которого от перечисленных методов являются: универсальность относительно размерности анализируемых данных, встроенная возможность распараллеливания расчетов; кластеризация данных, наглядная визуализация образа анализируемых данных.

Большой вклад в развитие и применение нейронных сетей в разных областях науки и деятельности человека в нашей стране внесли Галушкин А. И.

(теория и практическое применение нейронных сетей, системы распознавания образов), Горбань А. Н. (нейросетевые экспертные системы), Терехов С. А.

(моделирование сложных инженерных систем с помощью нейронных сетей, машинное обучение, анализ данных), Шумский С. А. (теория и практическое применение нейронных сетей) и другие.

Предлагаемая в диссертации модель нейронной сети, основанная на методе самоорганизующихся карт Кохонена (СОКК), позволяет решить такие известные проблемы этих сетей, как "граничный эффект" и наличие "мертвых" нейронов. За счет повышения точности и качества анализа данных новая модель нейронной сети позволяет повысить эффективность принятия решений в задачах анализа данных с помощью систем поддержки принятия решений (СППР).

Объект исследования Самоорганизующаяся нейронная сеть Кохонена как эффективное средство кластерного анализа данных в системах поддержки принятия решений.

Цель диссертационной работы Повышение эффективности систем поддержки принятия решений за счет применения усовершенствованной модели самоорганизующейся нейронной сети Кохонена.

Для достижения поставленной цели были решены следующие научные и практические задачи:

- исследование алгоритма работы классической модели самоорганизующейся нейронной сети Кохонена, его недостатков и существующих способов их устранения;

- разработка и исследование усовершенствованной модели нейронной сети Кохонена для устранения недостатков сетей этого типа: граничного эффекта и появления "мертвых" нейронов;

- повышение алгоритмической эффективности применения самоорганизующихся нейронных сетей при решении задач анализа данных в системах поддержки принятия решений;

- обеспечение встраиваемости полученных программно-алгоритмических результатов в различные системы поддержки принятия решений.

Методы исследования При решении задач, поставленных в работе, были использованы методы теории нейронных сетей. Для анализа качества работы нейронных сетей использовался критерий энтропии, используемый в теории информации. Для программной реализации использованы методы структурного и объектноориентированного анализа и программирования.

Научная новизна работы заключается в следующих положениях:

- разработана и исследована усовершенствованная модель нейронной сети Кохонена, которая, устраняет недостатки нейронных сетей этого типа, а также повышает точность и качество аппроксимации анализируемых - предложен новый метод установки связей между нейронами в решетке сети разработанной модели, который упрощает алгоритм установления размеров топологических областей соседства;

- определена и доказана эффективность применения усовершенствованной модели сети Кохонена в задачах кластерного анализа.

Практическая ценность работы заключается в:

- разработке методики анализа данных с помощью предложенной модели нейронной сети Кохонена;

- разработке программного решения в виде динамической библиотеки функций с открытым интерфейсом, которая обеспечивает возможность встраивания и использования разработанной модели нейронной сети в системах поддержки принятия решений.

Достоверность положений Достоверность научных положений настоящей работы подтверждена сравнением оценок точности и качества аппроксимации данных нейронными сетями разработанной и классической моделей Кохонена. В качестве критерия точности использовался критерий ошибки квантования из теории нейронных сетей, а в качестве критерия качества – критерий энтропии. Достоверность полученных результатов подтверждается также итогами применения разработанных алгоритмов на практике.

Апробация работы Основные положения диссертационной работы докладывались и обсуждались на расширенных заседаниях кафедры "Теоретической механики" и научных семинарах в ГОУ ВПО МГТУ "Станкин", а также – международных и всероссийских научно-технических конференциях: VIII-ая научная конференция ГОУ ВПО МГТУ "Станкин" и "Учебно-научного центра математического моделирования ГОУ ВПО МГТУ "Станкин" - ИММ РАН", Москва, 2005 г.; X-я Международная открытая научная конференция "Современные проблемы информатизации в технике и технологиях" (Воронеж, Воронежский государственный технический университет, 2005 г.); VIII Международная научнотехническая конференция "Информационно-вычислительные технологии и их приложения" (Пенза, МНИЦ ПГСХА, 2008 г.); Научно-методическая конференция "Машиностроение – традиции и инновации" (Москва, ГОУ ВПО МГТУ "Станкин", 2008 г.).

Реализация работы Разработанное в настоящей диссертационной работе программное обеспечение (ПО), реализующее работу новой модели нейронной сети Кохонена, применялось для решения двух разнородных практических задач:

- разработанное ПО внедрено как модуль в систему менеджмента качества автоматизированной информационной системы управления производством шовного хирургического материала "ИГЛА" на ОАО "Московский завод координатно-расточных станков" (ОАО "МЗКРС") с целью выявления причин и скрытых закономерностей в появлении высокого процента брака готовой продукции. Имеется акт о внедрении в промышленную эксплуатацию;

- разработанное ПО использовалось на кафедре "Теоретическая механика" ГОУ ВПО МГТУ "Станкин" для анализа результатов моделирования работы конических зубчатых передач с круговыми зубьями в программном комплексе (ПК) "ЭКСПЕРТ", разработанном на кафедре, с целью выявления характеристик этих передач, влияющих на необходимость изготовления нестандартного режущего инструмента.

Публикации. По теме диссертационной работы опубликовано 7 научных работ, включая 2 научные работы в рецензируемых журналах из Перечня ВАК РФ, а также тезисы докладов, подготовленных для международных и региональных научно-технических конференций.

Структура и объем. Диссертация состоит из введения, 4 глав, основных результатов и выводов, списка используемой литературы из 68 наименований, изложена на 145 страницах машинописного текста, включая 54 рисунка и таблиц.

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность применения современных методов интеллектуального анализа данных в СППР с целью повышения эффективности принятия решений. Характеризуются основные преимущества нейронных сетей перед другими методами анализа данных. Обосновывается выбор модели самоорганизующихся карт Кохонена (СОКК), как основы для разработки новой усовершенствованной модели сети этого вида, позволяющей увеличить эффективность ее применения в задачах анализа данных. Приводится научная новизна работы, формулируются цель и задачи исследования.

В первой главе приводится описание классической модели СОКК, рассматриваются основные элементы модели, такие как сеть нейронов, обучающее множество, алгоритм обучения. Рассматриваются методы предварительной подготовки данных для анализа с помощью СОКК, а также способы построения визуальных топографических карт сети.

Алгоритм математической модели классической СОКК определяет отображение векторов данных X K = {x1, x 2,K, x K } из некоторого входного пространства X R m с системой координат (x1,K,x m ) на решетку узлов (сеть нейронов) U N = {u1, u2,K, u N }, расположенную в двумерном пространстве U R 2 с системой координат (u1,u 2 ), где R - евклидово пространство, m - размерность входного пространства, K – количество входных векторов, N – количество нейu j = (u1j, u 2 ), j = 1,..., N.

Каждому нейрону ui сети ставится в соответствие параметрический вектор, называемый весовым вектором w i = ( wi1,..., wim ) R m. Для обучения СОКК из X выбирают подмножество P = {x1, x 2,K, x p } X обучающих векторов, которое, может совпадать с X. Каждый обучающий вектор x p = ( x1,..., x m ) P связывается одновременно со всеми нейронами сети через их веса w i, где p количество обучающих векторов.

После подготовки структуры нейронной сети начинается процесс перемещения весовых векторов нейронов во входном пространстве R m - обучение нейронной сети. При этом из Р случайным образом выбирается элемент x, для которого в СОКК происходит поиск нейрона-победителя, вектор весов которого в наименьшей степени отличается от соответствующих компонент вектора x. В работе различие между векторами рассчитывается с помощью евклидовой метрики:

где w w - вектор весов u w -го нейрона-победителя. Вокруг нейрона-победителя образуется топологическая область соседства:

которая состоит из u w и нейронов-соседей ui. Количество нейронов-соседей, попадающих в эту область, зависит от коэффициента радиуса соседства (t ), который является функцией, принимающей значение из промежутка [0, 0 ) :

где 0 - начальный радиус обучения, задаваемый перед обучением нейронной сети, t = 1,..., T - текущая итерация (эпоха) обучения, T - общее количество эпох обучения сети. В диссертационной работе предлагается устанавливать 0 =. Как видно из (2), в область соседства для u w попадают только те нейроны-соседи, для которых выполняется неравенство d (u w, ui ) (t ). Расстояние d (u w, ui ) между нейронами в решетке сети рассчитывается по (1).

Нейрон-победитель и все нейроны-соседи, лежащие в пределах топологической области соседства S w, подвергаются адаптации, в ходе которой их весовые векторы изменяются в направлении вектора x по правилу Кохонена:

где u i (t ) обозначает коэффициент обучения ui -го нейрона и является функцией, принимающей значения из промежутка [0,1) :

где (t ) - функция скорости обучения, hwi (t ) - функция соседства. В настоящей работе для вычисления этих функций используются формулы:

где 0 - начальная скорость обучения, задается перед началом обучения и в диссертации рекомендована как 0 = 0,75.

Алгоритм обучения СОКК выполняется для каждого следующего входного вектора из P. Если все входные векторы становятся предъявленными сети, то запускается следующая эпоха и входная выборка P обучающих векторов снова подается сети.

В процессе обучения СОКК весовые векторы нейронов настраиваются таким образом, чтобы нейроны располагались в местах локальных сгущений входных данных, то есть описывали кластерную структуру облака данных. В это же время связи между нейронами соответствуют отношениям соседства между соответствующими кластерами во входном пространстве. После обучения нейронная сеть способна классифицировать поданный ей на вход испытуемый вектор, находя ближайший к нему нейрон-победитель, и, тем самым, определяя кластер, к которому этот нейрон-победитель принадлежит.

По истечении всех T эпох процесс обучения СОКК останавливается и выполняется оценка точности ее обучения с помощью критерия ошибки квантования:

При этом каждый вектор xi i = 1,..., p из P подается по очереди уже обученной нейронной сети, для него отыскивается u w -ый нейрон-победитель и вычисляется квадрат расстояния между x i и вектором весов w w(i ) победителя.

Выбор определенного уровня значимости ошибки квантования, выше которого результаты обучения СОКК отвергаются как ложные, обычно зависит от того, был ли результат предсказан априори или обнаружен апостериорно в результате обучения СОКК. В работе приемлемыми значениями ошибки квантования считаются значения меньшие или равные 0,05 ( Eq 0,05 ).

Для решения задач с помощью нейронных сетей необходима предобработка входных данных, которые будут предоставлены ей для обучения. Основными этапами предобработки данных являются: кодирование входных векторов (нейронная сеть работает только с числовыми данными); нормировка входных векторов для возможности сравнения их друг с другом; очистка данных от регулярностей и нетривиальных закономерностей.

В конце главы приводится описание способов построения визуальных топографических карт СОКК, с помощью которых исследователь может проводить анализ результатов ее обучения и выявлять найденные закономерности и классы (кластеры) во входных данных.

Во второй главе приводится анализ влияния известных проблем классической модели СОКК на качество ее обучения. Для решения этих проблем предлагаются новая модель самоорганизующейся нейронной сети, использующая правило обучения Кохонена (4), и новый метод определения соседства между нейронами в такой решетке. Выполняется сравнение результатов обучения новой и классической моделей СОКК по двум критериям: ошибки квантования и энтропии. В конце главы приводятся результаты сравнительного анализа по этим же критериям между разработанной сетью и ее существующим аналогом, разработанным австралийскими учеными.

"Граничный эффект" для СОКК состоит в том, что в идеале в результате ее обучения все входные векторы из P в равной степени представлены нейронам в сети. При этом соседние области нейронов в решетке U N имеют тенденцию моделировать похожие области входного пространства. Однако на краях решетка U N нейроны имеют меньшее количество соседей, чем те, которые находятся внутри U N. Эти внутренние нейроны, часто выигрывая, захватывают нейроны с краев сети в области соседства, адаптируя их весовые векторы в свою сторону. Таким образом, входное пространство, отображенное на сети, "сминается" к ее центру, образуется "граничный эффект".

Различные авторы предлагают решать проблему граничного эффекта, выполняя внешние воздействия на граничные нейроны в процессе обучения. Например, можно использовать правило взвешивания 1, когда входные векторы снабжают условными весами, которые, в свою очередь, по-разному воздействуют на коэффициент скорости обучения для нейронов, находящихся на краях решетки сети и внутри нее. Либо использовать виртуальные нейроны 2, которые располагаются рядом с граничными нейронами и компенсируют своим присутствием при обучении недостающие нейроны на границах решетки сети.

Kohonen T. Self-organizing Maps // Springer Series in Information Sciences, V.30, Springer, Berlin, Heidelberg, New York, 2001. – 501 p.

Нечаева О.И. Сглаживание адаптивных сеток, построенных методом самоорганизующихся карт // Вестник Томского государственного университета, N4(5), 2008. – с. 51-60.

В настоящей диссертационной работе предлагается вариант структуры решетки нейронной сети, который был назван замкнутым. Путем соединения краев решетки сети с прямоугольной топологией по следующему алгоритму предлагается решать проблему "граничного эффекта" для СОКК.

1. Преобразование плоской решетки сети в цилиндр (рис. 1(а)). При этом соединяются друг с другом ее левый и правый края. Таким образом, часть нейронов сети, располагавшихся слева и справа на плоской решетке, приобретают соседей.

2. На образовавшихся основаниях цилиндрической решетки нейроны соединяются связями соседства по двум предложенным ниже схемам.

Схема № 1: "Каждый с каждым" (рис. 1(б)). Все нейроны каждого основания цилиндра решетки сети соединяются между собой единой связью соседства так, что становятся соседями друг для друга в радиусе соседства = 1 в пределах каждого основания.

Схема № 2: "Противолежащие" (рис. 1(в)). В этом варианте также происходит соединение нейронов в пределах каждого основания цилиндра решетки сети, однако связей соседства на каждом полюсе становится несколько.

В результате такой трансформации образуется решетка замкнутой сети (рис. 1(г)).

(а) Цилиндрическая (б) "Каждый (в) "Противолежа- (г) Замкнутая Рис. 1. Трансформация плоской решетки в замкнутую решетку Классический алгоритм СОКК (4) на каждой итерации обучения выполняет изменение значений весовых векторов для нейронов сети, попавших в топологическую область соседства (2). В настоящей работе для разработанной модели сети предложен следующий метод соединения нейронов и определения отношения соседства между ними:

1. Для каждого нейрона в решетке сети создается список его ближайших нейронов-соседей. Такими ближайшими соседями для нейрона u i в радиусе = 1 являются только 4 нейрона, два из которых находятся в том же столбце u1, но в соседних по вертикали и горизонтали строках решетки сети, а другие два нейрона находятся в той же строке u i2, но в соседних слева и справа столбцах от рассматриваемого нейрона u i в решетке сети. Таким образом, область соседства радиуса = 1 для каждого нейрона u i в сети с шагом l = 1 обозначим как:

В радиус соседства = 0 попадает только сам нейрон u i, что соответствует значению l = 0 в (8):

2. Для поиска соседних нейронов, находящихся в решетке сети в радиусе соседства, необходимо выполнить шагов, на каждом из которых найти ближайших соседей по вертикали и горизонтали (8) для уже найденных нейронов-соседей на предыдущем 1 шаге:

В (10) для расчета Su (t ) используются нейроны-соседи u j из области соi седства Su (t ) 1, которая также рассчитывается по формуле (10). Рекурсивный поиск нейронов-соседей прекращается при (t ) < 1. При этом для (t ) = 1 множества нейронов-соседей S ui и S ui в (10) определяются по формулам (8) и (9), соответственно.

При обучении нейронных сетей обеих предложенных схем разработанной модели по правилу Кохонена (4) области соседства для нейронов-победителей определяются на основании (10).

В конце четвертой главы диссертации приводится сравнение двух алгоритмов поиска нейронов-соседей в СОКК по критерию ресурсной эффективности: алгоритма (2), используемого в классической модели сети, и предлагаемого алгоритма (10). Доказывается, что второй имеет меньшую трудоемкость выполнения по сравнению с первым.

В работе приводится анализ влияния изменения структуры решетки нейронной сети на граничный эффект по критерию асимметрии, предложенному Нечаевой О. И. (ссылка на работу приведена по сноске № 2, на стр. 10):

который для каждого нейрона представляет собой сумму значений функций соседства (6) со всеми другими нейронами из области соседства Si. На рис. 2 приведены графики величины i, построенной для классической модели СОКК и схемы "противолежащие" для разработанной замкнутой сети.

(а) Классическая СОКК (б) Замкнутая сеть ("Противолежащие") Рис. 2. Характеристика асимметричности нейронных связей для СОКК Графики на рис. 2 приведены для сетей одинакового размера при радиусе соседства = 1. В решетке СОКК классической модели (рис. 2(а)) для нейронов на всех границах сети в указанном радиусе обучения не хватает нейроновсоседей, поэтому характеристика i убывает по периметру решетки сети. Замкнутая решетка сети увеличивает количество соседей у граничных нейронов. Так схема "Противолежащие" (рис.2 (б)) выполняет практически полную балансировку граничного эффекта.

Во второй части второй главы описываются результаты проведенных исследований разработанной замкнутой сети, которые позволяют обосновать эффективность ее применения в задачах анализа данных.

Для исследований использовались классическая и разработанная модели сетей, обученные по правилу Кохонена при прочих равных условиях: одинаковый размер сетей (3727 = 999 нейронов, начальная скорость обучения сетей = 0,8, начальный радиус обучения = 10, функция соседства гауссовского (6) типа). В качестве классической модели сети Кохонена использована сеть из некоммерческого пакета программ "SOM PAK", созданного в Лаборатории вычислительной техники и информатики Хельсинского технологического университета. Обе сети были обучены на одном и том же входном наборе данных, представляющем собой 2000 случайных точек трехмерного пространства XYZ, координаты которых распределены относительно начала координат (0, 0, 0) по нормальному закону с нулевым математически ожиданием и среднеквадратическим отклонением, равным 1.

Результаты работы сетей оценены по критерию точности аппроксимации – ошибке квантования (7), и по критерию качества – энтропии.

Для самоорганизующейся нейронной сети энтропия – есть степень равномерности распределения ошибки квантования по нейронам сети. Чем выше значение этого критерия, тем больше в сети нейронов, которые аппроксимируют входные векторы с низкой ошибкой квантования:

где H - энтропия сети, N - количество нейронов в сети, ei - ошибка квантования каждого нейрона сети. Ошибка ei i = 1,..., N рассчитывается для q входных векторов x j j = 1,..., q, для которых этот i -ый нейрон с весовым вектором w i становился победителем за все время обучения:

где и K - количество входных векторов.

На рис. 3 приведены графики ошибки квантования (7) и энтропии (12) для сетей разработанной (замкнутой) и классической моделей.

Обе схемы замкнутой сети ("противолежащие" и "каждый с каждым") представлены одним графиком модели в целом, потому что по критериям ошибки квантования и энтропии они дают одинаковые результаты.

Значения ошибки квантования и энтропии для рассматриваемых сетей показывают, что разработанная модель сети в 3,6 раза точнее и на 31 % качественнее аппроксимирует входное пространство анализируемых данных, чем классический аналог.

Увеличение точности и качества аппроксимации входного пространства данных разработанной сетью происходит из-за более равномерного распределения векторов входного пространства по нейронам сети. В подтверждение этого на рис. 4 построена гистограмма плотности распределения ошибки квантования (13) по нейронам сети.

Ошибка квантования Количество нейронов Выше было указано, что размеры нейронных сетей, участвующих в исследовании, одинаковы и равны 999 нейронов. Справа на гистограмме видно, что около 497 нейронов классической модели и только 72 нейрона модели замкнутой сети имеют самое высокое значение ошибки квантования из рассчитанных. Такое значение ошибки квантования присвоено нейронам сетей, которые за все время обучения ни разу не становились победителями ни для одного входного вектора. Левая часть гистограммы показывает, что 925 нейронов замкнутой модели сети имеют малую и приемлемую ошибку квантования:

e < 0,05, а для классической сети Кохонена такое значение этой ошибки имеют только 449 нейронов, т.е. на 476 или на 49 % нейронов меньше.

Таким образом, в разработанной модели самоорганизующейся нейронной сети происходит более равномерное распределение входных векторов по нейронам сети по сравнению с классической моделью сети Кохонена.

В конце главы приводятся результаты сравнения работы двух замкнутых нейронных сетей: сети с прямоугольной топологией решетки, разработанной в настоящей работе и сети с треугольной топологией 3. Обучение сетей проводилось при одинаковых настройках: одинаковые размеры сетей, начальные условия и функции изменения значений в процессе обучения для скорости и радиуса обучения. Сети были обучены на одном и том же наборе входных данных, состоящем из 2000 точек трехмерного пространства, который использовался выше и при разном количестве эпох обучения.

Ошибка квантования Модель с треуг. топологией; Модель с прямоуг. топологией На рис. 5 приведены графики ошибки квантования (7) и энтропии (12) этих сетей. Средняя разница в значениях ошибки квантования для них составляет 0,003, а разница в значениях энтропии – около 0,122. Такой разницей в значениях критериев качества и точности можно пренебречь. В диссертационWu Y., Takatsuka M. Fast spherical self organizing map-use of indexed geodesic data structure // WSOM05, 2005. – pp. 455-462.

ной работе делается вывод о том, что рассматриваемые модели замкнутых сетей не уступают друг другу по этим критериям.

Преимущество модели сети с прямоугольной топологией решетки состоит в более простой реализации по сравнению с треугольной топологией, а также в возможности построения наглядных плоских карт-разверток замкнутой сети.

В третьей главе приводится описание примеров практического применения разработанной модели самоорганизующейся нейронной сети в двух разнородных задачах.

Решение первой задачи проводилось в рамках подсистемы менеджмента качества управления производством шовного хирургического материала в автоматизированной системе "ИГЛА" на ОАО "Московский завод координатнорасточных станков" с целью выявления причин и скрытых закономерностей в появлении высокого процента брака готовой продукции завода.

Разработанное в настоящей работе программное решение было внедрено в систему менеджмента качества управления производством продукции завода.

Это позволило выявить закономерности появления высокого процента брака в продукции завода на стадии производства.

Для этого был проанализирован входной набор данных, содержащий информацию о производстве продукции за 2005 год, разбитую на 12 месяцев.

Входные данные конвертировались в электронную таблицу в формате Microsoft Excel. Таблица имела около 4500 записей или векторов входных данных. Каждый вектор состоял из 7 компонент: диаметр производимой одноразовой хирургической иглы (интервал изменения значений от 0,4 до 1,2 мм), ее длина (от до 50 мм), развертка иглы ( 1 2 или оборота окружности), заточка иглы (колющая или режущая), тип завальцованной нити (около 16 видов), месяц производства (от 1 до 12), процент брака в готовой продукции. На этапе предобработки во входной набор данных для сети были выбраны те векторы, для которых значения в колонке "процент брака" готовой продукции составляли более 10 %.

В результате анализа обученной сети и построения ее карт-разверток (рис. 6) было выявлено, что в основном высокий процент брака в готовой продукции (брак > 10 %) возникал при малых диаметрах (0,4-0,8 мм) и длинах игл (16-25 мм). При этом значения остальных параметров игл, входящих в состав компонент входного набора векторов, варьируются во всем диапазоне возможных значений, то есть на величину процента брака влияния не оказывают.

Проверка специалистами завода технологического процесса производства игл указанных диаметров и длин показала, что при завальцовке нити в их ложементах часто возникали трещины. В дальнейшем на заводе была выработана методика увеличения пластичности стали вблизи ложемента игл, которая была защищена патентом на изобретение.

Рис. 6. Карты-развертки нейронной сети при анализе брака Второй задачей для применения разработанной модели нейронной сети стала задача анализа результатов моделирования работы конических зубчатых передач с круговыми зубьями. Моделирование выполнялось с помощью ПК "ЭКСПЕРТ". Целью анализа было выявление геометрических характеристик этих передач, влияющих на необходимость изготовления нестандартного режущего инструмента – зуборезной головки.

Исследования выполнялись на стадии проектирования. Для получения входных данных для сети был разработан программный интерфейс, позволивший на основе ПК "ЭКСПЕРТ" в автоматизированном режиме выполнить расчеты большого количества зубчатых передач с круговыми зубьями. В результате входной набор данных для нейронной сети содержал около 15 000 векторов.

Число зубьев шестерни Число зубьев колеса Передаточное число Модуль Ширина зубчатого венца (Ширина зуб. венца)/Модуль Рис. 7. Карты-развертки нейронной сети при анализе расчетов Каждый входной вектор имел 10 компонент, а входной наборе векторов представлял собой различные сочетания значений этих компонент: число зубьев шестерни z1 (интервал изменения значений от 15 до 35), число зубьев колеса z 2 (от 15 до 100), средний нормальный модуль передачи mn (от 4 до 7 мм), ширина зубчатого венца колеса и шестерни b (от 5 mn до 14 mn мм), угол наклона спирали шестерни и колеса (от 15° до 35°), передаточное число u = z 2 / z (от 1 до 6,3), отношение ширины зубчатого венца к модулю b / m n (вычисляемый параметр), коэффициент сужения вершинной ленточки зуба колеса K 2 (от 0.9 до 1.1), номер резца резцовой головки N, развод резцов резцовой головки W.

В результате анализа обученной сети и построения ее карт-разверток (рис. 7) был выявлен ранее не формализованный класс конических зубчатых передач, для изготовления которых необходимо применение нестандартных резцовых головок номинальным диаметром 18 дюймов. Эти головки имеют значения образующих диаметров для внутренних резцовых головок меньшие, чем образующие диаметры для наружных резцовых головок. С помощью них должны нарезаться передачи, обладающие следующими характеристиками: передаточное число пары u [2,3], число зубьев шестерни z1 [30,35].

Сделанные выводы подтверждаются на практике в уже разработанной конической зубчатой передаче с круговыми зубьями 31:73, которая производится на заводе "Красный октябрь" в городе Санкт-Петербург. Это передача, которая крутит его основной винт в трансмиссии вертолета и передает большой крутящий момент порядка 15000 НМетр.

Выявлены также дополнительные ограничения на характеристики этих передач, позволяющие нарезать и колесо, и шестерню одной двусторонней резцовой головкой, что уменьшает расходы на их производство. Для этих передач к вышеперечисленным ограничениям добавляются еще два: средний нормальный модуль передачи должен быть в интервале mn [5,7] мм, ширина зубчатого венца колеса и шестерни - в интервале b [30,60] мм.

В четвертой главе приводится описание разработанного программного решения с открытым интерфейсом в виде динамически присоединяемой библиотеки для обеспечения возможности встраивания в СППР. Библиотека реализует работу самоорганизующейся нейронной сети разработанной и классической моделей. При этом пользователем выбирается форма сети (плоская или замкнутая), ее размеры, начальные параметры инициализации и количество эпох обучения. В результате запуска главной обучающей процедуры создается текстовый файл, содержащий все необходимые параметры обученной нейронной сети. Динамическая библиотека разработана с использованием языка программирования "С++".

Во второй части главы описывается еще одно приложение, разработанное в универсальном табличном редакторе Microsoft Excel, которое использует разработанную библиотеку. Его роль заключается в обеспечении интерфейса пользователя при подготовке данных к анализу, а также для визуального отображения и навигации по картам-разверткам и глобусам обученной нейронной сети.

Передвигаясь по ячейкам любой из отображаемых карт компонент или кластеров (каждая ячейка любой карты соответствует определенному нейрону в сети), исследователь в автоматизированном режиме получает информацию о том, к какому найденному сетью кластеру данных относится текущий нейрон, какие значения принимают другие компоненты весов этого нейрона, каковы максимальное, минимальное и среднее значения выбранной компоненты нейрона в области того кластера, к которому он принадлежит. В диссертационной работе приводится блок-схема алгоритма принятия решения с помощью СОКК.

В конце главы приведено описание расчетов и оценки ресурсной эффективности 4 двух алгоритмов поиска нейронов-соседей в решетке сети в процессе обучения для каждого нейрона-победителя:

1. Алгоритм поиска нейронов-соседей в классической модели СОКК (2).

Рассчитанная функция трудоемкости выполнения алгоритма:

Рассчитанная функция объема памяти алгоритма:

Как видно из (15) и (16) обе функции зависят от параметра N - количества нейронов в сети.

2. Алгоритм поиска нейронов-соседей, предложенный в настоящей работе(10).

Рассчитанная функция трудоемкости выполнения алгоритма:

где N - количество нейронов в сети, - радиус соседства.

Функция трудоемкости (17) зависит не только от количества нейронов в сети, но и от значения радиуса соседства на каждой итерации алгоритма обучения.

Рассчитанная функция объема памяти алгоритма:

Ульянов М. В. Ресурсно-эффективные компьютерные алгоритмы. Разработка и анализ. – М: ФИЗМАТЛИТ, 2008. – 304 с.

По количеству требуемой памяти алгоритм, предлагаемый в настоящей работе, требует на 8 N 2 ячеек памяти больше, чем алгоритм классической модели СОКК.

Однако по трудоемкости своего выполнения алгоритм поиска нейроновсоседей в классической модели СОКК будет уступать предлагаемому алгоритму при любом количестве нейронов N сети и таких значениях радиуса соседства, которые удовлетворяют неравенству:

где f ( N, ) = 113 N + 2 + 0 - функция трудоемкости (15) с нулевой зависимостью от радиуса соседства, ( f ( N, ), g ( N, )) - угловая мера близости ресурсных оценок 5 функций f ( N, ) и g (N, ) в каждой точке выбранного для исследования в работе интервала 0 < N 100000 значений количества нейронов сети:

= 32 0,0981 - допустимый порог расхождения значений функций трудоемкости сравниваемых алгоритмов для всех значений N на выбранном интервале.

Рис. 8. Угловая мера близости рассчитанных функций трудоемкости В диссертационном исследовании была рассчитана угловая мера (20) в каждой точке интервала 0 < N 100000 (Рис. 8). Определены такие значения Ульянов М. В. Классификация и методы сравнительного анализа вычислительных алгоритмов. – М.: Издательство физико-математической литературы, 2004. – 212 с.

и N, при которых выполняется условие (19) и предлагаемый алгоритм поиска нейронов-соседей более эффективен по трудоемкости, чем аналог в классической модели СОКК.

На рис. 9 показаны графики зависимости радиуса соседства от количества нейронов сети для двух описываемых алгоритмов.

Рис. 9. Графики и области эффективности алгоритмов:

1 ( N ) - алгоритм, предлагаемый в диссертационной работе;

Области значений, находящиеся выше графика 2 ( N ), содержат такие значения радиуса соседства 2 ( N ), при которых эффективнее по трудоемкости является алгоритм поиска нейронов-соседей (2) классической модели СОКК. Области значений, находящиеся ниже графика 1 ( N ), содержат такие значения радиуса соседства 1 ( N ), при которых эффективнее по трудоемкости является предложенный (10) в диссертационной работе алгоритм поиска нейронов-соседей. В области значений 1 ( N ) < < 2 ( N ) оба алгоритма одинаковы по эффективности в заданном допустимом пороге = 32.

ОСНОВНЫЕ ВЫВОДЫ И РЕЗУЛЬТАТЫ

1. Решена актуальная научная задача, имеющая существенное значение для повышения эффективности систем поддержки принятия решений за счет применения усовершенствованной модели самоорганизующейся нейронной сети Кохонена с замкнутой решеткой.

2. Установлены связи между способами соединения нейронов на границах решетки сети Кохонена и эффективностью аппроксимации ею входного набора анализируемых данных.

3. Разработан новый метод установки связи между нейронами в решетке замкнутой сети и описана его математическая модель, упрощающая алгоритм установления размеров топологических областей соседства.

4. На основании проведенных исследований подтверждено, что разработанная модель нейронной сети решает проблемы "граничного эффекта" и появления "мертвых" нейронов, свойственные классической модели сети этого типа, а также увеличивает точность и качество аппроксимации анализируемых данных.

5. Разработано программное обеспечение в виде динамической библиотеки функций с открытым интерфейсом, обеспечивающей встраивание и возможность использования разработанных программных инструментов интеллектуального анализа данных в системах поддержки принятия решений.

6. Разработан программный интерфейс пользователя, позволяющий наряду с подготовкой данных и обучением нейронной сети выполнять автоматизированный поиск закономерностей в данных на основе результатов ее обучения.

7. Получены практические результаты, иллюстрирующие актуальность и результативность применения новой модели сети Кохонена в задачах выявления скрытых закономерностей в данных, учитываемых при принятии решений на этапе массового производства шовного хирургического инструмента и этапе конструкторской разработки мелкосерийного производства конических зубчатых передач с круговыми зубьями.

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Рыжков В.А, Лычкин Е.Н. Исследование моделей сферической топологии для устранения граничного эффекта в самоорганизующихся нейронных сетях Кохонена // М.: Издательство "Радиотехника", "Нейрокомпьютеры: разработка, применение", 2009. – №10. – с. 73 – 83.

2. Рыжков В.А. Применение моделей сферической топологии в самоорганизующихся нейронных сетях Кохонена для выявления закономерностей в появлении бракованной продукции при массовом производстве. Научнотехнический журнал "Системы управления и информационные технологии" // Воронеж: Издательство "Научная книга", 2009. – № 2.1(36). – с. 176 – 179.

3. Лычкин Е.Н., Рыжков В.А. Применение самообучающихся нейронных сетей для выявления закономерностей при расчете параметров зуборезного инструмента. Вестник МГТУ "Станкин". Научный рецензируемый журнал // М.:

МГТУ "Станкин", 2009. – №1 (5). – с. 45- 50.

4. Рыжков В.А, Лычкин Е.Н. Применение самоорганизующихся нейронных сетей для определения расчетных параметров зацепления конических передач с круговыми зубьями, влияющих на геометрию зуборезного инструмента.

Сборник докладов и тезисов VIII-ой Международной научно-технической конференции "Информационно-вычислительные технологии и их приложения" // Пенза: РИО ПГСХА, 2008. – с. 94- 99.

5. Лычкин Е.Н., Рыжков В.А. Исследование алгоритма обработки данных на основе самоорганизующихся нейронных сетей для управления производством шовного хирургического инструмента. Сборник докладов и тезисов VIII-ой научной конференции МГТУ "Станкин" и "Учебно-научного центра математического моделирования МГТУ "Станкин" - ИММ РАН" // М.: ЯНУС-К, ИЦ ГОУ МГТУ "Станкин", 2005. – с. 109- 112.

6. Рыжков В.А., Концепции и технологии построения хранилища данных на основе автоматизированной информационной системы "Игла", как части системы менеджмента качества на ОАО "Московский завод координатнорасточных станков". Сборник трудов X-ой Международной открытой научной конференции "Современные проблемы информации в технике и технологиях" // Воронеж: Издательство "Научная книга", 2005. – с. 233- 234.

7. Рыжков В.А. Концепции и технологии построения хранилищ данных на основе автоматизированной информационной системы поддержки принятия решений. ОБЪЕДИНЕННЫ НАУЧНЫЙ ЖУРНАЛ № 3 (131) // М.: Фонд научных публикаций, 2005. – с. 58- 60.