Файл: Нечеткая логика и нейронные сети.pdf

Введение

В наше время, любые специалисты по вычислительной технике, логике, биологии и многих других дисциплинах должны разбираться в основных принципах, особенностях, средств вычислительной техники, в том числе новейших, таких как нечеткой логики и нейронные сети.

Необходимость изучения дисциплины обусловлена тем, что нечеткая логика и нейронные сети является одним из необходимых современных курсов при подготовке специалистов по программированию, информационным технологиям и обработке данных.

Рассматривая нейронную сеть как набор элементов, производящих некоторые вычисления над приходящими к ним данными, можно изучать решение главной и вспомогательных задач. К главной относятся функции генерации, обучения и тестирования нейронных сетей. Вспомогательные задачи: определение значимости входных сигналов, контрастирование нейронных сетей, обучение примеров, определение минимального решающего набора входных параметров, получение логически прозрачной нейронной сети и, в конечном счете, знаний из данных. Для решения этих задач разработан и используется математический аппарат искусственных нейронных сетей.

Таким образом, целью написания работы является рассмотрение нечеткой логики и нейронных сетей.

Задачами курсовой работы в связи с указанной целью являются:

1. Рассмотреть историю развития нейронных сетей;

2. Изучить аналогия нейронных сетей с мозгом и биологическим нейроном;

3. Дать понятие искусственного нейрона;

4. Раскрыть виды искусственных нейронных сетей;

5. Проанализировать обучение нейронных сетей;

6. Разработать нечеткую логику на практике.

1.Теоретическая часть

1.1 История развития нейронных сетей

Нейронные сети применяются для решения различных задач классификации и прогнозирования. Нейронная сеть обучается решению задачи на основании 11 некоторой обучающей выборки – "задачника", состоящего из набора пар "вход–требуемый выход, и далее способна решать примеры, не входящие в обучающую выборку.^[1]

Термин «нейронные сети» сформировался к середине 50-х годов XX века. Основные результаты в этой области связаны с именами У. Маккалоха, Д. Хебба, Ф. Розенблатта, М. Минского, Дж. Хопфилда. Приведем краткую историческую справку:

1. г. У. Маккалох (W. McCulloch) и У. Питтс (W. Pitts) предложили модель нейрона и сформулировали основные положения теории функционирования головного мозга.
2. г. Д. Хебб (D. Hebb) высказал идеи о характере соединений нейронов мозга и их взаимодействии (клеточные ансамбли, синаптическая пластичность). Впервые предложил правила обучения нейронной сети. 1970-1976 гг. Активные разработки в области персептронов в СССР (основные заказчики - военные ведомства). Конец 1970-х гг. Возобновление интереса к искусственным нейронным сетям как следствие накопления новых знаний о деятельности мозга, а также значительного прогресса в области микроэлектроники и компьютерной техники.^[2]
3. г. Появление первых коммерческих нейрокомпьютеров, например, Mark III фирмы TRW (США). 1989 г. Разработки и исследования в области ИНС и НК ведутся практически всеми крупными электротехническими фирмами. Нейрокомпьютеры становятся одним из самых динамичных секторов рынка (за два года объем продаж вырос в пять раз). Агентством DARPA (Defence Advanced Research Projects Agency) министерства обороны США начато финансирование программы по созданию сверхбыстродействующих образцов НК для разнообразных применений. 1990 г. Активизация советских исследовательских организаций в области ИНС и НК (Институт кибернетики им. Глушкова в Киеве, Институт многопроцессорных вычислительных систем в Таганроге, Институт нейрокибернетики в Ростове-на-Дону). Общее число фирм, специализирующихся в области ИНС и НК, достигает трехсот. 1991 г. Годовой объем продаж на рынке ИНС и НК приблизился к 140 млн. долларам. Создаются центры нейрокомпьютеров в Москве, Киеве, Минске, Новосибирске, С.-Петербурге. 1992 г. Работы в области ИНС находятся стадии интенсивного развития. Ежегодно проводится десятки международных конференций и форумов по нейронным сетям, число специализированных периодических научных изданий по указанной тематике достигло двух десятков наименований. 1997 г. Годовой объем продаж на рынке ИНС и НК превысил 2 млрд. долларов, а ежегодный прирост составил 50%. 2000 г. Переход на субмикронные и нанотехнологии, а также успехи молекулярной и биомолекулярной технологии приводят к принципиально новым архитектурным и технологическим решениям по созданию нейрокомпьютеров.^[3]

1.2 Аналогия нейронных сетей с мозгом и биологическим нейроном

Биологические нейроны и нейронные сети служили прототипами при создании искусственных нейронных сетей. Была сделана попытка использования процессов, происходящих в нервных системах, для выработки новых технологических решений. В большинстве современных нейросетевых архитектур былое сходство стало существенно меньше. Тем не менее, знакомство с естественными нейронными сетями полезно, т.к. они успешно решают задачи, к выполнению которых лишь стремятся искусственные сети.

Нервная система человека построена из специальных нервных клеток, называемых нейронами. Мозг имеет около 1011 нейронов, которые образуют около 1015 передающих связей, имеющих длину до метра и более.

Биологический и искусственный нейроны.

Нервная клетка, сокращенно называемая нейроном, является основным элементом нервной системы. Изучение механизмов функционирования отдельных нейронов и их взаимодействия принципиально важно для познания протекающих в нервной системе процессов поиска, передачи и обработки информации. С этой точки зрения представляется необходимым изучить модель биологического нейрона.^[4]

1.3 Понятие искусственного нейрона

Искусственные нейронные сети (ИНС или НС) строятся по принципам организации и функционирования их биологических аналогов. Они способны решать широкий круг задач распознавания образов, идентификации, прогнозирования, оптимизации, управления сложными объектами. Дальнейшее повышение производительности компьютеров все в большой мере связывают с ИНС, в частности, с нейрокомпьютерами (НК), основу которых составляет искусственная нейронная сеть.

Развитие ИНС основывается на биологии. То есть, рассматривая сетевые конфигурации и алгоритмы, исследователи применяют термины, заимствованные из принципов организации мозговой деятельности. Но на этом аналогия заканчивается. Наши знания о работе мозга столь ограничены, что мало бы нашлось точно доказанных закономерностей для тех, кто пожелал бы руководствоваться ими. Поэтому разработчикам сетей приходится выходить за пределы современных биологических знаний в поисках структур, способных выполнять полезные функции. Во многих случаях это приводит к необходимости отказа от биологического правдоподобия, мозг становится просто метафорой, и создаются сети, невозможные в живой материи или требующие неправдоподобно больших допущений об анатомии и функционировании мозга.

Несмотря на то, что связь с биологией слаба и зачастую несущественна, ИНС продолжают сравнивать с мозгом. Их функционирование часто имеет внешнее сходство с человеческим познанием, поэтому трудно избежать этой аналогии.

Искусственный нейрон имитирует в первом приближении свойства биологического нейрона. На вход искусственного нейрона поступает некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий вес, аналогичный синаптической силе, и все произведения суммируются, определяя уровень активации нейрона.

На рисунке 1 показана структура искусственного нейрона. Он состоит из элементов трех типов: умножителей (синапсов), сумматора и нелинейного преобразователя. Синапсы осуществляют связь между нейронами, умножают входной сигнал на число, характеризующее силу связи, (вес синапса). Сумматор выполняет сложение сигналов, поступающих по синаптическим связям от других нейронов, и внешних входных сигналов. Нелинейный преобразователь реализует нелинейную функцию одного аргумента - выхода сумматора. Эта функция называется функцией активации или передаточной функцией нейрона.^[5]

Рисунок 1 - Структура искусственного нейрона

Нейрон в целом реализует скалярную функцию векторного аргумента.

Математическая модель нейрона:

y = f(s)

где w_i, - вес (weight) синапса, i = 1...n; b - значение смещения (bias); s - результат суммирования (sum); x - компонент входного вектора (входной сигнал), x_i = 1... n; у - выходной сигнал нейрона; n - число входов нейрона; f - нелинейное преобразование (функция активации).

1.4 Виды искусственных нейронных сетей

Однослойная ИНС - входящие сигналы сразу передаются с входного слоя на выходной, который обрабатывает их и выдает готовый результат. На изображении распределяющий слой изображен кружочками, а обрабатывающий - квадратиками.

Многослойная ИНС - сеть, которая состоит из входного, скрытого и обрабатывающего слоев. Сигнал с распределяющего слоя частично обрабатывается скрытым слоем, после чего передается на последний слой нейронов, вычисляющий конечный результат.

Скрытые слои ИНС ученые научились обучать совсем недавно и это большой шаг вперед, поскольку многослойные нейросети существенно превосходят по производительности и возможностям однослойные.

Также стоит знать, что работают сети в двух направлениях - прямое распределение и обратное. ИНС прямого распределения дают возможность решать с успехом большинство задач: прогнозирование, кластеризация и распознавание. В таких нейросетях сигнал передается только вперед, назад он возвращаться не имеет возможности.

1.5 Обучение нейронных сетей

Значительная часть аппарата нейронных сетей заимствована в других разделах математики, среди которых методы оптимизации, численные методы, распознавание образов, математическая статистика. Многие методы и способы созданы для нейроинформатики и в нейроинформатике. При заимствовании готовые методы преобразованы так, чтобы их можно было реализовать на высокопараллельных компьютерных системах. Кроме того, как было сказано выше, нейроинформатика предложила некоторые новые подходы к решению вспомогательных задач, оказавшихся важными для пользователей.^[6]

Множество задач, решаемых с помощью нейронных сетей, постоянно пополняется, поэтому сложно дать их завершенную классификацию. Однако многие задачи, для решения которых используются нейронные сети, могут рассматриваться как частные случаи следующих основных проблем.

1) Построение функции по конечному набору значений.

2) Оптимизация.

3) Построение отношений на множестве объектов.

4) Распределенный поиск информации и ассоциативная память.

5) Фильтрация.

6) Сжатие информации.

7) Идентификация динамических систем и управление ими.

Нейросетевая реализация классических задач и алгоритмов вычислительной математике: решение систем линейных уравнений, решение задач математической физики сеточными методами и др. ^[7]

Однозначно построить функцию (обычно многих действительных переменных) по конечному набору значений невозможно без специальных дополнительных условий. В качестве таких условий могут использоваться требования минимизации различных функционалов, например интеграла суммы квадратов вторых производных – требование максимальной гладкости. При этом известные в конечном множестве точек значения функции превращаются в набор ограничений, при которых ищется минимум функционала.