Файл: Нечеткая логика и нейронные сети (Понятие искусственного нейрона).pdf

Другой широко используемой активационной функцией является гиперболический тангенс. По форме она сходна с логистической функцией и часто используется биологами в качестве математической модели активации нервной клетки. В качестве активационной функции искусственной нейронной сети она записывается следующим образом:

OUT = th(x).

Рис. 4 Функция гиперболического тангенса

Подобно логистической функции гиперболический тангенс является S-образной функцией, но он симметричен относительно начала координат, и в точке NET = 0 значение выходного сигнала OUT равно нулю. В отличие от логистической функции гиперболический тангенс принимает значения различных знаков, что оказывается выгодным для ряда сетей

Рассмотренная простая модель искусственного нейрона игнорирует многие свойства своего биологического двойника. Например, она не принимает во внимание задержки во времени, которые воздействуют на динамику системы. Входные сигналы сразу же порождают выходной сигнал. И, что более важно, она не учитывает воздействий функции частотной модуляции или синхронизирующей функции биологического нейрона, которые ряд исследователей считают решающими.

Несмотря на эти ограничения, сети, построенные из этих нейронов, обнаруживают свойства, сильно напоминающие биологическую систему. Только время и исследования смогут ответить на вопрос, являются ли подобные совпадения случайными или следствием того, что в модели верно схвачены важнейшие черты биологического нейрона.

Глава 4. Виды искусственных нейронных сетей

Можно провести следующую классификацию нейронных сетей:

Рис 5. Классификация нейронных сетей

Как мы видим нейронные сети классифицируются по 4 общим признакам. Рассмотрим каждый из них подробнее.

По характеру обучения.

Классификация нейронных сетей по характеру обучения делит их на:

нейронные сети, использующие обучение с учителем;
нейронные сети, использующие обучение без учителя.

Рассмотрим это подробнее.

Нейронные сети, использующие обучение с учителем. Обучение с учителем предполагает, что для каждого входного вектора существует целевой вектор, представляющий собой требуемый выход. Вместе они называются обучающей парой. Обычно сеть обучается на некотором числе таких обучающих пар. Предъявляется выходной вектор, вычисляется выход сети и сравнивается с соответствующим целевым вектором. Далее веса изменяются в соответствии с алгоритмом, стремящимся минимизировать ошибку.

Векторы обучающего множества предъявляются последовательно, вычисляются ошибки и веса подстраиваются для каждого вектора до тех пор, пока ошибка по всему обучающему массиву не достигнет приемлемого уровня.^[10]

Нейронные сети, использующие обучение без учителя. Обучение без учителя является намного более правдоподобной моделью обучения с точки зрения биологических корней искусственных нейронных сетей. Развитая Кохоненом и многими другими, она не нуждается в целевом векторе для выходов и, следовательно, не требует сравнения с предопределенными идеальными ответами. Обучающее множество состоит лишь из входных векторов.

Обучающий алгоритм подстраивает веса сети так, чтобы получались согласованные выходные векторы, т. е. чтобы предъявление достаточно близких входных векторов давало одинаковые выходы. Процесс обучения, следовательно, выделяет статистические свойства обучающего множества и группирует сходные векторы в классы.

2. По настройке весов

сети с фиксированными связями – весовые коэффициенты нейронной сети выбираются сразу, исходя из условий задачи;
сети с динамическими связями – для них в процессе обучения происходит настройка синаптических весов.

3. По типу входной связи

аналоговая - входная информация представлена в форме действительных чисел;
двоичная - вся входная информация в таких сетях представляется в виде нулей и единиц.
образные нейронные сети - оперируют с информацией, представленной в виде образов: знаков, иероглифов, символов.

4. По модели нейронной сети

Сети прямого распространения – все связи направлены строго от входных нейронов к выходным. К таким сетям относятся, например: простейший персептрон (разработанный Розенблаттом) и многослойный персептрон.
Реккурентные нейронные сети – сигнал с выходных нейронов или нейронов скрытого слоя частично передается обратно на входы нейронов входного слоя.
Радиально базисные функции – вид нейронной сети, имеющий скрытый слой из радиальных элементов и выходной слой из линейных элементов. Сети этого типа довольно компактны и быстро обучаются. Предложены в работах Broomhead and Lowe (1988) и Moody and Darkin (1989). Радиально базисная сеть обладает следующими особенностями: один скрытый слой, только нейроны скрытого слоя имеют нелинейную активационную функцию и синаптические веса входного и скрытого слоев равны единицы.
Самоорганизующиеся карты или Сети Кохонена – такой класс сетей, как правило, обучается без учителя и успешно применяется в задачах распознавания. Сети такого класса способны выявлять новизну во входных данных: если после обучения сеть встретится с набором данных, непохожим ни на один из известных образцов, то она не сможет классифицировать такой набор и тем самым выявит его новизну. Сеть Кохонена имеет всего два слоя: входной и выходной, составленный из радиальных элементов.^[11]

Глава 5. Обучение нейронных сетей

Каждая созданная нейронная сеть требует обучения, в противном случае правильный результат вряд ли будет получен.

Обучение – это процесс, в котором свободные параметры нейронной сети настраиваются посредством моделирования среды, в которую эта сеть встроена. Тип обучения определяется способом подстройки этих параметров.

Методов обучения нейросети существует несколько. Тем не менее среди них выделяют три наиболее интересных способов, это методы обратного и упругого распространения, а также генетический анализ. Тем не менее среди них выделяют три наиболее интересных способов, это методы обратного и упругого распространения, а также генетический анализ. О них и поговорим более подробно.

Существуют два концептуальных подхода к обучению нейронных сетей: обучение с учителем и обучение без учителя.

Обучение нейронной сети с учителем предполагает, что для каждого входного вектора из обучающего множества существует требуемое значение выходного вектора, называемого целевым. Эти вектора образуют обучающую пару. Веса сети изменяют до тех пор, пока для каждого входного вектора не будет получен приемлемый уровень отклонения выходного вектора от целевого.

Обучение нейронной сети без учителя является намного более правдоподобной моделью обучения с точки зрения биологических корней искусственных нейронных сетей. Обучающее множество состоит лишь из входных векторов. Алгоритм обучения нейронной сети подстраивает веса сети так, чтобы получались согласованные выходные векторы, т.е. чтобы предъявление достаточно близких входных векторов давало одинаковые выходы.

Есть ещё несколько методов обучения: стохастический метод вкратце можно описать так, нашлась величина обновления, значит, сразу же необходимо обновить соответствующий ей вес; пакетный метод суммирует значения всех величин в конкретном цикле и только по завершении проводит обновление, что значительно экономит время, однако, при этом страдает точность; мини-пакетный метод совмещает в себе плюсы вышеописанных методов, веса в свободном порядке распределяются по выбранным группам и меняются на сумму коэффициента коррекции всех весов группы.

В процессе любого обучения приходится применять гиперпараметры, подбор которых выполняется вручную, при этом они не являются переменными в определённом уравнении. Это уже упомянутые выше момент и скорость обучения. Также к этим параметрам можно отнести количество скрытых слоёв, число нейронов в слое, присутствие нейронов смещения или, наоборот, их отсутствие. Наличие гиперпараметров в первую очередь определяется типом искусственной нейронной сети. Правильный подбор их значений напрямую влияет на сходимость сети. В случае когда процесс обучения затягивается есть риск возникновения ситуации, в которой потребуется переобучение сети. Как правило, это происходит в момент, когда сеть перенасыщена данными и начинает не обучаться, а просто запоминать результаты для определённого набора входных параметров. И при подаче новых параметров возникают шумы, влияющие на результат.

Нейронные сети — очень перспективное направление разработки. Создав нейронную сеть можно обучить её многому, в частности тому, что человек привык делать бессознательно, а соответственно алгоритм чего ему неизвестен. Считается, что нейросети являются аналогом человеческого мозга, возможно, это и так, но стоит помнить — это всего лишь копия, отдалённо напоминающая свой прототип.

Глава 6. Решение задачи нечеткой логики

Сейчас приступим к практической части курсовой работы.

Необходимо решить задачу используя программу MATHLAB Fuzzy Logic Toolbox.

Условие задачи:

В задаче требуется определить расход воды при поливе сельхозугодий. Входные сигналы:

а) количество с/х культур(много,мало)

б) температура воздуха летом

Выходной сигнал: расход воды на полив (большой, средний, малый)

Правила:

1. Если с/х культур много, лето засушливое, то расход воды большой

2. Если с/х культур много, лето нормальное, то расход воды средний

3. Если с/х культур мало, лето холодное, то расход воды маленький

Решение:

Для начала добавляем второй вход и переименовываем входы\выходы в соответствии с задачей

Рис 6. Вид задачи в Fuzzy Toolbox

Рис 7. Переменные для с/х культур

Затем выставляем функции для входа «Культура»

Устанавливаем два значения «мало» и «много».

Рис 8. Фенкции для температуры лета

Для температуры лета задаем 3 функции. Холодное, нормальное и засушливое.

Рис 9. Функции для расхода воды

Далее задаем функции для значения расхода воды.

Рис 10. Правила

Далее устанавливаем правила в соответствии с условиями задачи.

Все данные из условия введены в программу теперь посмотрим на результат.

Рис 11. Проверка второго правила

Сейчас мы проверим поведение переменной расхода воды при различных входных значениях исходя из правил которые указаны в условии. Если мы установим:

Культуры = 10 и Температура = 5 тогда Расход воды = 14.8

Что соответствует второму правилу в задаче.

Рис 12. Проверка третьего правила

Затем проверим каков будет расход воды если мы выставим:

Культуры = 0 и Температуры = 0 то Расход воды = 3.14

Исходя из правила задачи если с/х культур мало, лето холодное, то расход воды маленький, всё работает корректно.

Рис 13. Проверка первого правила

Также проверим значение расхода воды при максимальных значениях переменных.

Если Культуры = 10 и Температура = 10 то Расход воды = 26.8

Что также соответствует первому правилу задачи.

Рис 14. График расхода воды

Также построим график расхода воды для наглядного отображения его значений.

Заключение

Бурное развитие нейронных сетей, эволюционного моделирования и нечеткой логики приводит к большему их взаимодействию. И если раньше они развивались параллельно друг от друга, то теперь уже идут бок о бок. На первый план, как апогей такого взаимодействия выходит создание искусственного интеллекта. И хотя сама идея его создания появилась задолго до появления нейронных сетей, эволюционного моделирования и нечеткой логики на данном этапе стало понятно, что симбиоз этих трех методов ляжет своей основой для искусственного интеллекта.

Нейронные сети, эволюционное моделирование и нечеткая логика бурно развиваются и находят всё новые и новые ниши для себя. При этом идет создание искусственного интеллекта. С каждым годом идей и программ с применением алгоритмов нейронных сетей, эволюционного моделирования и нечеткой логики становится всё больше и больше.

Также в работе мы успешно решили задачу на нечеткую логику. При решении мы воспользовались программой MATHLAB Fuzzy Logic Toolbox для моделирования результатов.

Список литературы

1. Амоносов Н. М., Алгоритмы разума/ Киев. Изд. Наукова думка 1979.
2. Барский А. Б., Нейронные сети: распознавание, управление, принятие решений/ Москва, Финансы и статистика, 2004.
3. Беркинблит М. Б., Нейронные сети: учебное пособие/ Москва, Миросс 1993 г..
4. Роберт Каллан, Основные концепции нейронных сетей./Издательский дом “Вильямс”, 2001.

5. Заенцев И. В. Нейронные сети: основные модели И. В. Заенцев. — Воронеж: Изд-во Воронежского госуд. ун-та, 1999. — 76 с.