Файл: ИИ.docx

Не стоит забывать, что в процессе обучения человек взаимодействует с множеством учителей. Следовательно, для обучения биологического мозга данный способ является оптимальным.

Основное достоинство метода обучения без учителя – его «самостоятельность». Существуют алгоритмы обучения, способные изменять структуру сети. Но, подстройка синапсов может происходить только на основе информации, заложенной в самом нейроне.

2 Проблема классификации образов

2.1 Рецепторная структура восприятия информации

Решение проблемы распознавания образов может основываться на изучении биологических процессов. Бывают ситуации, когда способности мозга к распознаванию превышают способности любой машины. [29].

Когда распознавание происходит на основе «сенсорного» опыта, мозг человека легко превосходит искусственную нейронную сеть. Но, в несенсорных условиях, когда разделение объектов на классы включает работу с логическими абстрактными комбинациями, человеческий мозг не так эффективен, как машина (2.1) [16].

Рисунок 2.1 – Процесс распознавания

Задача распознавания образов включает в себя идентификацию изучаемого объекта, идентификацию его заданных свойств [25]. В процессе биологической эволюции многие животные с помощью зрительного и слухового аппарата решили эту задачу достаточно хорошо. Создание искусственных систем с функциями распознавания образов остаётся сложной технической проблемой.

Проблему распознавания образов можно разделить на две части: обучение распознаванию и распознавание. При обучении сети «показываются» объекты с указанием их классов, значений свойств и т.д. Успешное обучение позволит сети, поработав с эталонными примерами, распознавать объекты, не содержащиеся в эталонной базе (рисунок 2.2)[16].

Рисунок 2.2 – Примеры объектов для обучения

К задачам, которые могут быть решены с помощью распознающих систем, можно отнести большое количество разнообразных задач: распознавание зрительных и слуховых образов, различных процессов и явлений, выбор оптимального процесса управления и т.д.

Главная цель обучения построить такую функцию, которая позволит каждый классифицируемы объект с высокой степенью вероятности отнести к одному классу. Если предъявляемые объекты принадлежат большему числу классов, то необходимо построить поверхности, разделяющей все классы, соответствующие этим объектам, друг от друга (рисунок 2.3) [15].

Рисунок 2.3 – Разделение образов в пространстве

В ходе обучения, набор признаков формируется исходя из заранее определенной классификации. Следовательно, задание в пространстве признаков само по себе задает свойство, под действием которого образы в этом пространстве легко разделяются. Поэтому в соответствии с гипотезой компактности множества объектов, которым в абстрактном пространстве соответствуют компактные множества точек, будут абстрактными образами данного пространства.

2.2 Обучение сетей

2.2.1 Общие принципы обучения сетей

Под обучением будем понимать процесс, результатом которого является приобретение системой способности отвечать нужными реакциями. Адаптация представляет собой подстраивание параметров системы, а также ее структуры для достижения необходимого качества уровнем управления.

Входное устройство системы отображает объекты на изображения. Делается это при помощи некоторого свойства разделимости образов. Данное устройство воспроизводит самостоятельную классификацию данных объектов.

По окончании процесса самообучения система научится распознавать не только уже знакомые объекты, но и те, которые не содержаться в обучающейц выборке.

В результате самообучения можно получить характеристику пригодности выбранного пространства для решаемой задачи. Если абстрактные образы, выделяемые в процессе самообучения, совпадают с реальными, то пространство выбрано удачно. Чем сильнее абстрактные образы отличаются от реальных, тем "неудобнее" выбранное пространство для конкретной задачи.

Возможен способ построения распознающих машин, основанный на различении каких-либо признаков подлежащих распознаванию фигур. В качестве признаков могут быть выбраны различные особенности фигур, например, их геометрические свойства (характеристики составляющих фигуры кривых), топологические свойства (взаимное расположение элементов фигуры) и т.п. Известны распознающие машины, в которых различение букв или цифр производится, по так называемому «методу зондов», т.е. по числу пересечений контура фигуры с несколькими особым образом расположенными прямыми (рисунок 2.4) [21].

Рисунок 2.4 – Схема расположения зондов для распознавания цифр

Если проектировать цифры на поле с зондами, то окажется, что каждая из цифр пересекает вполне определенные зонды, причем комбинации пересекаемых зондов различны для всех десяти цифр. Эти комбинации и используются в качестве признаков, по которым производится различение цифр. Такие машины успешно справляются, например, с чтением машинописного текста, но их возможности ограничены тем шрифтом (или группой сходных шрифтов), для которого была разработана система признаков [10-12].

В результате обучения машина должна оказаться способной узнавать сколь угодно большое число новых объектов, относящихся к тем же образам. Таким образом, имеется в виду следующая схема экспериментов: а) никакие сведения о подлежащих классификации образах в машину заранее не вводятся; б) в ходе обучения машине предъявляется некоторое количество объектов каждого из подлежащих классификации образов и (при моделировании процесса обучения “с учителем”) сообщается, к какому образу относится каждый объект; в) машина автоматически обрабатывает полученную информацию, после чего г) с достаточной надежностью различает сколь угодно большое число новых, ранее ей не предъявлявшихся объектов из образов. Машины, работающие по такой схеме, называются узнающими машинами.

Для того чтобы ввести изображение в машину, нужно перевести его на машинный язык, т.е. закодировать, представить в виде некоторой комбинации символов, которыми может оперировать машина. Кодирование плоских фигур можно осуществить самым различным образом. Лучше стремиться к наиболее “естественному” кодированию изображений. Будем рисовать фигуры на некотором поле, разбитом вертикальными и горизонтальными прямыми на одинаковые элементы – квадратики.

Такое кодирование считается “естественным” потому, что разбиение изображения на элементы лежит в основе работы нашего зрительного аппарата. Действительно, сетчатка глаза состоит из большого числа отдельных чувствительных элементов (так называемых палочек и колбочек), связанных нервными волокнами со зрительными отделами головного мозга.

Обучение сети необходимо для получения множества выходов на основе множества входов. Существующие алгоритмы обучения можно классифицировать как алгоритмы обучения с учителем и без учителя:

• при использовании алгоритма обучения с учителем, обучение происходит на сравнении полученного результата с эталонным значением. Данный метод дает высокие результаты, но критикуется за свою «биологическую неправдоподобность» [15];

• обучение без учителя – имеется только набор входных значений, при обучении сеть должна выдавать близкие по значению выходные результаты, получив близкие значения на вход.

2.2.2 Обучение сетей с помощью алгоритма обратного распространения ошибки

Использование алгоритма обратного распространения ошибки предполагает проход по сети в прямом и обратном направлениях. Прямой подход обеспечивает получение выходного сигнала на основе входного, веса нейронов при этом зафиксированы. Обратный подход предполагает настройку весов на основе входного и соответствующего ему выходного сигналов. При этом, фактический выходной сигнал сети вычитается из ожидаемого выходного сигнала.

Алгоритм обратного распространения ошибки состоит из следующих шагов:

1. Генерация случайных значений весов.

2. Выбор обучающей пары, подача входного сигнала на вход сети.

3. Вычисление выходного сигнала (фактический сигнал).

4. Вычисление разности между фактическим и ожидаемым сигналами.

5. Корректировка весов.

6. Повторение шагов со второго по пятый для всех обучающих пар с целью минимизации ошибки.

Схематично, работа алгоритма приведена на рисунке 2.5.

Рисунок 2.5 – алгоритм обратного распространения ошибки

На рисунке использованы следующие обозначения:

• каждому слою сети поставлена в соответствие буква – А (входной слой), В (внутренний), С (выходной);

• нейроны каждого слоя имеют порядковый номер;

• – синаптический вес между нейронами (в данном случае, между первыми нейронами слоев А и В;

• – выход нейрона.

2.3 Персептрон как модель распознавания образов

Значительный вклад в развитие нейрокибернетики сделал нейрофизиолог Френк Розенблатт. Он представил модель узнающей машины, которая была названа «Персептрон» (лат. – «понимаю, познаю»).

Разрабатывая данную модель, он исходил из общепринятых представлений о структуре мозга. Для воспроизведения функций мозга, Розенблатт применял простую модель биологического нейрона и систему связей между нейронами. Модель представлена на рисунке 2.6.

Рисунок 2.6 – Персептронный нейрон

В качестве воспринимающего устройства для персептрона используется фотоэлектрическая модель сетчатки. Данная модель представляет собой поле рецепторов, которое состоит из нескольких сотен S-элементов.

Элементы поля рецепторов могут находиться в следующих состояниях: возбужденное, невозбужденное. Текущее состояние зависит от того, попадает или нет на соответствующее фотосопротивление контур фигуры, проектируемой на поле.

В качестве выхода каждого элемента используется сигнал x_i (i = 1, 2, …, n, n- число элементов). Значение сигнала равно единице в том случае, если элемент возбужден. В противном случае, значение ноль. Следующая ступень персептрона – ассоциативные элементы(А-элементы).

А-элементы имеют несколько входов и один выход. Во время подготовки персептрона к эксперименту, на входы А-элементов подаются выходы рецепторов. При этом, подключение любого из них может быть как с положительным знаком, так и с отрицательным. Рецепторы выбираются в случайном порядке.

При проведении эксперимента взаимосвязь рецепторов и А-элементов не изменяется. А-элементы осуществляют алгебраическое суммирование поступивших сигналов [33].

Внешний вид устройства сети представлен на рисунке 2.7.

Рисунок 2.7 – Персептронное устройство с одним выходом

Если сумма больше, А-элемент выдает на выходе сигнал, равный единице. Если меньше, выходной сигнал А-элемента равен нулю.

Следовательно, выходной сигнал j-го Α-элемента: n 1, если (Σ rij * xi - ϑ) ≥ 0, yi = i=1 n 0, если (Σ rij * xi - ϑ) < 0, i=1 где величина rij принимает значение +1, если i -й рецептор подключен ко входу j-го Α- элемента со знаком плюс; и значение -1, если рецептор подключен со знаком минус, и значение 0, если i-ый рецептор к j-му Α-элементу не подключается (j = 1, 2, …, m, где m – число Α-элементов). Выходные сигналы Α-элементов с помощью специальных устройств (усилителей) умножаются на переменные коэффициенты λj. Каждый из этих коэффициентов может быть положительным, отрицательным или равным нулю и меняться независимо от других коэффициентов.

Выходные сигналы усилителей суммируются, и суммарный сигнал поступает на вход, m σ = Σ λj * yj (2.9) j=1 так называемого, реагирующего элемента или R-элемента. Если σ положительна или равна нулю, R-элемент выдает на выходе единицу, а если σ отрицательна – нуль. Персептронное устройство с одним выходом. Таким образом, выходной сигнал R-элемента (являющийся также выходным сигналом персептрона) будет иметь следующий вид: m 1, если Σ λj * yj ≥ 0, j=1 R = (2.10) m 0, если Σ λj * yj < 0, j=1 Предположим, что на поле рецепторов проектируются фигуры, принадлежащие к двум различным образам. Если окажется возможным привести персептрон в такое состояние, чтобы он с достаточной надежностью выдавал на выходе 1, при появлении на его входе фигур одного образа, то это будет означать, что персептрон обладает способностью обучаться различению двух образов (рисунок 2.8).