Файл: Нейронные сети Хопфилда и Хемминга. Назначение, архитектура, принципы работы, достоинства и недостатки.pdf

Введение

В области искусственного интеллекта нейронные сети являются одним из направлений исследований, которое основывается на попытках воспроизвести нервную систему человека. Особенно ценной видится способность нервной системы обучаться и исправлять ошибки, что должно приблизить возможность имитации работы человеческого мозга.

На сегодняшний момент они стали важным инструментом решения проблем в обширных областях деятельности. Однако для более широкого применения нейронных сетей и поручения им нахождения решений для проблем более глобального уровня, необходимо удостовериться в надежности их работы относительно поставленных перед ними задач, и провести черту относительно характера ошибок, допущение которых возможно в конкретно разбираемой задаче. Ситуация складывается таким образом, что ввиду увеличения доверия к работе компьютерных систем, возможно пренебрежение бдительностью в вопросах анализа надежности искусственных нейронных сетей, даже несмотря на принятие во внимание факта о том, что плод их труда может являться недостаточно точным даже при адекватном функционировании. В действительности же вероятность ошибочности выводов компьютерных технологий возможна, так же как и работы человеческого мозга. Технические проблемы могут допустить появление ошибочных результатов в работе компьютерных технологий, наравне с недочетами в коде программ, человеческий мозг может ошибаться из-за внешних факторов, состояния на момент совершения действия, или уровня предыдущей подготовки. Однако при совместной работе и учете особенностей каждого, с достаточным уровнем совместной поддержки, они имеют шанс на успешное решение критических задач. В решении подобных задач нейронные сети не должны рассматриваться как единственное средство, но они могут принять не себя управление, или же быть дополняющим, предупреждающим экстренные ситуации орудием, когда ситуация не может быть разрешена стандартным способом и замедление способно привести к серьезным последствиям.

Также видится некоторая проблематичность в работе с традиционными нейронными сетями относительно их неспособности дать разъяснения о том, каким образом ими решена та или иная задача. Результаты обучения, являющиеся плодом происходящего внутри сети, не могут дать представления, которое способно оказаться по уровню сложности не поддающемуся анализу, в отличие от некоторых случаев, достаточно простых для того, чтобы не представлять интереса.

---

Затруднительную ситуацию с несовершенством нейронных сетей в недавнее время могут несколько упростить попытки объединения с экспертными системами. В таком симбиозе большинство простых случаев будет частью работы искусственной нейронной сети, а более сложные перейдут под рассмотрение экспертной системой. Более высокий уровень принятия сложных случаев даст результат, а также вероятность сборов дополнительных данных.

Компании, разрабатывающие нейросетевые пакеты, дают обширному кругу пользователей доступность работы с разнообразием видов нейронных сетей и способам их обучения. Они могут иметь узкую специализацию (например, отдельные моменты работы биржевых брокеров), или же быть универсальными.

Текущее применение нейронных сетей разнообразно в множестве областей. С их помощью происходит распознавание речи и текстовой информации, поиск, их используют системы поддержки принятия решений, системы безопасности.

Целью данной работы является рассмотрение нейронных сетей Хопфилда и Хэмминга.

Объектом работы являются нейронные сети Хопфилда и Хэмминга.

Предметом являются принципы функционирования данных сетей, их достоинства и недостатки.

Работа является актуальной по той причине, что в последние несколько лет нейронные сети стали широко использоваться во множестве областей, и знание основных принципов их работы является очень желательным для любого человека, даже имеющего очень опосредованное отношение к компьютерам.

Для достижения поставленной цели необходимо решить следующие задачи:

• Рассмотреть нейронные сети в общем;
• Рассмотреть нейронные сети Хопфилда и Хэмминга;
• Рассмотреть архитектуру этих сетей;
• Описать принципы работы этих сетей;
• Выделить достоинства и недостатки работы этих сетей.

В работе будут использованы отечественные и зарубежные источники.

1. Нейронные сети хопфилда и хэмминга

1.1. Нейронные сети

Искусственные нейронные сети прочно вошли в нашу жизнь и сейчас широко используются в решении самых различных задач и особенно активно там, где обычные алгоритмические решения являются неэффективными или совершенно невозможными. Среди задач, поиск решения которых предоставляют нейронным сетям, можно считать следующие: биржевые игры, распознавание текстов, системы видеонаблюдения, контекстная реклама, фильтрация ненужной информации, проверка операций по банковским картам - и это лишь немногочисленные примеры их применения.

---

Понятно, что свои возможности нейронные сети берут из двух вещей: из распараллеливания обработки информации и из создания обобщений, т.е. они способны самообучаться. Под обобщением следует понимать способность получения обоснованных результатов на основании данных, не встречаемых в процессе обучения. Такие свойства дают нейронным сетям возможность находить решение сложных задач, трудная решаемость которых может стать простой в ближайшем будущем. Однако нейронные сети в практической автономной работе не могут гарантировать готовые решения. Решением может служить интеграция их в сложные системы. [1]

Итак, приведем некоторые преимущества и достоинства нейронных сетей перед традиционными вычислительными системами:

1. Решение задач при неизвестных закономерностях.

Используя способность обучения на множестве примеров, нейронная сеть способная решать задачи, в которых неизвестны закономерности развития ситуации и зависимости между входными и выходными данными. Традиционные математические методы и экспертные системы в таких случаях проигрывают.

1. Устойчивость к шумам во входных данных.

Возможность работы при наличии большого числа неинформативных, шумовых входных сигналов. Нет необходимости делать их предварительный отсев, нейронная сеть сама определит их малопригодность для решения задачи и отбросит их.

1. Адаптация к изменениям окружающей среды.

Нейронные сети могут адаптироваться. Нейронные сети, настроенные на конкретные действия в определенной среде, способны быть легко переучены для работы в условиях незначительных колебаний параметров среды. Более того, для работы в нестационарной среде (где статистика изменяется с течением времени) могут быть созданы нейронные сети, переучивающиеся в реальном времени. Чем выше адаптивные способности системы, тем более устойчивой будет ее работа в нестационарной среде. При этом следует заметить, что адаптивность не всегда ведет к устойчивости; иногда она приводит к совершенно противоположному результату. Например, адаптивная система с параметрами, быстро изменяющимися во времени, может также быстро реагировать и на посторонние возбуждения, что вызовет потерю производительности. Для того чтобы использовать все достоинства адаптивности, основные параметры системы должны быть достаточно стабильными, чтобы можно было не учитывать внешние помехи, и достаточно гибкими, чтобы обеспечить реакцию на существенные изменения среды.

---

1. Потенциальное сверхвысокое быстродействие.

Нейронные сети обладают потенциальным сверхвысоким быстродействием за счет использования массового параллелизма обработки информации.

1. Отказоустойчивость при аппаратной реализации нейронной сети.

Нейронные сети потенциально отказоустойчивы. Это значит, что при неблагоприятных условиях их производительность падает незначительно. Например, если поврежден какой-то нейрон или его связи, извлечение запомненной информации затрудняется. Однако, принимая в расчет распределенный характер хранения информации в нейронной сети, можно утверждать, что только серьезные повреждения структуры нейронной сети существенно повлияют на ее работоспособность. Поэтому снижение качества работы нейронной сети происходит медленно. [10]

Как метод представления знаний, нейронные сети обладают некоторыми недостатками:

1. Затруднения в вербализации результатов нейронной сети и дачи пояснительных объяснений о принятом решении;
2. Отсутствие гарантии о повторении и однозначности окончательных результатов.

Однако в области представления и обработки знаний у нейронных сетей есть и преимущества:

1. Формализация знаний не является необходимой, может быть заменена обучением на примерах;
2. Естественность обработки и представления нечетких знаний, сходны с осуществлением в мозге;
3. Параллельная обработка с надлежащей аппаратной поддержкой создает условия для работы в реальном времени;
4. Аппаратная реализация способна обеспечить отказоустойчивость;
5. Обработка многомерных данных (более трех) без увеличения трудоемкости, так же как и знаний.

В современной науке существует сфера искусственного интеллекта, главным инструментом которой, инструментом, имеющим особую важность, являются нейронные сети. Строение искусственной нейронной сети во многом схоже со строением нервной системы человеческого мозга, в котором нейроны представляют собой многочисленные элементарные объекты, принимающие важное участие в процессе мышления человека. Здесь необходимо понять принципы, по которым происходит процесс мышления, каким образом происходит обучение мозга, и делаются выводы. Основная цель нейронной сети в том, чтобы учиться и адаптироваться.

Мозг – это сеть нейронов, которые соединены друг с другом. Нейрон реализует довольно простую передаточную функцию, способную позволить преобразовывать возбуждения на входах с принятием в расчет входных весов, в величину возбуждения на выходе. Функционально завершенный фрагмент имеет входной слой рецепторных нейронов, возбужденных внешней средой, и выходной слой нейронов, которые возбуждаются в зависимости от величины возбуждения нейронов входного слоя. Нейронная сеть, имитирующая работу мозга, обрабатывает не сами данные, а их достоверность, или, в общепринятом смысле, вес, оценку этих данных. [7]

---

Существуют релаксационные нейронные сети, в которых информация циркулирует до тех пор, пока выходные значения нейронной сети (равновесное состояние) не перестанут меняться.

Релаксационные нейронные сети характеризуются прямым и обратным распространением информации между слоями нейронной сети. В основе работы таких сетей лежит итерационный принцип работы. Она заключается в том, что на каждой итерации процесса обрабатываются данные, полученные на предыдущем шаге. Этот круговорот информации продолжается до установления состояния равновесия. При этом состояния нейронных элементов перестают изменяться и характеризуются стационарными значениями. Поскольку релаксация является процессом установления равновесия, такие сети называются релаксационными. Эти сети используются как ассоциативная память, и для решения комбинаторных задач оптимизации. Релаксационные сети включают нейронные сети Хопфилда и Хэмминга.

1.2. Нейронные сети Хопфилда

Есть сети, не имеющие обратных связей, т. е. связей, идущих от выходов сетей к их входам. Отсутствие обратной связи гарантирует безусловную устойчивость сетей. Они не могут войти в режим, когда выход беспрерывно блуждает от состояния к состоянию, и не пригоден к использованию. Но это весьма желательное свойство достигается не бесплатно, сети без обратных связей обладают более ограниченными возможностями по сравнению с сетями с обратными связями. Так как сети с обратными связями имеют пути, передающие сигналы от выходов к входам, то отклик таких сетей является динамическим, т. е. после приложения нового входа вычисляется выход и, передаваясь по сети обратной связи, модифицирует вход. Затем выход повторно вычисляется, и процесс повторяется снова и снова. Для устойчивой сети последовательные итерации приводят к все меньшим изменениям выхода, пока, в конце концов, выход не становится постоянным. Для многих сетей процесс никогда не заканчивается, такие сети называют неустойчивыми. Неустойчивые сети обладают интересными свойствами и изучались в качестве примера хаотических систем, в отличие от устойчивых сетей, т. е. тех, которые в итоге дают постоянный выход. Проблема устойчивости ставила в тупик первых исследователей нейронных сетей. Никто не был в состоянии предсказать, какие из сетей будут устойчивыми, а какие будут находиться в постоянном изменении. Более того, проблема представлялась столь трудной, что многие исследователи были настроены пессимистически относительно возможности решения. К счастью, была получена теорема, описавшая подмножество сетей с обратными связями, выходы которых достигают устойчивого состояния. Это замечательное достижение открыло дорогу дальнейшим исследованиям и сегодня многие ученые занимаются исследованием сложного поведения и возможностей этих систем. Дж. Хопфилд сделал важный вклад, как в теорию, так и в применение систем с обратными связями. Поэтому некоторые из конфигураций известны как сети Хопфилда. [4]

---