Файл: Применение нейронных сетей в экономике.pdf

Это способ анализа, обеспечивающий определение силы и направления влияния факторов на перевод объекта управления в целевое состояние с учетом сходства и различия в влиянии различных факторов на объект управления.

Основана на когнитивной структуризации предметной области, т.е. на выявление будущих целевых и нежелательных состояний объекта управления и наиболее существенных (базисных) факторов управления и внешней среды, влияющих на переход объекта в эти состояния, а также установление на качественном уровне причинно-следственных связей между ними, с учетом взаимовлияния факторов друг на друга.

Результаты когнитивной структуризации отображаются с помощью когнитивной карты (модели).

В экономической сфере это позволяет в сжатые сроки разработать и обосновать стратегию экономического развития предприятия, банка, региона или даже целого государства с учетом влияния изменений во внешней среде; в сфере финансов и фондового рынка – учесть ожидания участников рынка.

Выявление знаний из опыта (эмпирических фактов) и интеллектуальный анализ данных (data mining):^[11]

Интеллектуальный анализ данных (ИАД или data mining) – это процесс обнаружения в "сырых" данных ранее неизвестных, нетривиальных, практически полезных и доступных интерпретации знаний, необходимых для принятия решений в различных сферах человеческой деятельности. Достижения технологии data mining активно используются в банковском деле для решения проблем Телекоммуникации, анализа биржевого рынка и др.

Нейронные сети:

Искусственная нейронная сеть (ИНС, нейросеть) - это набор нейронов, соединенных между собой. Как правило, передаточные функции всех нейронов в сети фиксированы, а веса являются параметрами сети и могут изменяться. Некоторые входы нейронов помечены как внешние входы сети, а некоторые выходы - как внешние выходы сети. Подавая любые числа на входы сети, мы получаем какой-то набор чисел на выходах сети. Практически любую задачу можно свести к задаче, решаемой нейросетью.

1.2. Нейронная сеть Хопфилда

Нейронные сети - это раздел искусственного интеллекта, в котором для обработки сигналов используются явления, аналогичные происходящим в нейронах живых существ. Важнейшая особенность сети, свидетельствующая о ее широких возможностях и огромном потенциале, состоит в параллельной обработке информации всеми звеньями. При громадном количестве межнейронных связей это позволяет значительно ускорить процесс обработки информации. Во многих случаях становится возможным преобразование сигналов в реальном времени. Кроме того, при большом числе межнейронных соединений сеть приобретает устойчивость к ошибкам, возникающим на некоторых линиях. Функции поврежденных связей берут на себя исправные линии, в результате чего деятельность сети не претерпевает существенных возмущений.

Мозг человека содержит порядка 10¹¹ нейронов, каждый из которых своим выходом соединен примерно с 1000 других нейронов. Таким образом в нем существует около 10¹⁴ синаптических связей, которые определяют его функционирование. Интересно заметить, что обработка информации в нейронах происходит достаточно медленно, тактовая частота мозга составляет 400 - 500 Гц, в то время как современные компьютеры работают в гигагерцевом диапазоне. Однако мозг способен решать проблемы, которые не под силу самой совершенной ЭВМ, благодаря параллельной организации вычислительных процессов, избыточности и “пластичности”, позволяющим живому организму адаптироваться к окружающей среде и решать сложные проблемы в условиях существенной информационной неопределенности.

Искусственная нейронная сеть - это машина, которая спроектирована для моделирования функций мозга и подобно ему имеет многослойную иерархическую структуру и способность к обучению. Нейробиологи смотрят на ИНС как на исследовательский инструмент для интерпретации нейробиологических феноменов, инженеры ожидают от ИНС чрезвычайно эффективных вычислительных возможностей, благодаря избыточности и распараллеливанию, хотя и те и другие хотят значительно больше, чем нейросети сегодня способны дать.

С инженерной точки зрения ИНС - это параллельно распределенная система обработки информации, образованная тесно связанными простыми вычислительными узлами (однотипными или различными), которая имеет свойство накапливать экспериментальные знания, обобщать их и делать доступными для пользователя в форме удобной для интерпретации и принятия решений. Функционирование ИНС отражает работу мозга в двух аспектах:

знания накапливаются из окружающей среды в процессе обучения;

обучение происходит путем изменения (целенаправленного или случайного) силы связи между нейронами (синаптических весов) либо топологии (архитектуры) сети.

Основным строительным блоком ИНС является формальный или искусственный нейрон (он же узел сети), представляющий собой или электронную, или математическую, или алгоритмическую, или программно- реализованную модель, чьи элементы имеют прямые аналоги компонент биологических нейронов. На рисунке 1,1 приведены наиболее распространенные обозначения элементарных нейронов, реализующих так называемые примитивные функции:

На каждый вход нейрона подается сигнал x_i, при этом с каждым входом связан так называемый синаптический вес w_i В теле нейрона вычисляется примитивная функция т.е. фактически реализуется нелинейное отображение многомерного пространства входов Rⁿ в скалярный выход R¹.

Процедура, с помощью которой происходит обучение (настройка) отдельного нейрона или нейросети в целом, называется алгоритмом обучения. В процессе обучения происходит изменение (адаптация) синаптических весов, а возможно и топологии ИНС так, чтобы выходные сигналы отвечали некоторому априори заданному критерию качества, характеризующему процесс решения сетью конкретной задачи.

Рисунок 1.1 – Элементарные модели нейронов

С позиций системного подхода ИНС можно рассматривать как черный ящиик, на вход которого поступает некоторый векторный сигнал x, а на выходе должен появиться векторный сигнал y с заданными характеристиками, обеспечиваемыми в результате обучения сети. Фактически нейросеть реализует отображение n-мерного вектора х = (х₁,х₂,...х_п)^T в m -мерный вектор y = (y₁,y₂,...y_п)^T (Рисунок 1.2)^[12]

Рисунок 1.2 – Функциональное представление нейронной сети

На сегодня известны десятки, если не сотни различных архитектур ИНС, хотя нас в дальнейшем будут интересовать сети, реализующие различные процедуры обработки информации, среди которых можно выделить старую проблему восстановления некоторой функции.

Отдельную группу нейронных сетей составляют сети с обратной связью между различными слоями нейронов. Это так называемые рекуррентные сети. Их общая черта состоит в передаче сигналов с выходного либо скрытого слоя во входной слой.

Главная особенность, выделяющая эта сети среди других нейронных сетей, - динамические зависимости на каждом этапе функционирования. Изменение состояния одного нейрона отражается на всей сети вследствие обратной связи типа “один ко многим”. В сети возникает некоторый переходный процесс, который завершается формированием нового устойчивого состояния, отличающегося в общем случае от предыдущего. Если, как и прежде, функцию активации нейрона обозначть f(u), где и — это взвешенная сумма его возбуждений, то состояние нейрона можно определить выходным сигналом. Принимая во внимание, что при обратной связи типа “один ко многим” роль возбуждающих импульсов для нейрона играют выходные сигналы других нейронов, изменение его состояния может быть описано системой дифференциальных нелинейных уравнений.

По аналогии с электронными системами активационную функцию можно считать нелинейной усилительной характеристикой искусственного нейрона. Коэффициент усиления вычисляется как отношение приращения величины выходной к вызвавшему его небольшому приращению величины входной. Он выражается наклоном кривой при определенном уровне возбуждения и изменяется от малых значений при больших отрицательных возбуждениях (кривая почти горизонтатьна) до максимального значения при нулевом возбуждении и снова уменьшается, когда возбуждение становится большим положительным. Центральная область логистической функции, имеющая большой коэффициент усиления, решает проблему обработки фабых сигналов, в то время как области с падающим усилением на положительном н отрицательном концах подходят для больших возбуждений.

Среди различных конфигураций рекурсивных нейронных сетей встречаются такие, при классификации которых по принципу обучения, строго говоря, не подходят ни обучение с учителем, ни обучение без учителя. В таких сетях весовые коэффициенты синапсов рассчитываются только однажды перед началом функционирования сети на основе информации об обрабатываемых данных, и все обучение сети сводится именно к этому расчету. С одной стороны, предъявление априорной информации можно расценивать, как помощь учителя, но с другой - сеть фактически просто запоминает образцы до того, как на ее вход поступают реальные данные, н не может изменять свое поведение, поэтому говорить о звене обратной связи с "миром" (учителем) не приходится. Из сетей с подобной логикой работы наиболее известна сеть Хопфнлда, которая обычно используются для организации ассоциативной памяти.

Обобщенная структура этой сети представляется, как правило, в виде системы с непосредственной обратной связью выхода со входом (рис. 1.3). Характерная особенность такой системы состоит в том, что выходные сигналы нейронов являются одновременно входными сигналами сети:, при этом возбуждающий вектор особо не выделяется. В классической системе Хопфилда отсутствует связь нейрона с собственным выходом, что соответствует w_ij = 0, а матрица весов является симметричной: W = W^T.^[13]

Рисунок 1.3 – Обобщенная структура сети Хопфилда

Процесс обучения сети формирует зоны притяжения (аттракции) некоторых точек равновесия, соответствующих обучающим данным. При использовании ассоциативной памяти с обучающим вектором х либо с множеством этих векторов, которые в результате проводимого обучения определяют расположение конкретных аттракторов (точек притяжения). Каждый нейрон имеет функцию активации типа signum со значениями ±1. Это означает, что выходной сигнал нейрона определяется функцией

.

где N обозначает количество нейронов, N = п.

В процессе функционирования сети Хопфилда можно выделить два режима: обучения и классификации. В режиме обучения на основе известных обучающих выборок х подбираются весовые коэффициенты w_ij. В режиме классификации при зафиксированных значениях весов и вводе конкретного начального состояния нейронов возникает переходный процесс, протекающий в соответствии с заданными настройками сети и завершающийся в одном из локальных минимумов. Благодаря такому режиму обучения веса принимают значения, определяемые усреднением множества обучающих выборок.

Задача, решаемая данной сетью в качестве ассоциативной памяти, как правило, формулируется следующим образом. Известен некоторый набор двоичных с сигнало (изображений, звуковых оцифровок, прочих данных, описывающих некие объекты или характеристики процессов), которые считаются образцовыми. Сеть должна уметь из произвольного неидеального сигнала, поданного на ее вход, выделить ("вспомнить" по частичной информации) соответствующий образец (если такой есть) или "дать заключение" о том, что входные данные не соответствуют ни одному из образцов.

По завершении подбора весов сети их значения “замораживаются”, и сеть может использоваться в режиме распознавания. В этой фазе на вход сети подается тестовый вектор х и рассчитывается ее отклик в виде , причем итерационный процесс повторяется для последовательных значений вплоть до стабилизации отклика.

При большом количестве образов образуются косвенные локальные минимумы, не соответствующие ни одному из запомненных образов, но определяемые сформированной структурой энергетической функции сети. Процесс распознавания может сойтись к одному из таких локальных минимумов, вследствие чего полученное решение не будет соответствовать состоянию ни одного из нейронов, принимавших участие в процессе обучения.

1.3. Однослойный персептрон

Искусственная нейронная сеть, состоящая из нейронов Мак-Каллока - Питтса показана на рисунке 1.4. Она производит "групповое" преобразование (вычисление) информации, поданную на её входа. ^[14]