Файл: Элементы нейронных сетей.pdf

От качества обучения нейронной сети зависит ее способность решать поставленные перед ней задачи.

1.4 Нейронные сети в прогнозировании

Общая постановка задачи. Способность нейронной сети для прогнозирования происходит в результате непосредственно своей способности выбрать и проанализировать скрытые зависимости между входными и выходных данными. После обучения, сеть способна предсказать будущее значение некоторых последовательностей на основе нескольких предыдущих значений и / или каких-либо существующих в настоящее время факторов [2].

Постановка задачи. Необходимо подготовить данные для обучения и проверки нейронной сети, топологии нейронной сети, чтобы выбрать ее характеристики и параметры обучения [8].

Схема для решения задачи прогнозирования может быть представлена в виде последовательности этапов (рис. 3) [16].

Рисунок 3 – Схема решения задач прогнозирования

Если временной ряд порождается динамической системой, т.е. значения {(t)} - произвольная функция состояния такой системы, существует ряд D, предыдущие значения которого - временные ряды, однозначно определяет следующее значение. На практике, большинство из прогнозируемых временных рядов генерируются сложными динамическими системами, имеющими большое значение D. Кроме того, во временном ряду может присутствовать случайная составляющая. Таким образом, на данном этапе необходимо предварительное преобразование исходных данных, которое позволит уменьшить ошибку прогноза.[3]

Рисунок 4 – Динамика цен на пшеницу с 2011 по 2014гг

На этапе обучения нейронная сеть восстанавливает целевую функцию на множестве наборов учебных образцов, т.е. решает задачу интерполяции [2]. На этапе использования обученных нейронных сетей (получение прогноза), она будет использовать пониженную зависимость для прогнозируемого значения, т.е. решать проблему экстраполяции. Для правильного решения проблемы, как проблемы экстраполяции интерполяцией необходимо предоставить доказательства стационарного временного ряда, распределение значений ряда должны быть инвариантно по отношению к точке во времени, для которого она построена. Чтобы сделать это, дифференцируют временной ряд (рис. 5) [9]:

Рисунок 5 – Продифференцированный временной ряд

Для улучшения качества и скорости обучения нейронной сети необходимо преобразовать входные данные в диапазоне [-1,1]. Формула преобразования нормативного значения х, для i-го примера в интервале [а, b] состоит в следующем [8]:

где x_min , x_max - минимальное и максимальное выборочные значения признака.

Из этого набора получается два непересекающихся подмножества, в хронологическом порядке следующие один за другим. Одним из них является подготовка образца, который будет осуществляться с помощью обученной нейронной сети. Другое - подмножество контрольного образца, который не связан с нейронной сетью в процессе обучения и используется для проверки качества прогноза. Образцы обучения и контроля относятся как 2 : 1 [2].

На этом этапе происходит выбор архитектуры сети и структуры связей между нейронами. В результате исследований в выбранной топологии персептрон нейронной сети с 30 входами (х), 80 нейронов в скрытом слое (S) и один выход (Y) [19].

Рисунок 6 – Схема нейронной сети

Персептронная сеть, состоящая из нескольких последовательно соединенных слоев формальных нейронов МакКаллока и Питтса. На самом низком уровне иерархии входной слой, состоящий из элементов датчика, задачей которых является получить только сеть и распространять входную информацию[8]. Кроме того, есть один или, редко, несколько скрытых слоев. Каждый нейрон в скрытом слое имеет число входов, подключенных к выходам нейронов в предыдущем слое, или непосредственно из входных датчиков X1..Xn и одним выходом. Нейрон имеет уникальный вес вектор w. Веса всех нейронов в слое образуют матрицу, которую обозначим через W. Функцией нейронов является вычисление взвешенной суммы входов для дальнейшего преобразования ее в нелинейный выходной сигнал.

Выходы нейронов последнего, выходного слоя, описывают результат классификации слоя Y=Y (X). Особенности персептрона проявляются следующим образом. Каждый нейрон суммирует входные сигналы к нему от предыдущего уровня иерархии нейронов с весами, определяемыми состоянием синапсов, и генерирует ответный сигнал (в возбужденном состоянии), если сумма превышает порог. Персептрон преобразует входное изображение, которое определяет степень возбуждения нейронов самого низкого уровня иерархии в выходном изображении, определенном нейронами верхнего уровня. Последнее число обычно относительно мало. Состояние возбуждения нейрона на верхнем уровне говорит о принадлежности входного образа к той или иной категории [16].

Традиционно рассматривается аналоговая логика, в которой допустимое состояние синаптических связей определяется произвольным вещественным числом и степенью активности нейронов - вещественные числа между 0 и 1. Иногда исследуются модели дискретной арифметики, в которых синапс характеризуется двумя булевыми переменными: активность (0 или 1) и полярность (+1 или -1), что соответствует трехзначной логике. Состояния нейронов могут быть, таким образом, описываться булевой переменной [16]. Этот подход делает дискретной конфигурацию пространства конечных состояний нейронной сети и возможность аппаратной реализации.

В качестве метода обучения нейронной сети используется обратного распространения. Основная идея обратного распространения в том, как получить оценку ошибки для скрытых слоев нейронов. Обратим внимание, что известные ошибки, на выходном слое нейронов получаются из-за неизвестных ошибок нейронов в скрытых слоях [8]. Больше количество синаптических связей между нейронами скрытого слоя и выходными нейронами сильнее влияет на ошибки первого, чем на ошибки второго. Таким образом, оценка погрешности элементов скрытых слоев может быть получена в виде взвешенной суммы ошибок последующих слоев. При обучении информация распространяется от низших слоев иерархии к верхней части, и оценки ошибок, что делает сеть - в противоположном направлении.

На этапе обучения оцениваются синаптические коэффициенты w. Таким образом, в отличие от классических методов, он основан не на аналитических расчетах, а на методах обучающих выборок образов, сгруппированных в обучающем множестве. Для каждого изображения из обучающей выборки считается известным желательное выходное значение нейронной сети. Этот процесс можно рассматривать как решение задачи оптимизации. Его цель состоит в минимизации функции ошибки или невязки Е на обучающем множестве путем выбора значений синоптических коэффициентов w [17].

Как функцию активации скрытых нейронов слоя необходимо принимать сигмоидальную функцию, чтобы можно было использовать функцию передачи обратного распространения нейронов, она должна быть дифференцируема [8].

Сигмоид ограничивает диапазон изменения выходного сигнала между нулем и единицей, что повышает устойчивость нейросети. Благодаря нелинейности функции активации нейроны обладают хорошей обучаемостью [16].

Активационной функцией нейрона выходного слоя выбрана линейная функция.

Рисунок 7 – Проверка обученной нейронной сети

Проверка ошибки прогноза на контрольной выборке. Если значение ошибки находится в допустимых пределах, то задача считается решенной, и обученная нейронная сеть используется для получения прогноза. В данном случае ошибка не превышает 4%.

Опираясь на результаты, полученные экспериментальным путем ведущими разработчиками в области нейронных сетей, данная топология нейронной сети и метод ее обучения является одним из оптимальных в задачах прогнозирования [17].

2. ОБЛАСТИ ПРИМЕНЕНИЯ НЕЙРОСЕТЕЙ В ЭКОНОМИКЕ

2.1. Прогнозирование временных рядов на основе нейросетевых методов обработки.

• Прогнозирование кросс-курса валют
• Прогнозирование котировок и спроса акций для биржевых спекуляций (не для долгосрочного вложения)
• Прогнозирование остатков средств на корреспондентских счетах банка.

В настоящее время прогноз курсов иностранных валют определяется экспертизой квалифицированных специалистов в области обмена валют, которые всегда в дефиците. Исследования показывают, что имеется ряд показателей и математических зависимостей, которые дают возможность прогнозирования курса валюты, хотя могут и не относиться к финансовой области непосредственно. Однако динамическая природа рынков не позволяет выделить единственный <точный> показатель, так как условия рынка со временем меняются и решение задачи возможно при использовании сочетания ряда показателей, то есть переход к нелинейной многокритериальной модели. Специалистами Лондонского Ситибанка (Citibank NA London) разработаны коммерческие программы на базе искусственных нейронных сетей для прогнозирования курса валют. [1]

2.2. Страховая деятельность банков.

Оценка риска страхования инвестиций на основе анализа надежности проекта и оценка риска страхования вложенных средств.

Применение нейронных сетей для оценки риска страхования особенно эффективно с точки зрения способности анализировать как ранее накопленные данные по результатам страхования, так и коррелирующие данные, определяемые как дополнительные. Возможна оценка надежности проекта на основе нейросетевой системы распознавания надежности (множество оценок - да. нет) [10].

2.3. Прогнозирование банкротств на основе нейросетевой системы распознавания.

Анализ надежности фирмы с точки зрения возможности ее банкротства с помощью нейросетевой системы распознавания и выдача результата в дискретном виде (да. нет).

Анализ величины вероятности банкротства фирмы на основе многокритериальной оценки с построением нелинейной модели с помощью нейронных сетей (пример результата - 74% вероятности банкротства).

Анализ банкротств, использующий финансовые соотношения, является весьма важным по нескольким соображениям. Во-первых, управление фирмы может выявлять потенциальные проблемы, которые требуют внимания. Во-вторых, инвесторы используют финансовые соотношения для оценки фирм. Наконец, аудиторы используют их как инструмент в оценке деятельности фирм. Данные используемые для обанкротившихся фирм могут быть взяты из последних финансовых бюллетеней, вышедших перед тем, как фирмы объявили банкротство [12].

2.4. Определение курсов облигаций и акций предприятий с целью вложения средств в эти предприятия.

Выделение долгосрочных и краткосрочных скачков курсовой стоимости акций на основе нелинейной нейросетевой модели.

Предсказание изменения стоимости акций на основе нейросетевого анализа временных экономических рядов.

Распознавание ситуаций, когда резкое изменение цены акций является результатом биржевой игры с помощью нейросетевой системы распознавания.

Определение соотношения котировок и спроса.

Прогнозирующая система может состоять из нескольких нейронных сетей, которые обучаются взаимосвязям между различными техническими и экономическими показателями и периодами покупки и продажи акций. Целью прогноза является выбор наилучшего времени для покупки и продажи акций. Здесь рассматриваются также задачи формирования портфеля ценных бумаг и распознавания шаблонов на графике изменения курсов акций, которые позволяют прогнозировать курс акций на последующем отрезке времени. На рынке акций шаблон <треугольника> в диаграмме (графике) изменений курса акций является индикатором важного направления будущего изменения цены акций. Однако никакие методы основанные на правилах не дают хорошего результата, только высококвалифицированные эксперты. Нейросетевой подход дал весьма многообещающие результаты для Токийской фондовой биржи после обучения сети на 15 обучающих шаблонах треугольника и проверке на одном нейросетевом шаблоне. После чего были проведены 16 экспериментов на данных по ценам акций за последние 3 года. Шаблон треугольника был успешно определен в 15 случаях. [14]