Файл: Применение нейронных сетей в экономике (Использование нейронных сетей в экономике).pdf

Введение

Нейронные сети, или, скорее, искусственные нейронные сети, являются технологией, основанной на многих дисциплинах: нейрофизиологии, математике, статистике, физике, информатике и технике. Они находят свое применение в различных областях, таких как моделирование, анализ временных рядов, распознавание образов, обработка сигналов и управление из-за одного важного свойства - умение учиться на данных с вмешательством учителя или без него.

Исследование искусственных нейронных сетей связано с тем, что способ обработки информации человеком мозгом принципиально отличается от методов, используемых обычными цифровыми компьютерами. Мозг - чрезвычайно сложный, нелинейный параллельный компьютер. Он имеет возможность организовывать свои структурные компоненты, называемые нейронами, чтобы они могли выполнять конкретные задачи (такие как распознавание образов, обработка сенсорных сигналов, функции двигателя) во много раз быстрее, чем позволяют самые быстрые современные компьютеры.

Концепция развития нейронов связана с концепцией пластичности мозга - способностью регулировать нервную систему в соответствии с окружающими условиями. Именно пластичность играет самую важную роль в работе нейронов как единиц обработки информации в мозге человека. Аналогично, в искусственных нейронных сетях работа ведется с использованием искусственных нейронов. В общем, нейронная сеть - это машина, которая моделирует, как мозг обрабатывает конкретную задачу. Эта сеть обычно реализуется с использованием электронных компонентов или моделируется программой, работающей на цифровом компьютере. Предметом статьи является важный класс нейронных сетей, которые выполняют вычисления с использованием процесса обучения.

Основные цели применения нейронных сетей в финансовом мире - прогнозирование котировок основных инструментов (валюты, ценные бумаги, векселя и т. д.) и признание определенных ситуаций (например, подозрительных операций с кредитными картами).

Объект исследования – нейронные сети.

Предмет исследования – применение нейронных сетей в экономике.

Цель курсовой работы заключается в рассмотрении применения нейронных сетей в экономике.

Поставленная цель обусловила решение следующих задач:

- рассмотреть понятие нейронной сети и ее виды;

- рассмотреть преимущества нейронных сетей;

- изучить прогнозирование на основе нейросетей;

- рассмотреть применение нейросетевых технологий на практике.

---

Курсовая работа состоит из введения, двух глав, заключения и списка использованных источников.

Глава 1. Теоретические аспекты нейронных сетей

1.1 Понятие нейронной сети и ее виды

Прототипом для создания нейронных сетей послужили, как это ни странно, биологические нейронные сети. Возможно, многие из вас знают, как программировать нейронную сеть, но откуда она взялась, я думаю, некоторые не знают. Две трети всей сенсорной информации, которая к нам попадает, приходит с зрительных органов восприятия. Более одной трети поверхности нашего мозга заняты двумя самыми главными зрительными зонами — дорсальный зрительный путь и вентральный зрительный путь.

Дорсальный зрительный путь начинается в первичной зрительной зоне, в нашем темечке и продолжается наверх, в то время как вентральный путь начинается на нашем затылке и заканчивается примерно за ушами. Все важное распознавание образов, которое у нас происходит, все смыслонесущее, то что мы осознаём, проходит именно там же, за ушами.

Почему это важно? Потому что часто нужно для понимания нейронных сетей. Во-первых, все об этом рассказывают, и я уже привыкла что так происходит, а во-вторых, дело в том, что все области, которые используются в нейронных сетях для распознавания образов, пришли к нам именно из вентрального зрительного пути, где каждая маленькая зона отвечает за свою строго определенную функцию^[1].

Изображение попадает к нам из сетчатки глаза, проходит череду зрительных зон и заканчивается в височной зоне.

В далекие 60-е годы прошлого века, когда только начиналось изучение зрительных зон мозга, первые эксперименты проводились на животных, потому что не было fMRI. Исследовали мозг с помощью электродов, вживлённых в различные зрительные зоны.

Первая зрительная зона была исследована Дэвидом Хьюбелем и Торстеном Визелем в 1962 году. Они проводили эксперименты на кошках. Кошкам показывались различные движущиеся объекты. На что реагировали клетки мозга, то и было тем стимулом, которое распознавало животное. Даже сейчас многие эксперименты проводятся этими драконовскими способами. Но тем не менее это самый эффективный способ узнать, что делает каждая мельчайшая клеточка в нашем мозгу.

---

Таким же способом были открыты еще многие важные свойства зрительных зон, которые мы используем в deep learning сейчас. Одно из важнейших свойств — это увеличение рецептивных полей наших клеток по мере продвижения от первичных зрительных зон к височным долям, то есть более поздним зрительным зонам. Рецептивное поле — это та часть изображения, которую обрабатывает каждая клеточка нашего мозга. У каждой клетки своё рецептивное поле. Это же свойство сохраняется и в нейронных сетях, как вы, наверное, все знаете.

Также с возрастанием рецептивных полей увеличиваются сложные стимулы, которые обычно распознают нейронные сети.

Искусственные нейронные сети - это параллельные вычислительные устройства, состоящие из набора взаимодействующих простых процессоров. Такие процессоры обычно чрезвычайно просты, особенно по сравнению с процессорами, используемыми в персональных компьютерах. Каждый процессор аналогичной сети имеет дело только с сигналами, которые он периодически получает, и сигналы, которые он периодически передает другим процессорам, и, тем не менее, будучи подключенными в довольно большой сети с контролируемым взаимодействием, такие локально простые процессоры вместе способны вполне сложные задачи^[2].

Развитие искусственных нейронных сетей началось в начале двадцатого века, но только в 90-х годах, когда вычислительные системы стали достаточно мощными, нейронная сеть стала широко распространенной. Создание национальной ассамблеи было вызвано попытками понять принципы человеческого мозга и, без сомнения, повлияет на их дальнейшее развитие. Однако, по сравнению с человеческим мозгом, нейронная сеть сегодня представляет собой очень упрощенную модель. Несмотря на это, нейронная сеть успешно используется в самых разных задачах. Например, программная реализация нейронной сети может использоваться для составления плана платежей по кредитам для лиц, обращающихся в Банк для получения кредита. Хотя решение на основе нейронной сети может выглядеть и вести себя как обычное программное обеспечение, они принципиально различаются, поскольку большинство реализаций на основе нейронной сети «обучены», а не «запрограммированы»: сеть узнает, как выполнять задачу, а не программировать непосредственно. Фактически, нейронная сеть используются, когда невозможно написать подходящую программу, или из-за решения, найденного нейронной сетью, является более совершенным. Например, специалист по недвижимости может по собственному опыту узнать, какие факторы влияют на отпускную цену каждого конкретного дома, но часто есть особенности, которые очень сложно объяснить программисту. Агентство недвижимости, возможно, пожелает иметь «предиктор цен на основе нейронной сети», подготовленный по различным реальным примерам продаж, какие факторы влияют на цену продаваемого имущества и на какую относительную важность каждый из этих факторов. Но здесь более важным является тот факт, что решение на основе национальной ассамблеи более гибко, поскольку система может еще больше повысить точность прогнозов с накоплением своего опыта и адаптироваться к изменениям на рынке^[3].

---

Нейронная сеть представляет собой набор элементов, которые каким-то образом связаны, так что между ними существует взаимодействие. Эти элементы, также называемые нейронами или узлами, являются простыми процессорами, чьи вычислительные возможности обычно ограничены некоторым правилом объединения входных сигналов и правила активации, что позволяет рассчитать выходной сигнал из набора входных сигналов. Выход элемента может быть отправлен другим элементам по весовым ссылкам, каждый из которых имеет весовой коэффициент или вес, связанные с ним. В зависимости от значения весового коэффициента передаваемый сигнал либо усиливается, либо подавляется. Элемент нейронной сети, также называемый нейроном, схематически показан на рисунке 1.

Рисунок 1. Элемент нейронной сети

Структура ссылок отражает детали дизайна сети, а именно, какие элементы связаны, в каком направлении работают соединения и каков уровень значимости (т. е. вес) каждого соединения. Проблема, которую понимает связь, описана в терминах весов отношений, связывающих элементы. Структура отношений обычно определяется в два этапа: во-первых, разработчик системы указывает, какие элементы должны быть связаны и в каком направлении, а затем, во время фазы обучения, определяются значения соответствующих весов.

Весовые коэффициенты могут быть определены без обучения, но самым большим преимуществом нейронных сетей является их способность научиться выполнять задачу на основе данных, которые сеть получит в процессе реальной работы. Для многих приложений обучение - это не только средство сетевого программирования, когда недостаточно знаний о способе решения проблемы, что позволяет выполнять программирование в традиционной форме, но часто единственной целью обучения является проверка того, что сеть может действительно научиться решать свои задачи.

Нейронная сеть учится на примере картинки и лейбла. Но дело в том, что до 2010 не существовало достаточно большого data set’a, который способен был бы научить такое количество параметров распознавать изображения.

Самые большие базы данных, которые существовали до этого времени: PASCAL VOC, в который было всего 20 категорий объектов, и Caltech 101, который был разработан в California Institute of Technology. В последнем была 101 категория, и это было много. Тем же, кто не сумел найти свои объекты ни в одной из этих баз данных, приходилось стоить свои базы данных, что, я скажу, страшно мучительно^[4].

---

Однако, в 2010 году появилась база ImageNet, в которой было 15 миллионов изображений, разделённые на 22 тысячи категорий. Это решило нашу проблему обучения нейронных сетей. Сейчас все желающие, у кого есть какой-либо академический адрес, могут спокойно зайти на сайт базы, запросить доступ и получить эту базу для тренировки своих нейронных сетей. Они отвечают достаточно быстро, по-моему, на следующий день.

По сравнению с предыдущими data set’ами, это очень большая база данных.

В целом для разных задач используются разные типы и типы нейронных сетей, среди которых можно выделить:

- сверточные нейронные сети,

- рекуррентные нейронные сети,

- нейронная сеть Хопфилда.

Затем мы остановимся на некоторых из них.

Сверточные сети - один из самых популярных типов искусственных нейронных сетей. Таким образом, они оказались эффективными в распознавании визуальных изображений (видео и изображений), систем рекомендаций и обработки языка.

Сверточные нейронные сети прекрасно масштабируются и могут использоваться для распознавания изображений любого большого разрешения.

В этих сетях используются трехмерные трехмерные нейроны. Внутри одного слоя нейроны связаны только небольшим полем, называемым восприимчивым слоем.

Нейроны соседних слоев связаны через механизм пространственной локализации. Работа многих из этих слоев обеспечивает специальные нелинейные фильтры, которые реагируют на все большее число пикселей.

Рекуррентные называются такими нейронными сетями, связи между нейронами, которые образуют ориентировочный цикл. Он имеет следующие характеристики:

- каждое соединение имеет свой собственный вес, это также приоритет;

- узлы делятся на два типа: входные узлы и скрытые узлы;

- информация в рекуррентной нейронной сети передается не только по прямой, по слоям, но и между самими нейронами;

- важной особенностью рекуррентной нейронной сети является наличие так называемой «области внимания», когда машина может устанавливать определенные части данных, требующие расширенной обработки.

Recurrent neural networks используются тогда, когда нам недостаточно распознавать только изображение. В тех случаях, когда важно соблюдать последовательность, нужен порядок того, что у нас происходит, используются обычные рекуррентные нейронные сети^[5].

Это применяется для распознавания естественного языка, для обработки видео, даже используется для распознавания изображений.

---