Файл: Применение нейронных сетей в экономике (Использование нейронных сетей в экономике).pdf
Добавлен: 25.06.2023
Просмотров: 830
Скачиваний: 17
Что такое рекуррентные нейронные сети? Это примерно то же самое, что и обычные нейронные сети, но с обратной связью. Обратная связь нам нужна, чтобы передавать на вход нейронной сети или на какой-то из ее слоев предыдущее состояние системы.
Предположим, что обрабатываются эмоции. Даже в улыбке — одной из самых простых эмоций — есть несколько моментов: от нейтрального выражения лица до того момента, когда у нас будет полная улыбка. Они идут друг за другом последовательно. Чтоб это хорошо понимать, нам нужно уметь наблюдать за тем, как это происходит, передавать то, что было на предыдущем кадре в следующий шаг работы системы.
Рекуррентные нейронные сети применяются при распознавании и обработке текстовых данных (на частоте на их основе используется переводчик Google, алгоритм Яндекса «Палех», помощник голоса Apple Siri).
Нейронная сеть Хопфилда - полностью связанная нейронная сеть с симметричной матрицей соединений. Во время работы динамика таких сетей сходится (сходится) к одному из положений равновесия. Эти положения равновесия являются локальными минимумами функционала, называемого энергией сети (в простейшем случае локальные минимумы отрицательно определенной квадратичной формы на n-мерном кубе)[6]. Такая сеть может использоваться как автоассоциативная память, как фильтр, так и для решения некоторых проблем оптимизации. В отличие от многих нейронных сетей, которые работают до получения ответа в течение определенного количества тактовых циклов, сети Хопфилда работают до достижения равновесия, когда следующее состояние сети точно такое же, как и предыдущее: начальное состояние является входным изображением, и в равновесии получается выходное изображение.
1.2 Преимущества нейронных сетей
Очевидно, что нейронные сети используют свои силы, во-первых, от параллелизации обработки информации и, во-вторых, от способности к самообучению, т. е. для создания обобщений. Термин «обобщение» относится к способности получать информированный результат из данных, которые не были обнаружены в процессе обучения.
Эти свойства позволяют нейронным сетям решать сложные (крупномасштабные) проблемы, которые сегодня считаются трудными для решения. Однако на практике нейронные сети не могут предоставить готовые решения для автономной работы. Их необходимо интегрировать в сложные системы.
В частности, сложную задачу можно разделить на последовательность относительно простых, некоторые из которых могут быть решены нейронными сетями.
Использование нейронных сетей обеспечивает следующие полезные свойства систем.
Нелинейность: искусственный нейрон может быть линейным и нелинейным. Нейронная сеть построена из связей нелинейных нейронов нелинейными. Более того, эта нелинейность носит особый характер, так как она распределена по сети. Нелинейность является чрезвычайно важным свойством, особенно если физический механизм, ответственный за формирование входного сигнала, также нелинейный (например, человеческая речь).
Отображение входной информации в выходную информацию: одна из самых популярных парадигм обучения - это обучение с учителем. Это связано с изменением синаптических весов на основе набора обозначенных примеров обучения. Каждый пример состоит из входного сигнала и соответствующего требуемого ответа. Из этого набора случай случайным образом выбирается, и нейронная сеть модифицирует синаптические веса для минимизации расхождений желаемого выходного сигнала и сети, генерируемой в соответствии с выбранным статистическим критерием. В этом случае параметры свободной сети фактически изменяются. Ранее использованные примеры могут быть снова применены, но в другом порядке. Это обучение проводится до тех пор, пока изменение синаптического веса не будет незначительным. Таким образом, нейронная сеть обучается примерами, делая таблицу совпадений ввода-вывода для конкретной задачи.
Адаптивность: нейронные сети имеют возможность адаптировать свои синаптические веса к изменениям окружающей среды. В частности, нейронные сети, обученные работать в определенной среде, могут быть легко переучены для работы в условиях незначительных колебаний параметров окружающей среды. Более того, нейронные сети, которые изменяют синаптические веса в реальном времени, могут быть созданы для работы в нестационарной среде. Естественная для классификации изображений, обработки сигналов и задач управления архитектура нейронных сетей может сочетаться с их способностью адаптироваться, что приведет к созданию моделей адаптивной классификации изображений, адаптивной обработки сигналов и адаптивного управления. Известно, что чем выше адаптационная способность системы, тем стабильнее она будет работать в нестационарной среде. В то же время я хотел бы отметить, что адаптивность не всегда приводит к устойчивости; иногда это приводит к совершенно противоположному результату. Например, адаптивная система с быстро меняющимися во времени параметрами также может быстро реагировать на посторонние возбуждения, что приведет к потере производительности. Чтобы использовать все преимущества адаптируемости, основные параметры системы должны быть достаточно стабильными, чтобы избежать внешних помех, и достаточно гибкими, чтобы обеспечить ответ на значительные изменения в окружающей среде. Эту проблему обычно называют дилеммой стабильности / пластичности[7].
Очевидный ответ: в контексте проблемы классификации изображений можно разработать нейронную сеть, которая собирает информацию не только для определения определенного класса, но и для повышения надежности решения. Впоследствии эта информация может быть использована для устранения сомнительных решений, которые повысят производительность нейронной сети.
Контекстная информация. Знание представлено в структуре нейронной сети по ее состоянию активации. Каждый нейрон в сети потенциально может быть затронут всеми его другими нейронами. Как следствие, существование нейронной сети напрямую связано с контекстной информацией.
Отказоустойчивость: нейронные сети в виде электроники потенциально отказоустойчивы. Это означает, что в неблагоприятных условиях их производительность падает незначительно. Например, если поврежден нейрон или его соединения, трудно получить сохраненную информацию. Однако, учитывая распределенный характер хранения информации в нейронной сети, можно утверждать, что только серьезный ущерб структуре нейронной сети существенно повлияет на ее производительность. Поэтому снижение качества нейронной сети происходит медленно. Малый урон структуре никогда не приводит к катастрофическим последствиям.
Масштабируемость. Параллельная структура нейронных сетей потенциально ускоряет решение некоторых задач и обеспечивает масштабируемость нейронных сетей в рамках технологии VLSI (очень крупномасштабная интеграция). Одним из преимуществ технологий VLSI является способность представлять довольно сложное поведение с использованием иерархической структуры.
Однородность анализа и дизайна: нейронные сети являются универсальным механизмом обработки информации. Это означает, что одно и то же решение для построения нейронной сети может использоваться во многих предметных областях.
Аналогия с нейробиологией: структура нейронных сетей определяется по аналогии с мозгом человека, что является живым доказательством того, что отказоустойчивые параллельные вычисления являются не только физически осуществимыми, но и быстрым и мощным инструментом решения проблем. Нейрофизиологи рассматривают искусственные нейронные сети как средство моделирования физических явлений. С другой стороны, инженеры постоянно пытаются научиться у неврологов новыми идеями, выходящими за рамки традиционных схем.
Глава 2. Использование нейронных сетей в экономике
2.1 Прогнозирование на основе нейросетей
Прогнозирование является ключевым моментом в принятии решений в области управления. Конечная эффективность любого решения зависит от последовательности событий, которые происходят после принятия решения. Возможность прогнозировать неуправляемые аспекты этих событий до принятия решения позволяет вам сделать лучший выбор, который в противном случае может быть не таким успешным. Поэтому в системах планирования и управления обычно используется функция прогноза. Ниже приводятся примеры ситуаций, в которых прогнозирование полезно.
Управление материально-производственными запасами. При управлении запасами запасных частей на ремонтно-эксплуатационном объекте абсолютно необходимо оценить степень использования каждой части. На основании этой информации определяется необходимое количество запасных частей. Кроме того, необходимо оценить погрешность предсказания. Эта ошибка может быть оценена, например, в зависимости от времени, которое требуется для доставки деталей, которые не были на складе[8].
Производственное планирование. Для планирования производства семейства продуктов может потребоваться предсказать продажи для каждого названия продукта с учетом сроков поставки в течение нескольких месяцев. Эти прогнозы предназначены для конечных продуктов, которые затем могут быть преобразованы в требования к полуфабрикатам, компонентам, материалам, работникам и т. д. Таким образом, на основе прогноза может быть составлен график всей группы компаний.
Финансовое планирование. Финансовый менеджер заинтересован в том, как денежный оборот компании со временем изменится.
Менеджер, возможно, пожелает узнать, в какой период времени в будущем оборот компании начнет падать, чтобы принять соответствующее решение сейчас.
Разработка графиков персонала. Менеджер почтовой компании должен знать прогноз количества обработанных писем, чтобы обработка производилась в соответствии с графиком персонала и производительностью оборудования.
Планирование нового продукта. Решение о разработке нового продукта обычно требует долгосрочного прогноза спроса на него. Этот прогноз не менее важен, чем определение инвестиций, необходимых для его производства.
Контроль над процессом. Прогнозирование также может быть важной частью систем управления технологическим процессом. Наблюдая за ключевыми переменными процесса и используя их для прогнозирования будущего поведения процесса, можно определить оптимальное время и продолжительность действия управления. Например, некоторая экспозиция в течение часа может повысить эффективность химического процесса, а затем может снизить эффективность процесса. Прогнозирование производительности процесса может быть полезно при планировании времени завершения процесса и общего графика производства.
Прогнозирование при помощи нейронных сетей имеет ряд недостатков. Даже если мы прогнозируем требование относительно стабильного продукта, основанного на ежемесячной информации о продажах, мы не сможем накапливать историю от 50 до 100 месяцев. Для сезонных процессов проблема еще сложнее. Каждый сезон истории на самом деле является одним наблюдением. То есть в ежемесячных наблюдениях за пять лет будет только пять наблюдений за январь пять наблюдений за февраль и т. д. Может потребоваться информация для большего количества сезонов, чтобы построить сезонную модель. Однако следует отметить, что мы можем построить удовлетворительную модель для нейронной сети даже в условиях отсутствия данных. Модель может быть уточнена по мере поступления свежих данных.
Другим недостатком нейронных моделей является значительное время и другие ресурсы, необходимые для создания удовлетворительной модели. Эта проблема не очень важна, если вы изучаете небольшое количество временных последовательностей. Однако типичная прогностическая система управления производством может включать от нескольких сотен до нескольких тысяч временных последовательностей.
Однако, несмотря на эти недостатки, модель имеет ряд преимуществ. Существует удобный способ модифицировать модель по мере появления новых наблюдений. Модель хорошо работает с временными последовательностями, в которых интервал наблюдения мал, то есть может быть получена относительно длинная временная последовательность. По этой причине модель может использоваться в тех областях, где нас интересуют ежечасные, ежедневные или еженедельные наблюдения. Эти модели также используются в ситуациях, когда вам нужно проанализировать небольшое количество временных последовательностей.