Добавлен: 14.06.2023
Просмотров: 362
Скачиваний: 4
ВВЕДЕНИЕ
Научные и философские методы познания мира человеком, привели его к созданию моделей явлений и процессов, воплощенных в математике и технике. Исследование и развитие этих моделей в рамках множества дисциплин, таких как философия, математика, экономика, неврология, вычислительная техника, теория управления, лингвистика и других, привело к появлению универсальной научной области, именуемой Искусственный Интеллект (ИИ). В настоящее время она охватывает огромный перечень теоретических и прикладных проблем, как общего характера, например, таких как восприятие и обучение, обработка и передача информации, анализ широкого спектра научных данных, так и специальных – управление производством и торговлей, автопилоты, медицинская диагностика, творчество, компьютерные и традиционные игры (например, шахматы). Из числа различных способов и методов обработки информации для успешного решения этих и еще множества проблем, особо нужно выделить Искусственные Нейронные Сети (ИНС), и как основу создания и исследований ИИ, и как отдельное направление в этой области. В современном мире, если не глубокое знание этого предмета, то, по меньшей мере, умение ориентироваться в нём, имеет большое значение для многих специалистов, поскольку работа с информацией всё дальше и глубже проникает во все сферы нашей жизни – научно-технические, финансовые, бытовые и творческие.
Целью курсовой работы является аналитический обзор возникновения, развития и использования искусственных нейронных сетей и принципов их функционирования.
Объект исследования – искусственные нейронные сети.
Предмет исследования – технологии, принципы, средства построения искусственных нейронных сетей.
Задачи исследования следуют из поставленной цели:
- изучить научную литературу и современные публикации по ИНС;
- рассмотреть основы, структуру, состав, классификацию ИНС;
- провести обзор основных классов ИНС;
- сформулировать выводы.
Методами исследований в курсовой работе являются анализ научной литературы, систематизация и интеграция теоретических знаний и практических навыков.
Информационной базой исследования являются литературные источники и публикации по искусственным нейронным сетям, искусственному интеллекту и нечёткой логике авторов А.В. Андрейченков, С. Хайкин, С. Осовский, В.В. Круглов, В.В. Борисов, С. Рассел, П. Норвиг и др.
Курсовая работа состоит из введения, шести глав, заключения, списка использованных источников, практическая часть представлена в 6 главе.
1. История развития искусственных нейронных сетей
Считается общепринятым, что зарождением ИНС стало совмещение результатов исследований в области нейрофизиологии, математической логики и теории вычислений. В стремлении воспроизвести функции нервной системы и человеческого мозга, были созданы простые аппаратные и программные модели биологической нервной клетки - нейрона, системы его соединений и разработаны принципы его работы[1].
Впервые это было сделано в совместной новаторской работе нейрофизиолога У. Мак-Каллока и математика У. Питтса в 1943 году. Они разработали модель, состоящую из системы искусственных нейронов объединенных в сеть, в которой каждый нейрон характеризовался как находящийся во "включенном" или "выключенном" состоянии, а переход во "включенное" состояние происходил в ответ на стимуляцию достаточного количества соседних нейронов[2].
Формализованная модель нейрона соответствовала принципу "все или ничего". Было показано, что сеть, составленная из большого количества таких элементов, соединенных правильно сконфигурированными и синхронно работающими связями, способна выполнять любые вычисления[3].
Кроме того, учёные выдвинули предположение, что сети, структурированные соответствующим образом, способны к обучению, то есть к изменению параметров сети под воздействием поступающих данных[4].
Позднее, в 1949 году Д. Хебб изучая нервные клетки, предложил формальное правило, называемое теперь правилом обучения Хебба, которое продолжает служить основой для моделей, используемых и сейчас. В соответствии с ним, связи между нейронами меняются в зависимости от их активации, которая, в свою очередь, зависит от входных сигналов. То есть эффективность синапса (связи) между двумя нейронами повышается при многократной активации этих нейронов через данный синапс. Работа Хебба вдохновила исследователей при создании вычислительных моделей обучаемых и адаптивных систем[5].
Дальнейшее развитие ИНС связано с работой Ф. Розенблатта. В 1962 году вышла книга, в которой он представил теорию динамических нейронных систем для моделирования мозговой деятельности, основанную на персептронной модели нервной клетки[6]. Розенблатт разработал принципы организации и функционирования персептронов, предложил вариант технической реализации первого в мире нейрокомпьютера Mark.
Ограниченные возможности одиночного персептрона и составленных из таких частиц одноуровневых систем были раскритикованы в книге М. Минского и С. Пейперта "Персептроны", вышедшей в 1969 году. Финансирование этой сферы научных исследований резко снизилось после выхода этой работы, что привело к замедлению развития искусственных нейронных сетей.
В 1970 - 1976 гг. велись активные разработки в области персептронов в СССР, заказчиками этих работ были, в основном, военные ведомства.
После некоторого затишья, с начала 1980-х годов, начался новый виток развития моделей нейронных сетей (НС). Он связан с работами С. Гроссберга, Т. Кохонена, Дж. Хопфилда и др, а также активным развитием оптических технологий[7] и полупроводниковых устройств сверхвысокой степени интеграции.
В 1982 году, после публикаций работ Дж. Хопфилда, теория нейронных сетей начала развиваться в стремительном темпе, начало увеличиваться количество научных центров, занимающихся вопросами НС[8]. Хопфилд предложил семейство оптимизирующих нейронных сетей, моделирующих ассоциативную память. Доработка принципа обратного распространения в применении к обучению многослойных сетей, сняли ограничения, наложенные в работе Минского и Пейперта. Финансирование сферы развития нейронных сетей было возобновлено, начался прогресс нейронных сетей как в теоретической базе, так и в практическом приложении.
С учетом быстрого в это время развития вычислительных систем, это создало базу для реализаций новых технологических решений в сфере технического распознавания образов, восприятия и объяснения, в управлении сложными системами, в сфере обработки речевых сообщений и т.п.
В 1985 году появились первые коммерческие нейрокомпьютеры, в частности - Mark III фирмы TRW (США).
В 1987 году началась акция по широкомасштабному финансированию разработок в области искусственных нейронных сетей (ИНС) в США, Японии и Западной Европе. А с 1989 года разработки и исследования в области ИНС ведутся уже практически всеми крупными электротехническими фирмами. Нейрокомпьютеры становятся одним из самых динамично развивающихся секторов рынка.
С 1990 года вновь активизировались и советские исследовательские организации, связанные с кибернетикой и вычислительными системами. Начали создаваться центры нейрокомпьютеров в Москве, Киеве, Минске, Новосибирске, С.-Петербурге. Проводится множество международных конференций и форумов по нейронным сетям, их количество исчисляется сотнями.
С 2000-го года происходит переход на субмикронные и нанотехнологии, успехи в молекулярных и биомолекулярных технологиях приводят к появлению принципиально новых архитектурных и технологических решений по созданию нейрокомпьютеров.
В настоящее время искусственные нейронные сети представляют собой высокоразвитую (особенно в теоретическом аспекте) отрасль знаний. Глубокое изучение искусственных нейронных сетей требует знания таких наук, как нейрофизиология, наука о познании, психология, физика, теория управления, теория вычислений, теория искусственного интеллекта, статистика, математика, распознавание образов, компьютерное "зрение", параллельные вычисления. И в то же время, ИНС стимулирует развитие этих дисциплин, обеспечивая их новыми инструментами и представлениями.
2. Аналогия нейронных сетей с мозгом и биологическим нейроном
Построение нейронной сети — это попытка создания искусственной нервной системы, в состав которой входил бы и человеческий мозг. Сами нейроны - это десятки миллиардов элементарных объектов, которые «думают» за человека, и исследователю в этой области необходимо понять, каким образом происходит этот процесс «думания», как человеческий мозг обучается обрабатывать информацию, и делать соответствующие выводы[9].
Искусственная нейронная сеть (ИНС) - это упрощенная модель биологического мозга, точнее - нервной ткани. Она создана по образу нервной системы человека. Нейронные сети часто называют нейрокомпьютерами, сетями связей, параллельными распределенными процессорами и т.д.
Нейрон - нервная клетка человека - является основным элементом нервной системы. Изучение механизмов функционирования отдельных нейронов и их взаимодействий принципиально важно для изучения протекающих в нервной системе процессов - поиска, передачи и обработки информации[10]. Поэтому является необходимым построить и изучить модель биологического нейрона (рис.1)[11].
Рис. 1 - Биологическое строение и взаимосвязи между нейронами
Естественная нервная клетка (нейрон) состоит из тела (сомы), содержащего ядро, и отростков - дендритов, по которым в нейрон поступают входные сигналы. Один из отростков, ветвящийся на конце, служит для передачи выходных сигналов данного нейрона другим нервным клеткам. Он называется аксоном. Соединение аксона с дендритом другого нейрона называется синапсом. Нейрон возбуждается и передает сигнал через аксон, если число пришедших по дендритам возбуждающих сигналов больше, чем число тормозящих.
Искусственный нейрон повторяет работу естественного (рис. 2)[12].
Рис. 2 - Структура искусственного нейрона
Искусственный нейрон состоит из элементов трех типов: умножителей (синапсов), сумматора и нелинейного преобразователя. В функции синапсов входит: связь меду нейронами и умножение входного сигнала на число, характеризующее силу связи. Сумматор выполняет сложение сигналов, поступающих по синаптическим связям от других нейронов, и внешних входных сигналов. Нелинейный преобразователь реализует нелинейную функцию одного аргумента - выхода сумматора. Эта функция называется функцией активации или передаточной функцией нейрона[13].
Исследования по искусственным нейронным сетям (ИНС) связаны с тем, что способ обработки информации человеческим мозгом в корне отличается от методов, применяемых обычными цифровыми компьютерами. Мозг представляет собой чрезвычайно сложный, нелинейный, параллельный компьютер (систему обработки информации). Он обладает способностью организовывать свои структурные компоненты, называемые нейронами, так, чтобы они могли выполнять конкретные задачи (такие как распознавание образов, обработку сигналов органов чувств, моторные функции) во много раз быстрее, чем могут позволить самые быстродействующие современные компьютеры. Примером такой задачи обработки информации может служить обычное зрение. В функции зрительной системы входит создание представления окружающего мира в таком виде, который обеспечивает возможность взаимодействия с этим миром[14].
Нейроны взаимодействуют короткими сериями импульсов, продолжительностью в несколько миллисекунд. Сообщение передается посредством частотно-импульсной модуляции. Быстродействующие переключательные электронные схемы работают с большей частотой, чем нервные клетки, но тем не менее, сложные задачи распознавания человек решает значительно быстрее машин. Это связано с тем, что мозг запускает параллельно множество программ, каждая из которых содержит сотни шагов[15]. Кроме того, невысокая скорость реакции естественных нейронов компенсируется их массой и количеством взаимосвязей между ними.
Более точно, мозг последовательно выполняет ряд задач распознавания (например, распознавание знакомого лица в незнакомом окружении). На это у него уходит около 100-200 миллисекунд, в то время как выполнение аналогичных задач даже меньшей сложности на компьютере может занять несколько дней.