Файл: книга ии.doc

В России сформировались три крупные научные школы в области нейротехнологий.

1. Центр нейрокомпьютеров РАН (А.И. Галушкин). Широкую известность он получил благодаря изданию 28-томной серии книг «Нейрокомпьютеры и их применение», а также регулярно проводимым Всероссийским конференциям с одноименным названием.

2. Научная школа нейротехнологий МГУ (А.В. Чечкин). Известность получили разработанные в ее рамках нейромодели сенсорных и языковых систем человека, относящиеся к бионическому направлению в нейрокомпьютинге.

3. Научная школа нейротехнологий в Красноярском государственном университете (А.Н. Горбань). Ученые этой школы развивают оригинальные алгоритмы обучения нейросетей и проводят международные конференции по нейрокомпьютингу.

Потенциальными сферами применения нейротехнологий являются все плохо формализуемые предметные области, в которых классические математические модели и алгоритмы оказываются мало эффективными по сравнению с человеком, демонстрирующим успешное решение задач. К областям использования нейротехнологий, в которых уже получены значимые практические результаты, относятся: обработка изображений, реализация ассоциативной памяти, системы управления реального времени, распознавание образов и речи, системы безопасности, выявление профилей интересов пользователей Internet, системы анализа финансового рынка и др. Сегодня можно уверенно говорить о том, что нейротехнологий становятся неотъемлемым компонентом НИТ.

Одной из характерных черт нейротехнологий является обучение нейросети на примерах. Эта же «технология» служит основой развития ребенка, который в первые годы жизни проходит гигантский путь формирования интеллекта и языковой системы, обучаясь на примерах.

Мозг состоит из различных типов клеток. Большинство нейрофизио­логов считает, что объяснить феномены работы мозга можно, изучая функ­ционирование объединенных в единую сеть клеток, называемых нейронами. Мозг как указывалось ранее включает 10¹⁰...10¹¹ нейронов. Количество связей между ними может достигать 10²². Поэтому отображающие и моделирующие возможности нейросети огромны.

Объем информации, хранящейся в мозге человека и других млекопитающих, превышает объем генетической информации, закодированной в ДНК. Строение мозга отражает его эволюцию. Наиболее древние участки мозга, доставшиеся человеку от рыб и амфибий, ответственны за поддержание жизнедеятельности (гомеостазис) и размножение. Другие отделы мозга (рептильный комплекс) возникли несколько сот миллионов лет назад и обеспечивают ориентацию в пространстве. Третий слой — лимбическая система — сформировался около 150 млн. лет назад и отвечает за эмоциональную сферу. Наконец, кора больших полушарий, возникшая несколько миллионов лет назад, обеспечивает функции речи и логического мышления.

Обычно лишь 2...3 % нейронов мозга активны. Поэтому мозг обладает огромным запасом «прочности» и «пластичности», позволяющих ему работать даже при серьезных повреждениях и приспосабливаться к значительно меняющимся внешним условиям.

Нейрофизиологи в высшей нервной системе человека явно различают три типа нейронных структур: сенсорные, внутренние и эффекторные. Первые обеспечивают поступление в мозг информации из внешнего мира, поддерживая шесть чувств: зрение, слух, вкус, обоняние, осязание и чувство равновесия. Но если первые пять сенсорных систем «вынесены наружу», то вестибулярный аппарат изолирован и скрыт от непосредственного наблюдения. Внутренние нейроны воспринимают информацию от сенсорных систем, перерабатывают ее и передают на эффекторные нейроны. Последние управляют мышцами, внутренними органами, сосудами и пр.

Качественное различие компьютерной обработки символьной и образной информации заключается в малом числе разрядов цифрового представления символа. Поэтому для символов в принципе можно комбинаторно описать любой способ их обработки. Для образов (из-за комбинаторного взрыва) это в принципе невозможно за исключением ряда типовых преобразований, поддающихся формализации и реализуемых в графических ускорителях, пакетах обработки изображений и т.д. В общем случае операции с образами формализуемы не полностью. Для их обработки применяются эвристические алгоритмы. Главный механизм обработки образов — обучение на множестве примеров (обучающем множестве).

С учетом сказанного парадигма нейрокомпъютинга формулируется следующим образом: алгоритмы, порождаемые данными в универсальном процессе обучения, специализированные для данного класса операций с образами, адаптированные под конкретные информационные задачи. В отличие от памяти ЭВМ память человека адресуется по содержанию, является ассоциативной, распределенной, робастной (Робастность — способность системы восстанавливаться при возникновении ошибок и сбоев) и активной.

Полушария мозга человека имеют разное назначение. Левое полушарие отвечает за работу с абстрактными представлениями, математические вычисления и логический вывод, речь, письмо, восприятие времени. Эти процессы связаны с пошаговой обработкой информации. Правое полушарие оперирует с образами конкретных объектов. Все виденное нами в жизни хранится в правом полушарии, а все имена — в левом. Правое полушарие способно учиться узнавать предметы при их предъявлении, а не по описаниям, как левое. У правого полушария данные и метод составляют единое целое. Оно также отвечает за воображение и интуицию. Это более древние механизмы мозга по сравнению с логическим мышлением. Правое полушарие поддерживает параллельную обработку информации, оно же отвечает за творчество. К феноменам мозга относят:

кодирование (представление) информации о внешнем мире;

кратковременное и долговременное запоминание, хранение и извлечение информации;

ассоциативный поиск и самоорганизацию памяти;

оперирование информацией в процессе решения мыслительных задач;

симультанное (мгновенное) распознавание (например, узнавание человека, с которым не было встреч много лет);

неожиданное творческое озарение (инсайт) и др.

Конструктивного научного объяснения этим феноменам до сих пор не найдено. Структура работ в области нейрокибернетики приведена на рис.3.15.

Первое из выделенных направлений связано с построением и применением нейросетей из искусственных нейронов. Для их программной реализации создаются нейропакеты (НП), а для их физической реализации — нейрокомпьютеры (НК).

Рис.3.15. Структура работ в области нейрокибернетики

Исследования в области нейрофизиологии показывают, что в мозге имеются разные типы нейронов, выполняющих весьма сложные функции. В качестве примера назовем нейроны, ответственные за определение скорости и ускорения движущегося тела, выделение признаков замкнутости и разомкнутости кривой и др. Однако в нейросетях, как правило, используются модели простых нейронов, реализующих элементарные нелинейные функции (функцию знака, сигмоидальные функции и т.д.).

Если для какого-то класса задач требуются сложные специализированные нейроны, их проще ввести в модель сразу, нежели строить из простых. Если же такая необходимость не очевидна, то целесообразно использовать универсальную сеть из простых нейронов. Она сама «вырастит» нужные структуры в ходе обучения. Заметим, что эти соображения лежат в основе декомпозиции нейропакетов НП на универсальные и специализированные.

Сравнение основных характеристик традиционных компьютеров и нейрокомпьютеров приведено в табл.3.8. Можно отметить следующие важные особенности НС.

1. Нейросеть содержит большое число (миллионы и миллиарды) параллельно работающих простых элементов — нейронов. Благодаря такой структуре обеспечивается высокое быстродействие при решении задач, традиционно требующих значительных вычислительных ресурсов.

Таблица 3.8

Основные характеристики традиционных компьютеров и нейрокомпьютеров

2. Место программирования в ИНС занимает обучение. В связи с этим ожидается появление новых специальностей:

нейроконструктора, в задачи которого входят формирование универсальных компонентов — нейронных блоков — и конструирование из них НК (универсальных и специализированных);

учителя НС.

3. Выделяют два подхода к организации обучения НС:

обучение и самообучение на примерах;

обучение в процессе игры.

Достижениями в области обучения НС считаются:

возможность управления процессом обучения в режиме двойственного функционирования НС, при котором НП (НК) самостоятельно оценивает ошибки и сообщает об этом учителю;

возможность восприятия и отражения на ИНС информации из внешней среды.

Под обучением НС понимается процесс нахождения экстремума некоторой функции, отображающей взаимодействие типа вход-выход. Спецификой оптимизационных задач на НС является большая размерность, что обусловливает целесообразность применения алгоритмов оптимизации, которые допускают параллельное выполнение аналогично естественным нейросетям. Кроме методов оптимизации при обучении НС используют генетические алгоритмы.

Базовыми понятиями нейротехнологий являются:

нейрон — базовый элемент сети, единственный ее нелинейный элемент;

синапс — элемент, обеспечивающий связь между нейронами; может обладать весом и «задержкой»;

сумматор, рассматриваемый как компонент нейрона или как специализированный нейрон;

обучающие примеры, представляющие наборы значений вход — предписанный выход и целевую функцию, определяющую штраф за отклонение реального выхода от предписанных значений при данных входах;

цвета и цветовые группы, ассоциируемые с нейронами (окрашенные нейроны по разному участвуют в обучении);

алгоритмы обучения.

В нейротехнологиях обучается не отдельный нейрон, а вся сеть в целом. В ходе ее обучения предъявляются примеры и их оценки. Для быстрого параллельного обучения в сеть вводятся элементы, оценивающие частные производные. В естественных нейросетях такие элементы также существуют.

Выделяют три базовых подхода к представлению результатов обучения нейросетью:

коннекционизм — модифицируются веса синаптических связей, параметры нейронов не меняются;

гетерогенные НС — модифицируются параметры нейронов, связи не меняются;

комплексный подход, объединяющий первые два подхода.

Таким образом, нейронные системы основаны на моделировании функций высшей нервной системы человека. Это направление получит исключительное развитие в XXI в. Одной из ключевых технологий нейронных семиотических систем является обучение ИНС на примерах. Основная парадигма нейрокомпьютинга: алгоритмы, порождаемые данными в универсальном процессе обучения, специализированные для данного класса операций с образами, адаптированные под конкретные информационные задачи.

Работы в области нейрокибернетики включают два базовые направления:

разработку, реализацию и использование для решения практических задач математических моделей ИНС;

разработку и реализацию математических моделей высшей нервной системы человека.

В рамках первого направления создаются НП и НК. Эти работы интенсивно развиваются, обеспечивая быстрый рост сферы коммерческих приложений нейротехнологий.