Файл: азастан республикасыны білім жне ылым министрлігі ОРыт ата атындаЫ ызылорда мемлекеттік университеті жаратылыстану институты.docx

 



Тікелей байланысты нейрондық желі

Нейрондық желінің жұмысы екі кезеңнен тұрады: желіні кіріс ақпаратқа (кіріс вектор) «дұрыс» немесе адекватты жауап беруге үйрету және оқытылған желіні кіріс векторларын тану үшін қолдану. Соңғы кезеңді жиі жағдайда тестілеу деп атайды. Басқаша айтқанда, желі кіріс векторларды тануға, яғни кіріс векторлардың танылған класына сай келетін шығыс векторларды жасауға үйретіледі. Бұл кезде кіріс векторларының шығыс векторларына сәйкестігіне қатысты білімдер синапстардың салмағы мен нейрондардың табалдырығында сақталады. Коннективистік тәсіл жағдайында (коннекцианизм) – тек қана синапстардың салмағында сақталады. Кейде кіріс векторы ретінде кіріс және шығыс векторларының конкатенациясы түсінеміз және бұл вектордың барлық разряды желіні оқыту және тестілеуді пайдаланылмауы мүмкін. Нейрондық желілердің кейбір моделдерінде (мысалы, Хопфилд моделі) кіріс және шығыс сигналдар ажыратылмайды және оларға сәйкес кірістер (шығыстар) желінің жұмысы барысында рольдерімен алмаса алады.

Семантикалық нейрондық желілер. В 1957 жылы, Джон фон Нейман нейрондық желінің персептрондық нейрондық желіден мүлдем бөлек архитектурасын жасады. Оның берілген жұмыс үшін маңызды болып табылатын қасиеттері келесі болып табылады:

Нейрон кіріс сигналдарын өңдейтін қандай да бір қарапайым құрылғы. Түпнұсқада коньюнкция, дизъюнкция және инверсиялар қолданылған.

Нейрон орындалатын функцияны динамикалық түрде өзгерте алады. Бір нейрон әртүрлі уақытта әртүрлі функцияларды орындай алады. Уақыттың бір мезетінде – мүмкін болатын функциялардың біреуін ғана орындай алады.

Нейрондық желінің бір бөлігі желінің басқа бөлігінің күйіне талдау жасай алады.

Нейрондық желінің бір бөлігі желінің басқа бөлігінің топологиясын өзгерте алады.

Функциялардың математикалық толық жиынында олардың күрделілігі тек есептеу тиімділігінде көрініс табады. Фон Нейман өз жұмысында көрсеткендей, мұндай нейрондық желі Тьюринг машинасына эквивалентті болып табылады.

Бұл кезде тек қана бірдеңгейлі метаөтілім керек, оның нәтижесінде мұндай нейрондық желі Тьюринг машинасына эквивалентті ақырлы автоматты және программалы таспаны тікелей жүзеге асырады.

Фон Нейман желісінде бастысы – нейрон орындайтын функция емес. Бастысы – өздік рефлекс пен өздік модификацияға қабілеттілік болып табылады. Мысалы, желіде қандай да бір құрылым қалыптасты делік. Сипатталып отырған желіде нейрондық желінің бір бөлігі басқа бөліктің құрылымына талдау жасай алады. Сосын осы талдаудың негізінде қандай да бір шешімдерді қабылдап нейрондардың типтерін немесе байланыстарға өзгеріс енгізе алады.

---

Нейрондық желінің бір бөлігі нейрондық желінің басқа бөлігін жеке нейрон–ұяшықтарға динамикалық түрде қатынас құра отырып, олардың күйін оқып, немесе өзгерту арқылы жады банкісі ретінде пайдалана алады.

ДНҚ молекуласы мен мұндай автоматтағы таспа аналогиясын жүргізу қызық. Оның үстіне, нейрондық желінің бір бөлігі «құрастырушы жең» шығарып, жеке нейрондардан кейбір функцияны орындайтын құрылғыны жинай алады. Бұл кезде «таспада» орналасқан жады негізінде нейрондық желінің қандай да бір бөлігі құралатын ДНҚ ретінде қолданылады.

Семантикалық нейронддық желілер мен фон Нейманның идеяларын осы желілерге қолдану барысында пайда болатын салдарларды қарастырайық.

Фон Нейман желісінде байланыстар топологиясына шектеу қойылады және тек логикалық мәндер ғана өңделеді. Фон Нейман желісінің негізінде құрылған семантикалық нейрондық желіде байланыстар топологиясына шектеу жоқ және нақты емес мәндерді өңдеу орындалады. Фон Нейман желісіндегі барлық нейрондар тактілермен синхрондалады. Семантикалық нейрондық желілерде синхрондалған және синхрондалмаған нейрондар бар. Фон Нейман желісінен айырмашылығы, семантикалық нейрондық желілерде нейрондардың топологиясына шек қойылмайды, бұл фон Нейман жасағандай нейрондардың қатыстық адрестелуін мүмкін емес етеді. Бұл жағдайда абсолют ті адрестеуді енгізу керек.

Семантикалық нейрондық желі қазіргі есептеу техникасының жабдықтарымен тиімді жүзеге асырыла алады. Семантикалық нейрондық желі жасаушының постулатталған еркіндігінің арқасында Тьюринг машинасына эквивалентті. Бұл оның негізінде Тьюринг машиналарында есептелінетін кез–келген функцияны есептейтін жүйені жасауға болады. Мысалы, мұндай желі жеке жағдай ретінде қатені кері тарататын көпқабатты персептронды моделдей алады.

Осылайша персептронның нейрондарын мұндай желінің қосу, көбейту және белсендіру функциясын жеке орындайтын дербес нейрондарынан құрастыруға болады.

Персептронды оқыту алгоритмін мұндай желінің персептронға сай келетін үзіндісін талдайтын және өзгертетін жеке үзіндісі ретінде жүзеге асыруға болады.

Семантикалық нейрондық желі шаршылы автоматқа эквивалентті болып табылады.
Лекцияда пайдаланылатын слайдтар:

1. 
   Нейрокибернетика және оның маңызы.
   

Пайдаланылған әдебиеттер тізімі:

---

Негізгі әдебиет

1. 
   В.А.Головко. Нейронные сети: обучение, организация и применение. М., ИПРЖР, 2001.
   
2. 
   Г.Э.Яхъяева. Основы теории нейронных сетей. Интернет-университет информационных технологий, изд-во "Открытые системы".
   
3. 
   Д.А.Тархов. Нейронные сети. Модели и алгоритмы. (Справочник.) М., Радиотехника, 2005.
   

Қосымша әдебиеттер

1. 
   Уоссермен, Ф. Нейрокомпьютерная техника: Теория и практика [Текст] / Ф. Уоссермен. — М.: Мир, 2006. — 240 с.
   

Бақылау сұрақтары:

1. 
   Нейрокибернетиканың дамуына үлкен қарқын берген ғалымдарды атаңыз
   
2. 
   Мак–Каллок–Питтс нейронының қазіргі кезде де жеке нейронды сипаттау үшін қолданылып жүрген формалды моделін сипаттаңыз
   
3. 
   Нейрондық желінің жұмысы қандай кезеңдерден тұрады?
   
4. 
   Семантикалық нейронддық желілер мен фон Нейманның идеялары жөнінде не білесіз?
   

Лекция 15. Нейронды желінің жұмыс жасау принципі. Нейронды желілерді модельдеуде қолданылатын нейронтәрізді элементтің құрылымы

1. 
   Нейронды желінің жұмыс жасау принципі.
   
2. 
   Нейронды желілерді модельдеуде қолданылатын нейронтәрізді элементтер.
   

Лекция мақсаты: Нейронды желінің жұмыс жасау принципімен және оларды модельдеуде қолданылатын нейронтәрізді элементтің құрлымымен таныстыру.

Қарастырылатын негізгі сөздер: Нейрондық желілер, нейронтәрізді элементтер, синапстар, синапстық салмақ, нейрофизиология, модель, сигнал және т.б.

Нейронды желінің жұмыс жасау принципі дендритті ағаштың кіріс сигналдары (постсинаптикалық потенциалдар) өлшенеді және шығыс импульстері (спайк) немесе ипульстер тобы генерацияланатын аксонды төбеге барар жолда соммаланады. Оның бар болуы (немесе қарқынды болуы), сәйкесінше, кіріс сигналдарының өлшенген сомасының функциясы болып табылады. Шығыс сигналы аксондар бұтақтарынан өтеді де аксонды басқа нейрондардың дендритті ағаштарымен қосатын синапсқа жетеді. Синапстар арқылы сигнал біріккен символдар үшін жаңа кіріс сигналдарына өзгереді. Бұл кіріс сигналы синапстар түріне қарай оң және теріс бола алады. Синапспен генерацияланатын кіріс сигналының шамасы синапсқа кіретін бірдей сигналдар шамасы болса да әртүрлі болады. Бұл айырмашылықтар тиімділікпен немесе синапс салмағымен анықталады.

Синапстық салмақ синапс қызметі кезінде өзгереді. Көптеген ғалымдар мұндай өзгерісті жадтың нейрофизиологиялық корреляты (ізі) деп атайды. Бұл кезде молекулярлы жады механизмінің ролі осы іздерді жадыда ұзақ уақытқа бекітумен қорытындыланады.

---

Негізінен нейронды желілерді модельдеуде қолданылатын нейронтәрізді элемент 1 суретте көрсетілген. Нейронтәрізді элементке басқа нейронтәрізді элементтердің шығыс сигналы болып табылатын x1...хn кіріс символдарының жиыны келіп түседі. Бұл кіріс векторы биологиялық синапстарына түсетін сигналдарға сәйкес келеді. Әрбір кіріс сигналы тиімді синапстың аналогы болып табылатын w1…wn байланыстың сәйкес салмағына көбейтіледі.

Байланыс салмағы скаляр шама болып табылады. Байланыс салмағымен өлшенген кіріс сигналдары алгебралық соммалануы мен S нейронтәрізді элементтің қозу деңгейі анықталатын дене торларына сәйкес соммация блогына түседі.


1 сурет. Нейронтәрізді элементтетің құрылымдық схемасы

у нейронының кіріс сигналы S қозу деңгейін сызықты емес f функциясы арқылы өткізу жолымен анықталады:



мұндағы θ—қандайда бір тұрақты жылжу. Жалпы қарапайым сызықты емес функция қолданылады:

 бинарлы:



 сигмоидті:


Нейронның мұндай моделінде кейбір зерттеушілер критикалық деп есептейтін биологиялық прототиптің көптеген белгілі сипаттамаларын алады.
Лекцияда пайдаланылатын слайдтар:

1. 
   Нейронды желінің жұмыс жасау принципі.
   
2. 
   Нейронды желілерді модельдеуде қолданылатын нейронтәрізді элементтер.
   

Пайдаланылған әдебиеттер тізімі:

Негізгі әдебиет

1. 
   В.А.Головко. Нейронные сети: обучение, организация и применение. М., ИПРЖР, 2001.
   
2. 
   Г.Э.Яхъяева. Основы теории нейронных сетей. Интернет-университет информационных технологий, изд-во "Открытые системы".
   

Қосымша әдебиеттер

1. 
   Уоссермен, Ф. Нейрокомпьютерная техника: Теория и практика [Текст] / Ф. Уоссермен. — М.: Мир, 2006. — 240 с.
   

Бақылау сұрақтары:

1. 
   Нейронды желінің жұмыс жасау принципіне тоқталыңыз
   
2. 
   Синапстық салмақ қандай жағдайда өзгереді?
   
3. 
   Байланыс салмағы қандай шама?
   
4. 
   у нейронының кіріс сигналы S қозу деңгейін сызықты емес f функциясы арқылы өткізу жолымен анықталуын көрсететін өрнек
   
5. 
   Нейронның қандай моделінде кейбір зерттеушілер критикалық деп есептейтін биологиялық прототиптің көптеген белгілі сипаттамаларын алады?
   

---

1. 
   Г.Э.Яхъяева. Основы теории нейронных сетей. Интернет-университет информационных технологий, изд-во "Открытые системы".
   
2. 
   Д.А.Тархов. Нейронные сети. Модели и алгоритмы. (Справочник.) М., Радиотехника, 2005.
   

Қосымша әдебиеттер

1. 
   Хайкин, С. Нейронные сети: полный курс [Текст] / С. Хайкин. – М.: Вильямс, 2006. — 1104 с. 
   
2. 
   Ясницкий, Л.Н. Введение в искусственный интеллект. [Текст] / Л.Н. Ясницкий. – М.: Издательский центр "Академия", 2005. — 176 с
   

Бақылау сұрақтары:

1. 
   ІРSec хаттамаларының атқаратын қызметі қандай?
   
2. 
   ІРSec қолданылу кезеңі қандай кепілдіктер береді?
   
3. 
   ІРSec хаттамалары қандай компоненттерден тұрады?
   
4. 
   ІРSec ядросының жоғарғы деңгейі 3 хаттамаларын атаңыз
   
5. 
   DOI интерпритациялық домені жайлы не білесіз?
   

---