Файл: азастан республикасыны білім жне ылым министрлігі ОРыт ата атындаЫ ызылорда мемлекеттік университеті жаратылыстану институты.docx

Лекцияда пайдаланылатын слайдтар:

1. 
   Нейрокомпьютерлер және оның ерекшеліктері.
   

Пайдаланылған әдебиеттер тізімі:

Негізгі әдебиет

1. 
   В.А.Головко. Нейронные сети: обучение, организация и применение. М., ИПРЖР, 2001.
   
2. 
   Г.Э.Яхъяева. Основы теории нейронных сетей. Интернет-университет информационных технологий, изд-во "Открытые системы".
   

Қосымша әдебиеттер

1. 
   Нейронные сети. Алгоритм обратного распространения [электронный ресурс]: http://ai.obrazec.ru/neur-2.html
   
2. 
   Нейронные сети: обучение без учителя [электронный ресурс]: http://www.codenet.ru/progr/alg/ai/htm/gl3_4.php
   

Бақылау сұрақтары:

1. 
   Нейрокомпьютерлер дегеніміз не?
   
2. 
   Нейронды желілердің, ақпаратты-логикалық өңдеулердің әмбебап құралы ретіндегі қосымша артықшылықтарына тоқталыңыз
   
3. 
   Қандай бағдарламалық кешенінің ядросы түрлі қолданбалы салада ақпараттық-логикалық тәжірибелер және есептеулер ұйымдастыру үшін қолданылды?
   

Лекция 11. Тану жүйесіндегі нейрондық желі қызметі

1. 
   Жасанды нейрондық желінің құрылымы.
   
2. 
   Нейрондық желінің шығуы математикалық есептеулермен.
   

Лекция мақсаты: Жасанды нейрондық желілердің құрылымын қарастыру және математикалық есептеулермен түсіндіру.

Қарастырылатын негізгі сөздер: Жасанды нейрондық желі, интеллектуальды жүйе, алгортим, кіріс сигналдар, сумматор және т.б.

Соңғы онжылдықта математиканың жаңа қолданбалы аймағы жасанды нейрондық жүйе ретінде дамып келе жатыр. Жасанды нейрондық желі негізінде интеллектуальды жүйелер, бейнелерді тануды, бақылаудың орындалуын, тиімдікті, ассоциативті жады және басқарудың мәселелерін орындап келе жатыр. 

Жасанды нейрондық желінің құрылымы төменде көрсетілген:


Сурет 1. Жасанды нейрондық жүйенің құрылым
Бейнені тану үшін екі алгортимге бөліп қарастырамыз. Олар: объективті жіктелу, тізбекті жіктеу алгоритмі.

Адамның бет бейнесін тану жүйесінің негізгі сипаттамасы болып бейненің кейбір кластарға жататындығын тексеру болып табылады. Осы тапсырманы шешу үшін бөлінетін функцияларды қолдану болады.

Нейрондық желінің шығуы мына формуламен есептеледі:

---

мұндағы k – 0-ден L-ға дейінгі өсетін ағымдағы қабық,

P -  (k-1) алдындағы қабықтың нейронының саны,

I – ағымдағы қабықтағы нейронның индексі,

J – алдындағы қабықтағы нейронның индексі,

x_i – кіру бейнесінің пикселі,

y_ki – k қабығының шығу мәні,

w_ij – j_k-1 және j_k нейронын байланыстыратын салмақ.

Активациялық функция ретінде гиперболалық тангенсті қолдануға болады. Нейрондық үлгінің біріншісін Маккаллок-Питс шығарды. Осындағы нейрон бинарлы элемент болып табылады. Ол модельдің кестесі төменде келтірілген.

1. Кіріс сигналдар x_j (j=1,2,…n) сәйкес wij салмағымен есептеліп, қосылады.

2. Сумматорда соңғы W_io мәнімен салыстырылады. Шығатын нейрон сигналы y_i төмендегі тәуелділікпен есептеледі.



Функцияның аргументі болып келесі қосынды сигнал алынады.



Мұндағы f(u_i) функцияның белсенділігі деп аталады. Маккаллок-Питс улгісінде табалдырықты функцияның түрі төмендегіде болады:



w_ij коэффиценттері синаптикалық байланыс салмағын көрсетеді. w_ij мәні оң болса, ол тудырушы (қоздырушы) синапс болады, ал w_ij  мәні теріс болса онда кедергілі синапс болады. Егер w_ij  = 0 болса, онда I мен j нейрондары арасында байланыс жоқ деп есептеледі. Маккаллок-Питс моделі дискретті модель болады. Нейрон (t+1) мәнге ие болады, алдыңғы уақытта t-ға ие болады.

Нейрондық желі бірнеше үлкен айнымалылардыңғ функция аппроксиматорында үлкен роль атқарады. Ол сызық емес функция арқылы іске асады:



мұндағы x – кіру векторы;

y – бірнеше айнымалылар векторының функциясын тарату.

2-суретте желі мысалы келтірілген. Ондағы α параметрінің үлкеюі  : дыбысына бірмәнділік әрекет етуге әкеледі. Ал оң сандар үшін 

---

 – үлкейеді.


Сурет 2. Монотонды емес желі фрагменті
Осындай желінің  шығатын дыбысы монотонды емес желі α параметіріне тәуелді болады.


Сурет 3. Монотонды желінің жалпы кестесі.
Ерекше көңіл аударатын желі класының архитектурасы ол – салмақ байланысысыз желі. Осы желі коннекциондылық қатынасына қарсы қатынас болып табылады.
Лекцияда пайдаланылатын слайдтар:

1. 
   Тану жүйесіндегі нейрондық желі қызметі.
   

Пайдаланылған әдебиеттер тізімі:

Негізгі әдебиет

1. 
   Амосов, О.С. Интеллектуальные информационные системы. Нейронные сети и нечеткие системы: Учеб. Пособие [Текст] / О.С. Амосов. – Комсомольск-на-Амуре: ГОУВПО «КнАГТУ», 2004. – 104 с.
   

Қосымша әдебиеттер

1. 
   Хайкин, С. Нейронные сети: полный курс [Текст] / С. Хайкин. – М.: Вильямс, 2006. — 1104 с. 
   
2. 
   Ясницкий, Л.Н. Введение в искусственный интеллект. [Текст] / Л.Н. Ясницкий. – М.: Издательский центр "Академия", 2005. — 176 с. 
   

Бақылау сұрақтары:

1. 
   Жасанды нейрондық желінің құрылымы жайлы не білесіз?
   
2. 
   Нейрондық үлгінің бірінші нұсқасын шығарған ғалымды аиаңыз
   
3. 
   Ерекше көңіл аударатын желі класының архитектурасы ол –
   

Лекция 12. Нейронтәрізді желілер (НТЖ) модельдері. Нақты емес білімдерді нейронды желілір модельдерінде қолдану

1. 
   Жасанды нейрондық желілердің қолданысы.
   
2. 
   Нейронтәрізді желілер (НТЖ) модельдері.
   
3. 
   Нақты емес білімдерді нейронды желілір модельдерінде қолдану.
   

Лекция мақсаты: Жасанды нейрондық желілердің қолданысын және оның модельдерін, нақты емес білімдерді қолдануды қарастыру.

Қарастырылатын негізгі сөздер: Нейронтәрізді желі, алгоритмдер, процессорлы элементтер, ақпарат, адаптация және т.б.

Сонымен нейронтәрізді желі дегеніміз не? Бұл биологиялық желінің өз параметрі бойынша түпнұсқаға максималды түрде жақын жасанды аналогы.

---

Нейронтәрізді желілер оларды қолдануды толықтай мойындамаудан бастап адамзат жұмысының көптеген салаларына қолдануға дейін дамудың ұзақ жолынан өтті.

Қазіргі заманғы цифрлі есептеу машиналары алдын ала белгілі алгоритмдер бойынша анықталған мәліметтермен құрылған есептерді жоғары тез жылдамдықпен және дәлдікпен шешуге қабілетті. Бірақ есеп құрылымға келмейтін, ал кіріс мәліметтер толық емес, қарама – қайшылықтары көп болған жағдайда дәсстүрлі компьютерлерді қолдану тиімді болмайды. Оларға альтернатива ретінде дәстүрлі емес нейрожелілік технологияны жүзеге асыратын арнайы компьютерлерді ұсынуға болады. Бұл кешендердің күшті жағына ақпаратты өңдеудің стандартты емес сипаттамаларын жатқызуға болады. Ол жадының жеке ұяшықтарында емес, нейрондар арасындағы байланыстарды үлестіруде кодталып, сақталады, сондықтан әрбір жеке нейронның күйі олармен байланысты басқа да көптеген нейрондардың күйімен анықталады. Демек, бір немесе бірнеше байланыстарды жоғалту бүтін жүйенің жұмысына қатты әсерін тигізбейді, яғни оның жоғары сенімділігін қамтамасыз етеді.

Жоғары «табиғи» шуға қарсылық пен функционалды беріктілік өзгертілген ақпарат ағынымен қатар, жеке процессорлы элементтердің істен шығуына да қатысты. Бұнымен жоғары оперативтілік пен ақапаратты өңдеудің дұрыстығы қамтамасыз етіледі.

Нейронтәрізді желілер (НТЖ) модельдері

Жоғарыда көрсетілген мәліметтерді нейрожелілік өңдеудің артықшылығы

НТЖ қолданылу облысын анықтайды:

 Кескіндерді өңдеу және талдау;

 Диктордан тәуелсіз сөзді тану, аудару;

 Жоғарыжылдамдықты цифрлі ағындарды өңдеу;

 Ақпаратты тез іздеудің ақпараттандырылған жүйесі;

 Ақпаратты нақты уақыт масштабында зерттеу;

 Күштер мен құралдарды үлкен масштабта қолдануды жоспарлау;

 Тиімділеудің күрделі есептерін шешу;

 Адаптацияланған басқару және болжау.
Нақты емес білімдерді нейронды желілір модельдерінде қолдану

Жеке нейрондар, бір бірімен байланыса отырып, нейронаралық бірігулер қасиетіне тәуелді биологиялық модельдеудің әртүрлі деңгейінен тұратын жаңа сапаны құрады:

 Нейрондар тобының;

 Нейронды желінің;

 Жүйке жүйесінің;

 Ойлау қабілетінің;

 мидың.

Басқаша айтқанда, нейронтәрізді желі — биологиялық жүйке жүйесі тәрізді нақты өмір объектілерімен өзара қарым – қатынаста болатын қарапайым адамптацияланған элементтердің параллель байланысқан желісі.

Нейронтәрізді желілердің ең негізгі қасиеттеріне өзін өзі ұйымдастыру, қызмет көрсетудің сапасын көтеру мақсатында өздігінен адаптациялану қасиетін жатқызуға болады. Бұл алгоритмі үйретуші ережелер жиынымен берілетін желіні үйрету жолымен алынады. Үйретуші ережелер кіріске жауап ретінде байланыстардың қалай өзгеретінін анықтайды.

---

Математикалық түрде бұл ережені келесі түрде жазуға болады:



мұндағы wij(t) және wij(t+1) –i-шіден j-шіге дейінгі байланыс салмағының мәні, α — үйрету жылдамдығы, yi және yj –i-ші және j-гі дейінгі нейрондардың шығыс сигналдары. Қазіргі уақытта көптеген әртүрлі үйретуші ережелер бар.
Лекцияда пайдаланылатын слайдтар:

1. 
   Нейронтәрізді желілер және модельдері.
   

Пайдаланылған әдебиеттер тізімі:

Негізгі әдебиет

1. 
   Амосов, О.С. Интеллектуальные информационные системы. Нейронные сети и нечеткие системы: Учеб. Пособие [Текст] / О.С. Амосов. – Комсомольск-на-Амуре: ГОУВПО «КнАГТУ», 2004. – 104 с.
   

Қосымша әдебиеттер

1. 
   Хайкин, С. Нейронные сети: полный курс [Текст] / С. Хайкин. – М.: Вильямс, 2006. — 1104 с. 
   
2. 
   Ясницкий, Л.Н. Введение в искусственный интеллект. [Текст] / Л.Н. Ясницкий. – М.: Издательский центр "Академия", 2005. — 176 с. 
   

Бақылау сұрақтары:

1. 
   Нейронтәрізді желі дегеніміз не?
   
2. 
   Нейронтәрізді желілердің ең негізгі қасиеттерін атаңыз
   
3. 
   Үйретуші ережелер қандай қызмет атқарады?
   

Лекция 13. Желінің жолдық параметрлері бойынша бағалау функциясының градиенті

1. 
   Желінің ішкі құрылған параметрлері бойынша бағалау функциясының градиентінің есептелуі.
   
2. 
   Формалді нейронға екі жақтылықты нейронды құру процесі.
   
3. 
   Градиент есептеуіне екі жақтылықты желіні қолдану.
   

Лекция мақсаты: Желінің жолдық параметрлері бойынша бағалау функциясының градиентін есептеуді үйрету.

Қарастырылатын негізгі сөздер: Желі, параметр, функция градиенті, сигнал, элемент, сумматор, ыормальды нейрон және т.б.

Ж
елінің ішкі құрылған параметрлері бойынша бағалау функциясының градиенті қалай есептелетінін қарастырайық. Градиентті есептеу берілген нейрондық желісіне екі жақтылықты нейрондық желісінің жұмыс істеуі кезінде іске асырылады . Екі жақтылықты желісінде сигналдар кері бағытта беріледі – желісінің шығысынан оның кірісіне, ал екі жақтылықты желі құрылатын элементтері, берілген элеметтеріне екі жақтылықты болады. Ең алдымен желінің жеткілікті түрдегі абстрактілі элементті қарап шығамыз. Оған

---