340 likes | 665 Vues
2. Geri Dnsml Aglar. Geri dnsml aglarda, agin proses elemanlarinin iktilari yine aga belirli bir sekilde geri gnderilerek girdi olarak kullanilmaktadir.Geri dnsml aglar, iki sekilde olabilirler: Tam Geri Dnsml Aglar Kismi Geri Dnsml Aglar. 3. Geri Dnsml Aglar (Devam
E N D
1. 1 GERI DNSML AGLAR Tugba zge ZDIN
2. 2 Geri Dnsml Aglar Geri dnsml aglarda, agin proses elemanlarinin iktilari yine aga belirli bir sekilde geri gnderilerek girdi olarak kullanilmaktadir.
Geri dnsml aglar, iki sekilde olabilirler:
Tam Geri Dnsml Aglar
Kismi Geri Dnsml Aglar
3. 3 Geri Dnsml Aglar (Devam Ediyor) Tam Geri Dnsml Aglar: Bu aglar gelisigzel ileri ve geri baglantilari olan aglardir. Bu baglantilarin hepsi egitilebilirdir.
Kismi Geri Dnsml Aglar: Bu aglarda agin proses elemanlarina ek olarak ierik elemanlari vardir. Bu aglar, temelde ileri beslemeli bir agdir. Ileri baglantilar egitilebilirler. Geri dnsm sadece ierik elemanlari zerinde yapilir ve bu baglantilar egitilemezler.
Ierik elemanlari ara katman elemanlarinin gemis durumlarini hatirlamak iin kullanilirlar. Agin iktisi hem nceki durumlara hem de agin o andaki durumuna bagli olarak olusturulmaktadir.
4. 4 Elman Agi Elman agi, daha nce anlatilan ok katmanli algilayici aginin grenme kuralina gre grenmektedir.
5. 5 Elman Agi (Devam Ediyor) Girdi Katmani: Girdi elemanlari dis dnyadan bilgiler alir ara katmanlara iletirler. ok katmanli algilayicilarda oldugu gibi Elman aginda da girdi elemanlarinin bilgi isleme zellikleri yoktur. Girdileri oldugu gibi ara katman elemanlarina gnderirler.
ikti Katmani: ikti elemanlari ise agin iktisini dis dnyaya iletirler. ikti nitelerinin bilgi isleme fonksiyonu dogrusaldir. Sadece kendilerine gelen bilgileri toplarlar.
6. 6 Elman Agi (Devam Ediyor) Ara Katmani: Ara katman elemanlari ise hem dogrusal hem de dogrusal olmayan aktivasyon fonksiyonlarina sahip olabilirler.
Ierik Elemanlari: Ierik elemanlari ara katman elemanlarinin nceki aktive degerlerini hatirlamak iin kullanilmaktadir. Bir nceki iterasyondaki aktivasyon degerini bir sonraki iterasyona girdi olarak tasirlar.
7. 7 Ileri beslemeli baglantilarin agirliklari egitim sirasinda degistirilebilirler. Geri dnsmlerin (ierik elemanlarinin) baglanti agirliklari ise sabittir. Bu nedenle Elman aglari kismi geri dnsml ag olarak isimlendirilir. Elman Agi (Devam Ediyor)
8. 8 Elman agindaki, her hangi bir t zamaninda hem t zamanindaki girdi degerleri hem de ara katmanlarin t-1
zamanindaki aktivite degerleri aga girdi olarak verilirler. Agin girdileri belirlendikten sonra ag artik ileri beslemeli bir ok katmanli algilayiciya dnsmektedir. Bu girdiler kullanilarak agin iktilari belirlenir.
Bu ileri dogru hesaplamadan sonra agin ara katmanlarinin aktivasyon degerleri geriye dogru ierik elemanlarina girdi olarak gnderilir ve orada bir sonraki iterasyonda kullanilmak zere saklanir. Elman Aginin alismasi
9. 9 Baslangita ara katmanlarin aktivasyon degerleri bilinmediginden ierik elemanlarinin baslangi degerlerinin belirlenmesi gerekir. Bunun iin, genel olarak bir ara katmanin alabilecegi maksimum degerin yarisi ierik elemanlarinin baslangi girdi degerleri olarak atanir.
Elman aginda agirliklarin degistirilmesinde herhangi farkli bir durum yoktur. Burada dikkat edilmesi gereken geri dnsm agirliklarinin degerinin sabit oldugu ve degistirilmeyecegidir. Bu agirliklar ileri dogru bilgi islerken ierik elemanlarinin girdisini olusturmada kullanilirlar. Elman Aginin alismasi (Devam Ediyor)
10. 10 Agin agirliklarini degistirirken geri dnsm baglanti agirliklarinin dikkate alinmamasi ve ierik elemanlarinin girdi elemani olarak dsnlmesi halinde Elman aginin bir ok katmanli ag ile ayni yapiya sahip oldugu grlr. Elman Aginin alismasi (Devam Ediyor)
11. 11 Jordan agi, Elman agina benzer bir topoloji ve alisma sekline sahiptir. Bu agin ayni zamanda durum tabakasindaki her islemci elemandan kendisine baglantilari vardir. Jordan Agi
12. 12 Hopfield yapay sinir agi recurrent ya da recursive yani tekrar beslemeli bir yapiya sahiptir. Bu zelligi ile diger yapay sinir agi modellerinden ayrilmaktadir.
Tekrar besleme kabiliyeti sayesinde girdi rnts Hopfield mimarisine verildiginde, mimari isleme bir baslangi enerjisi ile baslar. Bu baslangi konumundan itibaren yapi, girdi rntsn bir baska girdi rntsne (daha nce grendigi) dogru ynlendirmeye baslar.
Hopfield Agi
13. 13 Bu srete girdi rntsnde yapilan her ufak degisimin ardindan enerji tekrar tekrar hesaplanarak girdi rntsnn morfolojik dnsmnn kontrol saglanir. Girdi rntsnn bir baska grenilmis olan girdi rntsne benzetilme islemi (morfolojisi), enerji stabilize olana dek srer. Enerji stabilizasyonu ise enerjinin minimuma ulastigi ve degismedigi yerdir. Hopfield Agi (Devam Ediyor)
14. 14 Girdi rntsnn tekrar besleme yardimiyla enerjisini dsre dsre yerel minimuma ulasmasi (enerjinin artik dstg ve degismedigi sre) olayina convergence denir. Convergence pozisyonunda olan girdi rntsne ise converged vector adi verilir. Yani elde edilen cevap vektrdr.
Bu aidan matematiksel olarak interpolasyon islemine benzeyen bir operasyon olan bu grenme sreci sayesinde Hopfield sinir agi modeli optimizasyon problemleri iin referans modeli olmustur. Hopfield Agi (Devam Ediyor)
15. 15 Tek katmanli ve geri dnsml bir agdir.
Islem elemanlarinin tamami hem girdi hem de ikti elemanlaridir.
Hcreler aik (+1) ya da kapali (-1) olarak ikili mantiga gre alisir.
Hopfield Aginin zellikleri
16. 16 Islemci fonksiyonu sreksiz formda esik fonksiyonu, srekli formda sigmoid ve tanjant hiperbolik fonksiyonu olarak dsnlmstr.
Agin baglanti degerleri bir enerji fonksiyonu olarak saklanmaktadir.
Agin grenmesi Hebb kuralina gre yapilir. Hopfield Aginin zellikleri (Devam Ediyor)
17. 17 Hopfield Agi desenlerin depolanmasi iin tasarlanmistir,
grltl veya kismi ipularindan desenleri dzeltebilir.
Bu islemi her deseni temsil eden attractorlara (ukur blgeler) sahip bir enerji yzeyi olusturarak yapar.
Grltl ve kismi ipulari sistemin attractorlara yakin olan durumlaridir.
Hopfield Aginin zellikleri (Devam Ediyor)
18. 18 Bir Hopfield Agi iin enerji yzeyi grltl desenden en yakin attractora dogru kayar. Grsel olarak en ekici gsterimlerden birisi bir grup resmin depolanabilmesidir.
Sonra aga ya resimlerden birinin bir parasi (kismi ipucu) ya da grltl bir resim (grltl ipucu) verilebilir ve bir ok iterasyon yoluyla depoladigi resimlerden birini bulgulardan ikarmayi basarir.
Hopfield Aginin zellikleri (Devam Ediyor)
19. 19 Hopfield Aginin zellikleri (Devam Ediyor)
20. 20 Hopfield Aginin zellikleri (Devam Ediyor)
21. 21 Hebbian grenme kurali
Hopfield Agi Hebbian grenmeyi uygular.
Bu sekilde bir grenme ilk defa Hebb (1949) tarafindan ifade edilen sinaptik modlasyon ynteminin matematiksel bir ikarimidir.
Hebbin kuralina gre, eger alici nron atesliyorken bir nron baska bir nronu uyariyorsa, iki hcre arasindaki baglanti agirliklandirilir. Hopfield Aginin zellikleri (Devam Ediyor)
22. 22 Matematiksel olarak;
wij = ai aj
Bir agirliktaki degisim baglandigi birimlerin aktivasyonlari arpimina esittir. Bylelikle, eger iki birim de aiksa (ai=1) veya her iki birim de kapaliysa (ai=-1) agirligin gc artar, aksi halde azalir. Hebb kuralinin matematiksel tanimi bir agirligin, eger her iki birim de kapaliysa artmasina ve eger birimlerin aktivasyonlari 1 ve 1 ise azalmasini saglar.
Bu zellikler muhtemelen fiziksel olarak aiklanamaz ve degistirilemez, bununla birlikte sisteme eger Hebbian kurali uygulanmissa anlasilmasi daha kolay olur.
Hopfield Aginin zellikleri (Devam Ediyor)
23. 23 Eger birimler dizisine bir deseni aninda verip kurali uygularsak, o desen agin attractoru haline gelir, bu da Hopfield aginin ilgilendigi Hebbian grenmenin nemli bir zelligidir.
Sonu olarak, eger agin aktivasyonunun deseni depolanmis bir desene yakinsa, o desene dogru gitmeye alisacaktir. Hopfield Aginin zellikleri (Devam Ediyor)
24. 24 Iki esit Hopfield Agi vardir:
Kesikli (discrete) Hopfield Agi: agrisimli bellek (associative memory) olarak kullanilir. (r: Grnt tanima ve onarma)
Kesikli Hopfield agi iin aktivasyon fonksiyonu Sgn fonksiyonudur.
Srekli (continuous) Hopfield Agi: Kombinetoryal optimizasyon problemlerinde kullanilir (r: Gezgin satici problemi)
Hcre islemcisinin fonksiyonu srekli fonksiyon olmalidir.
Zamanda srekli oldugundan giris ve ikislar devamli yenilenir.
Srekli Hopfield agi iin aktivasyon fonksiyonu Sigmoid gibi trevi alinabilir bir fonksiyondur.
Hopfield Aginin zellikleri (Devam Ediyor)
25. 25
26. 26
27. 27
28. 28
29. 29
30. 30
31. 31 Bu blmde incelenen ag yapilari nceki yapilardan farkli olarak geri besleme zelligine sahiptir.
Hopfield agi Hebb grenme kurali zerine kurulmus olup temel mantigi ise kisaca: eger a nronu baska bir b nronundan girdi aliyorsa ve her ikisi de aktif ise a ve b arasindaki agirliklar artar. Sonu
32. 32
33. 33
34. 34
Dinlediginiz Iin Tesekkr Ederim..