U MEL Á I NTELIGENCI A prednáška č. 9

1. UMELÁ INTELIGENCIA prednáška č. 9 Prírodne inšpirované prehľadávacie algoritmy Marian.Mach@tuke.sk http://neuron.tuke.sk/~machm Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

2. Osnova prednášky • Úvod • Požiadavky na riešenú úlohu • Priestor prehľadávania • Všeobecný prehľadávací algoritmus • Sledovanie činnosti algoritmu • Aplikácie • Ukážky algoritmov • (prehľadávanie v akcii - SU) • Záver Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

3. Prehľadávanie inšpirované prírodou • Postupné generovanie a testovanie riešení (kandidátov) • potrebné preskúmať veľké množstvá kandidátov pre nájdenie riešenia (typickytisíce až milióny) • Prírodná inšpirácia • je chápaná ‘voľne’ (a môže byť realizovaná v širokom rozsahu) • nesnaží sa modelovať prírodné procesy • cieľom je použiť vynálezy prírody pre riešenie úloh • soft computing, computational intelligence Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

4. (A1=h18)(A2=h26) (A1=h13)(A2=h29) nízka vhodnosť vysoká vhodnosť Požiadavky na riešenú úlohu • tvar riešenia (prirodzený alebo transformácia) • rozklad na zložky (atribúty a ich hodnoty) • možnosť ohodnotenia ‘pokusu o riešenie’ • porovnávanie riešení pomocou globálneho kritéria (A1=h1i),...,(An=hnk) Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

5. Metódy slabé a silné Background (domain) knowledge Silná metóda Ideálna slabá metóda Slabá metóda Slabá metóda Silná • neexistuje silná metóda • silná metóda z praktických dôvodov nepoužiteľná • postačuje výkonnosť slabej metódy Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

6. h21 h22 h23 A2 h24 h11 h14 h12 h13 A1 Priestor prehľadávania • N-rozmerný priestor (N = počet atribútov) • atribút = súradná os • hodnoty atribútu mapované na hodnotyna súradnej osi • body priestoru reprezentujú potenciálne riešenia (kandidátov riešení) Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

7. Plocha vhodnosti • (N+1)-vá súradná os reprezentuje (ne)vhodnosť riešení • vhodnosť nemusí byť definovaná (zakázaná oblasť) • hľadáme extrém (podľa definície vhodnosti) h21 h22 h23 A2 h24 h11 h14 h12 h13 A1 Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

8. Ukážka reprezentácie Priestor riešení • všeobecná úloha • pevný počet krokov • triediaca úloha • premenlivý počet krokov • selekčná úloha Priestor prehľadávania 0321224250 Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

9. Všeobecný prehľadávací algoritmus • Počet jedincov • populačný alg. • individuálny alg. • Spôsob tvorby novej populácie • ‘exploration’ (random search) • ‘exploitation’ (gradient search) Populácia jedincov Koniec ? Nová populácia Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

10. vhodnosť vhodnosť max max generácia generácia Sledovanie činnosti algoritmu • Individuálny / štatistický pohľad na populáciu • Vývoj vhodnosti (priemernej, max. a min, ...) • Iné miery (konvergencia, pokrytie priestoru prehľadávania) Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

11. Aplikácie • PIPA sa vo všeobecnosti používajú pre riešenie: • syntetických úloh • (pseudo)optimalizačných úloh • Častý výskyt ako ‘pomocnej’ metódy (v pozadí) • strojové učenie / dolovanie dát • neurónové siete • úlohy s ohraničeniami • KKUI: • Zostavovanie kŕmnych dávok hovädzieho dobytka Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

12. GECCO’99 • 73 príspevkov v sekcii Real World Applications • riadenie (riadenie skleníka, znalostné bázy pre fuzzy regulátory, optimálna priepustnosť výrobnej linky) • predikcia (magnetoencefalogramy epileptických pacientov, zhoršovanie vizuálneho poľa pacientov) • robotika (úchop predmetov, optimálna cesta) • alokácia zdrojov (priraďovanie frekv. kanálov) • návrh (analógové a digitálne elektronické obvody) • plánovanie (vzdušné hliadkovanie, časové rozvrhy) • modelovanie (preteky v zbrojení - India a Pakistan) Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

13. Evolučný algoritmus • Populačný (paralelný) algoritmus • Pseudostochastický algoritmus • Široká skupina algoritmov: • genetické algoritmy • evolučné stratégie • evolučné programovanie • genetické programovanie • diferenciálna evolúcia • eugenická evolúcia Inšpirácia: • Prirodzený výber (Darwin) • Génová dedičnosť (Mendel) Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

14. Selekcia • Prehľadávanie je riadené umelou evolúciou tvoriacou selekčný tlak • kto sa reprodukuje • vhodnejší jedinci majú väčšiu šancu než menej vhodní • kto prežije • oddelené generácie vs. viacgeneračné spoločenstvá Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

15. Tvorba potomkov • Jedince (chromozómy) majú tvar ‘genetického kódu’ reprezentovaného riešenia • Typicky viacstupňový proces • Premiešavanie genetického materiálu rodičov • Zmena genetického materiálu (jeden alebo viac/ mnoho rodičov) Rodičia kríženie Genetické operátory mutácia Potomkovia Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

16. Základná štruktúra EA Generovanie jedincov Nová populácia Tvorba potomkov Vyhodnotenie jedincov T = T + 1 Vyhodnotenie potomkov Koniec ? Výber rodičov Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

17. EA demo - pôvodná populácia B C B: SZ J J SV SZ JZ S J S S C: JZ SV JZ S JV SZ JZ JV JV SV Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

18. EA demo - nová populácia B: SZ J J SV SZ JZ S J S S C: JZ SV JZ S JV SZ JZ JV JV SV B’ C’ B’: SZ J J SV SZ JZ S JV JV SV C’: JZ S JV SZ JZ J S S SV JZ Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

19. Anjeli & Smrteľníci • Populačný (paralelný) algoritmus • Stochastický algoritmus • Dva typy jedincov • smrteľníci (body v priestore prehľadávania) • anjeli (riadia beh vecí) • Prehľadávanie riadené umelým svetom • Vhodnosť ~ dĺžka života Inšpirácia: • Komplexné chovanie ekologických systémov Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

20. Svet A&S • ‘svet’ má konečné rozmery • je uzavretý (toroidálny tvar) Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

21. Základná štruktúra A&S Generovanie smrteľníkov Klonovanie Pozbieranie mŕtvych Rozmiestnenie jedincov Mutácia Pohyb Koniec ? Skrátenie života Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

22. A&S demo D D: SZ SZ SV JV J SV JZ J J SZ D’ Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

23. Umelé mravce (mravčie kolóny) • Populačný (paralelný) algoritmus • Pseudostochastický algoritmus • Umelý mravec: • kladie a orientuje sa podľa feromónovej stopy • nie je úplne slepý • stochastický výber cesty • má pamäť (nikdy nejde tam kde už bol) Inšpirácia: • Kolektívne chovanie mravčích kolónií Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

24. Hľadanie najkratšej cesty • Charakter kladnej spätnej väzby Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

25. Prehľadávanie • Prehľadávanie je vykonávané v umelom svete (v ktorom sa hľadá najkratšia cesta) • bod v pôvodnom priestore prehľadávania je cestou v mravčom svete • Je možné definovať vzdialenosti medzi bodmi • Vhodnosť sa použije na update feromónových stôp pozdĺž ciest v mravčom svete • Jedinec sa generuje ako náhodná cesta • závisí od feromónovej stopy a od vzdialeností Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

26. Základná štruktúra UM Rozmiestnenie mravcov Generovanie ciest Kladenie ferom. stopy Generovanie ciest Vyhodnotenie ciest Rozmiestnenie mravcov Koniec ? Vyhodnotenie ciest Vyprchávanie feromónu Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

27. S SV JV J JZ S S S SZ SV SV SV JV JV JV J J J JZ JZ JZ SZ SZ SZ UM demo Vzdialenosti • SZ SZ SV ..... Štart Feromón Štart Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

28. Simulované žíhanie • Nie je populačným algoritmom • Stochastický algoritmus • Nezávisle objavený aj Černým z Katedry teoretickej fyziky MFF UK v Bratislave • Metóda vhodná na hľadanie globálneho minima • je to vlastne horolezecký algoritmus umožňujúci únik z lokálneho extrému Inšpirácia: • Fyzikálna evolúcia makroskopic-kých systémov Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

29. pravdepodobnosť T1 > T2 > T3 1.0 T1 T2 T3 vhodnosť akt. Akceptácia nového riešenia • Nové riešenie je akceptované podľa vhodnosti na pravdepodobnostnom základe • pre dosiahnutie rovnováhy systém zotrváva na každej teplote určitý čas Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

30. Základná štruktúra SŽ Generovanie jedinca Koniec ? Akceptácia Vyhodnotenie jedinca Generovanie jedinca Vyhodnotenie Koniec ? Nastavenie teploty Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

31. SŽ demo D D: SZ SZ SV JV J SV JZ J J SZ D1 D2 D1: ... JV ... D2: ... SV ... Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

32. Dynamické určovanie vhodnosti • Nie je samostatným algoritmom ale rozšírením iných algoritmov • Určovanie vhodnosti (tvar plochy vhodnosti) spôsobuje: • úloha je príliš ľahká - nie je tlak na pokračovanie vývoja • úloha je príliš obtiažna - algoritmus sa nevie ‘zachytiť’ Inšpirácia: • Vzťah dravec-korisť Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

33. Koevolučné určovanie vhodnosti • Súťaženie (najčastejšie) dvoch populácií • obe sa vyvíjajú • jedna je stabilná (aktivujú sa jej rôzne časti) • Dvojité prehľadávanie • toho istého priestoru prehľadávania • rôznych priestorov - každá populácia má svoj (jedna reprezentuje riešenia, druhá nejaké pomocné objekty) Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach

34. Základná koevolučná štruktúra ... ... Koniec ? Koniec ? ... ... Vyhodnotenie Vyhodnotenie Súboj ... ... Katedra kybernetiky a umelej inteligencie FEI, TU v Košiciach