Gry Wideo: Drzewa Zachowań i Hierarchiczne Systemy Sztucznej Inteligencji

1. Gry Wideo: Drzewa Zachowań i Hierarchiczne Systemy Sztucznej Inteligencji Michał Słapa

2. Michał Słapao mnie CD Projekt Red (2006-2009) • Wiedźmin Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

3. Michał Słapao mnie CD Projekt Red (2006-2009) • Wiedźmin • Prototyp Wiedźmina 2 Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

4. Michał Słapao mnie CD Projekt Red (2006-2009) • Wiedźmin • Prototyp Wiedźmina 2 Flying Wild Hog (od 2009-VII 2012) • Hard Reset Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

5. Michał Słapao mnie CD Projekt Red (2006-2009) • Wiedźmin • Prototyp Wiedźmina 2 Flying Wild Hog (od 2009-VII 2012) • Hard Reset • Kolejny projekt Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

6. Michał Słapao mnie CD Projekt Red (2006-2009) • Wiedźmin • Prototyp Wiedźmina 2 Flying Wild Hog (od 2009-VII 2012) • Hard Reset • Kolejny projekt CD Projekt Red (od lipca 2012)  • Dark fantasy RPG Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

7. Gry komputeroweWprowadzenie • Stale rozwijająca i przyśpieszająca branża „elektronicznej rozrywki”. • Dzięki coraz to nowym platformom do gier, branża staje się coraz bardziej różnorodna i spolaryzowana: • Wielkobudżetowe gry AAA. • Tańsze gry „mainstream’owe” • Niskobudżetowe tytuły „indie” • Social gaming • Massive Multiplayer • Free to play • Gry casual • Gry na platformy mobilne – telefony, tablety • Miejsce zarówno dla dużych korporacji, prywatnych developerów, ale też kilkuosobowych zespołów. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

8. Gry komputeroweWprowadzenie Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

9. Gry komputeroweWprowadzenie • Programiści stanowią proporcjonalnie niewielką część zespołu: • Artyści • Design • QA • Produkcja • Programiści • Stały kontakt z ludźmi z różnych specjalizacji. Mniej lub bardziej technicznymi, mniej lub bardziej artystycznymi, ale zawsze fanami gier. • Przy pracy nad AI programista musi stale i blisko współpracować z Designem. W zależności od specyfiki firmy: • Odpowiada za serce systemu, bądź też implementację konkretnych zachowań i przeciwników. • Ma mniej lub więcej swobody w tworzeniu zachowań. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

10. Plan prezentacji • Projektowanie systemu AI • Charakterystyka Skończonych Maszyn Stanów. • Hierarchiczne Drzewa Zachowań. • Wnioski Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

11. AI marzeńdla programisty • Prosta, spójna i logiczna struktura • Skalowalność: • Systemu • Zachowań • Możliwość jednoczesnej realizacji wysoko poziomowego procesu decyzyjnego i niskopoziomowego sterowania • Atomowe, hermetyczne akcje • Łatwy reuse kodu • Wydajność Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

12. AI marzeńdla designera • Prosta, spójna i logiczna struktura • Łatwy w projektowaniu • Łatwy w skryptowaniu • Przewidywalne działanie • Konfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

13. Zabieramy się za AIZagrożenia • Róbmy AI wcześnie, inaczej skończymy w sytuacji gdy wiele systemów, które powinno na nim bazować będzie zrobione "obok". • Róbmy JEDEN system AI obejmujący wszystkie mechanizmy decyzyjne. • Design czasem chce AI, które już zaprojektował. Nie dajmy narzucać sobie rozwiązań systemowych. • Nie próbujmy być zbyt sprytni (przerost autonomii). • Nie bójmy się sprytnych rozwiązań (unikajmy łopatologii). Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

14. Zabieramy się za AI„Atom” AI Zachowanie/Stan/Zadanie • Może byc bezstanowy, lub miec wewnętrzny stan • Definiuje metody: • Aktywacji • Deaktywacji • Update • Odpowiedź na zdarzenia • + i dużo innych • Systemy AI o jakich będziemy mówić różnią się mechanizmami łączenia i zarządzania tymi atomami. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

15. Maszyna stanówIdea • Swojego czasu najpopularniejsza struktura systemu sztucznej inteligencji. • Atomowe zachowania AI implementowane są przez stany maszyny. • Pomiędzy stanami definiowane są skierowane przejścia i ich warunki. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

16. Maszyna stanów Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

17. Maszyna stanów • Dodajmy do gry efekt czaru „Strach”. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

18. Maszyna stanów • Dodajmy nowy wierzchołek Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

19. Maszyna stanów • Albo całą funkcjonalność… Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

20. Maszyna stanówDla designera • Zalety • Czytelny • Łatwy w projektowaniu • Łatwy w skryptowaniu • Przewidywalne działanie • Wady • Jak to się komplikuje... (kwadratowy rząd ilości połączeń do wielkości grafu) Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

21. Maszyna stanówDla programisty • Zalety • Prostota, spójna i logiczna struktura • Wady • NIE- Atomowe stany • NIE- Hermetyczne stany • CIĘŻKI reuse kodu • BRAK Skalowalności Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

22. Maszyna stanówGrzech główny Płaska struktura AI zaimplementowane na zadanym poziomie. Problem z zaimplementowaniem wysokopoziomowych procesów decyzyjnych i konieczność tworzenia wrapperów na niskopoziomowe sterowanie. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

23. Maszyna stanówPrzykład The Witcher Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

24. Inne podejścia • Planowanie • Hierarchiczne FSM • Drzewa Zachowań (Behavior Tree) • Goal Based Behavior Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

25. Drzewa ZachowańIdea • Wprowadźmy pojęcie wierzchołka drzewa == zachowania złożonego mającego pod sobą uporządkowany zbiór zachowań. • Zastąpmy maszynę stanów korzeniem drzewa -"Mózgiem". • Niech każdy stan jest w stanie stwierdzić czy są spełnione warunki by mógł się wykonywać. • Ewentualnie niech warunki wykonania każdego "zachowania" określa osobny funkcyjny obiekt z nim związany. • Wprowadźmy prosty proces decyzyjny dla stanu złożonego - gdy jest aktywny, wówczas aktywuje on pierwszy dostępny ze swoich pod-stanów. • Otrzymamy strukturę drzewiastą w którym węzły są stanami wyższego rzędu, a liście - niskiego. W drzewie jednocześnie aktywna jest cała gałąź zachowań. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

26. Drzewa Zachowań Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

27. Drzewa ZachowańProces decyzyjny • Węzeł złożony ewaluuje swoje dzieci aż trafi na gotowe. • Możliwe uproszczenie, że co najmniej jedno dziecko węzła jest gotowe. • Umożliwia niezależne ewaluacje wierzchołków, upraszcza proces decyzyjny. • Wymusza dokładniejsze testy warunków wierzchołka rodzica. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

28. Drzewa ZachowańProces decyzyjny - optymalizacja • Potężna optymalizacja: reewaluacja procesu decyzyjnego odbywa się możliwie rzadko - powiedzmy raz na 1-2 sekundy. • W odpowiedzi na zdarzenia możemy wymusić reewaluację wierzchołka w następnej klatce. Dzięki temu reakcja na zdarzenia będące "bodźcem" jest natychmiastowa. • Optymalizacja powoduje przypadkowe ale też całkiem naturalne ("ludzkie") opóźnienia w reakcji AI na zmiany środowiska nie dotyczące go bezpośrednio. • W Hard Reset całe AI działało w języku skryptowym, poza tym nie miało wielu innych optymalizacji o których wspomnę w tej prezentacji. Mimo tego, dzięki rzadkim aktualizacjom złożonych wierzchołków nigdy nie wyskakiwało wysoko w profilerach. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

29. Drzewa ZachowańCykl wykonania węzła • Aktywacja - Activate • Aktualizacje - Update • Zakończenie wykonania: • Jeśli zachowanie się wykonało wywołuje Complete, które z kolei wykonuje Deactivate. • Jeśli wykonanie węzła zostanie wywłaszczone przez proces decyzyjny - węzeł dostaje Deactivate.  Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

30. Drzewa ZachowańPrzechwytywanie zdarzeń Dodatkowy mechanizm - węzły mogą rejestrować się na odsłuch konkretnych eventów. Podstawowy mechanizm - zdarzenie przechodzi przez całą gałąź aktywnych zadań. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

31. Drzewa ZachowańPrzechwytywanie zdarzeń Węzeł obsługujący zdarzenie może poprosić "rodzica" o reewaluację ponieważ zdarzenie zmieniło jego stan wewnętrzny Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

32. Rozwinięcia Drzew ZachowańNarzucane zadania Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

33. Rozwinięcia Drzew ZachowańSekwencje Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

34. Rozwinięcia Drzew ZachowańDekoratory • Bardzo często będziemy spotykali się z zapotrzebowaniem na akcje AI, które właściwie już zaimplementowaliśmy, ale do których potrzebujemy wprowadzić "małe" zmiany. • Potrzebujemy alternatywy dla mechanizmu dziedziczenia klas akcji. • Wykorzystajmy wzorzec projektowy "dekorator" do zmodyfikowania działania węzła potomnego. • Umożliwia budowanie całego AI w oparciu o bardzo podstawowe, ale dodatkowo oskyptowane akcje. • Właściwie stosowane dekoratory upraszczają cały system AI, zmniejszają ilość klas, zależności projektowych i zapobiegają karkołomnemu dziedziczeniu. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

35. Rozwinięcia Drzew ZachowańKonfiguracja By umożliwić prawdziwy reuse kodu, skalowalność systemu i ograniczyć stosowanie metody Kopjego-Pejsta: • Najpierw oczywistość: wszystkie węzły drzewa powinny móc być parametryzowane z poziomu definicji AI. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

36. Rozwinięcia Drzew ZachowańKonfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

37. Rozwinięcia Drzew ZachowańKonfiguracja By umożliwić prawdziwy reuse kodu, skalowalność systemu i ograniczyć stosowanie metody Kopjego-Pejsta: • Najpierw oczywistość: wszystkie węzły drzewa powinny móc być parametryzowane z poziomu definicji AI. • Pozwólmy zapisywać dowolne definicje AI (również całe Drzewa Zachowań) by wykorzystywać je w innych definicjach na równi z wbudowanymi zachowaniami. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

38. Rozwinięcia Drzew ZachowańKonfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

39. Rozwinięcia Drzew ZachowańKonfiguracja By umożliwić prawdziwy reuse kodu, skalowalność systemu i ograniczyć stosowanie metody Kopjego-Pejsta: • Najpierw oczywistość: wszystkie węzły drzewa powinny móc być parametryzowane z poziomu definicji AI. • Pozwólmy zapisywać dowolne definicje AI (również całe Drzewa Zachowań) by wykorzystywać je w innych definicjach na równi z wbudowanymi zachowaniami. • Niech zapisane definicje AI mogą również parametryzować się dowolnymi zmiennymi. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

40. Rozwinięcia Drzew ZachowańKonfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

41. Rozwinięcia Drzew ZachowańKonfiguracja By umożliwić prawdziwy reuse kodu, skalowalność systemu i ograniczyć stosowanie metody Kopjego-Pejsta: • Najpierw oczywistość: wszystkie węzły drzewa powinny móc być parametryzowane z poziomu definicji AI. • Pozwólmy zapisywać dowolne definicje AI (również całe Drzewa Zachowań) by wykorzystywać je w innych definicjach na równi z wbudowanymi zachowaniami. • Niech zapisane definicje AI mogą również parametryzować się dowolnymi zmiennymi. • Niech parametrem węzła może być inny węzeł. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

42. Rozwinięcia Drzew ZachowańKonfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

43. Rozwinięcia Drzew ZachowańKonfiguracja • Zależne od parametrów wierzchołki opcjonalne. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

44. Rozwinięcia Drzew ZachowańBlackboard • Problem reprezentacji wiedzy i optymalizacji zapytań. • AI powinno posiadać pewien obiekt reprezentujący bazę "wiedzy". • Możliwe postaci: • Aktualizowany na bieżąco zbiór identyfikatorów i ich wartości reprezentujących wiedzę obiektu. • Opierający się o uleniwione zmienne obiekt funkcyjny wyliczający częste podzapytania wykonywane przez AI. • Hybryda obu powyższych. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

45. Drzew ZachowańProblemy • Ciężko reprezentować warunek "jeśli «coś» lub jeśli następujące węzły są niedostępne". • Ciężko reprezentować nie deterministyczne drzewa. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

46. Drzew ZachowańRozwiązanie - rozmyta ewaluacja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

47. Drzew ZachowańRozmyta ewaluacja Modyfikacja procesu decyzyjnego. Wierzchołki zwracają swój priorytet na podstawie którego podejmowany jest wybór. Można zastosować rozwiązanie hybrydowe (w którym na różnych poziomach mamy różne procesy decyzyjne). • Zalety • "Mocniejszy" mechanizm • Rozwiązuje przedstawione problemy Wady Utrudniona czytelność drzewa Gorsza atomowość zadań Kosztowniejszy proces decyzyjny Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

48. Drzew ZachowańProblemy • Decyzje a hierarchia. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

49. Hierarchiczne system AI • Wszystkie systemy hierarchiczne są podobne! • Moja propozycja: niech ciężar implementacyjny spoczywa na klasach węzłów. • Implementacje węzłów bazowych są "proste" w odniesieniu do implementacji konkretnych AI przeciwników. • Hierarchiczne systemy AI różnią się tylko szczegółami, przy odpowiedniej architekturze możemy swobodnie między nimi się przemieszczać: • Hierarchiczne FSM • Drzewa zachowań • Logika rozmyta • Planowanie Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

50. Hierarchiczne system AIPrzykład: Behavior Tree vs HFSM Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego