Module Cognition et Connaissance

1. Module Cognition et Connaissance Réseaux bayésiens Réseaux bayésiens Réseaux bayésiens • Damien CRAMdamien.cram@ecl2006.ec-lyon.fr • Madeth MAY • may.madeth@itc.edu.kh • Rémi GUELTON • remi.guelton@ecl2006.ec-lyon.fr • Sereysethy TOUCH • touch.sereysethy@itc.edu.kh 14 novembre 2005

2. Module Cognition et Connaissance 1 Réseaux bayésiens PLAN DE LA PRESENTATION Introduction aux Réseaux bayésiens Théorème de Bayes Notion de causalité Inférences Apprentissage Des applications des Réseaux bayésiens Conclusion Bibliographies >> Plan de la présentation

3. Module Cognition et Connaissance 2 Réseaux bayésiens • Introduction aux Réseaux bayésiens Généralité Un des enjeux principaux dans le domaine de la recherche IA est d'être capable de concevoir et développer des systèmes dynamiques et évolutifs. ➙Comportements intelligents qui peuvent apprendre et raisonner. Problèmes? Les connaissances acquises ne sont pas toujours adéquates afin de permettre au système de faire une décision la plus appropriée possible. Solutions?Plusieurs méthodologies ont été proposées. ➙Choix : les approches probabilistes Mieux adaptées - au raisonnement avec la connaissance et la croyance incertaine - à la structure de la représentation de la connaissance >>Introduction aux Réseaux bayésiens\Généralité

4. Module Cognition et Connaissance 3 Réseaux bayésiens • Introduction aux Réseaux bayésiens • Approches probabilistes • Chaque état de changement (événement) dans le monde réel peut être modélisé sous forme de probabilité. • Par exemple, modéliser certains états de changement d’une voiture, d’un corps humain, d’un marché financier, etc. • La probabilité d'un événement Aest un nombre compris entre0 et 1 • Si P(A) = 1alors la chance pour laquelle l'événement A aura lieu est certaine • Deux événements A et B sont dits indépendants si P(A,B) = P(A) . P(B) • Etant donné que l'événement B s’est produit, la probabilité de l’événement A se produira est x, et s’écrit P(A|B) = x >>Introduction aux Réseaux bayésiens\Approches probabilistes

5. Module Cognition et Connaissance 4 Réseaux bayésiens • Introduction aux Réseaux bayésiens • Réseaux bayésiens (1/2) • Définition • Les réseaux bayésiens sont la combinaison des approches probabilistes et la théorie de graphes. Autrement dit, ce sont des modèles qui permettent de représenter des situations de raisonnement probabiliste à partir de connaissances incertaines. • Ils sont aussi connus sous le nom de "belief networks", "causal networks". • Un réseau bayésien est un graphe acyclique orienté(1) i.e. c'est un graphe orienté sans circuit. • Chaque nœud d’un réseau bayésien porte une étiquette qui est un des attributs de problème. (1) On dit souvent: un DAG. De l’anglais directed acyclic graph. >>Introduction aux Réseaux bayésiens\Réseaux bayésiens\Définition

6. Module Cognition et Connaissance B A C 5 Réseaux bayésiens • Introduction aux Réseaux bayésiens Réseaux bayésiens (2/2) Exemple A et C sont conditionnellement indépendants alors on peut dire la probabilitéP(A|B,C) = P(A|B)C’est-à-dire que la probabilité de A ne dépend que celle de B La probabilité jointe de toutes les variables est P(A,B,C) = P(A|B) . P(B) . P(C|B) >>Introduction aux Réseaux bayésiens\Réseaux bayésiens\Exemple

7. Module Cognition et Connaissance 6 Réseaux bayésiens 2. Théorème de Bayes Révérend Thomas Bayes, 1702-1761, un théologien et mathématicien britannique qui a écrit une loi de base de probabilité qui est maintenant appelée le théorème de Bayes. Deux événement A et B qui sont conditionnellement dépendants et un contexte c, le théorème de Bayes peut être représenté comme ci-dessous : Où P(B|A,c)est la probabilitéa posterioriou la probabilité deBaprès avoir pris en compte l'effet deAdans un contextec, P(B|c)est la probabilitéa prioride l'événementB, P(A|B,c)est la probabilité deAsi l'on suppose queBest vrai dans un contextec. Elle estappelée aussi la "vraisemblance", P(A|c)est la normalisation. >> Théorème de Bayes

8. Module Cognition et Connaissance 7 Réseaux bayésiens 2. Théorème de Bayes Exemple Supposez que vous habitez à Londres, Angleterre, et d'après votre connaissance, pendant l'hiver, il pleut 50% du temps et que c'est nuageux 80% du temps (quelquefois c'est nuageux sans pluie). Vous savez, bien sûr, que 100% du temps, s'il pleut, alors c'est aussi nuageux. Quelle est la chance que vous pensez qu'il va pleuvoir sachant qu'il soit simplement nuageux? En appliquant la règle de Bayes, on peut calculer ceci Où Pl: il pleut à Londres N: Il est nuageux Donc, 5/8 du temps, à Londres pendant hiver, si c'est nuageux, alors c'est pluvieux. >>Théorème de Bayes\Exemple

9. Module Cognition et Connaissance 8 Réseaux bayésiens 3. Notion de causalité • Il s’agit de la notion de « causes » et « effets » • Si A et B sont en relation causale, on les relie par une flèche orientée. A B >> Notion de causalité

10. Module Cognition et Connaissance 9 Réseaux bayésiens 3. Notion de causalité Exemple (1/2) Ce matin-là, alors que le temps est clair et sec, M. Homles sort de sa maison. Il s’aperçoit que la pelouse de son jardin est humide. Il se demande alors s’il a plu pendant la nuit, où s’il a simplement oublié de débrancher son arroseur automatique. Il jette alors un coup d’œil à la pelouse de son voisin, M. Watson, et s’aperçoit qu’elle est également humide. Il en déduit alors qu’il a probablement plu, et il décide de partir au travail sans vérification son arroseur automatique. >>Notion de causalité\Exemple

11. Module Cognition et Connaissance A P J W 10 Réseaux bayésiens 3. Notion de causalité • Exemple (2/2) • Prenons • A : J’ai oublié de débrancher mon arroseur automatique. • P : Il a plu pendant la nuit. • J : L’herbe de mon jardin est humide. • W : L’herbe du jardin de M. Watson est humide. >>Notion de causalité\Exemple

12. Module Cognition et Connaissance 11 Réseaux bayésiens 4. Inférences (1/4) • Propager une ou plusieurs informations certaines au sein de réseaux bayésiens • Déduire comment sont modifiées les croyances concernant les autres nœuds • Inconvénient: le temps de calcul est exponentiel >> Inférences

13. Module Cognition et Connaissance 12 Réseaux bayésiens 4. Inférences (2/4) Probabilité a priori Probabilités conditionnelles >>Inférences\Probabilité a priori et Probabilités conditionnelles

14. Module Cognition et Connaissance 13 Réseaux bayésiens 4. Inférences (3/4) • Un peu de calcul… • P(A=V|J=V) = 0.625 • P(P=V|J=V) = 0.625 • P(A=V|J=V,W=V) = 0.4 • P(P=V|J=V,W=V) = 1 >>Inférences\Un peu de calcul…

15. Module Cognition et Connaissance 14 Réseaux bayésiens 4. Inférences (4/4) Plusieurs méthodes sont proposés: • Conditionnement • Arbre de jonction • Méthodes approchées • … >>Inférences\Méthodes

16. Module Cognition et Connaissance 15 Réseaux bayésiens 5. Apprentissage • Permettre de trouver des paramètres nécessaires pour faire des inférences. • Deux méthodes sont utilisés: • - Apprentissage de paramètres, • - Apprentissage de structure. >> Apprentissage

17. Module Cognition et Connaissance 16 Réseaux bayésiens 6. Des applications des réseaux bayésiens (1/2) • Marketing/Finance : • ATT : détection de fraudes pour les factures de téléphone • Altaprofit : optimisation de portefeuilles • Informatique : • Microsoft : différents assistants de résolution de problèmes, l’assistant Office. • MODIST : évaluation de la qualité pour des développements logiciels • Reconnaissance de la parole, d’objets 3D… • Diagnostic >> Des applications des réseaux bayésiens

18. Module Cognition et Connaissance 17 Réseaux bayésiens 6. Des applications des réseaux bayésiens (2/2) • Médecine : • Aide au diagnostic de problèmes cardio-vasculaires • Surveillance transfusionnelle, ... • Industrie : • NASA : (Vista) aide au diagnostic de pannes en temps réel pour les systèmes de propulsion de la navette • Lockheed Martin : système de contrôle d’un véhicule sous-marin autonome • Ricoh : aide au télédiagnostic • EDF : modélisation de groupes électrogènes • Environnement : • Prédiction des pics d’ozone • Prévisions météo >> Des applications des réseaux bayésiens

19. Module Cognition et Connaissance 18 Réseaux bayésiens 6. Des applications des réseaux bayésiens Exemples AutoClass (NASA) • Création de classes « naturelles » à partir de données numériques • Appartenance probabiliste • Gestion de données manquantes >>Des applications des réseaux bayésiens\Exemples\AutoClass(NASA)

20. Module Cognition et Connaissance 19 Réseaux bayésiens 6. Des applications des réseaux bayésiens Exemples De nombreuses utilisations pour la NASA et pour d’autres >>Des applications des réseaux bayésiens\Exemples\Nombreuses utilisations …

21. Module Cognition et Connaissance 20 Réseaux bayésiens 6. Des applications des réseaux bayésiens Exemples Aide au diagnostic médical • Diagnostique d’une maladie pulmonaire à partir de: • les symptômes du patient • ses activités • les résultats de la radiographie >>Des applications des réseaux bayésiens\Exemples\Aide au diagnostic médical

22. Module Cognition et Connaissance 21 Réseaux bayésiens 6. Des applications des réseaux bayésiens Construction d’un réseaux bayésien • La construction d’un réseau bayésien se fait en 4 étapes: • 1 - création des variables représentant l’univers • 2 - définition de l’ensemble des valeurs possibles pour chaque variable • 3 - définition des relations de dépendances entre les variables • 4 - attribution des probabilités conditionnelles >>Des applications des réseaux bayésiens\Construction d’un réseau bayésien

23. Module Cognition et Connaissance 22 Réseaux bayésiens 6. Des applications des réseaux bayésiens • Revenons à l’exemple • Aide au diagnostic • démonstration avec BayesiaLab >>Des applications des réseaux bayésiens\Démonstration avec BayesiaLAB

24. Module Cognition et Connaissance 23 Réseaux bayésiens 7. Conclusion Les réseaux bayésiens • Formalisme mathématique rigoureux basé sur des règles. • Outil puissant pour l’aide à la décision et au diagnostic. • Intelligence artificielle: exploitation des connaissances incertaines. • Limites: causalité, complexité. >>Conclusion\Les réseaux bayésiens

25. Module Cognition et Connaissance 24 Réseaux bayésiens 7. Conclusion Etat de la recherche • Projet SIGMA2 de l’INRIA: • Automobile: identification du comportement dynamique d'un véhicule routier • Télécommunications: diagnostic de pannes dans les réseaux de télécommunications • Aéronautique: diagnostic de pannes dans les réseaux de télécommunications • Chaînes de Markov: systèmes dynamiques stochastiques, optimisation d’un portefeuille • Optimisation d’algorithmes >>Conclusion\Etat de la recherche

26. Merci de votre attention ? Questions

27. Module Cognition et Connaissance Réseaux bayésiens 8. Bibliographies [1] : Pearl, J. (1988). Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference. Morgan Kaufmann, San Mateo, CA. [2] : Howard, R. A., & Matheson, J. E. (1981). Influence diagrams. In Howard, R. A., & Matheson, J. (Eds.), The Principles and Applications of Decision Analysis, page 720–762. Strategic Decisions Group, CA. [3] : Antoine Cornuéjols, Laurent Miclet, Apprentissage artificiel: Concepts et algorithmes, édition Eyrolles, page 364-365. [4] : Stutz, J. & P. Cheeseman, "A Short Exposition on Bayesian Inference and Probability." June 1994. National Aeronautic and Space Administration Ames Research Centre: Computational Sciences Division, Data Learning Group, [5] : Thomas Richardson. Bayes Net course, Helsinki, April 1997. Lecture 4 part 2, page 5. http://www.cs.helsinki.fi/research/cosco/Calendar/BNCourse/Notes.html [6] : Todd A. Stephenson. An introduction to Bayesian network theory and usage. IDIAP-RR 00-03, febuary 2003