This course, led by Julien Diard from the CNRS Laboratory of Psychology and Neurocognition, provides an in-depth introduction to Bayesian programming, emphasizing its applications in cognitive modeling and robotics. Key topics include the theory of probability, Bayesian networks, filtering techniques, and the modeling of perception and action. Students will explore various probabilistic models, including Markov models and Gaussian distributions, while engaging with real-world examples. Participants will gain insights into the principles of Bayesian inference and learning, enhancing their understanding of uncertainty and decision-making in cognitive systems.
Une image / un lien ci-dessous est fourni (tel quel) pour télécharger la présentation
Politique de téléchargement : le contenu du site vous est fourni TEL QUEL pour votre information et votre usage personnel ; il ne peut être vendu, concédé sous licence ni partagé sur d’autres sites sans l’accord de son auteur.Le contenu vous est fourni TEL QUEL, pour votre information et votre usage personnel uniquement.Téléchargez la présentation en cliquant sur ce lien.Lors du téléchargement, si vous ne parvenez pas à télécharger une présentation, l’éditeur a peut-être supprimé le fichier de son serveur.Pendant le téléchargement, si vous ne parvenez pas à obtenir une présentation, le fichier a peut-être été supprimé par l’éditeur.
F I N
Plus de contenu associé
Transcription de la présentation
Cours 3 Julien Diard Laboratoire de Psychologie et NeuroCognition – CNRS UE Cognition bayésienne 11/01/2012 http://diard.wordpress.com Julien.Diard@upmf-grenoble.fr
Plan des cours • Introduction à la Programmation Bayésienne : incomplétude, incertitude • Programmation bayésienne : exemple détaillé, taxonomie des classes de modèles probabilistes • Distributions usuelles, Programmation bayésienne des robots • Modélisation bayésienne de la perception et de l’action • Comparaison bayésienne de modèles • Compléments : inférence, apprentissage, principe d’entropie
Probability Theory As Extended Logic • Probabilités « subjectives » • Référence à un état de connaissance d’un sujet • P(« il pleut » | Jean), P(« il pleut » | Pierre) • Pas de référence à la limite d’occurrence d’un événement (fréquence) • Probabilités conditionnelles • P(A | π) et jamais P(A) • Probabilités « fréquentistes » • Une probabilité est une propriété physique d’un objet • Axiomatique de Kolmogorov, théorie des ensembles E.T. Jaynes (1922-1998)
Règles de calcul • Règle du produit Théorème de Bayes • Règle de la somme Règle de marginalisation Reverend Thomas Bayes (~1702-1761)
Specification • Variables • Decomposition Description • Parametrical Forms or Recursive Question Program Identification Question Inference Bayesian Program = Description + Question • Preliminary Knowledge p • Experimental Data d
Water treatment unit example • Water treatment unit • Bayesian Program • Learn parameters • Water treatment center (importance of Conditional Independence Hypotheses) • Use the Bayesian Program • Questions and inference
Taxonomie des classes de modèles probabilistes • Réseaux bayésiens • Réseaux bayésiens dynamiques • Filtres bayésiens • Modèles de Markov Cachés • Filtres de Kalman • Processus de décision markovien (partiellement observable) • … (Bessière 03, Diard, CIRAS, 03)
Dirac, functional Dirac • Support discret • Plus délicat en continu • somme à 1, support de taille 0 : valeur infinie • Fonction d, Kronecker, Dirac • Dirac fonctionnel P(X | Y) = dx=f(Y) (X)
Dirac, functional Dirac • Sommer sur un Dirac • 0.P(x1) + 0.P(x2) + 1.P(x3) + 0.P(x4) + … • Inverser un Dirac • Chercher x3… Mélange d’algorithmes et de Programmes Bayésiens P(E | B) = d(E) A E D B F C
Histogramme, lois de succession de Laplace • Variables X, k cas, x1, x2, …, xk • Chaque cas xi observé ni fois • Total des cas n1 + … + nk = N • Histogramme : • Problème des cas jamais observés • Loi de succession de Laplace : • N = 0 uniforme • N >> 0 histogramme
Gaussienne • Domaine : ! • Distribution gaussienne, normale • Cas 1D • Cas 2D • Cas ND μ N-vector, Σ NxN symétrique
von Mises • Domaine circulaire ! • μ direction moyenne • λ paramètre de concentration λ ≥ 0 • I0(λ) modified Bessel function of the first kind and order 0
Autres distributions courantes • Beta, Poisson, Dirichlet • Mixture de Gaussiennes • Jones-Pewsey (2005) distributions • von Mises • Cardioid • Wrapped Cauchy • Wrapped Gaussian • …
Plan • Résumé + questions ! • Taxonomie des classes de modèles probabilistes • « Vocabulaire » mathématique : distributions usuelles • Programmation Bayésienne des Robots : exemples • Apprentissage de comportements réactifs • Fusion capteurs • Reconnaissance d’objets, de la base • Combinaison de comportements • Apprentissage de séquences de comportements • Intégration : tâche de veilleur de nuit • Autres applications : ADAS, CAD, learning sensorimotor trajectories, Bayesian action selection and attention focusing, …
Learning Reactive Behaviors • Khepera Robot • Avoiding Obstacle • Contour Following • Piano mover • Phototaxy • etc. Lebeltel, O., Bessière, P., Diard, J. & Mazer, E. (2004) Bayesian Robot Programming; Autonomous Robots, Vol. 16, p. 49-79 Lebeltel, O. (1999) Programmation bayésienne des robots; Thèse INPG
Description Utilization Question Contour Following Specification • Variables • Decomposition • Parametrical Forms Program • Preliminary Knowledge p Identification • Joystick Remote Control Experimental Data d d d
Plan • Résumé + questions ! • Taxonomie des classes de modèles probabilistes • « Vocabulaire » mathématique : distributions usuelles • Programmation Bayésienne des Robots : exemples • Apprentissage de comportements réactifs • Fusion capteurs • Reconnaissance d’objets, de la base • Combinaison de comportements • Apprentissage de séquences de comportements • Intégration : tâche de veilleur de nuit • Autres applications : ADAS, CAD, learning sensorimotor trajectories, Bayesian action selection and attention focusing, …
Sensor Fusion • Objective • Find the position of a light source • Difficulty • No sensor to directly measure the position of the light source • Solution • Model of each sensor • Fusion of the 8 models
Lmi Description Utilization Question Model of a Light Sensor Specification • Variables ThetaL, DistL, Lmi • Decomposition • Parametrical Forms Program • Preliminary Knowledge psensor Identification • A priori specification
Description Utilization Question Home recognition Specification • Variables Lm0,…, Lm7, Px0, …, Px7, Base • Decomposition (Conditional Independance Hypothesis) • Parametrical Forms Program Identification • Learning of the Gaussians
Bayesian Maps Diard, J. (2003) La carte bayésienne : Un modèle probabiliste hiérarchique pour la navigation en robotique mobile; PhD thesis, INPG
Plan • Résumé + questions ! • Taxonomie des classes de modèles probabilistes • « Vocabulaire » mathématique : distributions usuelles • Programmation Bayésienne des Robots : exemples • Apprentissage de comportements réactifs • Fusion capteurs • Reconnaissance d’objets, de la base • Combinaison de comportements • Apprentissage de séquences de comportements • Intégration : tâche de veilleur de nuit • Autres applications : ADAS, CAD, learning sensorimotor trajectories, Bayesian action selection and attention focusing, …
