1. Cours 4 Julien Diard Laboratoire de Psychologie et NeuroCognition – CNRS UE Cognition bayésienne 03/01/2011 http://diard.wordpress.com Julien.Diard@upmf-grenoble.fr

2. Plan des cours • Introduction à la Programmation Bayésienne : incomplétude, incertitude • Programmation bayésienne : exemple détaillé • Classes de modèles probabilistes, distributions usuelles, Programmation bayésienne des robots • PBR (suite), Modélisation bayésienne de la perception et de l’action • Comparaison bayésienne de modèles • Compléments : inférence, apprentissage, principe d’entropie

3. Plan • Résumé + questions ! • Programmation Bayésienne des Robots : exemples (fin) • Combinaison de comportements • Intégration : tâche de veilleur de nuit • Autres applications : ADAS, CAD, learning sensorimotor trajectories, Bayesian action selection and attention focusing, … • Modélisation bayésienne de la perception • Introduction à la perception multi- • Perception visuo-haptique : (Ernst & Banks, 02) détaillé • Causal Inference • Questions ouvertes • Modélisation bayésienne de l’action • Introduction au contrôle moteur, Modèle de minimum variance • Modélisation de la perception et de l’action • Exemple : boucle perception et action de la lecture et l’écriture

4. Plan • Résumé + questions ! • Programmation Bayésienne des Robots : exemples (fin) • Combinaison de comportements • Intégration : tâche de veilleur de nuit • Autres applications : ADAS, CAD, learning sensorimotor trajectories, Bayesian action selection and attention focusing, … • Modélisation bayésienne de la perception • Introduction à la perception multi- • Perception visuo-haptique : (Ernst & Banks, 02) détaillé • Causal Inference • Questions ouvertes • Modélisation bayésienne de l’action • Introduction au contrôle moteur, Modèle de minimum variance • Modélisation de la perception et de l’action • Exemple : boucle perception et action de la lecture et l’écriture

5. Learning Reactive Behaviors • Khepera Robot • Avoiding Obstacle • Contour Following • Piano mover • Phototaxy • etc. Lebeltel, O., Bessière, P., Diard, J. & Mazer, E. (2004) Bayesian Robot Programming; Autonomous Robots, Vol. 16, p. 49-79 Lebeltel, O. (1999) Programmation bayésienne des robots; Thèse INPG

6. Description Utilization Question Reactive behaviours Specification • Variables • Decomposition • Parametrical Forms Program •  Preliminary Knowledge p Identification • Joystick Remote Control  Experimental Data d d1 pushing obstacles d2 contour following d3 obstacle avoidance d d

7. Description Utilization Question Sensor Fusion Model Specification • Variables ThetaL, DistL, Lm0, …, Lm7 • Decomposition (Conditional Independance Hypothesis) • Parametrical Forms Program Identification • No free parameters

9. Description Utilization Question Object Recognition (Model) Specification • Variables Nlt, Nrt, Per, Llsl, O = {0, 1, 2, …} • Decomposition (Conditional Independance Hypothesis) • Parametrical Forms Program Identification • Identification of the Laplace succession laws and Gaussians

10. Bayesian Bot Specification • Variables • Decomposition • Parametric Forms • Perception: L Life, W Weapon, FW Foe Weapon, N Noise,FN Foe Number, PW Proximity Weapon,PL Proximity Life • State: St, St+1 {Attack, Weapon Search, Life Search, Exploration, Escape, Danger Detection} Description P(St St+1 L W FW N FN PW PL) = P(St) P(St+1 | St) P(L | St+1) P(W | St+1) P(FW | St+1) P(N | St+1) P(FN | St+1) P(PW | St+1) P(PL | St+1) Program Tables Identification Question Utilization • Playing: P(St+1 |St L W FW N FN PW PL)

11. Plan • Résumé + questions ! • Programmation Bayésienne des Robots : exemples (fin) • Combinaison de comportements • Intégration : tâche de veilleur de nuit • Autres applications : ADAS, CAD, learning sensorimotor trajectories, Bayesian action selection and attention focusing, … • Modélisation bayésienne de la perception • Introduction à la perception multi- • Perception visuo-haptique : (Ernst & Banks, 02) détaillé • Causal Inference • Questions ouvertes • Modélisation bayésienne de l’action • Introduction au contrôle moteur, Modèle de minimum variance • Modélisation de la perception et de l’action • Exemple : boucle perception et action de la lecture et l’écriture

12. Spécification Description Programme Identification • A priori Question Utilisation Comportementphototaxie • Variables • Lum : {-170, -90, -45, -10, +10, +45, +90, +170}, 8 • Vrot : [-10..+10], 21 • Décomposition • P(Lum Vrot | C-photo) = P(Lum | C-photo) P(Vrot | Lum C-photo) • Formes paramétriques • P(Lum | C-photo)  Uniforme • P(Vrot | Lum C-photo)  Gaussiennes • P(Vrot | [Lum=l] C-photo)

13. Homing Behavior Specification • Variables • Dir, Prox, ThethaL, Vrot • H : {a, p}[H=a] : avoid, [H=p] : phototaxy • Decomposition Description • Parametrical Forms and Recursive Questions Program Question Utilization

14. Homing Behavior

15. Identification de P(H | Prox)

16. Identification de P(H | Prox) • Propagation de P(H | Dir Prox Lum Vrot) • Exemple • P([H=e] | Dir Prox Lum Vrot) = 0,82 • P([H=p] | Dir Prox Lum Vrot) = 0,18 • Création de 82 données <e, proxt > 18 données <p, proxt >

17. Apprentissage hiérarchique : résultat

18. Plan • Résumé + questions ! • Programmation Bayésienne des Robots : exemples (fin) • Combinaison de comportements • Intégration : tâche de veilleur de nuit • Autres applications : ADAS, CAD, learning sensorimotor trajectories, Bayesian action selection and attention focusing, … • Modélisation bayésienne de la perception • Introduction à la perception multi- • Perception visuo-haptique : (Ernst & Banks, 02) détaillé • Causal Inference • Questions ouvertes • Modélisation bayésienne de l’action • Introduction au contrôle moteur, Modèle de minimum variance • Modélisation de la perception et de l’action • Exemple : boucle perception et action de la lecture et l’écriture

19. Nightwatchman Task Question : Solution : P(VrotVtrans | px0px1 … lm7veillefeu … per) ∑ThetaL DistL Td Tach H Base P(…)

20. Nightwatchman Task Answer!

22. Decision

23. Inférence exacte • sommation, propagation des incertitudes • Inférence approximée • décisions intermédiaires (tirage de points), propagation d’une partie des incertitudes

24. Nightwatchman Task: Result

25. Plan • Résumé + questions ! • Programmation Bayésienne des Robots : exemples (fin) • Combinaison de comportements • Intégration : tâche de veilleur de nuit • Autres applications : ADAS, CAD, learning sensorimotor trajectories, Bayesian action selection and attention focusing, … • Modélisation bayésienne de la perception • Introduction à la perception multi- • Perception visuo-haptique : (Ernst & Banks, 02) détaillé • Causal Inference • Questions ouvertes • Modélisation bayésienne de l’action • Introduction au contrôle moteur, Modèle de minimum variance • Modélisation de la perception et de l’action • Exemple : boucle perception et action de la lecture et l’écriture

26. Bayesian Occupancy Filter for ADAS Objectif : évitement d’obstacle Pas de soucis d’identification et de tracking des cibles Coué, C., Pradalier, C., Laugier, C., Fraichard, T. & Bessière, P. (2006) Bayesian Programming multi-target tracking: an automotive application; IJRR (International Journal of Robotic Research); Vol. 25, N° 1, pp. 19-30 Coué, C. (2003) Fusion d’information capteur pour l’aide à la conduite automobile; PhD thesis, INPG

27. P([Ec=1] | z c) c = [x, y, 0, 0] z = (5, 2, 0, 0) Illustration (1 sensor - 1 object)

28. z = (5, 2, 0, 0) Illustration (1 sensor - 1 object) P([Ec=1] | z c) c = [x, y, 0.8, -1.0]

29. P([Ec=1] | z c) c = [x, y, 0, 0] Illustration (1 sensor - 1 object) • Occupied space • Free space • Nonobservable space • Occulted space

30. z1 = (8.3, -4, 0, 0) z2 = (7.3, 1.9, 0, 0.8) z3 = (5, 3, 0, 0) P([Ec=1] | z1 z2 z3 c) c = [x, y, 0, 0] Multi-target: illustration

31. z1 = (8.3, -4, 0, 0) z2 = (7.3, 1.9, 0, 0.8) z3 = (5, 3, 0, 0) Multi-target: illustration P([Ec=1] | z1 z2 z3 c) c = [x, y, 0, 0.8]

32. P([Ec=1] | z1,1 z1,2 z2,1 z2,2 c) c = [x, y, 0, 0] z1,1 = (5.5, -4, 0, 0)z1,2 = (5.5, 1, 0, 0) z2,1 = (11, -1, 0, 0)z2,2 = (5.4, 1.1, 0,0) Illustration (2 sensors - 3 objects)

33. Results - 1 No filter Bayesian filter

34. Results - 2 No filter Bayesian filter

35. Application 1 – Cycab control

36. Application 2 - ADAS Cibles dans le BOF (Simule le regard du conducteur) Entrée video, produit les zones d’intérêt BOF

37. Application 3

38. Application 4 – multi-camera

39. Bayesian CAD system Mekhnacha, K. (1999) Méthodes probailistes bayésiennes pour la prise en compte des incertitudes géométriques : Applications à la CAO robotique; PhD thesis, INPPG Mekhnacha, K., Mazer, E. & Bessière, P. (2001) The design and implementation of a Bayesian CAD system; Advanced Robotics, Vol. 15, N° 1 Mekhncha, K., Mazer, E. & Bessière, P. (2000) A Robotic CAD system using a Bayesian Framework; Best Paper Award IEEE/IROS; Vol 3, pp. 1597-1604

40. P(Q) O(Q) = 0 C(Q) < 0 P(Q) P(Q) P(Q) C(Q) < 0 Kinematic Chains AXE 1 AXE 2 AXE 3 ROBOT AXE 2 AXE 3 GRIPPER AXE 1 GRIPPER TABLE EDGE 1 ROBOT PART PART EDGE 1 TABLE

41. Uncertainty Elipsoid

42. Insertion

43. Kinematic Inversion

44. Robot navigation Pradalier, C., Hermosillo, J., Koike, C., Braillon, C., Bessière, P. & Laugier, C. (2005) The CyCab: A car-like robot navigating autonomously and safely among pedestrians; Robotics and Autonomous Systems Pradalier, C. (2005) Navigation intentionelle d’un robot mobile; PhD thesis, INPG

45. Robot navigationProgrammation proscriptive

46. Robot navigationTrajectory learning and replay

47. Bayesian Approach to Action Selection and Attention Focusing Koike, C. (2005) Bayesian approach to Action Selection and Attention Focusing: Application in Autonomous Robot Programming; PhD thesis; INPG

48. Early development of speech:Orofacial imitation Serkhane, J., Schwatrz, J-L. & Bessière, P. (2005) Building a talking bay robot: a contribution to the study of speech acquisition and evolution; Interaction studies, Vol. 6 N° 2, pp. 253-286 Serkhane, J. (2005) Apprentissage Bayésien Intersensoriel de structure phonologique par un androïde bébé; PhD thesis UJF

49. Early development of speech:Orofacial imitation

50. Cost Evaluation