![Page 1: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/1.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 1
Bayesian Cognition Cours 2 05/12/2012
Programmation Bayésienne : exemple
Julien Diard CNRS - Laboratoire de Psychologie et NeuroCognition
http://diard.wordpress.com [email protected]
Pierre Bessière CNRS - Laboratoire de Physiologie de la Perception et de l’Action
![Page 2: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/2.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 2
Plan / planning • Cours 1 28/11/2012
– Incomplétude, incertitude, Programmation et inférence bayésienne • Cours 2 05/12
– Programmation bayésienne : exemple • Cours 3 12/12
– Programmation bayésienne des robots • Cours 4 19/12
– Modélisation bayésienne en sciences cognitives • Cours 5 09/01/2013 C-ADM 15
– Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15
– Compléments • Examen 30/01 (pour les M2)
!
![Page 3: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/3.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 3
Plan
• Résumé + questions ! • Exemple détaillé : Water treatment unit • « Vocabulaire » mathématique :
distributions usuelles • Taxonomie des classes de modèles
probabilistes
![Page 4: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/4.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 4
![Page 5: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/5.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 5
Probability Theory As Extended Logic
• Probabilités « subjectives » – Référence à un état de
connaissance d’un sujet • P(« il pleut » | Jean),
P(« il pleut » | Pierre) • Pas de référence à la
limite d’occurrence d’un événement (fréquence)
• Probabilités conditionnelles
– P(A | π) et jamais P(A)
• Probabilités « fréquentistes » – Une probabilité est
une propriété physique d’un objet
– Axiomatique de Kolmogorov, théorie des ensembles
–
E.T. Jaynes (1922-1998)
![Page 6: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/6.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 6
Règles de calcul • Règle du produit
Théorème de Bayes
• Règle de la somme
Règle de marginalisation
Reverend Thomas Bayes (~1702-1761)
![Page 7: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/7.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 7
Inférence probabiliste
• Théorème – Si on connaît la distribution conjointe
P(X1 X2 … Xn | π) – Alors on peut calculer n’importe quelle
« question » P(X1 | [Xn = xn] π) P(X2 X4 | [X3 = x3] π)
![Page 8: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/8.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 8
Preuve
! P(K) ≠ 0
![Page 9: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/9.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 9
Principle Incompleteness
Uncertainty
Preliminary Knowledge +
Experimental Data =
Probabilistic Representation
Decision
Bayesian Inference
Bayesian Learning
€
P(a)+ P(¬a) =1P a∧b( ) = P a( )P b | a( ) = P b( )P a | b( )
![Page 10: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/10.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 10
Bayesian Program = Description + Question
Inference
Des
crip
tion
Que
stio
n
Pro
gram
• Variables
• Parametrical Forms or Recursive Question
• Decomposition
Preliminary Knowledge π
Experimental Data δ
![Page 11: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/11.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 11
Plan • Résumé + questions ! • Exemple détaillé : Water treatment unit
– « Real », complete model of the unit – « Hide » one variable (H) – Build the Bayesian Program
• Learn parameters • Water treatment center (importance of Conditional
Independence Hypotheses) – Use the Bayesian Program
• Questions and inference
• « Vocabulaire » mathématique : distributions usuelles • Taxonomie des classes de modèles probabilistes
![Page 12: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/12.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 12
“Real” Water treatment unit model • Input I0, I1
• Output 0 • Efficiency F • Sensor S to help
measure F • Controller C • External factor H
• Integers between 0 and 10
![Page 13: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/13.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 13
A water treatment unit (2)
€
I0 = 2[ ]∧ I1 = 8[ ]∧ C = 0[ ]∧ H = 0[ ]
€
Q = Int I0 + I1 +F3
⎛ ⎝ ⎜
⎞ ⎠ ⎟
€
O* = Int I0 + I1 +103
⎛ ⎝ ⎜
⎞ ⎠ ⎟
Ideal quality
Optimal quality (for the best F)
![Page 14: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/14.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 14
A water treatment unit (3)
€
I0 = 2[ ]∧ I1 = 8[ ]∧ F = 8[ ]∧ H = 0[ ]
€
α = Int I0 + I1 +F +C −H3
⎛ ⎝ ⎜
⎞ ⎠ ⎟
€
O =
α, if 0 ≤α ≤O*( )2O* −α( ), if α >O*( )
0, otherwise
⎧
⎨
⎪ ⎪
⎩
⎪ ⎪
Control C used to compensate H and F
![Page 15: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/15.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 15
A water treatment unit (4)
€
I0 = 2[ ]∧ I1 = 8[ ]∧ F = 8[ ]∧ C = 0[ ]
€
α = Int I0 + I1 + F +C −H3
⎛
⎝ ⎜
⎞
⎠ ⎟
€
O =
α, if 0 ≤α ≤O*( )2O* −α( ), if α >O*( )
0, otherwise
⎧
⎨
⎪ ⎪
⎩
⎪ ⎪
Control C used to compensate H and F
![Page 16: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/16.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 16
A water treatment unit (5)
€
S = Int I0 +F2
⎛ ⎝ ⎜
⎞ ⎠ ⎟
Sensor S measures influenced by both F and I0
![Page 17: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/17.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 17
A water treatment unit
• I0, I1, F, H, C are known – S and O are uniquely determined Deterministic model
• Assume – H is unknown – the equations are unknown Probabilistic model
![Page 18: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/18.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 18
Uncertainty on O due to inaccuracy on S (+ discretization)
€
I0 = 2[ ]∧ I1 = 8[ ]∧ C = 2[ ]∧ H = 0[ ]
€
S = Int I0 +F2
⎛ ⎝ ⎜
⎞ ⎠ ⎟
S=1 7 possible combinations for I0, F
S=s, I0=i most of the time, 2 possible values for F
F generated uniformly randomly
F not hidden, but not observable
![Page 19: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/19.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 19
Uncertainty due to the hidden variable H
€
I0 = 2[ ]∧ I1 = 8[ ]∧ C = 2[ ]
H generated uniformly randomly
![Page 20: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/20.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 20
Not taking into account the effect of hidden variables may
lead to wrong decision (1)
€
I0 = 2[ ]∧ I1 = 8[ ]∧ F = 8[ ]
Use an incomplete, deterministic model
€
α = Int I0 + I1 + F +C3
⎛
⎝ ⎜
⎞
⎠ ⎟
Optimal output O=6 for C=0, 1 or 2
Use a probabilistic model
Optimal output O=6 for C≥2
![Page 21: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/21.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 21
Plan • Résumé + questions ! • Exemple détaillé : Water treatment unit
– « Real », complete model of the unit – « Hide » one variable (H) – Build the Bayesian Program
• Learn parameters • Water treatment center (importance of Conditional
Independence Hypotheses) – Use the Bayesian Program
• Questions and inference
• Taxonomie des classes de modèles probabilistes • « Vocabulaire » mathématique : distributions usuelles
![Page 22: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/22.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 22
• Variables
• Decomposition
Water treatment unit (Variables)
H is missing
I0, I1, F, S, C,O 2 {0, . . . , 10}
![Page 23: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/23.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 23
• Variables
• Decomposition
Water treatment unit (Decomposition)
P (I1 | I0) = P (I0)P (F | I0 ^ I1) = P (F )P (S | I0 ^ I1 ^ F ) = P (S | I0 F )P (C | I0 ^ I1 ^ F ^ S) = P (C)P (O | I0 ^ I1 ^ F ^ S ^ C) = P (O | I0 ^ I1 ^ S ^ C)
Input streams are independent Efficiency independent of inputs
Sensor readings depend on I0, F Control depends on objective output O
Redundancy between S, F, I0 ; F not observable during learning
I0, I1, F, S, C,O 2 {0, . . . , 10}
P (I0 ^ I1 ^ F ^ S ^ C ^O)
= P (I0)⇥ P (I1 | I0)⇥ P (F | I0 ^ I1)⇥ P (S | I0 ^ I1 ^ F )
⇥P (C | I0 ^ I1 ^ F ^ S)⇥ P (O | I0 ^ I1 ^ F ^ S ^ C)
![Page 24: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/24.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 24
• Variables
• Decomposition
Water treatment unit (Decomposition)
I0, I1, F, S, C,O 2 {0, . . . , 10}
P (I0 ^ I1 ^ F ^ S ^ C ^O)
= P (I0)⇥ P (I1)⇥ P (F )⇥ P (S | I0 ^ F )
⇥P (C)⇥ P (O | I0 ^ I1 ^ S ^ C)
![Page 25: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/25.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 25
• Variables
• Decomposition
• Parametrical Forms
Water treatment unit (Parametric Forms)
I0, I1, F, S, C,O 2 {0, . . . , 10}
P (I0 ^ I1 ^ F ^ S ^ C ^O)
= P (I0)⇥ P (I1)⇥ P (F )⇥ P (S | I0 ^ F )
⇥P (C)⇥ P (O | I0 ^ I1 ^ S ^ C)
![Page 26: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/26.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 26
Exercice
• Combien d’histogrammes ?
• Combien de paramètres à apprendre ?
![Page 27: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/27.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 27
Exercice
• Combien d’histogrammes ? – Histogrammes sur la variable O – Autant qu’il y a de combinaisons de I0, I1, S et C
114 histogrammes (14 641) • Combien de paramètres à apprendre ?
– Sur une variable à X valeurs, un histogramme a X-1 paramètres (Règle de normalisation)
114 x 10 paramètres à apprendre (146 410)
![Page 28: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/28.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 28
• Variables
• Decomposition
• Parametrical Forms
Water treatment unit (Identification)
Learning procedure : Simulate, using the « real » model - Draw uniformly values for I0, I1, F, H, C - Compute S, O - Update parameters using I0, I1, S, C and O
I0, I1, F, S, C,O 2 {0, . . . , 10}
P (I0 ^ I1 ^ F ^ S ^ C ^O)
= P (I0)⇥ P (I1)⇥ P (F )⇥ P (S | I0 ^ F )
⇥P (C)⇥ P (O | I0 ^ I1 ^ S ^ C)
![Page 29: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/29.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 29
Incomplétude, incertitude • Modèle incomplet : H ignoré
• Apprentissage – Traduit l’incomplétude en incertitude – Evaluer l’importance des variables
cachées • Aucune variable cachée : pas d’incertitude • Variable cruciale cachée : uniformes
partout (mauvais modèle)
– Inférence tient compte de l’incertitude
![Page 30: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/30.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2010 30
Plan • Résumé + questions ! • Exemple détaillé : Water treatment unit
– « Real », complete model of the unit – « Hide » one variable (H) – Build the Bayesian Program
• Learn parameters • Water treatment center (importance of Conditional
Independence Hypotheses) – Use the Bayesian Program
• Questions and inference
• Taxonomie des classes de modèles probabilistes • « Vocabulaire » mathématique : distributions usuelles
![Page 31: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/31.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 31
Water treatment center
![Page 32: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/32.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 32
• Variables
Water treatment center (Variables)
![Page 33: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/33.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 33
• Variables
• Decomposition
Water treatment center (Decomposition)
![Page 34: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/34.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 34
• Variables
• Decomposition
Water treatment center (Decomposition)
![Page 35: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/35.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 35
• Variables
• Decomposition
Water treatment center (Decomposition)
![Page 36: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/36.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 36
• Variables
• Decomposition
Water treatment center (Decomposition)
![Page 37: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/37.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 37
• Variables
• Decomposition
Water treatment center (Decomposition)
![Page 38: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/38.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 38
• Variables
• Decomposition
Water treatment center (Decomposition)
![Page 39: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/39.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 39
• Variables
• Decomposition
Water treatment center (Forms)
• Parametrical Forms
![Page 40: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/40.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 40
• Variables
• Decomposition
Water treatment center (Identification)
• Parametrical Forms
Assume identical units
![Page 41: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/41.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 41
Indépendance et indépendance conditionnelle
• Indépendance – P(X Y) = P(X) P(Y) – P(X | Y) = P(X)
• Indépendance conditionnelle – P(X Y | Z) = P(X | Z) P(Y | Z) – P(X | Y Z) = P(X | Z) – P(Y | X Z) = P(Y | Z)
![Page 42: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/42.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 42
Independence vs Conditional Independence
Indépendance mais pas indépendance conditionnelle
![Page 43: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/43.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 43
Independence vs Conditional Independence
Indépendance conditionnelle mais pas indépendance
![Page 44: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/44.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 44
• Nombre de probabilités (≠ nb param) – Avant hypothèses d’indépendance
conditionnelle
– Après hypothèses
The importance of Conditional Independence
(11x11) + (113x4) + (115x4) ≅ 218
218 = 262 144
1119 ≅ 263 ≅ 9.2 x 1018
![Page 45: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/45.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 45
• Hypothèses d’indépendance cond. – Réduisent l’espace du modèle – Réduit aussi le temps d’inférence
• Sommation imbriquées • Petits espaces de sommation
– Inférence probabiliste dans le cas général • NP-complète ! (Cooper, 90)
The importance of Conditional Independence
![Page 46: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/46.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 46
Plan • Résumé + questions ! • Exemple détaillé : Water treatment unit
– « Real », complete model of the unit – « Hide » one variable (H) – Build the Bayesian Program
• Learn parameters • Water treatment center (importance of Conditional
Independence Hypotheses) – Use the Bayesian Program
• Questions and inference
• Taxonomie des classes de modèles probabilistes • « Vocabulaire » mathématique : distributions usuelles
![Page 47: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/47.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 47
Water treatment centre
![Page 48: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/48.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 48
Questions
• Forward simulation of a unit • Forward simulation of the center • Control of the center • Diagnosis
![Page 49: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/49.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 49
• Forward simulation of a unit
Water treatment centre
![Page 50: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/50.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 50
• Forward simulation of a unit
Water treatment centre
![Page 51: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/51.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 51
• Forward simulation of a unit
Water treatment centre
![Page 52: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/52.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 52
• Forward simulation of a unit
Water treatment centre
![Page 53: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/53.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 53
• Forward simulation of a unit
Water treatment centre
![Page 54: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/54.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 54
• Forward simulation of a unit
Water treatment centre
![Page 55: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/55.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 55
• Forward simulation of a unit
Water treatment centre
![Page 56: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/56.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 56
• Forward simulation of a unit
Water treatment centre
![Page 57: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/57.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 57
• Forward simulation of a unit
Water treatment centre
![Page 58: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/58.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 58
• Forward simulation of the center
Water treatment centre
![Page 59: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/59.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 59
• Forward simulation of the center
Water treatment centre
![Page 60: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/60.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 60
• Forward simulation of the center
Water treatment centre
![Page 61: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/61.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 61
• Forward simulation of the center
Water treatment centre
![Page 62: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/62.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 62
• Forward simulation of the center
Water treatment centre
![Page 63: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/63.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 63
• Forward simulation of the center
Water treatment centre
![Page 64: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/64.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 64
• Forward simulation of the center
Water treatment centre
![Page 65: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/65.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 65
• Forward simulation of the center
Water treatment centre
![Page 66: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/66.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 66
• Forward simulation of the center
• Control of the center – Based on forward simulation
• Enumerate all « policies » c0, c1, c2, c3
• Choose the best
– Compute instead
Water treatment centre
![Page 67: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/67.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 67
• Control of the center
Water treatment centre
3
![Page 68: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/68.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 68
• Control of the center
– O3=9 C0=6, C1=6, C2=4, C3=9
Water treatment centre
O3=9 seulement 3%
![Page 69: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/69.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 69
• Control of the center
Water treatment centre
![Page 70: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/70.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 70
• Control of the center
Water treatment centre
![Page 71: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/71.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 71
• Control of the center
Water treatment centre
![Page 72: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/72.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 72
• Control of the center
Water treatment centre
Maximiser P(O3=9 | …) ou maximiser la valeur de l’espérance sur O3 ?
![Page 73: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/73.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 73
• Control of the center
Water treatment centre
![Page 74: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/74.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 74
• Control of the center • Strategies
– Find c0, c1, c2, c3 that maximizes
– Compute – Maximize expectation on O3
Non-systematic choice…
Water treatment centre
![Page 75: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/75.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 75
• Diagnosis
Water treatment centre
![Page 76: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/76.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 76
• Diagnosis
Water treatment centre
![Page 77: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/77.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 77
• Diagnosis
Water treatment centre
![Page 78: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/78.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 78
• Diagnosis
Water treatment centre
![Page 79: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/79.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 79
Inférence bayésienne : existence de la solution ?
• Modèle fonctionnel – X = F(Y), mais F-1 pas toujours une
fonction ! • Modèle probabiliste
– P(X Y) – P(X | Y), P(Y | X), etc. toujours des
distributions – Mais : temps d’inférence variable
![Page 80: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/80.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 80
Inférence bayésienne : unicité de la solution ?
• Modèle fonctionnel – X = F(Y), F-1 peut-être mal posé (plusieurs
solutions) • Modèle probabiliste
– P(X | Y) peut avoir plusieurs pics – Probabilités relatives des pics Pas de problème mal posé
![Page 81: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/81.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 81
Plan
• Résumé + questions ! • Exemple détaillé : Water treatment unit • « Vocabulaire » mathématique :
distributions usuelles • Taxonomie des classes de modèles
probabilistes
![Page 82: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/82.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 82
• exemple-distributions-slides.nb
![Page 83: Cognition bayesienne c2€¦ · • Cours 5 09/01/2013 C-ADM 15 – Comparaison bayésienne de modèles, distinguabilité de modèles • Cours 6 16/01 C-ADM 15 – Compléments •](https://reader034.vdocuments.site/reader034/viewer/2022051814/603696369b6e4b2bbc148985/html5/thumbnails/83.jpg)
Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 83
Merci de votre attention !
Questions ?