cognition bayesienne c2€¦ · • cours 5 09/01/2013 c-adm 15 – comparaison bayésienne de...

Julien Diard — LPNC-CNRS Cours EDISCE/EDMSTII - M2R Sciences Cognitives, « Cognition bayésienne » — 2012 1

Bayesian Cognition Cours 2 05/12/2012

Programmation Bayésienne : exemple

Julien Diard CNRS - Laboratoire de Psychologie et NeuroCognition

http://diard.wordpress.com [email protected]

Pierre Bessière CNRS - Laboratoire de Physiologie de la Perception et de l’Action


Plan / planning •  Cours 1 28/11/2012

–  Incomplétude, incertitude, Programmation et inférence bayésienne •  Cours 2 05/12

–  Programmation bayésienne : exemple •  Cours 3 12/12

–  Programmation bayésienne des robots •  Cours 4 19/12

–  Modélisation bayésienne en sciences cognitives •  Cours 5 09/01/2013 C-ADM 15

–  Comparaison bayésienne de modèles, distinguabilité de modèles •  Cours 6 16/01 C-ADM 15

–  Compléments •  Examen 30/01 (pour les M2)

!


Plan

•  Résumé + questions ! •  Exemple détaillé : Water treatment unit •  « Vocabulaire » mathématique :

distributions usuelles •  Taxonomie des classes de modèles

probabilistes


Probability Theory As Extended Logic

•  Probabilités « subjectives » –  Référence à un état de

connaissance d’un sujet •  P(« il pleut » | Jean),

P(« il pleut » | Pierre) •  Pas de référence à la

limite d’occurrence d’un événement (fréquence)

•  Probabilités conditionnelles

–  P(A | π) et jamais P(A)

•  Probabilités « fréquentistes » –  Une probabilité est

une propriété physique d’un objet

–  Axiomatique de Kolmogorov, théorie des ensembles

– 

E.T. Jaynes (1922-1998)


Règles de calcul •  Règle du produit

Théorème de Bayes

•  Règle de la somme

Règle de marginalisation

Reverend Thomas Bayes (~1702-1761)


Inférence probabiliste

•  Théorème – Si on connaît la distribution conjointe

P(X1 X2 … Xn | π) – Alors on peut calculer n’importe quelle

« question » P(X1 | [Xn = xn] π) P(X2 X4 | [X3 = x3] π)


Preuve

! P(K) ≠ 0


Principle Incompleteness

Uncertainty

Preliminary Knowledge +

Experimental Data =

Probabilistic Representation

Decision

Bayesian Inference

Bayesian Learning

€

P(a)+ P(¬a) =1P a∧b( ) = P a( )P b | a( ) = P b( )P a | b( )


Bayesian Program = Description + Question

Inference

Des

crip

tion

Que

stio

n

Pro

gram

•  Variables

•  Parametrical Forms or Recursive Question

•  Decomposition

Preliminary Knowledge π

Experimental Data δ


Plan •  Résumé + questions ! •  Exemple détaillé : Water treatment unit

–  « Real », complete model of the unit –  « Hide » one variable (H) –  Build the Bayesian Program

•  Learn parameters •  Water treatment center (importance of Conditional

Independence Hypotheses) –  Use the Bayesian Program

•  Questions and inference

•  « Vocabulaire » mathématique : distributions usuelles •  Taxonomie des classes de modèles probabilistes


“Real” Water treatment unit model •  Input I0, I1

•  Output 0 •  Efficiency F •  Sensor S to help

measure F •  Controller C •  External factor H

•  Integers between 0 and 10


A water treatment unit (2)

€

I0 = 2[ ]∧ I1 = 8[ ]∧ C = 0[ ]∧ H = 0[ ]

€

Q = Int I0 + I1 +F3

⎛ ⎝ ⎜

⎞ ⎠ ⎟

€

O* = Int I0 + I1 +103

⎛ ⎝ ⎜

⎞ ⎠ ⎟

Ideal quality

Optimal quality (for the best F)



€

I0 = 2[ ]∧ I1 = 8[ ]∧ F = 8[ ]∧ H = 0[ ]

€

α = Int I0 + I1 +F +C −H3

⎛ ⎝ ⎜

⎞ ⎠ ⎟

€

O =

α, if 0 ≤α ≤O*( )2O* −α( ), if α >O*( )

0, otherwise

⎧

⎨

⎪ ⎪

⎩

⎪ ⎪

Control C used to compensate H and F



€

I0 = 2[ ]∧ I1 = 8[ ]∧ F = 8[ ]∧ C = 0[ ]

€

α = Int I0 + I1 + F +C −H3

⎛

⎝ ⎜

⎞

⎠ ⎟

€

O =

α, if 0 ≤α ≤O*( )2O* −α( ), if α >O*( )

0, otherwise

⎧

⎨

⎪ ⎪

⎩

⎪ ⎪

Control C used to compensate H and F



€

S = Int I0 +F2

⎛ ⎝ ⎜

⎞ ⎠ ⎟

Sensor S measures influenced by both F and I0


A water treatment unit

•  I0, I1, F, H, C are known – S and O are uniquely determined Deterministic model

•  Assume – H is unknown –  the equations are unknown Probabilistic model


Uncertainty on O due to inaccuracy on S (+ discretization)

€

I0 = 2[ ]∧ I1 = 8[ ]∧ C = 2[ ]∧ H = 0[ ]

€

S = Int I0 +F2

⎛ ⎝ ⎜

⎞ ⎠ ⎟

S=1 7 possible combinations for I0, F

S=s, I0=i most of the time, 2 possible values for F

F generated uniformly randomly

F not hidden, but not observable


Uncertainty due to the hidden variable H

€

I0 = 2[ ]∧ I1 = 8[ ]∧ C = 2[ ]

H generated uniformly randomly


Not taking into account the effect of hidden variables may

lead to wrong decision (1)

€

I0 = 2[ ]∧ I1 = 8[ ]∧ F = 8[ ]

Use an incomplete, deterministic model

€

α = Int I0 + I1 + F +C3

⎛

⎝ ⎜

⎞

⎠ ⎟

Optimal output O=6 for C=0, 1 or 2

Use a probabilistic model

Optimal output O=6 for C≥2







•  Taxonomie des classes de modèles probabilistes •  « Vocabulaire » mathématique : distributions usuelles


•  Variables


Water treatment unit (Variables)

H is missing

I0, I1, F, S, C,O 2 {0, . . . , 10}


•  Variables


Water treatment unit (Decomposition)

P (I1 | I0) = P (I0)P (F | I0 ^ I1) = P (F )P (S | I0 ^ I1 ^ F ) = P (S | I0 F )P (C | I0 ^ I1 ^ F ^ S) = P (C)P (O | I0 ^ I1 ^ F ^ S ^ C) = P (O | I0 ^ I1 ^ S ^ C)

Input streams are independent Efficiency independent of inputs

Sensor readings depend on I0, F Control depends on objective output O

Redundancy between S, F, I0 ; F not observable during learning

I0, I1, F, S, C,O 2 {0, . . . , 10}

P (I0 ^ I1 ^ F ^ S ^ C ^O)

= P (I0)⇥ P (I1 | I0)⇥ P (F | I0 ^ I1)⇥ P (S | I0 ^ I1 ^ F )

⇥P (C | I0 ^ I1 ^ F ^ S)⇥ P (O | I0 ^ I1 ^ F ^ S ^ C)


•  Variables


Water treatment unit (Decomposition)

I0, I1, F, S, C,O 2 {0, . . . , 10}

P (I0 ^ I1 ^ F ^ S ^ C ^O)

= P (I0)⇥ P (I1)⇥ P (F )⇥ P (S | I0 ^ F )

⇥P (C)⇥ P (O | I0 ^ I1 ^ S ^ C)


•  Variables


•  Parametrical Forms

Water treatment unit (Parametric Forms)

I0, I1, F, S, C,O 2 {0, . . . , 10}

P (I0 ^ I1 ^ F ^ S ^ C ^O)

= P (I0)⇥ P (I1)⇥ P (F )⇥ P (S | I0 ^ F )

⇥P (C)⇥ P (O | I0 ^ I1 ^ S ^ C)


Exercice

•  Combien d’histogrammes ?

•  Combien de paramètres à apprendre ?


Exercice

•  Combien d’histogrammes ? –  Histogrammes sur la variable O –  Autant qu’il y a de combinaisons de I0, I1, S et C

114 histogrammes (14 641) •  Combien de paramètres à apprendre ?

–  Sur une variable à X valeurs, un histogramme a X-1 paramètres (Règle de normalisation)

114 x 10 paramètres à apprendre (146 410)


•  Variables



Water treatment unit (Identification)

Learning procedure : Simulate, using the « real » model -  Draw uniformly values for I0, I1, F, H, C -  Compute S, O -  Update parameters using I0, I1, S, C and O

I0, I1, F, S, C,O 2 {0, . . . , 10}

P (I0 ^ I1 ^ F ^ S ^ C ^O)

= P (I0)⇥ P (I1)⇥ P (F )⇥ P (S | I0 ^ F )

⇥P (C)⇥ P (O | I0 ^ I1 ^ S ^ C)


Incomplétude, incertitude •  Modèle incomplet : H ignoré

•  Apprentissage –  Traduit l’incomplétude en incertitude –  Evaluer l’importance des variables

cachées •  Aucune variable cachée : pas d’incertitude •  Variable cruciale cachée : uniformes

partout (mauvais modèle)

–  Inférence tient compte de l’incertitude


Water treatment center


•  Variables

Water treatment center (Variables)


•  Variables


Water treatment center (Decomposition)


•  Variables




•  Variables


Water treatment center (Forms)



•  Variables


Water treatment center (Identification)


Assume identical units


Indépendance et indépendance conditionnelle

•  Indépendance – P(X Y) = P(X) P(Y) – P(X | Y) = P(X)

•  Indépendance conditionnelle – P(X Y | Z) = P(X | Z) P(Y | Z) – P(X | Y Z) = P(X | Z) – P(Y | X Z) = P(Y | Z)


Independence vs Conditional Independence

Indépendance mais pas indépendance conditionnelle


Independence vs Conditional Independence

Indépendance conditionnelle mais pas indépendance


•  Nombre de probabilités (≠ nb param) – Avant hypothèses d’indépendance

conditionnelle

– Après hypothèses

The importance of Conditional Independence

(11x11) + (113x4) + (115x4) ≅ 218

218 = 262 144

1119 ≅ 263 ≅ 9.2 x 1018


•  Hypothèses d’indépendance cond. – Réduisent l’espace du modèle – Réduit aussi le temps d’inférence

•  Sommation imbriquées •  Petits espaces de sommation

–  Inférence probabiliste dans le cas général •  NP-complète ! (Cooper, 90)

The importance of Conditional Independence


Water treatment centre


Questions

•  Forward simulation of a unit •  Forward simulation of the center •  Control of the center •  Diagnosis


•  Forward simulation of a unit



•  Forward simulation of the center




•  Control of the center – Based on forward simulation

•  Enumerate all « policies » c0, c1, c2, c3

•  Choose the best

– Compute instead



•  Control of the center


3



– O3=9 C0=6, C1=6, C2=4, C3=9


O3=9 seulement 3%




Maximiser P(O3=9 | …) ou maximiser la valeur de l’espérance sur O3 ?


•  Control of the center •  Strategies

– Find c0, c1, c2, c3 that maximizes

– Compute – Maximize expectation on O3

Non-systematic choice…



•  Diagnosis



Inférence bayésienne : existence de la solution ?

•  Modèle fonctionnel – X = F(Y), mais F-1 pas toujours une

fonction ! •  Modèle probabiliste

– P(X Y) – P(X | Y), P(Y | X), etc. toujours des

distributions – Mais : temps d’inférence variable


Inférence bayésienne : unicité de la solution ?

•  Modèle fonctionnel – X = F(Y), F-1 peut-être mal posé (plusieurs

solutions) •  Modèle probabiliste

– P(X | Y) peut avoir plusieurs pics – Probabilités relatives des pics Pas de problème mal posé


Plan

•  Résumé + questions ! •  Exemple détaillé : Water treatment unit •  « Vocabulaire » mathématique :

distributions usuelles •  Taxonomie des classes de modèles

probabilistes


•  exemple-distributions-slides.nb


Merci de votre attention !

Questions ?

cognition bayesienne c2€¦ · • cours 5 09/01/2013 c-adm 15 – comparaison bayésienne de...

Documents