verkko-teoreettinen esitystapa graph-theoretic representation s. 165-174

S ysteemianalyysinLaboratorioTeknillinen korkeakoulu Esitelmä 19 - Heikki Henttu

Optimointiopin seminaari - Syksy 2005 / 1

Verkko-teoreettinen esitystapaGraph-Theoretic Representation

s. 165-174

Heikki Henttu



Sisältö

1. Alustus

2. Määrittelyalueverkot (Domain Graphs)

3. Kolmioidut verkot (Triangulated Graphs)

4. Leikkauspuut (Join Trees)

5. Yhteenveto

6. Kotitehtävä



Sisältö

1. Alustus




5. Yhteenveto

6. Kotitehtävä



Motivointi

• Todennäköisyyksien tehokas päivitettävyys välttämätöntä, jotta Bayes-verkot olisivat käyttökelpoisia

• Todennäköisyystaulukoiden koko kasvaa eksponentiaalisesti muuttujien lukumäärän kasvaessa

Tarvitaan tehokas algoritmi, jolla laskentaa voidaan tehostaaTarvitaan tehokas algoritmi, jolla laskentaa voidaan tehostaa



Ongelmanasettelu

• Pyritään laskemaan marginaalit (ПФ)↓Ai

jokaiselle verkon solmulle Ai.

• Ongelma ratkaistaan eliminoimalla verkosta vuoronperään pois kaikki muut solmut; vain Ai jää jäljelle

• Mikä on tehokkain eliminointijärjestys?



Yleistä aiheesta

• Tarkastelussa reaalipotentiaalien joukko Ф={ø1,…,øm} muuttuja-avaruudessa U={A1,…,An}. Määrittelyalueverkko (domain graph) on suunnistamaton verkko, jonka solmuina ovat U ja jonka solmujen väliset linkit kuuluvat reaalipotentiaalien joukkoon Ф

• Ts. kyseessä on tapa esittää potentiaalien määrittelyjoukko Ф verkolla G.

• Esiteltäviä keinoja voidaan soveltaa kaikenlaisiin verkkoihin ja erilaisiin tehtäviin, ei pelkästään Bayes-verkkoihin



• Selvitettävänä potentiaalien tulo projisoituna Ai:lle, (ПФ)↓Ai.• Laskentajärjestys X:n eliminoinnille Ф:stä:

1. Poistetaan kaikki potentiaalit Ф:sta, joiden kannassa X on jäljelle jää potentiaalijoukko ФX

2. Lasketaan ø-X = ∑X ПФX

3. Lisätään ø-X Ф:n ja Ф:in ja kutsutaan lopputulosta Ф-X

Suoritettava laskenta

Laskentajärjestys jää ratkaistavaksi – missä järjestyksessä Xi kannattaa eliminoida?Laskentajärjestys jää ratkaistavaksi – missä järjestyksessä Xi kannattaa eliminoida?



Sisältö

1. Alustus




5. Yhteenveto

6. Kotitehtävä



• Tämän graafinen esitystapa on verkko G

• Selvitettävänä P(A4) – mikä on edullisin A4:än päättyvä muuttujien eliminointijärjestys? (ПФ)↓A4?

• Haaste: Muuttujan X poisto verkosta edellyttää kaikkien niiden potentiaalien käsittelyä, joiden kannassa X esiintyy huolimattomasti valittu poistojärjestys aiheuttaa paljon turhaa työtä

Esimerkki määrittelyalueverkosta

A4

A1

A6

A2 A3

A5

Potentiaalien määrittelyalue Ф:

Ф={ø1(A1), ø2(A2, A1), ø3(A3, A1), ø4(A4, A2), ø5(A5, A2, A3), ø6(A6, A3)}

G



Potentiaalijoukon Ф määrittelyalueverkko Potentiaalijoukon Ф-A3 määrittelyalueverkko

A5

A2

• Muuttujan poiston jälkeen kaikki A3:n naapurit ovat nyt ristikkäin kytketty ja naapurit ovat toistensa kannoissa

• Muuttujan eliminointi voi edellyttää uusien linkkien (fill-ins) luomista tätä halutaan välttää

• Tehtävää voidaan täsmentää: Tavoitteena on löytää eliminointijärjestys, joka ei luo uusia linkkejä.

Esimerkki muuttujan eliminoinnista määrittelyalueverkosta

A4

A1

A6

A2 A3

A5 A6A4

A1Muuttujan A3

poisto

Notaatio: A3 poistettu potentiaalien määrittelyalueesta



Täydellinen eliminointijärjestys

• Määritelmä: täydellinen eliminointijärjestys on muuttujien poistojärjestys, joka ei vaadi uusien linkkien luomista.

A4

A1

A6

A2 A3

A5

Esimerkkiverkolle on olemassa useita täydellisiä järjestyksiä, jotka päättyvät A4:än:

•A5, A6, A3, A1, A2, A4

•A1, A5, A6, A3, A2, A4

•A6, A1, A3, A5, A2, A4

Eivät edellytä uusien linkkien tekemistä



Väite 5.2

• Olk. X1,…, Xk on täydellinen eliminointijärjestys, ja solmulla Xj:llä on täydellinen (linkki kaikkiin solmuihin) naapurijoukko. Tällöin myös Xj, X1,…,Xj-

1,Xj+1,…, Xk on täydellinen eliminointijärjestys • Tod. Xj:n eliminointi ei edellytä täytelinkkien

luomista. X1:lle ei tällöin synny uusia naapureita, eikä tarvetta uusille täytelinkeille ole.

• Mikäli X:llä on täydellinen naapurijoukko, X voidaan eliminoida heti aluksi tuhoamatta täydellistä eliminointijärjestystä.



Klikit (cliques)

• Klikki on täydellinen joukko (kaikki solmut kytketty), joka ei ole minkään toisen täydellisen joukon osajoukko

• Kaikki täydelliset eliminointijärjestykset tuottavat määrittelyalueverkosta saman klikkijoukon



Sisältö

1. Alustus




5. Yhteenveto

6. Kotitehtävä



Kolmioitu verkko

• Määritelmä: Kolmioitu verkko on suunnistamaton verkko, jolle on olemassa täydellinen eliminointijärjestys

• Ei tekemistä verkon muodon kanssa, vrt. esim.

A

C

B

D

E

A

C

B

D

E

Täydellinen eliminointijärjestys E-muuttujaan: esim.: D, B, A, C, E

- Ei täydellistä eliminointijärjestystä

Kolmioitu verkko Ei-kolmioitu verkko



Merkintätavat

• Olk. X solmu suunnistamattomassa verkossa• X:n naapureita merkitään NX

• X ja naapurit muodostaa perheen: FX

• Jos naapurijoukko on täydellinen (suora yhteys kaikkien naapurisolmujen välillä), solmua kutsutaan yksinkertaiseksi (simplicial).

A B

D

XC

NX

FXYksinkertaiset solmut: C, D ja B



Päätelmä 5.1

Kolmioidussa verkossa jokaiselle muuttujalle A löytyy täydellinen eliminointijärjestys, joka päättyy muuttujaan A.



1. Poistetaan yksinkertainen solmu X. Väite 5.4 (todistettu väitteen 5.2 yhteydessä) takaa, että myös jäljelle jäänyt verkko on kolmioitu

2. Toistetaan kohtaa 1 ja poistetaan kaikki muut solmut lauseen 5.1 nojalla kunnes vain A on jäljellä.

Päätelmän 5.1 todistus

1. Väite 5.4: olk. G kolmioitu verkko ja X yksinkertainen solmu. Jos G’ on verkko, joka syntyy kun X eliminoidaan G:stä, G’ on kolmioitu verkko.

2. Lause 5.1: Kolmioitu verkko, jossa on vähintään kaksi solmua, sisältää vähintään kaksi yksinkertainen solmua



Päätelmän 5.1 merkitys

• Jos täydellinen eliminointijärjestys on olemassa, mille tahansa muulle muuttujalle voidaan myös löytää vastaava

• Mahdollista saada optimaalinen marginalisointijärjestys kaikkien P(A) laskemiseksi tehostaa huomattavasti todennäköisyyksien laskentaa.

• Käytännön tutustuminen aiheeseen kappaleessa 5.4



Lause 5.2

• Suunnistamaton verkko on kolmioitu, jos ja vain jos kaikki solmut voidaan poistaa eliminoimalla peräkkäin yksinkertainen solmu X.

• Lauseen avulla voidaan tarkastaa onko verkko kolmioitu vai ei.



Sisältö

1. Alustus




5. Yhteenveto

6. Kotitehtävä



Leikkauspuut

• Määritelmä: Olk. G joukko klikkejä, jotka voidaan järjestää puuksi T. T on leikkauspuu, jos mille tahansa V, W on koko välillä V, W yhteinen leikkauskohta V ∩ W.

BCDE

ABCD DEFI

BCDG

CHGJ

BCDE

ABCD DEFI

BCDG

CHGJ

Leikkauspuu

Kaikille W ja Vi löytyy leikkauskohta (solmu tai solmujoukko), joka säilyy koko välin

Ei-leikkauspuu

Puun solmuilla V ja W ei ole yhteistä leikkauskohtaa, joka säilyisi koko välin V, W kyseessä ei ole leikkauspuuV

WW

V1

V2

V3

V4



Ehdot klikeistä ja leikkauspuista

1. Jos suunnistamattoman verkon G klikit pystytään järjestämään leikkauspuuksi, G on kolmioitu.

2. Jos verkko G on kolmioitu, verkon klikeistä voidaan muodostaa leikkauspuu.



Leikkauspuun muodostaminen kolmioidusta verkosta

1. Aloitetaan yksinkertaisesta solmusta X FX on klikki.

2. Eliminoidaan FX:n solmut, joilla on naapureita vain FX:ssä.

3. Indeksoidaan FX eliminoitujen solmujen määrän mukaan ja nimetään jäljelle jääneiden solmujen joukko Si:ksi Si on erottaja

4. Valitaan seuraava klikki verkossa ja toistetaan toimenpiteet (siten, että indeksiarvosta i säilyy)

5. Toistetaan rutiinia kunnes kaikki klikit on eliminoitu

6. Yhdistetään klikit Vi näitä vastaaviin erottajiin Si

7. Muodostetaan leikkauspuu luomalla linkit erottajien Si ja Vj välille siten, että j > i ja Si Vj∩



Leikkauspuun muodostaminen kolmioidusta verkosta – esimerkki (1/2)

A B

C

H G

D

E

F

I

J

Suoritetaan kohdat 1-6

ABCD

V1

BCD

S1

CGHJ

V5

CG

S5

DEFI

V3

DE

S3

BCDG

V6

BCD

S6

BCDE

V10

Käytetty eliminointijärjestys: A, F, I, H, J, G, B, C, D, E

Yksi muuttuja (A) eliminoitu i saa arvo 1

2 muuttujaa (F, I) eliminoitu i saa arvo 3 (1+2)



Leikkauspuun muodostaminen kolmioidusta verkosta – esimerkki (2/2)

ABCD

V1

BCD

S1

CGHJ

V5

CG

S5

DEFI

V3

DE

S3

BCDG

V6

BCD

S6

BCDE

V10

7. Muodostetaan leikkauspuu luomalla linkit erottajien Si ja Vj välille siten, että j > i ja Si Vj

7. Muodostetaan leikkauspuu luomalla linkit erottajien Si ja Vj välille siten, että j > i ja Si Vj

∩

Suoritetaan kohta 7



Sisältö

1. Alustus




5. Yhteenveto

6. Kotitehtävä



Yhteenveto

• Oikea muuttujien eliminointijärjestys on tärkeää tuntea, jotta Bayes-verkkojen laskenta olisi tehokasta

• Leikkauspuu tarjoaa välineen täydellisten eliminointijärjestysten hahmottamiseen: kaikki täydelliset eliminointijärjestykset voidaan saada poistamalla yksinkertaisia solmuja leikkauspuusta



Sisältö

1. Alustus




5. Yhteenveto

6. Kotitehtävä



Kotitehtävä (1/2)

Avaruuden {A1, A2, A3, A4, A5, A6} potentiaalit ovat ø1(A1, A2, A3), ø2(A2, A3, A5), ø3(A1, A3, A4), ø4(A5, A6).

a) Määritä verkko potentiaalien määrittelyalueelle

b) Muodosta täydellinen eliminointijärjestys, joka päättyy A1:en.



Kotitehtävä (2/2)

c) Onko verkko kolmioitu

d) Mitkä ovat verkon yksinkertaiset (simplicial) solmut

B

C

G

D

E

F

I

verkko-teoreettinen esitystapa graph-theoretic representation s. 165-174

Documents