![Page 1: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/1.jpg)
CAPITOLO 14CAPITOLO 14
La Clusterizzazione eLa Clusterizzazione eLa Classificazione non supervisionataLa Classificazione non supervisionata
CLASSIFICAZIONECLASSIFICAZIONE
A. Dermanis, L. Biagi
![Page 2: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/2.jpg)
m = x1
N i xi
CT = ST
1
N
i xi
ST = (x – m)(x – m)T
xi
Si = (x – mi)(x – mi)T
Ci = Si
1ni
mi = xxi
1ni
Clusterizzazione = divisione di N pixel in K classi ω1, ω2, …, ωK Clusterizzazione = divisione di N pixel in K classi ω1, ω2, …, ωK
media globale
ClusterizzazioneClusterizzazione
matrice di dispersione totale:
media della classe ωi :matrice di dispersione della classe ωi :
matrice di covarianza totale:
matrice di covarianza della classe ωi :
A. Dermanis, L. Biagi
![Page 3: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/3.jpg)
Sex = ni (mi – m)(mi – m)T i
i xi
Sin = Si = (x – mi)(x – mi)T i
Criteri di clusterizzazioneCriteri di clusterizzazione
indice di coerenza delle classi matrice di dispersione interna
indice di distanza fra le classi matrice di dispersione esterna
Algoritmo ottimale: Sin = min e Sex = max contemporaneamente
Problema: Quanti cluster ? (K = ?)
Scelta estrema: K = N (una classe per ogni pixel) k = {xk}
Scelta estrema: K = 1 (un’unica classe) Sin = ST, Sex = 0
ST = Sin + Sex = costanteST = Sin + Sex = costante
mk = xk, Sk = 0, Sin = Sk = 0 = min, Sex = ST =maxk
A. Dermanis, L. Biagi
![Page 4: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/4.jpg)
F
E
D
C
B
AG
GLO
ME
RA
TIV
E
DIV
ISIV
E
1 2 3 4 5 6A
Clusterizzazione gerarchica
Agglomerativa: Ad ogni passovengono uniti i due cluster più vicini
Divisiva:Ad ogni passo il cluster più disperso viene diviso in due nuovi cluster
Sono necesssari:
Criteri di unione.Criteri di divisione.
A. Dermanis, L. Biagi
![Page 5: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/5.jpg)
A B D
F
E
D
C
B
1 2
3
4
5
6
AG
GLO
ME
RA
TIV
E
DIV
ISIV
E
1 2 3 4 5 6A
Clusterizzazione gerarchica
C E F
A. Dermanis, L. Biagi
![Page 6: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/6.jpg)
Distanza fra due cluster (alternative): Distanza fra due cluster (alternative):
i kki nn
d x x
xx ||||1
)()( |||| xxxxxx T
distanza media:
||||min,
min xxxx
ki
d
distanza minima:
||||max,
max xxxx
ki
d
distanza massima:
Utilizzate nella clusterizzazione gerarchicaUtilizzate nella clusterizzazione gerarchica
A. Dermanis, L. Biagi
![Page 7: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/7.jpg)
1 2 3 4 5 6 7 8 9
1
2
3
4
5
6
7
8
9
1
2
3
4
5
6
7
8 9
10
11
1213
14
15
16
L’algoritmo K-means (o delle medie mobili) L’algoritmo K-means (o delle medie mobili)
A. Dermanis, L. Biagi
![Page 8: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/8.jpg)
1 2 3 4 5 6 7 8 9
1
2
3
4
5
6
7
8
9
1
2
3
4
5
6
7
8 9
10
11
1213
14
15
16
L’algoritmo K-means (o delle medie mobili)L’algoritmo K-means (o delle medie mobili)
Passo 0:
Selezione di K = 3 pixel come posizioni iniziali delle medie
A. Dermanis, L. Biagi
![Page 9: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/9.jpg)
1 2 3 4 5 6 7 8 9
1
2
3
4
5
6
7
8
9
1
2
3
4
5
6
7
8 9
10
11
1213
14
15
16
Passo 1:
Assegnazione di ogni altro pixel al clustercon la media più vicina.
Ricalcolo delle nuove medieper ogni cluster.
L’algoritmo K-means (o delle medie mobili)L’algoritmo K-means (o delle medie mobili)
A. Dermanis, L. Biagi
![Page 10: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/10.jpg)
1 2 3 4 5 6 7 8 9
1
2
3
4
5
6
7
8
9
1
2
3
4
5
6
7
8 9
10
11
1213
14
15
16
Passo 2:
Riassegnazione di ogni pixel al clustercon la media più vicina.
Ricalcolo delle nuove medieper ogni cluster.
L’algoritmo K-means (o delle medie mobili)L’algoritmo K-means (o delle medie mobili)
A. Dermanis, L. Biagi
![Page 11: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/11.jpg)
1 2 3 4 5 6 7 8 9
1
2
3
4
5
6
7
8
9
1
2
3
4
5
6
7
8 9
10
11
1213
14
15
16
Passo 3:
Riassegnazione di ogni pixel al clustercon la media più vicina.
Ricalcolo delle nuove medieper ogni cluster.
L’algoritmo K-means (o delle medie mobili)L’algoritmo K-means (o delle medie mobili)
A. Dermanis, L. Biagi
![Page 12: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/12.jpg)
1 2 3 4 5 6 7 8 9
1
2
3
4
5
6
7
8
9
1
2
3
4
5
6
7
8 9
10
11
1213
14
15
16
Passo 4:
Riassegnazione di ogni pixel al clustercon la media più vicina.
Tutti i pixel rimangononella classe in cui erano.Le medie non cambiano.
Fine della clusterizzazione !
L’algoritmo K-means (o delle medie mobili)L’algoritmo K-means (o delle medie mobili)
A. Dermanis, L. Biagi
![Page 13: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/13.jpg)
L’algoritmo IsodataL’algoritmo Isodata
Una variante di quello K means.Ad ogni passo una delle 3 seguenti procedure:
Una variante di quello K means.Ad ogni passo una delle 3 seguenti procedure:
1. ELIMINAZIONEELIMINAZIONE
2. UNIONEUNIONE
3. DIVISIONEDIVISIONE
Elimina clustercon pochi pixel
Unisci coppie di clusterreciprocamente vicini
Dividi clusterdispersi in due nuovicluster
A. Dermanis, L. Biagi
![Page 14: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/14.jpg)
L’algoritmo IsodataL’algoritmo Isodata
1. ELIMINAZIONEELIMINAZIONE
Elimina clustercon pochi pixel
A. Dermanis, L. Biagi
![Page 15: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/15.jpg)
L’algoritmo IsodataL’algoritmo Isodata
2. UNIONEUNIONE
Unisci coppie di clusterreciprocamente vicini
A. Dermanis, L. Biagi
![Page 16: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/16.jpg)
L’algoritmo IsodataL’algoritmo Isodata
3. DIVISIONEDIVISIONE
Dividi clusterdispersi in due nuovicluster
A. Dermanis, L. Biagi
![Page 17: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/17.jpg)
Il processo di unioneIl processo di unione
Il processo di divisioneIl processo di divisione
L’algoritmo IsodataL’algoritmo Isodata
m2
m1
m2+kσ2
m2–kσ2
A. Dermanis, L. Biagi
![Page 18: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/18.jpg)
K-means: 5 classi
K-means: 7 classi K-means: 9 classi
K-means: 3 classi
Esempi diclassificazione:l’algoritmo K-means
Esempi diclassificazione:l’algoritmo K-means
A. Dermanis, L. Biagi
![Page 19: CAPITOLO 14 La Clusterizzazione e La Classificazione non supervisionata CLASSIFICAZIONE A. Dermanis, L. Biagi](https://reader036.vdocuments.site/reader036/viewer/2022062701/5542eb65497959361e8d0d3e/html5/thumbnails/19.jpg)
ISODATA : 3 classi ISODATA : 5 classi
ISODATA : 7 classi ISODATA : 9 classi
Esempi di classificazione:l’algoritmo ISODATA
Esempi di classificazione:l’algoritmo ISODATA
A. Dermanis, L. Biagi