introdução à aprendizagem estatística prof. dr. hemerson pistori inovisao – pesquisa,...
TRANSCRIPT
![Page 1: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/1.jpg)
Introdução àAprendizagem Estatística
Prof. Dr. Hemerson Pistori
INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional
Universidade Católica Dom Bosco – UCDBCampo Grande, MS Brasil
![Page 2: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/2.jpg)
Sumário
Algoritmo trivial: cálculo de média e distância Euclidiana
Limitações do algoritmo trivial
Algoritmo menos trivial: cálculo de média, matriz de
variância e co-variância, distância de Mahalanobis
Limitações do algoritmo menos trivial
Distribuições paramétricas, semi-paramétricas e
não-paramétricas
Modelos de Mistura de Gaussianas
Formulação Bayesiana
![Page 3: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/3.jpg)
Algoritmo Trivial: Média e Euclidiana
VIÁVEIS: 5,4,6,4,5,4,4,2,4,4,5,1,5MÉDIA = 4
INVIÁVEIS: 13,13,12,1,15,15,18,14,17,10,11,16,9MÉDIA = 14
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
0
1
2
3
4
5
6
7
8
VIÁVEIS
INVIÁVEIS144 8
TESTE:2 1845
13
8
x− μ 2
4 6
PrimeiraLimitação
![Page 4: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/4.jpg)
Algoritmo Menos Trivial: Média, Desvio e Mahalanobis
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
0
1
2
3
4
5
6
7
8
VIÁVEIS
INVIÁVEIS144 8
VIÁVEIS: 5,4,6,4,5,4,4,2,4,4,5,1,5MÉDIA = 4 DESVIO = 1.3
INVIÁVEIS: 13,13,12,1,15,15,18,14,17,10,11,16,9MÉDIA = 14 DESVIO = 2.7
3.07 2.22
TESTE:2 1845
13
8
![Page 5: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/5.jpg)
Alg. Menos Trivial: Média, Var-Covar e Mahalanobis
E quando uma única medida não é suficiente ?
(característica / atributo / variável / dimensão)
A
B
Ch
h
h
![Page 6: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/6.jpg)
Alg. Menos Trivial: Média, Var-Covar e Mahalanobis
![Page 7: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/7.jpg)
Alg. Menos Trivial: Média, Var-Covar e Mahalanobis
Scilab Script: www.gpec.ucdb.br/pistori → Ensino → Computer Vision →Material de Apoio → Medidas de Similaridade
![Page 8: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/8.jpg)
Algoritmo Menos Trivial: Limitações – Multimodal
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
0
1
2
3
4
5
6
VIÁVEIS
INVIÁVEIS
VIÁVEIS 1 2 2 2 1 17 18 18 18 19 18 2 3
INVIÁVEIS 12 12 11 12 9 14 10 12 11 12 13 13 8
9.3 11.4 13
Distância de Mahalanobis do ponto 13:Azul = 0.4Alaranjado: 1.16
![Page 9: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/9.jpg)
Modelos Não Paramétricos - Histogramas
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
0
1
2
3
4
5
6
7
VIÁVEIS
INVIÁVEIS
APRENDIZAGEM – TREINAMENTO
- Gerar histograma (contar e armazenar)
CLASSIFICAÇÃO – TESTE
- Identificar bin que “contém” a amostra a ser classificada
- Retornar classe com “bin mais alto”
![Page 10: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/10.jpg)
Modelos Não Paramétricos - Histogramas
![Page 11: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/11.jpg)
Modelos Não Paramétricos - Histogramas
Atributo 1Atributo 2
FREQUÊNCIA
![Page 12: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/12.jpg)
Modelos Semi-Paramétricos
Paramétricos (E.g: Gaussiana):
Negativo: assume uma forma pré-determinado para a distribuição Positivo: exige menos espaço de armazenamento
Não-paramétricos (E.g: Histograma):
Negativo: exige mais espaço de armazenamento Positivo: não assume forma pré-determinada
Semi-paramétricos (E.g: Modelos de Mistura de Gaussianas)
Busca “o melhor dos dois mundos” Flexibilidade sem muito custo em memória
![Page 13: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/13.jpg)
Modelo de Mistura de Gaussianas
![Page 14: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/14.jpg)
Modelo de Mistura de Gaussianas
PROBLEMAS:
- Não temos informações sobre qual Gaussiana gera que amostra- Não é possível aplicar formulas fechadas (como nos algoritmos triviais)- Não basta realizar contagens simples (como no caso do histograma)
SOLUÇÃO:
- Algoritmos de melhoramento iterativo: chutar uma primeira resposta e ir Melhorando a resposta até que um determinado critérios de parada Seja atingido.- Problema de máximo local- Algoritmo muito utilizado: Expectation-Maximization
![Page 15: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/15.jpg)
Modelo de Mistura de Gaussianas
MOSTRAR EM EM EXECUÇÃO UTILIZANDO SAÍDAS DE APPLETS
MOSTRAR MÁXIMOS LOCAIS
NO PRÓXIMO SLIDE – EXPLICAR EM
![Page 16: Introdução à Aprendizagem Estatística Prof. Dr. Hemerson Pistori INOVISAO – Pesquisa, Desenvolvimento e Inovação em Visão Computacional Universidade Católica](https://reader035.vdocuments.site/reader035/viewer/2022062512/552fc15f497959413d8e6923/html5/thumbnails/16.jpg)
Modelo de Mistura de Gaussianas
MOSTRAR EM EM EXECUÇÃO UTILIZANDO SAÍDAS DE APPLETS
MOSTRAR MÁXIMOS LOCAIS
NO PRÓXIMO SLIDE – EXPLICAR EM