tópicos especiais em otimização - ufjf.br · otimização por colônia de formigas marco dorigo...

75
Tópicos Especiais em Otimização Ivo Chaves da Silva Junior Juiz de Fora, 05 de Maio de 2016 Colônia de Formigas [email protected]

Upload: phungthuy

Post on 18-Jan-2019

215 views

Category:

Documents


0 download

TRANSCRIPT

Tópicos Especiais em Otimização

Ivo Chaves da Silva Junior

Juiz de Fora, 05 de Maio de 2016

Colônia de Formigas

[email protected]

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Introdução

2

Qual a diferença entre inteligência:

ARTIFICIAL E COMPUTACIONAL?

ARTIFICIAL: É a ciência que tenta compreender e emular a inteligência humana.

COMPUTACIONAL: É a ciência que procura desenvolver sistemas que tenham comportamento similares a certos aspectos do comportamento inteligente.

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Introdução

3

INTELIGÊNCIA COMPUTACIONAL

FOCO

QUAL A GRANDE FONTE INSPIRADORA

OBSERVAÇÃO COMPORTAMENTAL

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Introdução

4

FONTE DE IDÉIAS E OBSERVAÇÕES

COMPUTAÇÃO BIOINSPIRADA

Sistemas Imunológicos

Colônia de Formigas

Ecolocalização Genética

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Introdução

5

ALGORITMOS BIOINSPIRADOS (Inteligência Computacional)

Resolução de Problemas INTRATÁVEIS

•  (Problemas com tempos de resolução inaceitáveis)

•  (Problemas multimodais de grande porte)

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Introdução

6

Problemas INTRATÁVEIS

Tempo de execução é da ordem de uma função exponencial ou fatorial

EXEMPLO 1: PROBLEMA DO CAIXEIRO VIAJANTE

•  Suponha que um caixeiro viajante tenha de visitar n cidades diferentes, iniciando e encerrando sua viagem na cidade de origem.

•  Suponha, também, que não importa a ordem com que as cidades são visitadas e que de cada uma delas pode-se ir diretamente a qualquer outra.

•  O problema do caixeiro viajante consiste em descobrir a rota que torna mínima o tempo de viagem total.

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Introdução

7 ILUSTRAÇÃO DO PROBLEMA: CAIXEIRO VIAJANTE

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Introdução

8

SOLUÇÃO DO CAIXEIRO VIAJANTE (calcular todas as rotas e escolher a de menor tempo)

Testando 1 bilhão de soluções por segundo:

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Introdução

9

EXEMPLO 2: PROBLEMA MULTIMODAL

Ivo Chaves da Silva Junior

10

Métodos Clássicos Métodos Bioinspirados

Fazem uso de derivadas (determinístico)

-  Programação Quadrática -  Pontos Interiores -  Gradiente Reduzido

Forte dependência da solução inicial

Única solução

Pouco esforço computacional

Não fazem uso de derivadas (probabilidade)

Pouca dependência da solução inicial

Conjunto de soluções

Maior esforço computacional

-  Algoritmo Genético -  Enxame de Partículas

Introdução

Ivo Chaves da Silva Junior

11

Métodos Clássicos

Métodos Bioinspirados

Introdução

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Introdução

12

CONCLUSÃO: Ao encontrar problemas intratáveis você deve optar uma técnica de busca por aproximação (heurística/Metaheurística), tal como os processos de otimização baseados em inteligência computacional.

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

13

Relembrando Definição:

Introdução

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

14

•  A inteligência coletiva é um conceito que descreve um tipo de inteligência compartilhada que surge da colaboração de muitos indivíduos em suas diversidades.

•  É uma inteligência distribuída por toda parte, na qual todo o saber está no coletivo, já que, ninguém sabe tudo, porém todos sabem alguma coisa.

DEFINIÇÕES:

Motivação: Inteligência Coletiva

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Inteligência Coletiva

15

Organismo único (Defesa) Cooperação (Objetivo comum)

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

16 Publicado em 06/05/2012 – Propaganda -https://www.youtube.com/watch?v=TWew0EqM7e4

Inteligência Coletiva

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

17

EXMPLO 1:

ENCONTRE O VALOR DE X QUE FAÇA COM QUE UMA DETERMINADA FUNÇÃO (DESCONHECIDA A PRIORI) SEJA NULA

F(X)=0

F(X)= X-17 = 0

Inteligência Coletiva

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

18

EXEMPLO 2:

ENCONTRE O VALOR DE X QUE FAÇA COM QUE UMA DETERMINADA FUNÇÃO (DESCONHECIDA A PRIORI) SEJA NULA

F(X)=0

F(X)= X-2 = 0

Dicas das soluções :

Inteligência Coletiva

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

19

EXEMPLO 2:

EXEMPLO 1: •  Não há informação nenhuma; •  Busca completamente aleatória; •  Otimalidade muito difícil.

•  Há informação do coletivo; •  Busca Direcionada; •  Otimalidade possível.

Inteligência Coletiva

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

20

Colônia de Formigas

Busca pela solução Busca por alimento

CRITÉRIO DE BUSCA

INTELIGÊNCIA COLETIVA INFORMAÇÕES DO COLETIVO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

21

Colônia de Formigas

Publicado em 28/09/2012 – Documentário -https://www.youtube.com/watch?v=YxdhD5HIFL8

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

22

Colônia de Formigas

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

23

Colônia de Formigas

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

24

Colônia de Formigas

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

25

Colônia de Formigas

PRIMEIRO EXPERIMENTO DA PONTE BINÁRIA

Objetivo: Estudar o comportamento das formigas

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

26

Colônia de Formigas

Resultado Final:

Inicialmente:

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

27

E para pontes com tamanhos diferentes ???

Como a colônia irá se comportar ?

Colônia de Formigas

SEGUNDO EXPERIMENTO DA PONTE BINÁRIA

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

28

Colônia de Formigas

Caminho de menor distância

Resultado Final:

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

29

Colônia de Formigas

Como as formigas se orientam?

Resultados dos testes

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

30

Colônia de Formigas

Comunicação entre as formigas é feita por um processo chamado de ESTIGMERGIA.

ESTIGMERGIA? Interações indiretas entre os indivíduos da colônia. Um indivíduo altera o ambiente e outro indivíduo responde a essa alteração um tempo depois.

Alteração do ambiente via FEROMÔNIO

Como é feita esta alteração?

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

31

Colônia de Formigas

Comportamento Real de Busca por Alimento

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

32

Colônia de Formigas

Fonte de Alimento

Fonte de Alimento

Colônia

EXEMPLO (Vídeo)

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

33

Colônia de Formigas

Maior quantidade de alimento

Menor Quantidade de alimento

Rastro de Feromônio (RF)

RF à 0

Evaporação

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

34

Otimização por

Colônia de Formigas

Marco Dorigo

The first ACO system was introduced by Marco Dorigo in his Ph.D. thesis (1992), and was called Ant System (AS). AS is the result of a research on computational intelligence approaches to combinatorial optimization that Dorigo conducted at Politecnico di Milano. AS was initially applied to the travelling salesman problem.

http://iridia.ulb.ac.be/~mdorigo/HomePageDorigo/

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

35

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

36

Otimização por

Colônia de Formigas

Modelou computacionalmente a capacidade de busca das formigas por alimentos e suas estratégias adaptativas para resolução de problemas de otimização.

Marco Dorigo:

FORMIGAS ARTIFICIAIS

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

37

Otimização por

Colônia de Formigas

EXEMPLO: MAXIMIZAÇÃO DE F(X1,X2)

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

38

MÁXIMO GLOBAL

MÁXIMO LOCAL

Colônia Artificial

(soluções iniciais)

ANÁLOGIA

Otimização por

Colônia de Formigas

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

39

Otimização por

Colônia de Formigas

Ótimo Global Ótimo Local

Rastro Artificial de Feromônio

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

40

Otimização por

Colônia de Formigas

FORMIGAS ARTIFICIAIS – Observações:

As formigas artificiais representam possíveis soluções do problema.

As formigas artificiais constroem soluções de forma aleatória ou probabilística utilizando duas informações: ü  Informação heurística especifica do problema em análise;

ü  Trilha de Feromônio Artificial que muda dinamicamente durante o processo de busca refletindo a experiência coletivas.

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

41

Otimização por

Colônia de Formigas

FEROMÔNIO ARTIFICIAL

τ ih+1 = τ i

h + ( τ ik )

k=1

m

Depósito Artificial da Colônia na Solução-i / Iteração h

Feromônio atualizado referente a Solução i

Iteração h+1

Feromônio já existente referente a Solução i Iteração h

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

42

Otimização por

Colônia de Formigas

FEROMÔNIO ARTIFICIAL

τ ih+1 = (1− ρ).τ i

h+1

Evaporação Artificial

TAXA DE EVAPORAÇÃO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

43

Otimização por

Colônia de Formigas

PROBLEMA DE MINIMIZAÇÃO

Feromônio à Inversamente proporcional ao valor da Função Objetivo

FOB1

∝τ

PROBLEMA DE MAXIMIZAÇÃO

Feromônio à Diretamente proporcional ao valor da Função Objetivo

FOB∝τ

Artificial

Artificial

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Otimização por Colônia de Formigas

PENALIZAÇÃO EM PROBLEMAS DE MINIMIZAÇÃO

τ × k k→∞

PENALIZAÇÃO DO RASTRO DE FEROMÔNIO

Deve ocorrer quando soluções inviáveis são geradas/encontradas

PENALIZAÇÃO EM PROBLEMAS DE MAXIMIZAÇÃO

τ ×1k

k→∞

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

45

Otimização por

Colônia de Formigas

CRITÉRIO DE PARADA

ü  Número máximo de iterações; ü  Tempo computacional; ü  Estagnação - Situação onde grande parte da colônia segue na mesma direção (forte concentração de FEROMÔNIO)

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

46

Otimização por

Colônia de Formigas

PARÂMETROS DO PROCESSO DE OTIMIZAÇÃO

TAMANHO DA COLÔNIA

VALOR DA TAXA DE EVAPORAÇÃO

CRITÉRIO DE CONVERGÊNCIA

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

47

Otimização por

Colônia de Formigas

SENSIBILIDADE DOS PARÂMETROS DO PROCESSO DE OTIMIZAÇÃO

TAMANHO DA COLÔNIA

Qualidade da Solução &

Tempo Computacional

Qualidade da Solução &

Tempo Computacional

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

48

Otimização por

Colônia de Formigas

SENSIBILIDADE DOS PARÂMETROS DO PROCESSO DE OTIMIZAÇÃO

TAXA DE EVAPORAÇÃO

Redução do rastro de bons caminhos

Permanência do rastro de caminhos ruíns

Uma estratégia é a utilização de taxas de evaporação diferenciadas

ρ→ 0

ρ→1

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

49

Otimização por

Colônia de Formigas

SENSIBILIDADE DOS PARÂMETROS DO PROCESSO DE OTIMIZAÇÃO

CRITÉRIO DE CONVERGÊNCIA

ITERAÇÕES Controle do tempo computacional

Não há controle do tempo computacional

ESTAGNAÇÃO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

50

FLUXOGRAMA DO PROCESSO DE OTIMIZAÇÃO: MINIMIZAÇÃO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

51

Otimização por

Colônia de Formigas

EXEMPLO NUMÉRICO DO PROCESSO DE BUSCA

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

52

Colônia de Formigas

0 1 2 3 4 5 6 7 8 9

Fonte de Alimento

Qual fonte contém mais alimento?

Solução Evaporação desconsiderada

min f (x) = x − 4,1 x = 0 :1: 9

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

53

Solução Inicial Aleatória – Não há depósitos de FEROMÔNIO

0 1 2 3 4 5 6 7 8 9

FOB1(7) = 2,9

τ (7) = 12,9

FOB2 (1) = 2,9

τ (1) = 12,9

FOB3(9) = 4,9

τ (9) = 14,9

Valor de f(x)

Feromônio

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

54

Depósitos de FEROMÔNIO – ATUALIZAÇÃO

0 1 2 3 4 5 6 7 8 9

τ (7) = 12,9

τ (1) = 12,9

τ (9) = 14,9

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

55 Feromônio Total

Geração de Soluções – FEROMÔNIO

0 1 2 3 4 5 6 7 8 9

Onde ir?

Pk =τ j

τ kk=1

3

∑×100

Probabilidade (%) de uma formiga seguir para a solução-j

Feromônio da solução- j

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

56

Geração de Soluções – FEROMÔNIO

Onde ir?

τ T =12,9

+12,9

+14,9

≅ 0,87

Feromônio Total

%3910087,034,0

7,1 ≅×=P %2210087,020,0

9 ≅×=P

Probabilidade

0 1 2 3 4 5 6 7 8 9

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

57

Escolha do Caminho – Probabilidade (FEROMÔNIO)

E os demais caminhos ainda não percorridos? As soluções ficam amarradas as iniciais?

Sim ou Não?

Sim ou Não?

Sim ou Não?

39%

39%

22%

Uma opção: 80% (Sim) / 20% (Não)

1 7

9 Pergunta !!!!

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

58

Escolha do Caminho – Probabilidade (%)

0 1 2 3 4 5 6 7 8 9

FOB1(9) = 4,9

τ (9) = 14,9

FOB2 (3) = 0,9

τ (3) = 10,9

FOB3(1) = 2,9

τ (1) = 12,9

Valor de f(x)

Feromônio

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

59

Depósitos de FEROMÔNIO – ATUALIZAÇÃO

0 1 2 3 4 5 6 7 8 9

τ (7) = 12,9

τ (1) = 12,9

+12,9 τ (9) = 1

4,9+14,9

τ (3) = + 10,9

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Geração de Soluções – FEROMÔNIO

τ T = 2, 4

Feromônio Total %281004,267,0

1 ≅×=P %421004,21

3 ≅×=P

%161004,240,0

9 ≅×=P%141004,234,0

7 ≅×=P

Onde ir?

0 1 2 3 4 5 6 7 8 9

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

60

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

61

Escolha do Caminho – Probabilidade (FEROMÔNIO)

Sim ou Não?

Sim ou Não?

Sim ou Não?

1

3

9

7

Uma opção: 80% (Sim) / 20% (Não)

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

62

Escolha do Caminho – Probabilidade (FEROMÔNIO)

0 1 2 3 4 5 6 7 8 9

FOB1(4) = 0,1

τ (4) = 10,1

FOB2 (3) = 0,9

τ (3) = 10,9

Valor de f(x)

Feromônio

FOB3(3) = 0,9

τ (3) = 10,9

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

63

Depósitos de FEROMÔNIO – ATUALIZAÇÃO

0 1 2 3 4 5 6 7 8 9

9,21)7( =F

9,21

9,21)1( +=F

9,41

9,41)9( +=F

9,02

9,01)3( +=F

1,01)4( =F

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

64

Geração de Soluções – FEROMÔNIO

?

77,14=TF

Feromônio Total %6,41 ≅P %223 ≅P%684 ≅P %3,27 ≅P %7,29 ≅P

Probabilidades

0 1 2 3 4 5 6 7 8 9

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

TR

ILH

A F

ER

OM

ÔN

IO

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

65

Otimização por

Colônia de Formigas

Solução Final

0 1 2 3 4 5 6 7 8 9

Colônia Maioria das formigas seguirão esta trilha

fontes de alimento

%68 Probabilidade Significativa

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior Simulação Computacional

EXEMPLOS

min f (x) = x − 20,1 x = 0 :1:100

min f (x) = x − 40,1 x = 0 :1:100

min f (x) = x −100,1 x = 0 :1:100

"

#$

%$

min f (x) = x − 4,1 x = 0 :1: 9

1-400

401-800

801-1200

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

Simulação Computacional

Ivo Chaves da Silva Junior

Programação Linear – Resolução Gráfica

Min Z = 3 xa + 2 xbs.a :R1: 2xa +1xb ≥ 8R2 : 6xa +1xb ≥12R3 :1xa +3xb ≥ 9xa, xb ≥ 0

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

69

Otimização por

Colônia de Formigas

Observações Importantes: Existência de poucos parâmetros de calibragem; Tempo computacional elevado para problemas de grande porte; Soluções iniciais são importantes ao processo de busca; Boa probabilidade de obtenção da solução ótima global; Modelagem das formigas artificiais.

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

70

Otimização por

Colônia de Formigas

Livros: ANT COLONY OPTIMIZATION

Ivo Chaves da Silva Junior

Aplicações IEEE: ANT COLONY OPTIMIZATION

Otimização por

Colônia de Formigas

Ivo Chaves da Silva Junior

Aplicações IEEE: ANT COLONY OPTIMIZATION

Otimização por

Colônia de Formigas

Ivo Chaves da Silva Junior

Aplicações IEEE: ANT COLONY OPTIMIZATION

Otimização por

Colônia de Formigas

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

74

TRABALHO

COMPUTACIONAL

Um robô localizado na célula (1) deve chegar a célula (35) sem colidir com nenhum objeto em sua trajetória (objetos representados pelas células em tom de cinza).

Determine a melhor trajetória (menor deslocamento)entre (1) e (35) via ANT COLONY

O robô pode se deslocar nos seguintes sentidos:

Ivo Chaves da Silva Junior Ivo Chaves da Silva Junior

75

TRABALHO

COMPUTACIONAL

Observações: •  Trabalho deve ser elaborado em dupla

•  Trabalho entregue na forma de artigo junto com o programa desenvolvido.

•  Trabalho deve ser genérico. Ou seja, deve funcionar para qualquer alteração prévia na localização dos objetos/alvo no ambiente estabelecido.

•  Entrega até o dia 19/05/2016 (quinta-feira).