calcolatori elettronici ii lezione n. 17 – introduzione alle architetture parallele prof. gianni...

33
Calcolatori Elettronici II ezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II

Upload: letizia-neri

Post on 02-May-2015

229 views

Category:

Documents


1 download

TRANSCRIPT

Page 1: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

CALCOLATORIELETTRONICI IICALCOLATORIELETTRONICI II

Page 2: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Obiettivi del corsoObiettivi del corso

Introduzionealle prossime

lezioni

Introduzionealle prossime

lezioni

Modelli computazionali Modelli computazionali

Tassonomia delle architetture parallele e distribuite

Tassonomia delle architetture parallele e distribuite

I clusters e le loro tecnologie I clusters e le loro tecnologie

Page 3: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

D.E. Cueller, J.S. SinghD.E. Cueller, J.S. Singh

Parallel Computer ArchitectureParallel Computer Architecture

Morgan Kaufman Pub., 1999Morgan Kaufman Pub., 1999

Bibliografia del corsoBibliografia del corso

Page 4: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

G.F. PfisterG.F. Pfister

In Search of ClustersIn Search of Clusters

Prentice Hall, 1998Prentice Hall, 1998

Bibliografia del corsoBibliografia del corso

Page 5: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

R. Buya, ed.R. Buya, ed.

High performance Cluster ComputingHigh performance Cluster Computing

Vol. 1 e Vol. 2 Prentice Hall, 1998Vol. 1 e Vol. 2 Prentice Hall, 1998

Bibliografia del corsoBibliografia del corso

Page 6: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

INTRODUZIONE ALLE

ARCHITETTURE PARALLELE

INTRODUZIONE ALLE

ARCHITETTURE PARALLELE

Page 7: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Argomenti della lezioneArgomenti della lezione

Classificazione di Enslow Classificazione di Enslow

Classificazione di Flynn Classificazione di Flynn

Architettura parallele Architettura parallele

Classificazione Classificazione

Page 8: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Architetture parallele

Architetture parallele

Page 9: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

MotivazioniMotivazioni

Architetture paralleleArchitetture parallele

Molti problemi significativi hannonecessità di potenze di calcolo elevate

Molti problemi significativi hannonecessità di potenze di calcolo elevate

La potenza di calcolonon può crescere esclusivamenteper il miglioramento tecnologico

La potenza di calcolonon può crescere esclusivamenteper il miglioramento tecnologico

Page 10: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Applicazioni complesseApplicazioni complesse

Architetture paralleleArchitetture parallele

Modelli predittivi e simulazioneModelli predittivi e simulazione

Automazione e CADAutomazione e CAD

Ricerche petrolifereRicerche petrolifere

Page 11: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Architetture paralleleArchitetture parallele

Medicina e biologiaMedicina e biologia

Applicazioni militariApplicazioni militari

Multimedialità e applicazioni WEBMultimedialità e applicazioni WEB

Applicazioni complesseApplicazioni complesse

Page 12: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

È necessaria capacità di elaborazioneperché le operazioni da svolgere

in breve tempo sono molte

È necessaria capacità di elaborazioneperché le operazioni da svolgere

in breve tempo sono molte

Architetture paralleleArchitetture parallele

Ragioni che richiedonosistemi paralleli

per risolvere problemi complessi

Ragioni che richiedonosistemi paralleli

per risolvere problemi complessi

Page 13: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

È indispensabile disporre in lineadi memorie di grandi dimensioniÈ indispensabile disporre in lineadi memorie di grandi dimensioni

Architetture paralleleArchitetture parallele

Ragioni che richiedonosistemi paralleli

per risolvere problemi complessi

Ragioni che richiedonosistemi paralleli

per risolvere problemi complessi

Page 14: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Si richiedono grandi capacità di I/OSi richiedono grandi capacità di I/O

Architetture paralleleArchitetture parallele

Ragioni che richiedonosistemi paralleli

per risolvere problemi complessi

Ragioni che richiedonosistemi paralleli

per risolvere problemi complessi

Page 15: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Architetture paralleleArchitetture parallele

In tutti i casi, si possono trovare soluzioni ricorrendo a sistemi

distribuiti o paralleli

In tutti i casi, si possono trovare soluzioni ricorrendo a sistemi

distribuiti o paralleli

Page 16: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

ClassificazioneClassificazione

Page 17: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

È possibile classificarele architetture distribuite

secondo criteri diversi

È possibile classificarele architetture distribuite

secondo criteri diversi

Classificazione di EnslowClassificazione di Enslow

ClassificazioneClassificazione

(1980)(1980)

Classificazione di FlynnClassificazione di Flynn(1972)(1972)

Page 18: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Le classificazioninon hanno lo scopo di trovare

una collocazione precisa all'interno di una tassonomia a ogni sistema reale ma cercano di identificare

con chiarezza i problemie le alternative progettuali

Le classificazioninon hanno lo scopo di trovare

una collocazione precisa all'interno di una tassonomia a ogni sistema reale ma cercano di identificare

con chiarezza i problemie le alternative progettuali

ClassificazioneClassificazione

Page 19: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

La classificazione di Enslowche analizzaremo per prima

è più significativa da un puntodi vista concettuale mentrela classificazione di Flynnpur essendo meno precisa

è assai più nota

La classificazione di Enslowche analizzaremo per prima

è più significativa da un puntodi vista concettuale mentrela classificazione di Flynnpur essendo meno precisa

è assai più nota

ClassificazioneClassificazione

Page 20: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Classificazione di EnslowClassificazione di Enslow

Che cosa è distribuitoin un sistema

Che cosa è distribuitoin un sistema

ElaborazioneElaborazione

DatiDati

ControlloControllo

Page 21: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Classificazione di EnslowClassificazione di Enslow

La classificazione di Enslow collocale architetture in uno spazio tridimensionale

La classificazione di Enslow collocale architetture in uno spazio tridimensionale

Un sistema è completamente distribuito se lo è nelle tre dimensioni

Un sistema è completamente distribuito se lo è nelle tre dimensioni

Page 22: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Classificazione di EnslowClassificazione di Enslow

Unità di elaborazione singolaUnità di elaborazione singola

Unità di elaborazione singolama con più unità funzionali

Unità di elaborazione singolama con più unità funzionali

Unità di elaborazione multipleomogenee o eterogenee

Unità di elaborazione multipleomogenee o eterogenee

Distribuzione della elaborazioneDistribuzione della elaborazione

Page 23: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Classificazione di EnslowClassificazione di Enslow

Base di dati centralizzataBase di dati centralizzata

Base di dati distribuita fisicamente con direttorio centralizzato

Base di dati distribuita fisicamente con direttorio centralizzato

Base di dati distribuita fisicamente senza direttorio centralizzato

Base di dati distribuita fisicamente senza direttorio centralizzato

Distribuzione dei datiDistribuzione dei dati

Page 24: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Classificazione di EnslowClassificazione di Enslow

Punto di controllo unicoPunto di controllo unico

Relazioni di tipo master-slave statiche o dinamiche

Relazioni di tipo master-slave statiche o dinamiche

Punti di controllo autonomie/o cooperanti

Punti di controllo autonomie/o cooperanti

ControlloControllo

Page 25: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Classificazione di EnslowClassificazione di Enslow

DatiDati

ElaborazioneElaborazioneControlloControllo

Personal ComputerPersonal Computer

InternetInternet

Page 26: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Un sistema di elaborazione operasu (un flusso di) dati in base a(un flusso di) istruzioni acquisitedalla memoria

Un sistema di elaborazione operasu (un flusso di) dati in base a(un flusso di) istruzioni acquisitedalla memoria

È possibile una classificazione basata sul grado di parallelismo dei due flussi

È possibile una classificazione basata sul grado di parallelismo dei due flussi

Classificazione di FlynnClassificazione di Flynn

Page 27: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Singolo flusso di Istruzioni Singolo flusso di Istruzioni SISDSISD

Classificazione di FlynnClassificazione di Flynn

Singolo flusso di DatiSingolo flusso di Dati

Singolo flusso di Istruzioni Singolo flusso di Istruzioni SIMDSIMD

Flusso di Dati MultiploFlusso di Dati Multiplo

Page 28: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Flusso di Istruzioni Multiplo Flusso di Istruzioni Multiplo MISDMISD

Classificazione di FlynnClassificazione di Flynn

Singolo flusso di DatiSingolo flusso di Dati

Flusso di Istruzioni Multiplo Flusso di Istruzioni Multiplo MIMDMIMD

Flusso di Dati MultiploFlusso di Dati Multiplo

Page 29: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Classificazione di FlynnClassificazione di Flynn

I/OI/O IstruzioniIstruzioni DatiDati

IstruzioniIstruzioni

CONTRCONTR ELAB.ELAB. MEM.MEM.

SISDSISD

Architettura tradizionale con singola CPUche elabora una istruzione alla volta

operando su un dato alla volta

Architettura tradizionale con singola CPUche elabora una istruzione alla volta

operando su un dato alla volta

Page 30: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

SIMDSIMD

Più CPU operano in modo sincronoeseguendo la stessa istruzione

su dati diversi

Più CPU operano in modo sincronoeseguendo la stessa istruzione

su dati diversi

I/OI/O

IstruzioniIstruzioni

CONTRCONTR

DatiDatiELAB1ELAB1 MEM1MEM1

ELABnELABn MEMnMEMn

•••

•••

Elab. ospite

Elab. ospite

Elab. ospite

Elab. ospite

IstruzioniIstruzioni DatiDati

Page 31: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Il medesimo flusso di dati vieneelaborato da un insieme di processori

che eseguono istruzioni diverse

Il medesimo flusso di dati vieneelaborato da un insieme di processori

che eseguono istruzioni diverse

MISDMISD

I/OI/O

IstruzioniIstruzioni

IstruzioniIstruzioni

ELAB1ELAB1

MEMDATI

EPROG

MEMDATI

EPROG

DatiDatiELAB2ELAB2 • • •

CONTRnCONTRn

ELABnELABn

CONTR2CONTR2CONTR1CONTR1

DatiDati

Page 32: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

Unità di elaborazione diverse eseguonoistruzioni diverse su dati diversi

Unità di elaborazione diverse eseguonoistruzioni diverse su dati diversi

MIMDMIMD

I/OI/O

IstruzioniIstruzioni

IstruzioniIstruzioni

CONTRCONTR

DatiDatiELAB1ELAB1

MEMMEM

DatiDatiELABnELABn

•••

CONTRCONTR

COMUNE

COMUNE

Page 33: Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI

Calcolatori Elettronici IILezione n. 17 – Introduzione alle architetture parallele

Prof. Gianni ConteUniversità di Parma

CALCOLATORIELETTRONICI IICALCOLATORIELETTRONICI II