a teljesítménymodellezés alapjai

A teljesítménymodellezés alapjai

Sopron, 2005. szeptember Elektronikus szolgáltató rendszerek 2

Teljesítménymodellek

• Modellezés célja– erőforrás foglalási problémák felderítése– elosztott alkalmazások kommunikációs költségei– rendszer változásának hatásai (pl. gyorsabb szerver)– előrejelzés támogatása

• Ökölszabályok: teljesítménymodell elfogadható, ha– az erőforrások kihasználtságát 10%– az áteresztőképességet 10%– a válaszidőt 20% hibával becsli

Kiszolgálás Várakozás TénylegesKiszolgálás HálózatiKésleltetésT T T +T


Modellek fajtái• Analitikus modell

– a rendszert egyenletekkel írja le, pl.

• Szimulációs modell– szimulációt futtat– az előfordulásnak megfelelő tranzakció gyakorisággal– előny: általános vizsgálat – hátrány:

• Drága, nehéz kifejleszteni • Ritka események?

min min minRT RTT kérés FeldolgozásiIdő válasz


Modellezési/becslési paradigma

Adottrendszer

Adatgyűjtés

Teljesítménymérése

ANALÍZIS

Tervezett rendszerteljesítménye

Modellkiértékelése

Modellváltoztatás

BECSLÉS

Validálás

MODELLEZÉS

Modell kiértékelése

Paraméterekmeghatározása

Modell építés


Szolgáltatás igény és idő

• Az i. erőforrásra:Di: egy tranzakció átlagos szolgáltatásigénye

Vi: a tranzakció átlagos erőforrás használata

Si: egy használat átlagos erőforrás igénye

i i iD V S más alakban

ii

i

DS

V

Könnyebben meghatározható


Hálózati egyenletek

Egy üzenethez tartozó csomagok száma:

Összes protokoll overhead (n. hálózaton):

ÜzenetméretCsomagszám =

MaxSzegmensMéret

n nOverhead = Csomagszám×(TCPOvhd + IPOvhd + FrameOvhd )

ahol figyelembe vesszük a TCP, IP és a konkrét

hálózati protokollból eredő overhead-et


Hálózati egyenletek 2.

Üzenet továbbítási ideje az n. hálózatban

ahol a méret byte, a sávszélesség Mbps mértékegységű

Az n. hálózat kihasználtsága (utilization)

λ jn j n

üzenetek

U = ×SzolgáltatásIdő

nn

6

Üzenetméret +Overhead ×8SzolgáltatásIdő =

10 ×Sávszélesség


Hálózati protokollok

Protokoll PDU elnevezés Max. PDU (bájt) Overhead (bájt) Max. AdatterületTCP segment 65,515 20 65,495UDP datagram 65,515 8 65,507IPv4 datagram 65,535 20 65,515IPv6 datagram 65,535 40 65,495ATM cell 53 5 48Ethernet frame 1,518 18 1,500IEEE 802.3 frame 1,518 21 1,497IEEE 802.5 Token Ring frame 4,472 28 4,444FDDI (RFC 1390) frame 4,500 28 4,472

PDU = Protocol Data UnitMTU=Maximum Transmission Unit


LAN3:Token Ring16 MbpsMTU: 4444 bájt

Hálózati környezet példa

KLIENS

ROUTER

LAN2:FDDI Gyűrű100 Mbps

MTU:4472 bájt

R

Adatbázisszerver

LAN1:Ethernet10 MbpsMTU: 1500 bájt


Hálózati teljesítmény példaAz előző hálózatban a kliens küld egy 300 bájtos kérést:

LAN1:

Overhead = TCPOvhd + IPOvhd + EthOvhd (1 csomag)

Ovhd1 = 20 + 20 +18 = 58

LAN2:

LAN3:

358×8SzolgIdő1= = 0.000286sec

10,000,000

368×8SzolgIdő2 = = 0.00002944sec

100,000,000

368×8SzolgIdő3 = = 0.000184sec

16,000,000


Hálózati teljesítmény példa 2.• A szerver válaszol: 10000 bájtszegmentálás: 1460 bájt az egységEthernetMéret – (TCPOvhd + IPOvhd) = 1500 – 407 csomag : 10000 = (6*1460 + 1240)

LAN3:

LAN2:

LAN1:

sec00524.0

000,000,16

8308,1528,16

sec000838.0

000,000,100

8282020240,1282020460,16

sec00832.0

000,000,10

8182020240,1182020460,16


Hálózati teljesítmény példa 3.• A kliens átlag percenként 3-szor lekérdezi az

adatbázis szervertLekérdezés: 400 bájt, Válasz: 80% 8092 bájt, 20% 100,000 bájtMilyen a hálózati kihasználtság?Csomagok száma:Kérdés: ez a 4 valójában 400!

Rövid válasz:

Hosszú válasz:

4 /1,460 1

8,092 /1,460 6

100,000 /1,460 69


Hálózati teljesítmény példa 4.Kérés Rövid válasz Hosszú válasz

Csomagok száma 1 6 69Overhead (bájt) 58 348 4002Átviteli idő (ms) 0.366 6.75 83.2Csomagok száma 1 6 69Overhead (bájt) 68 408 4692Átviteli idő (ms) 0.0374 0.68 8.38Csomagok száma 1 6 69Overhead (bájt) 68 408 4692Átviteli idő (ms) 0.234 4.25 52.3

LAN1

LAN2

LAN3

Átlagos átviteli idő adott hálózaton:0.8× (KérésÁtvIdő + RövidVálaszÁtvIdő)+ 0.2× (KérésÁtvIdő + HosszúVálaszÁtvIdő)


Hálózati teljesítmény példa 5.

Hasonlóan kiszámítható, ha megváltozik a kérések intenzitása.

LAN1 LAN2 LAN30.0224 0.00223 0.0141

LAN1 LAN2 LAN340 4.5 0.4 2.880 9 0.9 5.6

120 13.4 1.4 8.5160 17.9 1.8 11.3200 22.4 2.3 14.1240 26.9 2.7 16.9280 31.4 3.2 19.7

Átlagos átviteli idő (s)

Kliensek száma

Kihasználtság (%)


Kihasználtság törvénye

• Kihasználtság törvénye (Utilization Law)

Ui: az i. erőforrás kihasználtsága

Bi: foglaltsági ideje a monitorozás alatt

T: mérési idő

C0: tranzakciók száma

Si: átlagos kiszolgálási idő

Xi: átlagos áteresztőképesség

λi: érkezési ráta

i i i 0 i i 0 i i iU = B/T = B/(C /X) = (B /C )× X = S × X

i iEgyensúly : = X

i i i i iU = X ×S = ×S


További törvények

Forced Flow törvény:

Xi : az I. erőforrás áteresztőképessége

Vi : „látogatások” átlagos száma

X0: tranzakciók átlagos száma

Szolgáltatás igény törvénye (Service Demand):

i i 0X =V × X

i i i i 0 i i i 0D =V × S = (X /X )× (U/X) = U/X

Forced Flow Kihasználtság tv.


Little törvénye

T ideig figyeljük a rendszert

k rendszerben lévő kérések az intervallumban,

fk az átlagos kiszolgálási idő

rk a rendszerben töltött idő összege

C0: ennyi kérés hagyta el a rendszert

R

NX

Rendszerben töltött átl. idő

ÁteresztőképességRendszerben lévő kérések

kk

k k

rN = k × f = k ×

T

k0 k

0

k * rC

N = *T C

XR

N = X × R


A Little törvény alkalmazása

• Levelezési szolgáltatást nyújtó portál2.000.000 regisztrált felhasználó, 30%-uk küld levelet csúcsterhelésnél (1 óra hosszú). Egy email feldolgozása 5.0 másodperc, 3.5 levelet küld egy felhasználó. Egy levél mérete átlagosan 7120 bájt.

Mekkora spool fájl szükséges?

Átlagos levélméret alapján

LevelekÁtlagosSzáma = Áteresztőképesség×Válaszidő

(2,000,000×0.30×3.5×5.0)= = 2916.67

3,600

SpoolFileMéret = LevelekÁtlagosSzáma×LevelekÁtlagosMérete

= 2916.67×7120 bájt = 20.767 Mb


A Little törvény alkalmazása 2.• Webes bróker, 3 rétegű architektúra(Web szerver, Alkalmazás szerver, Adatbázis szerver)

– 1.1 millió felhasználó, 20000 használja a rendszert egyszerre (csúcsterhelés)

– A rendszer 3.6 millió kérést dolgoz fel óránként– Minden kérés átlagosan 1.4 tranzakciót generál az

adatbázis szerveren, ami a vállalati mainframe-en található– A mainframe 11500 kérést dolgoz fel másodpercenként

• Mennyi az átlagos válaszidő?• A válaszidő mekkora részét tölti a válasz a

mainframe-en?


A Little törvény alkalmazása 3.Az egész rendszer „fekete doboz”:

A mainframe a „fekete doboz”:

A kettő aránya:

20,00020 sec

3,600,000 / 3,600

FelhasználókÁtlagosSzámaÁtlagosVálaszidő =

RendszerÁteresztőképesség

20,000 1.42.43 sec

11,500

TranzakciókÁtlagosSzámaÁtlagosVálaszidő

MainframeÁteresztőképesség

1.4 2.43 sec17%

20.0 sec

MainframeHasználat

RendszerHasználat


Könyvesbolt példa

• Bemenő adatok:

• Mennyi egy keresés tranzakció DB szerver szolgáltatási ideje?

21000.025 sec

35000 2.5 0.95

DiSi

Vi

Mérhető értékek

Modellből kapjuk (CBMG, CSID)

Adat ÉrtékÖsszes session száma 35000Web szerver foglaltság összesen (sec) 1200DB szerver folglatság összesen (sec) 2100Mérési intervallum (sec) 3600Keresések száma/Session 2,50Web szerver kérés/Keresés 1,95DB szerver kérés/Keresés 0,95


Könyvesbolt példa 2.

• Web szerver és Adatbázis szerverA Web szerver TCP fölött kommunikál, a kérés mérete 400 bájt, a

válasz 9150 bájt. A hálózat 100BASE-T Ethernet.

Milyen a hálózat kihasználtsága?

035,000 2.5 1

24.33,600 sec sec

KeresésekSzámaX

MérésiIntervallum

4001

1460

91507

1460

kéréskérés

válaszkválasz

ÜzenetMéretCsomagokSzáma

MaxSzegmensMéret

ÜzenetMéretCsomagokSzáma

MaxSzegmensMéret


Könyvesbolt példa 3.

6

6 1460 58 1 390 58 87.64 msec

10 100válaszSzolgIdő

U

324.3 (0.366 7.64)10 19.5%

jn j n

üzenetek

U = ×SzolgáltatásIdő

λ

6 6

( ) 8 (400 20 20 18) 8

10 10 100

0.366 msec

kérés kéréskérés

ÜzenetMéret OvhdSzolgIdő

Sávszélesség


Könyvesbolt példa 4.• Bemenő adatok:

• Változhat– vásárlók száma– vásárlók viselkedése– rendszer paraméterek (pl. fájlok átlagos mérete)

Adat ÉrtékÖsszes session száma 35000Web szerver foglaltság összesen (sec) 1200DB szerver folglatság összesen (sec) 2100Mérési intervallum (sec) 3600Keresések száma/Session 2,50Web szerver kérés/Keresés 1,95DB szerver kérés/Keresés 0,95

Átlagos Web szerver szolg. igény (DWS) msec 13,71

Átlagos DB szerver szolg. igény (DDB) msec 24,00

Átlagos Web szerver szolg. idő (SWS) msec 7,03

Átlagos DB szerver szolg. idő (SDB) msec 25,26

Mérhető értékek

Modellből kapjuk (CBMG, CSID)

Kiszámolható


Könyvesbolt példa 5.Milyen lesz a szerverek kihasználtsága, ha

megduplázódik a felhasználók száma (csúcsterhelés)?– megduplázódik a Session-ök száma– tfh. nem változik a felhasználók viselkedése

Fejleszteni kell az adatbázisszervert!!!

02 35,000 2.5

0.01371 66.67%3600

WS WSU X D

0 48.61 0.024 116.7%DB DBU X D


Könyvesbolt példa 6.Milyen lesz a hálózat kihasználtsága, ha a képek

mérete megduplázódik?Az egyszerűség kedvéért tfh. a keresés válaszának mérete is

megduplázódik. Ha minden más változatlan (válasz 18300 bájt):

6

12 1460 58 1 780 58 815.24 msec

10 100válaszSzolgIdő

324.3 (0.366 15.24)10 36%

jn j n

üzenetek

U = × SzolgáltatásIdő

λ


Könyvesbolt példa 7.Milyen lesz a teljesítmény, ha megváltozik a

felhasználók viselkedése és átlagosan 50%-kal többet

keresnek az oldalon?Áteresztőképességet és kihasználtságot számolunk.

35,000×3.75 136,46

3,600 sec0X =

01

36.45 0.01371 sec 49.97%sec

WS WSU X D

01

36.45 0.024 sec 87.48%sec

DB DBU X D

Kritikus!


Szűk keresztmetszet, skálázhatóság

• Szűk keresztmetszet:– azok az erőforrások, melyek korlátozzák a teljesítményt

– analízis maximális terhelésnél (pesszimista érték)

• Nem mindig kell pontos szám– Aszimptotikus Határérték Analízis

(Asymptotic Bound Analysis)

• Fogalmak– K: erőforrások száma

– Di: szolgáltatásigény az i. erőforráson

– Dmax: a legnagyobb szolg. igény

– Dmin: a legkiseb szolg. igény

– λmax: érkezési ráta


Nyílt modellek• Nincs explicit korlát a rendszerben lévő kérésekre• Ha az egyensúly teljesül:

• 3 rétegű architektúra példa

• Mi a szűk keresztmetszet?• Mennyi a max. áteresztőképesség?

maxmax

1

D

Réteg Szerverek száma Szolg. átl. igénybevétele Átl. szolg. időWeb szerver 5 1,8 110 msecAlkalmazás szerver 3 2,5 230 msecDB szerver 2 2,3 180 msec

Egy tipikus E-Business szolgáltatás adatai


Nyílt modellek 2.1.8

0.110 0.0396 sec5

0.192 sec

0.207 sec

WSWS WS

WS

ASAS AS

AS

DBDB DB

DB

VD S

N

VD S

N

VD S

N

Az adatbázis szerver a szűk keresztmetszet

1 14.83

0.207 sec sec

Tranzakciók max. gyakorisága

0

4.83 szolgáltatás2.1

2.3 secDB

DB

XX

V

E-Business szolgáltatások max. gyakorisága (Forced Flow)


Zárt modellek• Felső korlát a kérések számára vonatkozóan (N)• Ideális eset: nincs kérés várakozási sorban

0total

NX N

D

Little tv.

0

0

1

1

i

i

i

i

U NX N

D

U N

X ND

Service Demand tv.

0max

1X N

D

0

1min ,

max

NX N

Dtotal D


Zárt modellek 2.

• Példa: az előbbi 3 rétegű architektúraEgyszerre max. 20 kliensnek nyújt szolgáltatást: N = 20

0.0396 sec 0.192 sec 0.207 sec 0.4386 sectotal WS AS DBD D D D

0

0

0

20 120 min ,

0.4386 sec 0.207 sec

1 120 min 45.59 ,4.83

sec sec

120 4.83

sec

X

X

X

a teljesítménymodellezés alapjai

Documents