td curs 2011a

Download Td Curs 2011a

Post on 02-Jul-2015

108 views

Category:

Documents

3 download

Embed Size (px)

TRANSCRIPT

Dr. ing. Germn-Sall Zoltn Transmisia datelor Elemente de teoria transmisiunii informaiei Partea I Curs. Format electronic Anii IV Calculatoare, Automatic 2011 Transmisia datelor-curs2011zgerman@engineering.upm.ro 2 Cuprins 1. Introducere 1.1 Modelul unui sistem de transmisie a informaiei 1.2 Sarcina unui sistem de transmisie a informaiei 2.Elemente de teoria transmisiunii informaiei 2.1 Msura informaiei n semnale discrete 2.1.1 Unitatea de msur a informaiei 2.2 Surse discrete de informaie 2.2.1 Surse discrete de informaie fr memorie 2.2.2 Entropia informaional a unei surse discrete fr memorie 2.2.3 Redundana si eficiena sursei 2.2.4 Momente. Debit de momente 2.2.5 Debit de informaie. Debit de decizie 2.3 Canale de transmisiune discrete. 2.3.1 Probabiliti i entropii n canale discrete 2.3.1.1 Entropie condiionat 2.3.1.2 Relaii ntre entropii 2.3.2 Transinformaia 2.3.3 Capacitatea, redundana i eficiena canalului discret 2.3.4 Capacitatea canalului prin band (B) i raport semnal/zgomot () 2.3.4.1 Rezoluia n timp 2.3.4.2 Rezoluia n amplitudine 2.3.4.3 Capacitatea canalului de transmisie 2.4 Codarea surselor pentru canale fr perturbaii 2.4.1 Coduri unic decodabile 2.4.2 Coduri instantanee 2.4.3 Lungimea medie al unui cuvnt de cod2.4.4 Capacitatea , eficiena si redundana codului 2.4.5 Teorema codrii canalelor fr zgomot (Shannon I) 2.4.6Metode de codare compact 2.4.6.1 Metoda Shannon-Fano de codare binar 2.4.6.2 Codarea Huffmann binar 2.4.6.3 Codarea Huffmann M-ar 2.5 Codare pentru canale cu perturbatii 2.5.1 Teorema lui Shannon pentru canale cu perturbaii 2.5.2 Coduri grup 2.5.3 Codul Hamming Transmisia datelor-curs2011zgerman@engineering.upm.ro 3 1.Introducere In transmisii de date este foarte important ca informaia s ajung de lasurs la utilizator fr s fie deteriorat n timpul trecerii prin canal. fig 1 Locul transmisiei datelor ntr-un sistem numeric De aceea informaia este codat apoi modulat inainte ca ea s ajung pe canalul de transmisie. Dup ce semnalul ajunge prin canalul de transmisie la destinaie (utilizare), semnalul este demodulat iar apoi decodat.Deci rolul codrii este, ca informaia s nu fie distrus n timpul transmisiei, de perturbaii , zgomote. 1.1 Modelul unui sistem de transmisie a informaiei Cel mai simplu model al unui sistem de transmisiune a informaiei este prezentat n figura 2. fig 2 Modelul unui sistem de transmisia informaiei n acest caz se presupune c mesajul sub forma n care este dat de surs poate fi transmis direct prin canal fr a suferi transformri.Sursa de perturbaie este un element ce apare n mod inevitabil n orice sistem de transmisiune a informaiei. Modelul din figura 2 corespunde n general cazurilor cnd informaia trebuie transmis la distan mic i erorile pricinuite dezgomotsuntmici.Dacmesajulnupoatefitransmiscaatareprinmediu(dincauzadificultilordepropagaresaudincauza necesiii de a realiza transmisiuni multiple) se introduc elementele de modulare si demodulare asa cum se arat in figura 3. fig 3 Structura unui sistem de transmisii cu modulare/demodulare Transmisia datelor-curs2011zgerman@engineering.upm.ro 4 Marea majoritate a sistemelor de transmisie a informaiei utilizate n prezent au structura prezentat in figura 3. n cazurile incaresecautmrireaeficienei,respectivaposibilitiitransmiteriiunorcantitictmaimarideinformaienprezena perturbaiilor, se utilizeaz si elemente de codare i decodare cum se prezint n figura 4.n care se includ uneori procedee de decizii statistice. fig. 4 Structura unui sistem de transmisii cu modulare/demodulare i codare-decodare 1.2 Sarcina unui sistem de transmisie a informaiei Sarcina unui sistem de transmisie a informaiei este de a pune la dispoziia utilizatorului informaia generat de surs cu un graddedeteriorarespecificatadmis.ntehniciledecomunicaiiseobinuietesseintroducuncriteriudefidelitate,pentru apreciereareproduceriisemnaluluigeneratdesurs,lacorespondent.Insistemeledetransmisiuneanalogicecriteriuldefidelitate este ales uneori eroarea medie ptratic: = [ ( ) ( )] xt yt2 Unde, x(t)-este mesajul transmis;y(t)-estemesajulreceptionat,n(t)-estesemnalulperturbatoriarmediasefacenraportcu timpul; alteori se alege drept criteriu de fidelitate raportul semnal/perturbaie = [ ( )][ ( )]xtnt22 La sistemele numerice criteriul de fidelitate ales este probabilitatea recepionrii unui simbol eronat. Majoritatea sistemelor decomunicaiiutilizatenprezentsecaracterizeazprinfaptulclacapeteleterminalealecanaluluisuntfiineumane.ncazul acestamijloaceledecomunicaiipotficonsideratecarfidefaptoprelungireasimurilor:telefonul,deexemplu,faceposibil convorbireaadoupersoanecaicndelearfiprezenteinacelailoc.Perturbaiileprezenteinmajoritateasistemelorde comunicaiisuntasemntoareperturbaiilornaturalelacaresimurileumanes-auadaptat.Acestaestemotivulpentrucare sistemele clasice de comunicaii dau rezultate satisfctoare cu un echipament terminal redus. Setiedinexperiencncazuluneiconvorbiritelefonicencareintervinperturbaiifoarteputernice,sevorbetemai tare,mairariseutilizeazunvocabularmairedusdecuvinteuzuale.Prinacestaseadapteazsursadeinformaielacablulde comunicaie disponibil (existent). Comunicaiadelamainlamainsedezvoltnprezentdincencemaimultpelngmijloaceletradiionalede comunicaie.Automatizrilecomplexealeproceselordeproducie,schimbuldedatecucalculatoarelefaccasistemelede comunicaie main-main s se dezvolte vertiginos. Spre deosebire de comunicaia de la om la om, n comunicaia de la main la main nu mai are loc o codare natural pe careoefecueazcreierulnvedereaadaptriilacanaluldeinformaie.Acestfaptconducelamrireacomplexitiiechipamentului terminal n vederea obinerii la procesul de transmisiune a fidelitii cerute. mbuntireacalitiitransmisiuniisepoatefaceiprinmbuntireacanalului.nalegereametodeideimbuntirea calitii a transmisiunii trebuie s se fac o comparaie ntre preul echipamentului terminal i cel al canalului. Tendinele actuale de dezvoltare indic o tendin spre creterea complexitii echipamentului terminal al crui pre devine din ce n ce mai sczut datorit utilizrii circuitelor integrate pe scar larg i foarte larg(LSI, VLSI), a cror producie de mas se face la un pre sczut. NuacelailucrusepoatespunedesprecostulcanalelordetransmisiuneDeinacestdomeniusefacprogresemari,prin faptul c ele nu se preteaz la o producie de mas, probabil c preul lor nu va scdea nici in viitor. Acest fapt explic tendina spre o utilizare mai raional a canalului de transmisie prin mrirea complexitii echipamentului terminal, astfel ca acesta s poat efectua operaiile necesare mririi eficienei transmisiunii. Transmisia datelor-curs2011zgerman@engineering.upm.ro 5 2.Elemente de teoria transmisiunii informaiei Unadinproblemelefundamentalealeteorieiinformaieiestemsurareacantitiideinformaiepecareofurnizeazun cmp de probabilitate produs de un experiment sau de o variabil aleatoare. Mrimea intuitiv de cantitate de informaie trebuie s posedeproprietilenaturalepecareleimpunenoiuneadecantitate,cadeexempluaditivitatea,asociativitatea,etc.Aceste proprieti constituie axiomele fireti cu ajutorul crora se definete noiunea de cantitate de informaie 2.1 Msura informaiei n semnale discrete Msurainformaieiesteomsuranedeterminriiasupraunuisistemdeevenimente,respectivomsuraincertitudinii asupra rezultatului alegerii printr-un mecanism aleator a unui eveniment din mulimea evenimentelor posibile, distincte Pentruprecizareseconsidermulimeadiscretifinitatuturorevenimentelorposibile,aleunuiexperimentcareseva numi spaiul esantioanelor i se va nota sub urmtoarea form matricial: [ ] [ ]nx x x X ...2 1= n careE xnii==U1i = j ix x j i unde E este evenimentul sigur.Fiecrui element al mulimii[ ] Xi este asociat o probabilitate dat de matricea: [ ] ( ) ( ) ( ) [ ] [ ]n n xp p p x p x p x p P ... ...2 1 2 1= = n care( )==niix p11 Msura incertitudinii asupra realizrii unui eveniment ixpe care o notm cu( )ix Ueste o funcie( )ip Fa probabilitii apriori( )i ix p p =de realizare a acestui eveniment: ( ) ( )i ip F x U = ireprezintincertitudineainiial(apriori)asuprarealizriievenimentului ix .cndevenimentul ix serealizeaz,aceast incertitudine este nlturat i se poate spune c s-a obinut o informaie( )ix iasupra realizrii lui ix . Aceasta poate fi definit ca: - informaia obinut asupra lui ixprin realizarea lui ix ; sau ca: - anularea incertitudinii asupra realizrii lui ix, dup ce ixs-a realizat Prin urmare: ( ) ( )i ix U x i = ( ) ( )i ip F x i = Informaia n sensul de mai sus este o msur a incertitudinii Dac se consider c n procesul de observare a evenimentelor ixintervin perturbaii, atunci ntre evenimentele realizate ixi cele observate jynu exist totdeauna o coresponden, uneori evenimentul observat jydifer de evenimentul ix, alteori nu difer, totul depinde de de aciunea ntmpltoare a perturbaiilor. Dac se noteaz cu :[ ] [ ]ny y y Y ...2 1= mulimea evenimentelor observateatunci msura incertitudinii asupra realizrii evenimentului ixdac s-a observat evenimentul jy respectiv( )j iy x Ueste o funcie de( ) [ ]j iy x p Fde probabilitatea lui ixcondiionat de jy : ( ) ( ) [ ]j i j iy x p F y x U = Aceast funcie reprezint incertitudinea aposteriori asupra realizrii evenimentului ixdac s-a realizat jy, adic dup observareaevenimentului jy rmnetotuioincertitudineasupraevenimentuluicares-arealizat.Aceastincertitudinese Transmisia datelor-curs2011zgerman@engineering.upm.ro 6 datoreazperturbaiilorexistente,nlipsaacestorperturbaiis-arputeaafirmacuprobabilitateamaxim(unu)caobservnd evenimentul jys-a realizat ix . Informaiaobinutasuprarealizriilui ix cndseobserv jy reprezintdefaptscdereaincertitudiniiaprioriasupra realizriilui ix dinstareainiial,naintedeobservarealui jy ,lastareafinalcnds-aobservat jy icndrmneo incertitudine aposteriori, adic: ( ) ( ) ( )j i i j iy x U x U y x i = , - informaia obinut asupra realizrii ixcnd se observ jy- descreterea incertitudinii asupra lui ixprin recepionarea lui jyDac nu sunt perturbaii i se realizeaz ixse observ jy =ix iar( ) 0 =j iy x Ufiindc nu mai este nici un fel de incertitudine aposteriori asupra lui ix . Relaia de mai