Strana:2325KVANTIZACIJARobert M. Gray, IEEE, and David L. Neuhoff, Fellow, IEEENauni papirIstorija teorije i prakse kvantzacije datira od 1948, iako su se sline ideje pojavljivale u literaturi oko 1898. Glavna uloga kvantizacije u modulaciji i analognoj u digitalnu konverzija je prvi put prepoznata za vreme ranog razvoja pulsno kodovanih modulacionih sistema, naroito 1948. iz papira Oliver, Pierce i Shannon. Takoe 1948. Benett je objavio veliku rezoluciju analiza kvantizacije u jednu egzaktnu analizu, kvantizacione smetnje za Gaussian-ov proces i Shannon je objavio poetke distorzione teorije, koje bi dokazale teoriju kvantizacije kao analognu digitalnu konverziju i kao podatak kompresije. Poevi sa ova tri rada od pre 50 godina, mi pratimo tragove istorije kvantizacije, od njenog poetka do ove decenije, i mi podra`avamo fundamentalne teorije i mnoge popularne i obe}avajuce tehnike kvantizacije.I. UVODLeksika definicija kvantizacije je podela kvanata u diskretan broj malih delova, esto obuhva}enih kao mnoioci integrala istog kvantiteta. Najstariji primer kvantizacije je zaokruivanje, koji je prvo analizirao Sheppard [468], radi aplikacije procenjenih gustina histogramima. Svaki realan broj X moe biti zaokruen do najblieg celobrojnog (X), sa rezultujuom kvantizacijonom grekom e=q(x)-x a je tako (x)=x+e. Generalnije, mi moemo definisati kvantizer kao skup intervala ili }eliju S={Si; iL}, gde je indeks L je uglavnom skup konsekutivnih integrala poevi sa 0 ili 1,zajedno sa reprodukcionim promenljivama ili ta~aka ili nivoa C={yi;iL}, tako da je sveobuhvatni kvantizer q definisan uz pomoc q(x)=yi za XS, {to moze biti izra`eno kao :gde idikaciona funkcija 1S(x) je 1 ako x S ili 0. Da bi ova funkcija imala smisla mi smatramo da (SR) je ~lan realnih brojeva. To zna~i da su }elije razdvojene. Op{ta definicija se redukuje na primer zaokru`ivanja slika 1. Neuniformni kvantizator: a0 =, a5 =ako Si=(i-1/2.i+1/2] i yi=i za svako celobrojno i. Op{tije }elije mogu dobiti oblik Si=(ai-1,ai] gde je ais, koji se naziva prag, oblik pove}avaju}e sekvence. Du`ina }elije Si je interval ai -ai-1. Funkcija q(x) se ~esto naziva kvantizacioni zakon. Jednostavan kvantizator sa 5 reprodukcionih nivoa opisan na slici 1. kao skup intervala ograni~enih pragom sa nivoima za svaki interval.Kvantizator je uniformni ako, kao slu~aju zaokru`ivanja, su nivoi yi ekvidistantni, kao D deo, tako da je ai sredina izme|u bliskih (susednih) nivoa. Ako je dozvoljen negrani~en broj nivoa, onda }e sve }elije Si imati interval jednak D odvajanje izme|u nivoa. Ako je dozvoljen ograni~en broj nivoa, onda }e sve osim dve }elije imati interval D i ostale }elije }e biti poluograni~ene. Jedan primer uniformne kvantizacije sa intervalom }elija D i N=8 nivoa je dat na slici 2. Ako je dat uniformni kvantizer sa intervalom D i regionom input space D/2 nekog kvantizer nivoa se naziva granularni region ili jednostavno podr{ka i da napolju (gde gre{ka kvantizera je negrani~ena) se zove overload ili zasicena oblast. Op{tije re~eno podr{ka ili granularni oblast neuniformnog kvantizera je oblast ulaznog prostora sa relativitetom male gustine nekih nivoa u overload oblasti je kompleks granularne oblasti. Konkretno "small" mo`e biti definisan kao pola intervala naju`e }elije ograni~enog intervala.Kvalitet kvantizatora mo`e biti izmeren ta~no{}u rezultuju}e reoprodukcije u pore|enju sa originalnim. Jedan od na~ina za kompletiranje ovoga je definisati distorzione mere d(x,) koje kvantifikuju tro{ak ili distorzioni rezultat od reprodukcije x kao i uzimaju}i u obzir prose~nu distorziju kao meru kvaliteta sistema, sa manjom prose~nom distorzijom zna~i veci kvalitet. Naj~e{}a distorziona mera je kvadratna gre{ka d(x,)= |x-|2, ali }emo ura~unati druge. U praksi, prose~nost }e biti proba prose~nosti kada je kvantizator primenjen na sekvencu realnih podataka, ali teorija posmatra podatak kao deobu funkcije verovatno}e gustine (pdf) f(x) odgovaraju}u slu~ajneoj varijabilnosti X i prose~na distorzija treba da bude: X -4D -3D -2D -D 0 D 2D 3D 4DUkoliko je distorzija merena kvadratnom gre{kom, D(q) postane srednja kvadratna gre{ka (MSE) specijalni slu~aj na kome }emo dosta fokusirati.Po`eljno je da prose~na distorzija bude {to je manja mogu}a, i u stvari bezna~ajna prose~na distorzija mo`e da postigne uspeh ako dozvoli da }elije postanu mnogobrojne i najsitnije. Postoji razlika u terminima bitova potrebnih da se opi{e kvantizatorski izraz kod jednog dekodera, me|utim i grani~na pouzdana reprodukcija ne}e biti mogu}a za digitalnu memoriju i komunikacione medije sa ograni~enim kapacitetom. Jedan prost metod za kvantiziranje razlike za komunikacije i memoriju je taj da kvantizator "kodira" jedan ulaz x u binarnu reprezentaciju ili kanal kodu kvantizerskog indeksa i specifikovan sa reprodukcijskim nivoom koji bi trebalo da se koristi u rekonstrukciji. Ukoliko postoji N mogu}ih nivoa i sve binarne reprezenatacije ili binarni hodovi imaju podjednaku du`inu (privremena pretpostavka), binarnim vektorima treba}e log N (ili sledeci veci celi broj, [log N], ukoliko log N nije celobrojno) komponenata ili bitova. Zato jedna definicija brzine kodova u bitovima za ulaznu veli~inu jeste:Jedan kvantizator sa konstantno dugim binarnim kodovima ka`emo da ima konstantnu brzinu zato {to svi nivoi kvantizatora su postavljeni da imaju binarne kodove podjednake du`ine. Kasnije ova restrikcija bi}e oslabljena. Bele`imo da svi logaritmi u ovom izve{taju imaju bazu 2, sem druga~ije specificiranih.Ukratko cilj kvantizacije je da kodira podatak iz jednog izvora, okarakterisanog verovatno}om funkcije gustine, u {to je mogu}e manje bitova (sa malom brzinom) na takav na~in reprodukcija mo`e otkrivena bitovima sa najve}im mogu}im kvsalitetom (t.j. sa malom prose~nom distorizojom). O~igledno postoji razmena izme|u dve primarne osobine merenja: prose~na distorzija (ili prosto distorzija kako }emo je ~esto spominjati) i brzina. Ova razmena mo`e biti kvantifikovana kao operativna funkcija distorzije brzine d(R), {to je definisano da bude najmanja distorzija bilo kog skalar kvantizatora sa brzinom R ili manjom. To je :alternativno operativna funkcija brzine distorzije r(D) se mo`e definisati kao najmanja brzina bilo kog skalar kvantizatora sa distorzijom D ili manjom, {to je inverzno d(R).Do sada smo opisivali skalar kvantizaciju kodiranjem konstantne brzine, tehnika u kojoj je svaki podatak nezavisno kodiran ukonstantnim brojem bitova i dekodiran reprodukcijom. Kako }emo videti, postoji dosta alternativnih kvantizacijskih tehnika kojoj odgovaraju boljoj razmeni distorzije i brzine; na primer manja distorzija za istu brzinu, ili obrnuto. Svrha ovog rada je da jo{ jednom prou~ava razvoj takvih tehnika, i teoriju njihovog dizajna i mogu}nosti. Na primer interesova}e nas operaciona funkcija brzine distorzije za svaki tip tehnike, koji je definisan da bude najmanja distorzija bilo kog kvantizatora datog tipa sa brzinom R ili manjom. Tako|e }emo biti zainteresovani za najbolju mogu}u mogu}nost me|u ovim kvantizatorima. Istovremeno kao pregled i kao uobi~ajena oznaka za upore|ivanje, neformalno defini{emo klasu svih kvantizatora kao klasu kvantizatora koji mogu 1) da vr{e operacije na skalarima ili vektorima umesto da rade samo na skalarima (vektorski kvantizatori), 2) da imaju konstantnu ili promenljivu brzinu u smislu da binarni kod koji opisuje kvantizatorski izlaz mo`e imati du`inu zavisno od ulaza i 3) da bude bez ili sa memorijom, na primer, koriste}i razli~ite setove reprodukcionih nivoa zavisno od pro{losti. Usredsredimo pa`nju na kvantizatore koji se ne menjaju sa vremenom. To jest, u slu~aju da postoji isti ulaz i ista pro{lost, kvantizator }e proizvoditi isti izlaz nezavisno od vremena. Po nekada koristimo termin "smanjeni izvor" (lossy source) koda ili jednostavno kod kao alternativu za kvantizator . Brzina je sada definisana kao prose~ni broj bitova za izvor simbola neophodnog da bi se opisao odgovarju}i reproduktivni simbol. Neformalno predstavljamo operativnu funkciju distorziju d(R) koja pru`a najbolje mogu}nosti za skalarne kvantizatore, za (R), {to je definisano kao infimum prose~ne distorzije za sve kvantizatorske tehnike sa brzinom R ili manjom. Zato (R) se smatra kao najbolja mogu}nost za sve kvantizatore bez ograni~enja dimenzija, strukture ili slo`enosti.Odeljak II po~inje sa istorijskim pregledom razvoja teorije i prakse kvantizacije kroz proteklih pedeset godina, period koji obuhvata skoro svu literaturu ovog predmeta. Dva dopunjuju}a dostignu}a dominiraju u istoriji i savremenoj teoriji, i tri klju~na izve{taja su se pojavila 1948-e, dva od njih u Volume 27(1948) of the Bell Systems Techical Journal. Tako|e najpoznatije dostignu}e za ~itaoce ovih transakcija je da teorija brzine distorzije ili izvorno kodiranje sa kriterijumom ta~nosti Shannon-ovo informativno teorijsko dostignu}e za izvorno kodiranje- koje je prvobitno spomenuo u izve{taju iz 1948-e [464] koje pru`a bazu informativne teorije, ali koje se nije potpuno razvilo sve do njegovog izve{taja o kodiranju izvora iz 1959-e [ 465]. Drugo dostignu}e je kvantizaciona teorija visoke rezolucije (ili velika brzina ili asimtoti~na) koja ima svoj po~etak u izve{taju iz 1948-e na PCM Oliver-a, Pierce-a i Shannon-a [394], u izve{taju o spektru kvantizatorske gre{ke Benett-a [43], i u izve{taju iz 1951-e Pantera-a i Dite-a [405]. Dosta istorije i ve{tine kvantizacije po~inje iz ovih seminarskih radova.Nasuprot ove dve asipmtoti~ke teorije, postoji jo{ jedna mala ali zna~ajna kolekcija rezultata koji nisu prirodno asimtotski. Najstariji takvi rezultati ta~nih analiza za specijalne neasimtotske slu~ajeve, kao {to su Clavier-ova, Panter-ova i Grieg-ova analiza spektra kvantizacijske gre{ke za uniforno kvantovane sinusoidne signale iz 1947-e [99], [100], i Bennett-ova derivacija snage gustine spektra jednog uniformnog kvantovanog Gaussian-ovog slu~ajnog procesa [43]. Najva`niji neasimtotski rezultati, bilo kako, su bazi~ni, optimalni uslovi i iterativnog descetnog algoritma za model koltizatora kao sto je prvi Steinhaus-ov i Lloyd-ov (1957) [330], i kasnije popularizovani Maxsovom teorijom .Na{ cilj u slede}em odeljku je da predstavimo u istorijskom kontekstu mnoge klju~ne ideje koje su potekle u klasi~nim radovima o kvantizaciji i evoluirali oko 50-te godine, i u ostalim odeljcima da pre`ive selektivnost i raznovrsne rezultate {to ilustruju istorijski razvoj i stanje polja. Tre}i odeljak }e predstaviti osnovni pro{li materijal koji }e biti potreban u podsetniku rada , uklju~uju}i generalnu definiciju kvantizara i osnovne forme optimalnih kriterijuma i descendentnih algoritama. Neki takav materijal je ve} predstavljan i bi}e predstavljen u drugom odeljku. U ~etvrtom odeljku se sagledava razvoj kvantizacionih teorija i upore|uju dostignu}a. Peti odeljak opisuje broj specifi~nih tehnika kvantovanja.U svakom pregledu ovako op{irne teme kao {to je kvantizacija nema mogu}nosti za diskusiju ili prostora za ~itav rad. Tako smo se trudili da izaberemo najva`nije radove u kojima smo bez sumnje izostavili i neke nebitne ~injenice. Zbog ovoga se izvinjavamo i ~itaocima i istra`iva~ima ~iji radovi nisu spomenuti. II. ISTORIJAIstorija kvantizacije ~esto ide kroz paralelne radove, {to izaziva probleme u na{em nastojanju da ih uredimo hronolo{ki. Mi grubo pratimo hronolo{ki redosled svakog rada {to bolje mo`emo. Prvo }emo pratiti dizajn i analize prakti~nih kvantizacionih tehnika u tri smera: konstantna brzina skalarne kvantizacije koja poti~e iz odeljka 1, prediktivno i transformisano kodiranje, koje dodaje linearno procesiranje skalarnoj kvantizaciji u smislu da iskoristi izvor redundanse, i promenljiva brzina kvantizacije koja koristi Shann-ove konstantne izvor tehnika kodiranja da bi redukovali brzinu, (konstanti kodovi su originalno nazvani "loisless"). Dalje pratimo rane po~etne radove vektorske kvantizacije uklju~uju}i seminarski rad Shannon-a i Zador-a, u kojem se pojavljuje vektorska kvantizacija kao paradigma za analiziranje fundamendalnih granica kvantizatora prakti~nih koding tehnika. Iznena|uju}e dostignu}e takve teorije o vektorskoj kontenzaciji je bilo razvijeno izvan konvencionalnih komunikacija i van literature o signalima i njihovoj obradi. Prema tome, mi smo dali kratak pregled razvoja od sredine 1970 do sredine 1980, {to podrazumeva uglavnom pojavu vektora kvantizacije kao prakti~nu tehniku na kraju mi smo skicirali razvoj od sredine osamdesetih do sada. Osim navedenih smatramo da je kvadratna gre{ka mera distorzije.A. Konstantna brzina skalarne kvantizacije PCM i poreklo teorije kvantizacijeObe kvantizacije i izvor koda sa ispravnim kriterijumom poti~u iz pulsno kodne modulacije, Reeves [432] je patentirao ove dve tehnike 1938 godine, a 25 godina kasnije je napisao istorijski pregled i vrednovanje budu}nosti PCM-a uz pomo} Delorajin-a [120]. Predvi|ena su bila iznena|uju}e ispravna kao i eventualna prisutnost digitalnog govora i slike. Tehnika je prvi put bila uspe{no sprovedena u hardveru od strane Black-a , on je pisao o principima i upotrebi kao i Goodall [209] u listu Bell Labs. Oliver, Pierce i Shannon su postepeno analizirali i popularzovali PCM u toku 1948-e PCM je bila prva digitalna tehnika za preno{enje analogne informacije o signalu, (principijelni telefonski govor) prema analognom kanalu (`ica u atmosferi). Drugim re~ima to je modulaciona tehnika, to jest alternativa AM-a, FM, i mnogih drugih tipova pulsne modulacije. Sastoji se od tri glavne komponente: sampler (uklju~uju}i prefilter), kvantizator (sa konstantnom brzinom binarnog enkodera) i binarno pulsni modulator. Sampler konvertuje neprekidnu funkciju vremena x(t) u niz primera xn=x(n/fS), gde je fS frekvencija samplera. Sempler je obi~no predstavljen nisko propusnim filterom frekvence fS/2. Ako je filter idelan onda Shennon-Niquist-ov ili Shannon-Whittaker-Kotelnikov-a teorema o uzorcima osigurava da signal propu{ten kroz nisko propu{ten filter, u principu, je dobro predstavljen odgovaraju}im filtrovanim uzorcima. Kvantizacija samplera izra`ava aproksimaciju sa MSE otkrivenih talasnih funkcija, aproksimativno zbir MSE kvantizera D(q) i visoko frekventne snage preme{tene nisko propusnim filterom. Binarni pulsni modulator uglavnom koristi bitove proizvedene kvantizatorom da bi odredili amplitudu, frekvenciju ili fazu sinusoidne nose}e talasne funkcije. U evolucionom razvoju modulacionih tehnika je prona|eno da predstava pulsne amplitudne modulacije u kombinaciji sa smetnjama bi mogla biti dokazana ako bi primeri bili kvantovani do najbli`eg seta sa N nivoa pre modulacionog prenosa (64 pojedinih prostornih nivoa bilo je uobi~ajeno). I ako ovo unosi kvantizacione gre{ke odlu~uju}i nivo iz opsega je bio transmitovan u prisustvu smetnje a to mo`e biti re{eno sa pouzdano{}u ako je MSE supstancionalno redukovano. Redukovanje broja kvantizacionih nivoa N doprinosi lak{em odlu}ivanju o tome koji nivo je bio transmitovan. Re{enje je bio fiksirati N u vrednost koja daje uhvatljivu malu kvantizaciju MSE-a i kodira binarni nivo, tako da risiver treba samo da napravi binarna re{enja, ne{to {to on mo`e da radi sa velikom ta~no{}u. Rezultuju}i sistem PCM, ima najbolju otpornost na smetnje za sve modulacije tog vremena. Sa pojavom digitalne ere, bilo je poznato da semplovanje, kvantizacija i enkodiraju}i deo PCM-a pretvara analognu-u-digitalnu (A/D) konverziju sa upotrebom koja se pro{iruje mnogo iznad komunikacije preko analognih kanala. ^ak i na komunikacionom polju je bilo prepoznato da zadatak analogno digitalne konverzije (kao i izvor kodiranja trebaju biti ura|eni van binarne modulacije kao posebni zadatak. I ako se za PCM smatra da se sastoji od uvo|enja uzoraka, kvantizacije i kodiranja on vi{e ne uklju~uje binarnu pulsnu modulaciju. Mada je kvantizacija u literarnoj informacionoj teoriji generalno smatrana kao forma sakupljanja podataka, njena upotreba za modulaciju ili A\D konverziju je originalno bila vi|ena kao akspanzija podataka ili preciznije veza pro{irenih podataka. Na primer, zvu~ni talas koji grubo zauzima 4 kHz imao bi Nyquist-ovu brzinu od 8 kHz. Samplovanje po Nyquist-ovoj brzini i kvantizacija 8 bita po uzorku i onda modulacija rezultuju}eg binarnog pulsa uz kori{}enje amplitudnog ili frekventnog {ifta predstavlja signal koji zauzima grubo re~eno 64 kHz, porast od 16 puta! Matemati~ki konstituentna zbijenost u smislu da postoji talasna forma zahteva beskrajan broj bita ali isti je redukovan na kona~ni broj stim {to za prakti~ne svrhe PCM nije dobro prikazan kao zbijena {ema. Kao rani doprinos teorije kvantizacije Clavier, Panter i Grieg (1947) [99], [100] koristili su Rice-ovu karakteristi~nu funkciju ili metod transformacije da bi obezbedili ta~ne prikaze za kvantizacijske gre{ke i njenu va`nost koja rezultira iz uniformne kvantizacije za svaki specificni ulaz, uklju~ujuci konstante i sinusoide. Komplikovane sume Bessel-ove funkcije li~ile su na rane analize drugih nelinearnih modulacionih tehnika, FM, i ostavili su malo prostora za re{enja generalno zatvorene forme -interesantnih signala. Prvi glavni doprinos kvantizacionoj teoriji poti~e iz 1948 sa radovima Oliver-a, Pierce-a i Shannon-a [394] i Bennett-a [43]. Kao deo njihovih analiza PCM komunikacije, razvili su "oft-quoted" rezultat koji za {iroki spektar rezolucije, jednoli~nog kvantizatora sa }elijskom {irinom D prevazilazi prose~nu distorziju . Ako kvantizator ima N nivoa i brzinu R = log N, i ima opseg ulaza {irine A, tako da je D=A/N prirodan izbor, tada D2/12 je aproksimacija koja prevazilazi poznate oblike SNR-a: {to pokazuje da za {iroki opseg, SNR unifomnih kvantizacija raste 6 dB za svaki porast opsega od jednog bita, {to se ~esto naziva "6-dB-per-bit" pravilo. Jedna~ina D2/12 smatra se formulom visoke rezolucije; zaista, prva takva formula koristi se u situaciji kad su }elije i prose~na distorzija mali i opseg {irok, te je reprodukcija proizvedena od strane kvantizatora ta~na. Rezultat D2/12 tako|e se pojavljuje mnogo godina ranije (i ako u nekoj vrsti preru{ene forme) u Sheppard-ovoj metodi iz 1898.Bennett je tako|e razvio nekoliko drugih fundamendalnih rezultata u teoriji kvantizacije. On je generalizovao visoko rezolucijsku aproksimaciju uniformne kvantizacije da bi obezbedio aproksimaciju D(q) za kompardes sisteme koji prethode uniformnom kvantizatoru sa monotonom glatkom nelinearno{}u zvanom kompresor G, a koristio je i inverznu nelinearnost kada je rekonstruisao signal. Dakle stvoreni izlazni signalkoji je dat kao ulaz x defini{e se iz , gde je q uniformni kvantizator. Bennett je pokazao da u tom slu~aju : gde je g(x) = dG(x)/dx, D je }elijska {irina uniformnog kvantizatora i integral uzima vrednosti granuliranog ulaza. Konstanta 1/12 u gornjoj formuli podrazumeva da se G kre}e u intervalu [0,1]. Otkad je Bennett ukazao na ovo, bilo koji neuniformni kvantizator mo`e biti predstavljen kao kompander; ovaj rezultat ~esto poznat kao Bennett-ov integral obezbe|uje asimptotsku aproksimaciju bilo kog kvantizatora. To je korisno jer unapred mo`emo utvrditi g i interpretirati ga, na {to je Lloyd ukazao 1957 [330] kao na konstantu vremena "kvantizatorske funkcije gustine"l(x), {to je funkcija za koju va`i da za svaki region S broj kvantizatorskih nivoa je: Posto integracija od l(x) nad odre|enim podru~jem daje frakciju kvantizatorske reprodukcije nivoa u datom podru~ju, o~igledno je da je l(x) normalizovano te je . To }e tako|e biti korisno ako se smatra da anormalizovan kvantizator pokazuje zbijenost L(x) {to kad integri{emo S daje kona~an broj nivoa unutar S pre nego frakciju. U trenutnom slu~aju L(x)=Nl(x) ali anormalizovana gustina bi}e generalizovana u slu~aju kada je N beskona~no. Prepisivanje Bennett-ovog integrala uslovima funkcije ta~kast gustine daje zajedni~ku formu(7): Ideja kvantizacijske funkcije ta~kaste gustine generalizova}e se vektorski, dok kompanderski pristup ne}e biti u smislu da se svi vektori kvantizatora mogu predstaviti kao kompadersi [192]. Bennett je tako|e pokazao da usvajanjem visoke rezolucije i linearne gustine, kvantizacijska gre{ka se pona{a u smislu slu~ajnih smetnji, i ima malu korelaciju sa signalom i aproksimativno ravan ("beli") spektar. To vodi "dodatnoj smetnji" u modelu kvantizatorske greske, sobzirom da ispravnost formule q(X)=X+[q(X)-X] mo`e biti interpretirana kao reprezentor kvantizerskih izlaza to jest kao suma signala i "belih smetnji". Ovaj model je kasnije popularizovao Widrow [528], [529], ali njegova ta~ka gledi{ta poni{tava ~injenicu da smetnje u stvari zavise od signala i aproksimacija je vredna samo u nekim posebnim uslovima. Signalna nezavisnost kvantizacijskih smetnji je generalno prona|ena da bi bila perceptualno po`eljna. Ovo je bila motivacija da se kvantizaciji doda "dither" signal a metod je predstavio Roberts [442] u smislu da nastavak kvantiziranih slika izgleda lep{e uklanjanjem artefakta koji rezultuju iz odre|enih gre{ki u smislu slu~ajnih smetnji. Vrati{emo se na diterovanje u petom odeljku gde }emo videti da odgovaraju}im diterovanjem mo`emo zaista potvrditi Bennettovu aproksimaciju o uniformnoj distribuciji i signalnoj nezavisnost sveobuhvatni kvantizerskih smetnji. Bennett je tako|e koristio varijacije Riceove metode da bi izveo ta~an prora~un spektra kvantizacijskih smetnji kada je Gaussian-ov proces uniformno kvantovan, pokazuju}i nekoliko veoma egzaktnih ra~unica spektra kvantizacijskih gre{ki.U 1951-oj Panter i Dite [405] su razvili formulu visoke rezolucije distorzije za konstantan opseg skalarnog kvantizatora koriste}i aproksimacije sli~ne Bennett-ovim ali bez pozivanja na njega. Onda su oni iskoristili razli~ite tehnike za minimiziranje njihove formule i izveli su slede}u formulu za operativnu funkciju brzine distorzije konstantne brzine skalarne kvantizacije: za velike vrednosti R:koja se sada zove Panter-Diteova formula kao deo njihovog izvo|enja prikazali su da optimalni kvantizator rezultuje pribli`nom zbiru prose~nih distorzija svake kvantizacione }elije, kasnije rezultat nazvan parcijalna distorzijska teorema iako nisu po{li od Bennett-ovog materijala oni su izveli funkciju kompresije za kompander ili ekvivalentnu optimalnu kvantizacijsku ta~ku gustinezameniv{i ovu tacku gustine u Bennett-ov integral i koriste}i ~injenicu da je R = log N (sledi iz 8). Kao primer, ako ta~ka gustine je Gaussiam sa varijantom s2 onda ^injenica je da za velike opsege d(R) se smanjuje sa R kao 2-2R pa iz toga sledi S-N-R raste po pravilu 6 dB/bitu u stvarnosti sve druge formule visoke rezolucije koje su date kasnije ce slu`iti ovom pravilu. U svakom slu~aju konstanta koja se dodaje na 6R je u zavisnosti od izvora kontizatora Panter-Diteova formula za d(R), mo`e biti izvedena tako|e iz Bennett-ovog integrala koriste}i razli~ite metode kao {to je to uradio Loyd(1957) [330] Smith(1957) [474] i mnogo kasnije bez jasnog znanja ranijih radova Roje(1964) [443]. Tako|e moze biti izvedena bez kori{}enja raznih metoda primenom Holderove nejednakost u Bennett-ov integral [222], uz dodatnu pomo} koja pokazuje da je utvr|eni minimum zaista globalan. Iako se u isto vreme nije znalo o tome, ispostavilo se za Gaussian-ov izvor sa nezavisnim i identi~no raspore|enim samplovima, operaciona funkcija distorzijskog opsega dala je puta ve}a od , poslednje dostignu}e u distorziji uz pomo} kvantizacijske tehnike sa opsegom R ili manjim. (To je bilo pr Shanonn-ovih radova) Pobu|eni SNR je 4,35 dB manji nego najbolji mogu}i ili za konstantnu distorziju D brzine 0,72 Bita/sampl ve}i nego to dostignu}e najboljeg kvantizatora. Smith [474] je 1957-e godine ispitao kompandovanje i PCM. Izme|u ostalog on je dao do negde jasnije izvo|enje Bennett-ovog integrala, optimalne kompresirane funkcije i Panter-Dite-ove formule. Tako|e je Lloyd [330] 1957-e godine napravio va`nu studiju o kvantizaciji sa tri glavna doprinosa. Prvo prona{ao je neophodne i dovoljne uslove za konstantni opseg kvantizera kako bi bio lokalno optimalan to jest uslove koji ako zadovolje male perturbacije unutar nivoa ili na granici, bi pove}ali distorziju. Bilo koj optimalni kvantizer (onaj sa najmanjom distorzijom) }e obavezno zadovoljiti ove uslove pa se oni ~esto nazivaju neophodni uslovi. Prosto re~eno, Lloyd-ovi optimalni uslovi se odnose na optimalni kvantizator-konstantnog opsega, delovi kvantizatora moraju da budu optimalni za skup reprodukcijskih nivoa i obrnuto. Lloyd je izveo direktno iz prvog principa bez pomo}i razli~itih izvo|enja. Uslu~aju glavne kvadratne gre{ke prvi uslov podrazumeva najmanje razdaljeno ali najbli`e susedno kontizacijsko pravilo koje bira raspolo`ivi reprodukcioni nivo, kako bi uzorak sa izvora bio kvantifikovan, dok drugi uslov podrazumeva da reprodukcijski nivo korespodira sa datom }elijom i to je uslovno o~ekivanje ili centroid izvora koji daje vrednosti iz odre|enih }elija; tj. to je najmanja kvadratna gre{ka izra~unata na osnovu uzorka sa izvora. Za neke izvore postoje multipni lokalni optimalni kvantizatori, ali nisu svi globalno optimalni.Drugo, bazirano na optimalnim uslovima Lloyd je razvio u~estali opadaju}i algoritam za dizajniranje kvantizatora date izvorne distribucije, koja po~inje sa inicijalnom kolekcijom reprodukcijskih nivoa;o dre|uje delove za ove nivoe koriste}i minimalno distorzijsko mapiranje {to daje delove prave linije u intervalima; onda odre|uje set nivoa preme{taju}i stare nivoe iz centroida izdeljene }elije. Postupak se nastavlja sve dok konvengira do lokalnog (ne globalnog) optimuma. Lloyd je postavio ovu vrstu logaritama kao "metod I". On je tako|e razvio "metod II" zasnovan na optimalnosti vlasni{tva. Prvo se bira na zna~ajni najmanji reprodukcijski nivo. Ovo determini{e granicu }elije koja odre|uje slede}i reprodukcijski nivo itd. Ovaj prilaz alternativno proizvodi nivo i granicu. Jednom kad se poslednji nivo izabere inicijalni nivo mo`e tada da bude reizabran da bi smanjio distorziju i algoritam se nastavlja. Lloyd je obezbedio skicu primera za uniformnu Gaussia-ove i Laplacian-ove slu~ajne varijacije i pokazao da su rezultati sadr`ani u visokoj rezolucijskoj aprosimaciji. Iako je II metod u po~etku dobio ve}u popularnost (kada je otkriven 1960) od strane Max-a [349], metod I se lakse prevodi u vektorsku kvantizaciju i mnoge tipove kvantizatora.Tre}e, motivisan radovima Pantera i dita ali o~igledno nesvestan istog kod Bennetta i Smith-a, Lloyd je ponovo izveo Bennett-ov integral i Panter-Ditovu formulu zasnovanu na funkciji ta~ke gustine. Ovo je bio izuzetno va`an korak za kasniju generalizaciju Bennett-ovog integrala. On je tako|e direktno pokazao da u situaciji kada je globalni optimum jedini lokalni optimum kvantizatora koji zadovoljavaju optimalne uslove tako|e imaju asimptotsku ta~ku gustine datu u jedna~ini 9. Na `alost Lloyd-ov rad nije bio objavljen u nijednom ~asopisu tog vremena, umesto toga prezentovan je 1957-e institutu za matemati~ku statistiku i pojavio se u ~asopisu Bell Laboratories Tehnical Memorandum. Kao rezultat toga njegovi rezultati nisu bili poznati in`injerskoj literaturi i mnogi su tokom godina bili razotkriveni. Sva nezavisna reotkri}a koristila su varijabilna izvo|enja pre nego Lloyd-ovo prosto izvo|enje. Poslednje su bile esencijalne za kasnije pro{irenje vektorske kvantizacije i za razvoj mnogih optimalnih kvantizerskih procedura. Ono {to mi znamo, prvo pominjanje Lloyd-ovih radova IEE literaturi pojavilo se 1964. god. sa Fleisher-ovim izvo|enjem o dovoljnim uslovima na ~elu da je optimalni kvantizator jedini, i iz toga sledi da Lloyd-ov metod I prevazilazi globalno optimalni kvantizator. (Uslov zadovoljava uobi~ajene gustine kao sto su Gaussian-ove i Laplacian-ove). Zador (561) izlo`io je Lloyd-ovo delo godinu dana ranije u svojoj doktorskgust_6algi zm o dovouse_4jeddatom }elijom }a koslednje @ kou }o vreman- iz da lo s24ome, ko i e napranlo`ioizvoezenneoyd-ovimtoriobiti~nomoraporeatomvio mplovima,v reracioi~afunkoj a d }orzijskdi rad a dyd-olne kon to jest uje cijalne za kasnije na r probjemalobjemblobjoptobjhoka*tobjclasse ko*tobjj da fs24ju gev integg opsega457175atora9evoe2estorrrrrrrrrrrrrrrrrrrrpo~ind0cf11evanb11ae [349],vek tj.eta }u daaaaaaaaaaaaaaaaaaaaaa [349], [349],