멀티미디어통신 - ivyro.netmultinet.ivyro.net/recruit/lecture/1-5/chapter-1.pdf · integrates...

1 인하대학교정보통신대학원Prof. Sang-Jo Yoo

멀티미디어 통신(Multimedia Communications)

인하대학교 정보통신대학원

유 상 조


Syllabus

유상조 (5남369)

E-mail: [email protected]

Tel: 8304

http://multinet.inha.ac.kr

Textbook: 영상통신시스템 (김재균저, 영지문화사)Digital Compression for Multimedia – Principles & Standards, Jerry D. Gibson et. al, Morgan Kaufmann, 1998

Digital Image Processing, Gonzalez & Woods, Addison Wesley Longman

GradingHW, 출석, 중간/기말, Term-projects


Chapter 0

Multimedia Communications


Applications

Video Phone: ITU-T H.323(LAN), H.324(PSTN) protocol support which is international standard of video phones.

Internet Phone: Supports VoIP. Able to make a phone call to anywhere in the world - for free or at a low price.

Mobile Multimedia Service: IMT-2000, Telematics


Applications

Internet TV(Broadcasting)


Applications

Multimedia E-mail

Chatting

Digital Video Recoding

Remote Educations

Remote Health-Care

Security & Military Applications


Digital Form of Information

Two Types:

Information coded by human beings, after that an object of computer processing:

text, formal description of some models, coordinate description, etc.

Information digitalized from the real life: images, sounds, measurements, etc.


Multimedia information presentation

Coded informationText: codewords in ASCII, EBCDIC, UNICODE; electronic elements;

Generated pictures: vector form (graphical primitives, surface patches,…).

Digitalized information:Images: pixels,

Audio (both low and high-fidelity)

Video (sequence of digital moving pictures)

Speech: encoded phonemes



Multimedia Networks

Five basic types that provide multimedia communication services:

Telephone networks;

Data networks;

Broadcast TV networks;

Integrates services digital networks;

Broadband multiservice networks.



1 장

통신의한계와영상통신


구 성

1.1 통신시스템의기본구조

1.2 이산정보원의정보량과정보원부호화정리

1.3 채널용량과채널부호화정리

1.4 연속정보원의정보율-왜곡함수와율-왜곡정리

1.5 영상통신시스템의구조와발전방향


1. 통신시스템의기본구조

정보원 : 연속정보원 (continuous source)

디지털정보원 (discrete source)

통신채널: 전화회선, 광섬유, 이동무선채널, 위성채널

송신기/수신기: 통신시스템설계자의유일한선택적통제의대상

정보원 송신기

채널

전갈정보

송신신호 수신신호

수신기 정보 사용자

전갈정보



정보원

정보원 부호기

전갈정보

송신기

채널 부호기

변조기

송신신호

채널

수신신호

복조기

채널 복호기

정보원 복호기

정보 사용자

수신기

전갈정보 (복원된)

디지털채널

아날로그채널



정보원부호기및복호기

근사형

연속정보

압축 부호기

압축 복호기

단축 부호기

단축 복호기

비트열

비트열정보 사용자

연속 정보원근사형

이산정보

근사형

이산정보

손실 부호기

양자화 부호기

무손실 부호기

엔트로피 부호기

연속정보


2. 이산정보원의정보량과정보원부호화정리

정보이론에서얻고자하는정보정보원이가지는정보량의크기?

전갈정보(message)를표현하는데필요한부호어의최소평균길이는?

잡음이존재하는통신채널을통해서전달할수있는최대정보량은얼마인가?



이산정보원의정보량정보원이단위시간마다한개의 message 또는 symbol s를방출

symbol s는M개의알파벳 중의한값

특정알파벳이발생할확률은

특정한값 이나타남으로써관찰자가얻을수있는정보는그사건이갖고있는불확실성 (uncertainty)에비례

q즉해당사건의발생확률에반비례

정보량

{ }110 ,,, −Maaa L

p P s am r m= =( ), m M∈ −{ , , , , }0 1 2 1 K

ms

I spm

m

( ) log( )=1



평균정보량 (엔트로피)출력 symbol S의평균정보량 (bits)

평균정보량의범위

이진엔트로피함수

H S I S( ) [ ( )]= Ε = =∑ ∑p I s ppm

mm m

m m

( ) log ( )2

1

0 ≤ ≤H S M( ) log

p

1.0

0.0 0.5 1.0

0.0

0.5

H p2 ( )

1 2− H p( )

H p p p p p2 1 1( ) log ( ) log( )= − − − −


Practice

S={a,b,c,d,e}

P(a)=0.2, P(b)=0.1, P(c)=0.3, P(d)=0.3, p(e)=0.1

H(S)=?

H(S)의의미?



이산정보원의정보원부호화정리정보원부호화

q정보원 S의특정값 sm을부호심볼(code symbol) x의수열(sequence) cm={x1, x2, …, xm}으로표현하는것

q가변길이부호기

q고정길이부호기

정보원부호화정리 (Source Coding Theorem)

q정보량이 H(S)인정보원을부호심볼의크기가 D인부호어로부호화할때, 평균길이가가장짧은최적부호의평균길이는

H S

Dl

H S

Do

( )

log

( )

log < ≤ +1


3. 채널용량과채널부호화정리

이산형비기억채널(discrete memoryless channel)잡음이있는전달매체의체널특성을가장간단하게모델링한것이 DMC이다.

q입력심볼알파벳 (크기 J)

q출력심볼알파벳 (크기 K)

q천이확률(transition probability) 특정한입력값이특정한출력값으로수신될확률 - (식) 1.3.2

X = −{ , , , }x x x J0 1 1 K

Y = −{ , , , }y y yK0 1 1K

x x x xJ-∈ { , , , }0 1 1K y y y yK-∈ { , , , }0 1 1K{ }p y xk j( | )

p y x P y y x xk j r k k( | ) ( | )= = =



비기억채널 (memoryless channel)

이진대칭채널 (BSC: binary symmetric channel)

q가장간단한이산형비기억채널

q입력 X와다른 Y를관찰한후에도 Y로부터 X를바르게추정하는것이전송채널을통한통신의본질

p y x x y y p y xn n n n n n n( | , , , , , ) ( | ) − − − =1 1 2K K

p

p

1− p

1− px 0 0=

x1 1=

y 0 0=

y1 1=

Pp p

p p=

−

−

⎡

⎣

⎢⎢

⎤

⎦

⎥⎥

1

1



상호정보량 (mutual information)채널입력정보 X에대한본래의불확실성 H(X)와출력정보를관찰한다음의 X에대한불확실성 H(X|Y)간의차이값을 X와 Y 사이의상호정보량이라한다.

I X Y H X H X Y( ; ) ( ) ( | )= −

= + − = ∑∑H X H Y H X Y p x y p x y

p x p xj kj k

j kkj

( ) ( ) ( , ) ( , )( , )

( ) ( ) log

= −H Y H Y X( ) ( | )4484476

H X Y( , )

H Y X( | )I X Y( ; )H X Y( | )

H X( ) H Y( )

H Y X p x H Y X x

p x yp y x

j jj

J

j kk jkj

( | ) ( ) ( | )

( , ) log( | )

= =

⎡

⎣⎢⎢

⎤

⎦⎥⎥

=

−

∑

∑∑

0

1

1 =



채널용량 (channel capacity) (bits/채널심볼)천이확률 가고정된상태에서얻을수있는상호정보의최대치

Error free

(bits/symbol)

M= symbol length (levels)

p y xk j( | )

C I X Yp x

= max ( ; )( )

원래 I(X;Y)는의함수이지만조건부확률이고정된상태에서는 의선택방법에의해서채널을통해전달되는상호정보량이최대가되도록한다는의미이다.

p x y p x p y xj k j k j( , ) ( ) ( | )=

{ ( )}p x j

MC 2log=



가우시안잡음채널채널용량

bps 단위로다시생각

q소스정보원의시그널대역이 B라고하면 (1MHz)

qNyquist정리에의해초당 2*B 의심볼이발생되어야함

q물리적전송매체는이대역(2B)에서의 S/N ratio가정의됨

( )SNRC += 1log2

12

( )SNRB

C += 1log2

22



부호율

채널 부호기 채널 복호기

비기억 채널

전갈정보 입력부호어 출력부호어 전갈정보 추정

w p y xn n( | )x wn ( ) $ ( )w y n y n

RM

n=

log


5. 영상통신시스템의구조와발전방향

영상 부호화 / 복호화

시스템

접속 제어 시스템

음성 및 문자정보

영상통신 시스템

음성 및 문자정보

- 공중 통신망

- 개인 통신망

- 인터넷 통신망

영상정보

영상정보

접속 제어 시스템

영상 부호화 / 복호화

시스템

전송 및전달 통신망


HW1

1. Prove (Chain Rule)H(X,Y)=H(X)+H(Y|X)

2. Find H(X), H(Y), H(X|Y), and I(X;Y) in bitsWhen the probability transition matrix is given

1/4 1/82/41/83

5/83/161/161/84

2/41/43/161/162

1/4 2/41/81/81

4321Y X

멀티미디어통신 - ivyro.netmultinet.ivyro.net/recruit/lecture/1-5/chapter-1.pdf · integrates...

Documents