(2) ההסתברות תורת

.

גוראל־גורביץ אורי פרופ' הרצאות על מבוסס

(80421) "2 ההסתברות "תורת בקורס

2016 ב' סמסטר העברית, האוניברסיטה

na hi.avrahamgmail. om להערות:

נחי

1

עניינים תוכן

3 המידה תורת של מבט מנקודת הסתברות מבוא: I

3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . σ־אלגבראות אלגבראות, 1

3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . מידה מרחבי מדידים, מרחבים 2

4 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . יסודיים משפטים 3

5 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . יסודיות דוגמאות 3.1

6 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . מאורעות סדרות 4

7 אי־תלות II

8 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . קולמוגורוב של 0− 1 חוק 5

11 מקריים משתנים III

13 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . מקרי משתנה של התפלגות 6

14 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . אינווריאנטיות מדידות קבוצות של הסתברות 7

14 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . וצפיפות רציפים, מקריים משתנים 8

16 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . יסודיות תוצאות 9

16 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . צ'בישב) (מרקוב, אי־שוויונים 9.1

17 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . הגדולים המספרים חוק 9.2

17 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . מבוא 9.2.1

18 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . הגדולים המספרים של החלש החוק 9.2.2

19 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . הגדולים המספרים של החזק החוק 9.2.3

24 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . וצ'רנוף הופדינג וחסמי מומנטים, יוצרת פונקציה 9.3

30 מרטינגלים IV

30 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . מצומצמת הגדרה - מרטינגל 10

31 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . מותנית תוחלת מבוא: 11

33 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . כללית הגדרה - מרטינגל 12

35 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . עצירה זמן 13

42 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . מרטינגלים של מידה ריכוז 13.1

43 מרקוב שרשראות V

46 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . לסטציונריות התכנסות 13.2

49 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Reversability 13.3

52 המרכזי הגבול משפט VI

52 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . מקריים משתנים של התכנסויות 14

53 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . מצטברת התפלגות פונקציות של התכנסות 15

54 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . המרכזי הגבול משפט 16

55 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . אופייניות פונקציות 16.1

56 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . המרכזי הגבול משפט הוכחת 16.2

2

I חלק

המידה תורת של מבט מנקודת הסתברות מבוא:

σ־אלגבראות אלגבראות, 1

הבאות: התכונות מתקיימות אם ,Ω על אלגברה היא 1F0 ⊂ 2Ω כי נאמר כלשהי. קבוצה Ω תהי הגדרה:

∅ ∈ F0 .1

2.Ac ∈ F0 גם A ∈ F0 לכל .2

.A ∪B ∈ F0 גם A,B ∈ F0 לכל .3

מתקיים: אם ,Ω על σ־אלגברה היא F ⊂ 2Ω כי נאמר כלשהי. קבוצה Ω תהי הגדרה:

.Ω על אלגברה היא F .1

3.⋃

n∈NAn ∈ F מתקיים ,Ann∈N ⊂ F לכל .2

להיות S ידי על הנוצרת ה־σ־אלגברה את נגדיר אלגברה). דווקא (לאו כלשהי S ⊂ 2Ω ותהי כלשהי קבוצה Ω תהי הגדרה:

.σ (S) ידי על נסמנה .S את שמכילה המינימלית ה־σ־אלגברה

σ־אלגברה, הוא σ־אלגבראות של כלשהו חיתוך כללי שבאופן היות כי לב נשים

σ (S) =⋂

F | F is a sigma-algebra ontains S

.(S את המכילה σ־אלגברה היא כולה 2Ω כי ריק אינו זה (חיתוך

היטב. ומוגדרת קיימת σ (S) אכן כי נובע זו מזהות

מידה מרחבי מדידים, מרחבים 2

.Ω על σ־אלגברה F כלשהי, קבוצה Ω כאשר ,(Ω,F) זוג הוא מדיד מרחב הגדרה:

הבאות: התכונות מתקיימות אם ,F על מידה היא µ : F → R פונקציה כי נאמר מדיד. מרחב (Ω,F) יהי הגדרה:

µ (∅) = 0 .1

µ (A) ≥ 0 מתקיים A ∈ F לכל .2

בזוגות, זרות קבוצות סדרת Ann∈N ⊂ F לכל σ־אדיטיביות: .3

µ

(⋃

n∈N

An

)

=∑

n∈N

µ (An)

.F על מידה µ ,Ω על σ־אלגברה F כלשהי, קבוצה Ω כאשר ,(Ω,F , P ) שלשה הוא מידה מרחב הגדרה:

הסתברות. מרחב הוא המרחב וכי הסתברות מידת µ כי נאמר ,µ (Ω) = 1 שמתקיים במקרה

.Ω של תתי־קבוצות של משפחה היא F0 1כלומר,

.A של המשלימה הקבוצה היא Ac 2כאשר

אלגברה. בהגדרת 3 תכונה של הכללה 3זוהי

3

הסתברות. מרחב (Ω,F , µ) יהי תכונות:

.µ (A) ≤ µ (B) אז A ⊂ B אם ,A,B ∈ F לכל מונוטוניות: .1

בזוגות), זרות דווקא (לאו Ann∈N ⊂ F לכל תת־אדיטיביות: .2

µ

(⋃

n∈N

An

)

≤∞∑

n=1

µ (An)

,A1 ⊂ A2 ⊂ ... ∈ F סדרה לכל מלמטה: רציפות .3

µ

( ∞⋃

n=1

An

)

= limn→∞

µ (An)

אז ,µ (Am) <∞ עבורו m קיים אם ,A1 ⊃ A2 ⊃ ... ∈ F סדרה לכל מלמעלה: רציפות .4

µ

( ∞⋂

n=1

An

)

= limn→∞

µ (An)

הגבול קיים אם אסימפטוטית, צפיפות בעלת היא S ⊂ 2N קבוצה כי נאמר תרגיל:

d (S) := limn→∞

|S ∩ 1, ..., n|n

הזוגיים, המספרים קבוצת היא 2N אם למשל כך

d (2N) =1

2

אסימפטוטית. צפיפות בעלות שהן N של הקבוצות תת כל באוסף נתבונן

הללו? מהאפשרויות אחת אף σ־אלגברה? אלגברה? זו האם

יסודיים משפטים 3

על מידה µ0 תהי .Ω על אלגברה F0 עבור F = σ (F0) כי נניח מדיד. מרחב (Ω,F) יהי קרתאודורי) של ההרחבה (משפט משפט:

.µ |F0≡ µ0 המקיימת F על מידה µ קיימת אזי 4,F0

מידות µ1, µ2 לכל .Ω ∈ S ונניח סופיים, לחיתוכים הסגורה כלשהי קבוצה S ⊂ 2Ω תהי מדיד. מרחב (Ω,F) יהי (דינקין) משפט:

.µ1 ≡ µ2 אז ,µ1 |S≡ µ2 |S אם ,σ (S) על סופיות

.Ω על אלגברה F0 עבור F = σ (F0) כי נניח הסתברות. מרחב (Ω,F , P ) יהי משפט:

שמתקיים כך ,Aǫ0 ∈ F0 קיימת ǫ > 0 לכל ,A ∈ F לכל אזי

µ (AAǫ0) < ǫ

⋃

n∈N An ∈ F0 אם ,Ann∈N ⊂ F0 שלכל זה במובן F האלגברה על כמידה µ0ל־ נתייחס אלגבראות. על ולא σ־אלגבראות על "מידה" הגדרנו כי לב 4נשים

σ־אדיטיביות. מתקיימת אז

4

כלומר, שבמשפט. התכונה את שמקיימות הקבוצות תתי קבוצת E תהי הוכחה:

E :=A ∈ 2Ω | ∀ǫ > 0 ∃Aǫ

0 ∈ F0, µ (AAǫ0) < ǫ

כנדרש. ,F = σ (F0) ⊂ E כי נובע הנוצרת ה־σ־אלגברה מהגדרת ולכן ,F0 ⊂ E כי וברור σ־אלגברה, היא E כי להראות ניתן

יסודיות דוגמאות 3.1

הממשי היחידה קטע מרחב

האלגברה, את Ω על נגדיר .Ω := (0, 1] הקבוצה את ניקח

F0 :=

n⋃

i=1

(ai, bi] | n ∈ N, ∀1≤i≤n ai, bi ∈ (0, 1]

,F0 האלגברה על P0 מידה נגדיר

P0 ((a, b]) = b− a

.F0 כל על מוגדרת P0 המידה, מאדיטיביות כי לראות ניתן

ה־σ־אלגברה, את Ω על נגדיר

F := σ (F0)

.P0 את המרחיבה F על היחידה המידה P תהי דינקין, ומשפט קרתאודורי משפט ידי ועל

הבינאריות הסדרות מרחב

.ωi ∈ 0, 1 עבור ω = (ω1ω2...) סדרה הוא ω ∈ Ω כללי איבר כלומר .Ω := 0, 1N הקבוצה את ניקח

הצילינדרים, אלגברת את Ω על נגדיר

F0 :=

n⋃

i=1

Ci | n ∈ N, Ci is a ylinder of order i

הצורה, ידי על כלשהם, a1, ..., ai ∈ 0, 1 קבועים iל־ ביחס המוגדרת קבוצה הוא i מסדר צילינדר כאשר

Ci = Ci (a1, ..., ai) := ω ∈ Ω | ω1 = a1, ..., ωi = ai

הצילינדרים, אלגברת על P0 מידה נגדיר

P0 (Ci) =1

2i

הצילינדרים. אלגברת כל על מוגדרת P0 המידה, מאדיטיביות כי לראות ניתן

ה־σ־אלגברה, את Ω על נגדיר

F := σ (F0)

.P0 את המרחיבה F על היחידה המידה P תהי דינקין, ומשפט קרתאודורי משפט ידי ועל

5

מאורעות סדרות 4

המאורעות: את נגדיר מאורעות. סדרת An∞n=1 ⊂ F ותהי הסתברות, מרחב (Ω,F , P ) יהי הגדרה:

lim infn→∞

An :=∞⋃

N=1

∞⋂

n=N

An = ω ∈ Ω | ∃m ∀n ≥ m, ω ∈ An

lim supn→∞

An :=

∞⋂

N=1

∞⋃

n=N

An = ω ∈ Ω | ∀n ∃m ≥ n, ω ∈ Am

כללי, באופן כי לראות ניתן הערה:

lim infn→∞

An ⊂ lim supn→∞

An

אזי: הסתברות. מרחב (Ω,F , P ) יהי פאטו) של (הלמה משפט:

.1

P(

lim infn→∞

An

)

≤ lim infn→∞

P (An)

.2

P

(

lim supn→∞

An

)

≥ lim supn→∞

P (An)

אז ,∑∞

n=1 µ (An) <∞ אם הסתברות. מרחב (Ω,F , P ) יהי בורל־קנטלי) של הראשונה (הלמה משפט:

P(

lim infn→∞

An

)

= 0

בהכרח. נכון אינו בורל־קנטלי של הלמה של השני הכיוון כי לב נשים הערה:

ועדיין .∑∞

n=1 P (An) = ∞ כלומר ,P (An) = 1n ואז An =

(0, 1

n

)נגדיר שהגדרנו. (0, 1] של במרחב למשל נתבונן

.P(

lim infn→∞

An

)

= 0 ולכן ,lim infn→∞

An = 0

6

II חלק

אי־תלות

זוג לכל אם בלתי־תלויות, F1,F2 כי נאמר תת־σ־אלגבראות. זוג F1,F2 ⊂ F יהיו הסתברות. מרחב (Ω,F , P ) יהי הגדרה:

,A1 ∈ F1, A2 ∈ F2 קבוצות

P (A1 ∩ A2) = P (A1) · P (A2)

אם ורק אם בלתי־תלויים, מאורעות A,B ∈ F כלומר, המוכר. במובן מאורעות של אי־תלות של הכללה זו הערה:

FA := σ (A) = ∅, A,Ac,Ω

FB := σ (B) = ∅, B,Bc,Ωבלתי־תלויות. σ־אלגבראות זוג הן

אז ,P (A ∩B) = P (A)P (B) מתקיים A ∈ S1, B ∈ S2 ולכל סופיים, לחיתוכים סגורות קבוצות זוג S1, S2 ⊂ 2Ω אם למה:

תלויות. בלתי σ (S1) , σ (S2)

כי נובע מההנחה .C ∈ F לכל ,P1 (C) = P (A)P (C) , P2 (C) = P (A ∩ C) חדשות מידות זוג נגדיר .A ∈ S1 תהי הוכחה:

.P1 |σ(S2)≡ P2 |σ(S2) דינקין ממשפט ולכן ,P1 |S2≡ P2 |S2

סופיים. לחיתוכים סגורים אלה שני בפרט .S1, σ (S2) האוספים בזוג נתבונן כעת

כי לב נשים .C ∈ F לכל P3 (C) = P (B ∩C) , P4 (C) = P (B)P (C) חדשות מידות זוג עוד נגדיר .B ∈ σ (S2) תהי

הנדרש. השוויון בדיוק הוא זה שוויון .P3 |σ(S1)≡ P4 |σ(S1) דינקין ממשפט שוב ולכן ,P3 |S1≡ P4 |S1

כי נובע שהוכחנו ממה

נאמר כלשהי. אינדקסים קבוצת I עבור ,F של תת־σאלגבראות של משפחה Fii∈I יהיו הסתברות. מרחב (Ω,F , P ) יהי הגדרה:

סופי. באופן תלויות בלתי הן אם בלתי־תלויות, הן Fii∈I σ־אלגבראות כי

,Ai1 ∈ Fi1 , ..., Aik ∈ Fik לכל ,i1, ..., ik ∈ I לכל כלומר,

P (Ai1 ∩ ... ∩ Aik) = P (Ai1) · ... · P (Aik)

.F של תת־σ־אלגבראות סדרת Fi∞i=1 תהי הסתברות. מרחב (Ω,F , P ) יהי הגדרה:

ה־σ־אלגברה, את n לכל נגדיר

Tn := σ (Fn ∪ Fn+1 ∪ ...)

הזנב, σ־אלגברת את ונגדיר

T :=⋂

n∈N

Tn

.Fi∞i=1 של בסדר תלויה אינה T הגדרת הערה:

7

קולמוגורוב של 0− 1 חוק 5

T אז תלויות, בלתי תת־σ־אלגבראות סדרת Fi∞i=1 אם הסתברות. מרחב (Ω,F , P ) יהי קולמוגורוב) של 0 − 1 (חוק משפט:

.P (A) ∈ 0, 1 מתקיים A ∈ T לכל כלומר, טריוויאלית.

(ראשונה) הוכחה:

תלויות. בלתי σ־אלגבראות כולן T ,F1,F2, ... למה:

,A ∈ T , A1 ∈ F1, ..., An ∈ Fn כל שעבור להראות מספיק הוכחה:

P (A ∩ A1 ∩ ... ∩ An) = P (A) · P (A1) · ... · P (An)

שנובע להראות נרצה ב"ת, Fi∞i=1 כי נתון .A ∈ Tn+1 = σ (Fn+1,Fn+1, ...) כי בפרט נובע T שמהגדרת לב נשים

ב"ת. F1, ...,Fn, Tn+1 כי מכך

σ (G1) , σ (G2) אז בלתי־תלויות, לחיתוכים סגורות קבוצות G1,G2 אם כי נובע אי־תלות, עבור לעיל שהראינו מהלמה

אז בלתי־תלויות, לחיתוכים סגורות קבוצות G1,G2,G3 אם כי ולהראות להכליל ניתן בלתי־תלויות. σ־אלגבראות הן

N כנדרש. בלתי־תלויות, σ־אלגבראות הן σ (G1) , σ (G2 ∪ G3)

בעצמה. ב"ת T מסקנה:

.A ∈ T ⊂ T1 = σ (F1,F2, ...) בפרט אז A ∈ T אם כי לב נשים .A ∈ T לכל P (A ∩ A) = P (A)2כי להראות יש הוכחה:

N .P (A ∩ A) = P (A)2ולכן תלויות, בלתי T , T1 כי נובע מהלמה אבל

.P (A) ∈ 0, 1 לכן ,P (A) = P (A ∩ A) = P (A)2,A ∈ T לכל מסקנה:

(שנייה) הוכחה:

היא אלגבראות של עולה סדרה (איחוד אלגברה היא G :=⋃∞

n=1 Gn כי לב נשים .(Tnמ־ (ההפך Gn := σ (F1, ...,Fn) נגדיראלגברה).

השוויון את ולקבל דו־צדדית הכלה להראות ניתן

T1 := σ (F1,F2, ...) = σ (G)

P (A) − ǫ < כלומר .P (ABǫ) < ǫ שמתקיים כך Bǫ ∈ G קיימת ,ǫ > 0 שלכל נובע לעיל שהראינו ממשפט .A ∈ T תהי

.P (Bǫ) < P (A) + ǫ

A,Bǫ ולכן ,A ∈ T ⊂ TN+1 = σ (FN+1,Fn+2, ...) בפרט כי לב נשים .Bǫ ∈ GN = σ (F1, ...,FN ) שעבורו כלשהו N יהי

כלומר תלויות, בלתי

P (A)− ǫ < P (A ∩Bǫ) = P (A)P (Bǫ) < P (A) (P (A) + ǫ)

.P (A) ∈ 0, 1 בהכרח ולכן שרירותי, ǫ > 0 אבל

.nה־ הקואורדינטה של ה־σ־אלגברה להיות Fn את נגדיר n ∈ N לכל 5.12 ,12 מידת עם Ω = +1,−1N במרחב נתבונן דוגמה:

כלומר

Fn = ∅,Ω, ω | ∀n, ωn = +1 , ω | ∀n, ωn = −1

ביחס זנב מאורע הוא A = ∑∞n=1Xn exists המאורע כי להראות ניתן .Xn (ω) =

ωn

n מקרי משתנה נגדיר n ∈ N לכל

.Fn∞n=1 ל־σ־אלגבראות

a1, ..., an ∈ קבועים עבור P0 (ω | ω1 = a1, ..., ωi = ai) = 1

2iהצילינדרים על מהמידה קרתאודורי משפט ידי על המתקבלת המידה היא P 5כלומר,

.+1,−1

8

כחול בצבע בגרף קשת כל צובעים שכנים). של סופי מספר קודקוד (לכל סופיות דרגות ובעל קשיר בן־מניה גרף G = (V,E) דוגמה:

תלוי. בלתי באופן ,0 < p < 1 בהסתברות

כלומר .nה־ הקשת של ה־σ־אלגברה להיות Fn נגדיר שקיימת), (נניח הקשתות של כלשהי למניה ביחס

Fn := ∅,Ω, Ω | the n'th edge is blue , Ω | the n'th edge is not blue

תלויות. בלתי כולן הצביעות כי תלויות, בלתי σ־אלגבראות אלו Fn∞n=1 כי לב נשים

אינסופי. כחול קשירות רכיב קיים בהם המקרים אוסף להיות A את נגדיר

מאורע. הוא A טענה:

,A =⋃

v∈V Av כי ברור אינסופי. כחול קשירות לרכיב שייך v בהם המקרים אוסף להיות Av את נגדיר v קודקוד לכל הוכחה:

כחול קשירות לרכיב שייך v בהם המקרים (אוסף Acv המשלימה בקבוצה נתבונן מאורע. Av כי להראות מספיק לכן

סופי).

שרכיב המאורע להיות Biv את נגדיר i ∈ N לכל .v את שמכילים הסופיים הקשירים הגרפים כל של מניה

Gi

v

∞i=1

תהי

סופי מספר ידי על מתואר הוא שכן מאורע, Biv כי ברור סופי). רק (ולכן Gi

v של תת־גרף הוא v של הכחול הקשירות

N .Acv =

⋃∞i=1B

iv כי כי להראות ניתן צביעות. של

.P (A) ∈ 0, 1 ולכן זנב, מאורע A טענה:

שמסירים לאחר בגרף אינסופי כחול קשירות רכיב שקיים מאורע אותו הוא אינסופי, כחול קשירות רכיב שקיים המאורע הוכחה:

N קודקודים. של סופי מספר כל

עולה. מונוטונית פונקציה זו .f (p) = Pp (A) נגדיר טענה:

.(Coupling) צימוד שנקראת בטכניקה נשתמש .f (p1) ≤ f (p2) ,p1 < p2 שלכל להראות נרצה הוכחה:

בהסתברות בכלל נצבע ולא ,p2−p1 בהסתברות באדום נצבע ,p1 בהסתברות בכחול נצבע בו קשת וכל ,G הגרף את ניקח

קשירות רכיב שיש המאורע להיות A2 את נגדיר אינסופי. כחול קשירות רכיב שיש המאורע להיות A1 את נגדיר .1− p2אדומות. או כחולות הקשתות כל שבו אינסופי

N .f (p1) ≤ f (p2) ולכן ,A1 ⊂ A2 אבל .P (A2) = f (p2 − p1 + p1) = f (p2) וכי P (A1) = f (p1) כי נקבל

.1 הערך את ממנו והחל כלשהו, 0 ≤ pc ≤ 1 עד 0 ערך שמקבלת מדרגה פונקציית היא f מסקנה:

ממש? 0 < pc < 1 האם ?f (pc) מהו ?pc מהו לדעת נרצה

קיצוניות. דוגמאות שתי נראה אלה. לשאלות אחידות תשובות אין כי לב נשים תחילה הערה:

.f (p) = 0 מתקיים 0 ≤ p < 1 לכל שכן ,pc = 1 מתקיים (N (למשל שרשרת בגרף כי לב נשים •מתקיים 0 < p ≤ 1 לכל שכן ,pc = 0 מתקיים ל־∞, וגדלות הולכות העץ של הדרגות שבו עץ בגרף כי לב נשים

(אינטואיטיבית). f (p) = 1

pc(Z2)≥ 1

3 > 0 טענה:

כאן. זאת נוכיח לא אולם ,pc(Z2)= 1

2 כי למעשה ידוע הערה:

.f (p) = 0 ,p < 13 שלכל להראות יש הוכחה:

אינסופי. כחול קשירות ברכיב נמצא vש־ המאורע להיות Av את ונגדיר כלשהו, v ∈ Z2 בקודקוד נתבונן

.vב־ המתחיל n באורך כחול קשת) אותה על פעמיים חוזר שלא (כלומר פשוט מסלול שיש המאורע להיות Anv את נגדיר

.vב־ המתחילים n באורך מסלולים של סופי מספר יש כי מאורע, ודאי זה

P (Av) ≤ P (Anv ) נובע לכן בה). להשתכנע אפשר אבל טריוויאלית, לגמרי לא טענה (זו Av =

⋂∞n=1A

nv כי לב נשים

.n ∈ N לכל

,vמ־ לצאת אפשרויות 4 (יש 4 · 3n−1 היותר לכל הוא n באורך vב־ שמתחילים Z2 בגרף הפשוטים המסלולים מספר

.pn היא כחול להיות מסלול של ההסתברות כן כמו פשוט). הגרף כי כיוון, לכל להמשיך אפשרויות 3 היותר לכל ומשם

9

להציג ניתן אז ,vב־ המתחילים n באורך המסלולים מספר את שסופר מ"מ Xn אם כי לב נשים כעת

Xn =

Nn∑

i=1

X in

לכן .Nn ≤ 4 · 3n−1 ועבור כחול, iה־ המסלול למאורע אינדיקטור X in עבור

E [Xn] ≤ 4 · 3n−1 · pn =4

3· (3p)n

,p < 13 לכל ולכן

E [Xn] −→n→∞

0

מרקוב, מאי־שוויון שני, מצד

P (Anv ) = P (Xn ≥ 1) ≤ E [Xn] −→

n→∞0

N .P (Av) = 0 ולכן

תוצאה למעשה קיבלנו לכן קודקוד). מכל יציאות 4 (יש 4 היא Z2 של שהדרגה בתכונה רק השתמשנו הטענה בהוכחת הערה:

.pc (G) ≥ d3 · (3p)n מתקיים ,d דרגה בעל G לגרף יותר: כללית

pc(Z2)< 1 טענה:

של הריבועים הם הקודקודים בו בגרף כלומר ,Z2 של הדואלי בגרף נתבונן .f (p) = 1 עבורו p < 1 שיש להראות יש הוכחה:סמוכות.6 פיאות בין הן והקשתות ,Z2

e אם .Z2 בגרף e בדיוק אחת קשת עם נחתכת הדואלי בגרף ed קשת כל הבא: באופן הדואלי הגרף של צביעה נבצע

באדום. ed את נצבע - כחולה לא e אם כלל. ed את נצבע לא - כחולה

כחול קשירות רכיב בתוך לא v אם ורק אם ,v את המקיף הדואלי בגרף סופי אדום פשוט מסלול שיש להשתכנע ניתן

אינסופי.

מסוים אדום למסלול ההסתברות ולכן ,1 − p היא הדואלי בגרף קשת של באדום לצביעה שההסתברות עוד לב נשים

.(1− p)nהיא n באורך

להתרחק מותר n באורך (במסלול n · 3n−1 ידי על חסום v את המקיפים n באורך הפשוטים המסלולים מספר כן, כמו

.(n כדי עד רק vמ־

כי נקבל p > 23 עבור כלומר, .n3 (3 (1− p))

nידי על חסומה v את שמקיף n באורך אדום מסלול שיש ההסתברות לכן

לאפס. שואפת כזה מסלול לקיום ההסתברות

כחול קשירות ברכיב נמצא vש־ ההסתברות אז ,∑∞

n=1n3 (3 (1− p))

n< 1 שמתקיים כך ל־1, קרוב מספיק p אם לכן

N .1 היא ולכן חיובית, כלשהו אינסופי כחול קשירות רכיב שקיים ההסתברות ולכן חיובית, אינסופי

פשוטה. לא עובדה זו .pc(Zd)≥ 1

2d−1 כי ידוע כללי באופן הערה:

.Z2 ⊂ Z3 כי ,pc(Z3)≤ pc

(Z2)מתקיים שבפרט לב לשים ניתן

למעלה). (או למטה ריבוע ובחצי שמאלה) (או ימינה ריבוע בחצי Z2 הגרף של הסטה כמו נראה הדואלי הגרף 6בשרטוט,

10

III חלק

מקריים משתנים

מתקיים A ∈ F2 לכל אם מדידה, היא f : Ω1 → Ω2 פונקציה כי אומרים מדידים. מרחבים זוג (Ω1,F1) , (Ω2,F2) יהיו הגדרה:

.f−1 (A) ∈ F1

פונקציה הוא מקרי משתנה הממשיים. של בורל σ־אלגברת B עבור (R,B) המדיד במרחב נתבונן מדיד. מרחב (Ω,F) יהי הגדרה:

.X : Ω → R מהצורה מדידה

מתקיים A ∈ S לכל אם .(B = σ (S) (כלומר B את היוצרת כלשהי קבוצה S ⊂ 2B ותהי כלשהי, פונקציה X : Ω → R יהי טענה:

מקרי. משתנה X אז ,X−1 (A) ∈ F

.S את המכילה σ־אלגברה מהווה מדידה פונקציה X שעבורן הקבוצות אוסף כי להראות ניתן הוכחה:

מ"מ. היא ,a ∈ R לכל X−1 ((−∞, a]) ∈ F המקיימת X : Ω → R פונקציה מסקנה:

מ"מ. היא X : Ω → R רציפה פונקציה מסקנה:

מ"מ. (X1, X2) : Ω → R× R אז מ"מ, X1, X2 : Ω → R אם טענה:

מ"מ.∏

n∈NXn : Ω → RN אז מ"מ, של סדרה n ∈ N עבור Xn : Ω → R אם יותר, כללי באופן

וכן ,σ (S) = B ⊗ B מתקיים .S := (−∞, a]× (−∞, b] | a, b ∈ R בקבוצה נתבונן הוכחה:

(X1, X2)−1

((−∞, a]× (−∞, b]) = X−1 ((−∞, a]) ∩X−12 ((−∞, b]) ∈ F

בת־מניה. מכפלה עבור מתקיים דומה טיעון מדידה. פונקציה (X1, X2) כלומר

מ"מ. היא X2 X1 : Ω → R ההרכבה גם ,ΩX1−→ R

X2−→ R מ"מ זוג עבור טענה:

,B ∈ B לכל כי לב נשים הוכחה:

(X2 X1)−1

(B) = X−11

(X−1

2 (B))

.X−12

(X−1

1 (B))∈ F נובע X1 וממדידות ,X−1

2 (B) ∈ B נובע X2 ממדידות

מסקנות:

מ"מ. הוא מ"מ של לינארי צירוף .1

מדידה). ולכן רציפה (פונקציה בקבוע כפל פונקציית של הרכבה ידי על מתקבל tX אז מ"מ, X : Ω → R אם הוכחה:

ולכן רציפה (פונקציה הסכום פוקציית של הרכבה ידי על מתקבל X1 +X2 אז מ"מ, זוג X1, X2 : Ω → R אם כן כמו

שהראינו). כפי מדידה פונקציה הוא (שגם (X1, X2) הזוג על מדידה)

מ"מ. הם מ"מ, של (כשמוגדרת) ומנה כפל .2

מ"מ. הוא מ"מ של מוחלט וערך max,min .3

מ"מ.7 הם supn∈NXn, infn∈NXn אז מ"מ, סדרת Xn∞n=1 אם .4

Y −1 ((−∞, a]) = ולכן ,Y ∈ (−∞, a] ⇐⇒ ∀n ∈ N, Xn ∈ (−∞, a] כי לב נשים .Y := supn∈NXn נסמן הוכחה:

.⋂

n∈NX−1n ((−∞, a]) ∈ F

.R = R ∪ ±∞ המדיד המרחב את להגדיר כיצד ומובן אינסופיים, ערכים מקבל זה מקרי משתנה 7אולי

11

מ"מ. הם lim supn→∞

Xn, lim infn→∞

Xn אז מ"מ, סדרת Xn∞n=1 אם .5

כי לב נשים הוכחה:

lim supn→∞

Xn = infN

(

supN≤n

Xn

)

lim infn→∞

Xn = supN

(

infN≤n

Xn

)

מדידות. פונקציות של הרכבה זו כלומר

,((X1 −X2)−1 (0) מהצורה הפוכה תמונה זו (כי מדידה ω ∈ Ω | X1 (ω) = X2 (ω) אז מ"מ, זוג X1, X2 : Ω → R אם .6

מדידה. ω ∈ Ω | X1 (ω) 6= X2 (ω) גם ולכן

כי מ"מ, הוא limn→∞

Xn אז מ"מ, סדרת Xn∞n=1 אם .7

limn→∞

Xn (ω) =

ω ∈ Ω | lim supn→∞

Xn (ω) = lim infn→∞

Xn (ω)

כל את ולזרוק ,R = R ∪ ±∞ ∪ ∗ יותר גדול למרחב מעל בו להתבונן ניתן קיים, לא הגבול כאשר גם הערה:

.∗ לנקודה ההתכנסות אי נקודות

אם (כ"ת), תמיד כמעט Xna.s.−→n→∞

X כי אומרים מ"מ, סדרת Xn∞n=1 אם הגדרה:

P(

ω ∈ Ω | limn→∞

Xn (ω) = X (ω))

= 1

שקול: באופן מדיד. X שעבורה המינימלית ה־σ־אלגברה להיות σ (X) ⊂ F את נגדיר מ"מ, X אם הגדרה:

σ (X) :=X−1 (B) | B ∈ B

σ־אלגברה). שזו לראות (קל

בלתי־תלויה. σ־אלגבראות קבוצת σ (Xi)i∈I אם בלתי־תלויה, נקראת Xii∈I כלשהי מ"מ קבוצת הגדרה:

בזוגות. בלתי־תלויה היא Xii∈I כי נאמר אז בלתי־תלויים, Xi, Xj כי מתקיים i, j ∈ I לכל אם

P (Yn = 1) = P (Yn = −1) = התפלגות עם ב"ת, מ"מ YnNn=1 יהיו ב"ת. לא אבל בזוגות ב"ת למ"מ דוגמה נראה חשובה: הערה

מטבע). הטלות (כמו 12

הריקה.8 הקבוצה ללא 1, ..., N של הקבוצות תתי של חח"ע מניה פונקציית c :1, ..., 2N − 1

→ 21,...,N\ ∅ תהי

נגדיר ,1 ≤ i ≤ 2N − 1 כל עבור

Xi =∏

n∈c(i)

Yn

הבינארי. בייצוג 1 מופיע שבה הקבוצה תת את ומחזירה ,i המספר של הבינארי הייצוג על מסתכלת c (i) 8למשל

12

ב"ת. לא אבל בזוגות ב"ת Xi2N−1

i=1 טענה:

כך אם (בה"כ). Xjב־ מופיע ולא Xiב־ המופיע כלשהו Yk קיים ,i 6= j שלכל לב נשים בזוגות. ב"ת הם מדוע נראה הוכחה:

.Xj במשתנה תלוי לא באופן 12 ,

12 בהסתברויות ±1 תוצאה מקבל Xi כי ונקבל ,Yk במשתנה נתנה

1 7→ 1 , 2 7→ 2 , 3 7→ המעתיקה c : 1, 2, 3 → 1 , 2 , 1, 2 כי מתקיים .N = 2 במקרה נתבונן דוגמה:

.X1 = Y1, X2 = Y2, X3 = Y1 · Y2 המקריים המשתנים שלושת את נקבל .1, 2אז לא ואם X3 = 1 אז כן אם זהות; יצאו התוצאות מטבע הטלות בשתי האם הבודק כמ"מ X3 על לחשוב (ניתן

נקבל: .(X3 = −1

P (X1 = X2 = X3 = 1) =1

46= 1

8=

1

23= P (X1 = 1)P (X2 = 1)P (X3 = 1)

ב"ת. לא הם אבל ב־k־יות) ב"ת אפלו (או בשלשות ב"ת שהם מ"מ קבוצת שנקבל כך הנ"ל הדוגמה את לשנות תרגיל:

מקרי משתנה של התפלגות 6

ידי על B ∈ B לכל המוגדרת ,(R,B) על µX הסתברות מידת היא X של ההתפלגות מ"מ. X : Ω → R יהי הגדרה:

µX (B) := P (X ∈ B)

.(X ∈ B = ω ∈ Ω | X (ω) ∈ B מקוצר: סימון (זהו

ידי על המוגדרת ,FX : R → [0, 1] פונקציה היא X של המצטברת ההתפלגות פונקציית מ"מ. X : Ω → R יהי הגדרה:

FX (a) := µX ((−∞, a]) = P (X ≤ a)

:X : Ω → R מ"מ לכל תכונות:

חלש עולה מונוטונית FX .1

FX (a) −→a→−∞

0 ,FX (a) −→a→∞

1 .2

מימין רציפה FX .3

היא F ש־ כך ,X מ"מ עם הסתברות מרחב יש אז הנ"ל, התכונות שלוש את המקיימת כלשהי פונקציה F : R → [0, 1] אם טענה:

.X של המצטברת ההתפלגות פונקציית

ידי על ,R על הסתברות מידת להיות P ונגדיר הזהות, פונקציית להיות X : R → R את ניקח הוכחה:

µ ((−∞, a]) := F (a)

וכן

µ ((a, b]) := F (b)− F (a)

.B כל על מידה מתקבלת קרתאודורי ממשפט

הומאומורפיזם), אפילו (למעשה ועל חח"ע F : R → (0, 1) אז ורציפה, ממש עולה וגם הנ"ל, התכונות כל את מקיימת F אם תרגיל:

.FX = F כי להראות .X := F−1 : (0, 1) → R כך אם נגדיר הפיכה. ולכן

13

אינווריאנטיות מדידות קבוצות של הסתברות 7

.T−1 (A) = A אם T־אינווריאנטית, היא A ⊂ Ω קבוצה כי נאמר כלשהי. טרנספורמציה T : Ω → Ω תהי הגדרה:

שהיא A ∈ F מדידה קבוצה לכל אם ארגודית, נקראת (Ω,F , P ) כלשהו הסתברות מרחב של T : Ω → Ω טרנספורמציה הגדרה:

.P (A) ∈ 0, 1 מתקיים T־אינווריאנטית,

ארגודית. היא T((xk)k∈Z

)= (xk+1)k∈Z המוגדרת T : RZ → RZ הטרנספורמציה הזזה) של (ארגודיות משפט:

קולמוגורוב. של 0− 1 חוק להוכחת מאוד דומה זה משפט הוכחת

מהאינדקסים סופית קבוצה רק מזיזה היא אם סופית, היא π : I → I פרמוטציה כי נאמר כלשהי, אינדקסים קבוצת I אם הגדרה:

.|i ∈ I | π (i) 6= i| <∞ כלומר: .I של

.Tπ((xi)i∈I

)=(xπ(i)

)

i∈Iידי על ,Tπ : RI → RI טרנספורמציה משרה π : I → I סופית פרמוטציה כל הגדרה:

ארגודית. היא Tπ : RI → RI הטרנספורמציה ,π : I → I סופית פרמוטציה לכל (Hewitt-Savage של 0− 1 (חוק משפט:

.R דווקא לאו כללי, במרחב גם לעסוק ניתן המשפטים בשני הערה:

בכחול, בגרף כלשהי קשת לצבוע ההסתברות p (כאשר Zd על p פרמטר עם בפרקולציה נתבונן הזזה) של הארגודיות (למשפט דוגמה:

הצביעות). בשאר תלוי בלתי באופן

כי לעיל ראינו אינסופי). ערך לקבל (שעלול מקרי כמשתנה בזה נתבונן אינסופיים. כחולים קשירות רכיבי כמה לבדוק ננסה

מ"מ. אכן זה כי להשתכנע ניתן ולכן מאורע, אכן הוא אינסופי" כחול קשירות רכיב "קיים המאורע

,1 הוא זה קבוע Zd עבור כי להראות (ניתן כ"ת קבוע הוא האינסופיים הכחולים הקשירות רכיבי מספר נתון, p עבור כי נראה

ההזזה. ארגודיות ידי על זאת נראה כאן). זאת נראה לא אולם

ונצמיד ,(−∞ ועד (מ־∞ Z2ב־ קשתות של אנכי אינסופי בישר נתבונן .Zd לכל תקף יהיה דומה וטיעון ,Z2 על נחשוב

מהן היוצאות קשתות עם ישרים ידי על Z2 כל את לכסות שניתן לב נשים משמאל. אחת קשת הנ"ל בישר קודקוד לכל

כלומר .li של הצביעות כל קבוצת Si תהי .lii∈Z ידי על אלה קשתות קבוצות כל של מניה נסמן הנ"ל. מהצורה לשמאל

מרחב זה האנכית). את והשנייה האופקית, הצביעה את קובעת הראשונה הקואורדינטה (כאשר Si := 0, 1Z × 0, 1Zכלשהי צביעה של הגרלה הוא Xi : Ω → Si מקרי משתנה .(R2ל־ איזומורפי למעשה (והוא בורל ב־σ־אלגברת המצויד מכפלה

.li של

הצביעה כלשהו ω0 ∈ Ω עבור כי נניח וש"ה. ב"ת מ"מ של סדרה זו .Z2 על הצביעות כל את המייצגת Xii∈Z בסדרה נתבון

לעיל שהגדרנו ההזזה העתקת T : RZ → RZ עבור כי לב נשים אז אינסופיים, כחולים קשירות רכיבי k מכילה Xi (ω0)i∈Z

לכל נסמן אם ולכן אינסופיים, כחולים קשירות רכיבי k מניבה היא גם T (Xi (ω0))i∈Z = Xi+1 (ω0)i∈Z כי מתקיים

,k ≥ 0

Ek :=ω ∈ Ω | Xi (ω)i∈Z ontains k innite blue onne ted omponents

.P (Ek) ∈ 0, 1 ולכן ,k ≥ 0 לכל T־אינווריאנטית קבוצה היא Ek כי נקבל

וצפיפות רציפים, מקריים משתנים 8

מתקיים A ∈ F לכל אם ,ν ≪ µ ונסמן ,µל־ ביחס בהחלט רציפה ν נאמר עליו. מידות ν, µ ויהיו מדיד, מרחב (Ω,F) יהי תזכורת:

.ν (A) = 0 גם אז µ (A) = 0 אם כי

14

מדידה פונקציה קיימת אזי ,ν ≪ µ המקיימות עליו מידות זוג ν, µ וכן מדיד, מרחב (Ω,F) אם רדון־ניקודים) (משפט תזכורת:

,A ∈ F לכל שמתקיים כך רדון־ניקודים, נגזרת המכונה dνdµ : Ω → R

µ (A) =

ˆ

A

dν

dµdµ

.µX ≪ m אם רציף מ"מ X כי נאמר .(R,B) על לבג מידת m תהי .µX התפלגות בעל מ"מ X יהי הגדרה:

,B ∈ B לכל המקיימת ,X של הצפיפות היא המתאימה רדון־ניקודים נגזרת fX := dmdµX

כי נאמר זה במקרה

µX (B) :=

ˆ

B

fXdm

.F ′X = fX אז ,R בכל גזירה FX המצטברת ההתפלגות אם הערה:

להיות X של התוחלת את מקרי.נגדיר משתנה X : Ω → R יהי הגדרה:

E [X ] :=

ˆ

Ω

XdP

אז הסתברות), מרחב אותו על מוגדרים לא הם אם (אפילו שווי־התפלגות X,Y אם כלומר, בהתפלגות. רק תלויה התוחלת הערה:

.E [X ] = E [Y ]

המונוטונית ההתכנסות משפט ידי ועל פשוטות, פונקציות עבור מלינאריות להסיק מציינות, פונקציות עבור זאת להראות (ניתן

פשוטות). פונקציות ידי על מונוטוני לקירוב ניתנת מדידה פונקציה כל שכן מדידה, פונקציה לכל זאת להסיק נוכל מיד שנצטט

הבאים: מהדברים אחד לפחות מתקיים וגם כ"ת, Xn → X אם טענה:

החסומה). ההתכנסות (משפט n ∈ N לכל |Xn| ≤M שעבורו M ∈ R חסם קיים .1

המונוטונית). ההתכנסות (משפט עולה מונוטונית סדרה Xn .2

הנשלטת). ההתכנסות (משפט n ∈ N לכל |Xn| ≤ Y שמתקיים כך ,E [Y ] <∞ עם Y מ"מ קיים .3

אזי

E [Xn] → E [X ]

נשלטת. ולא מונוטונית לא חסומה, לא היא אבל כ"ת, Xn → 0 מקיימת זו סדרה Xn = n · 1[0,1/n] נגדיר (אנטי־דוגמה) דוגמה:

.E [Xn] = 1 6 −→n→∞

0 = E [0] כי לב נשים

בה שההתכנסות המקריים המשתנים מרחב על להגדיר שניתן טופולוגיה אין כלומר טופולוגית. התכנסות אינה כ"ת התכנסות טענה:

כ"ת. התכנסות היא

15

an −→n→∞

a אזי במרחב. כלשהי נקודה a ותהי סדרה an∞n=1 תהי הבאה: העובדה מתקיימת טופולוגי מרחב שבכל לב נשים הוכחה:

נצביע 9.anki−→i→∞

a המתכנסת

anki

∞

i=1תת־תת־סדרה יש ank

∞k=1 תת־סדרה לכל אם ורק אם הנתונה, בטופולוגיה

הנ"ל. התנאי את מקיימת שהיא למרות כ"ת, מתכנסת שאינה מ"מ סדרת על

מקרי משתנה n ∈ N לכל נגדיר לבג. ומידת בורל σ־אלגברת עם Ω = [0, 1] במרחב נתבונן

Xn (t) = 1m2−k≤t≤(m+1)2−k

.m = 0, 1, ..., 2k−1 עבור n = m+ 2k ייצוג עבור

לא Xn ולכן ,nk∞k=1 אינדקסים אינסוף עבור Xnk(t) = 1 שעבורה t ∈ A יש ,A ⊂ [0, 1] קבוצה תת לכל כי מתקיים

לאפס. כ"ת מתכנסת

לאפס. כ"ת המתכנסת תת־תת־סדרה לה קיימת ,Xnk∞k=1 תת־סדרה בהינתן כי להראות ניתן מאידך,

כ"ת. המתכנסת Xnkתת־סדרה יש אז בהסתברות, Xn → X אם מ"מ. סדרת Xn∞n=1 תהי טענה:

יסודיות תוצאות 9

צ'בישב) (מרקוב, אי־שוויונים 9.1

,C > 0 לכל אי־שלילי, מ"מ X יהי מרקוב) (אי־שוויון משפט:

P (X ≥ C) ≤ E [X ]

C

ולכן ,C · 1X≥C ≤ X מתקיים .1X≥C באינדיקטור נתבונן הוכחה:

E [X ] ≥ E [C · 1X≥C ] = C · E [1X≥C ] = C · P (X ≥ C)

הנדרש. את ונקבל Cב־ נחלק

,C > 0 לכל אזי ושונות, תוחלת בעל מ"מ X יהי צ'בישב) (אי־שוויון משפט:

P (|X −E [X ]| ≥ C) ≤ V ar (X)

C2

ונקבל ,C2 והקבוע (X −E [X ])2 המקרי המשתנה על מרקוב אי־שוויון את נפעיל הוכחה:

P (|X −E [X ]| ≥ C) = P(

(X −E [X ])2 ≥ C2)

≤E

[

(X −E [X ])2]

C2=V ar (X)

C2

כנדרש.

תת־תת־סדרה שלכל ברור שעבורה ,ank∞k=1

∩U = ∅ תת־סדרה ויש a של U סביבה יש אז ,aל־ מתכנסת לא an אם השני, בכיוון מאליו. מובן ⇐= 9הכיוון

.aל־ מתכנסת לא תת־תת־סדרה כל כלומר ,

anki

∞

i=1

∩ U = ∅ מתקיים

16

הגדולים המספרים חוק 9.2

מבוא 9.2.1

אז ,∑

i P (Ei) = ∞ אם בזוגות. ב"ת E1, E2, ... יהיו בורל־קנטלי) של השנייה (הלמה משפט:

P

(

lim supi→∞

Ei

)

= P

⋂

n

⋃

i≥n

Ei

= 1

מתקיים הנ"ל בתנאים למה:

P

(⋃

i

Ei

)

= 1

מתקיים אז ברנולי, מפולגים אינדיקטורים .pi := E [χi] = P (Ei) נסמן .Ei של האינדיקטור χi יהי הלמה: הוכחת

V ar (χi) = pi (1− pi) ≤ pi

התלות: אי מהנחת אזי .Yn :=∑n

i=1 χi נגדיר

E [Yn] =

n∑

i=1

E [χi] =

n∑

i=1

pi

V ar (Yn) =

n∑

i=1

V ar (χi) =

n∑

i=1

pi (1− pi) ≤n∑

i=1

pi

צ'בישב: מאי־שוויון נקבל כעת

P

(n⋂

i=1

Eci

)

= P (Yn = 0) = P (|Yn − E [Yn]| ≥ E [Yn])

≤ V ar (Yn)

E [Yn]2 ≤ 1

∑ni=1 pi

ולכן

P

( ∞⋂

i=1

Eci

)

= limnP

(n⋂

i=1

Eci

)

≤ limn

1∑n

i=1 pi= 0

נובע לכן

P

( ∞⋃

i=1

Ei

)

= 1

N כנדרש.

17

,n שלכל נובע מהלמה הוכחה:

P

( ∞⋃

i=n

Ei

)

= 1

ולכן

P

(⋂

n

n⋃

i=1

Ei

)

= limnP

(n⋃

i=1

Ei

)

= limn

1 = 1

כנדרש.

,ǫ > 0 לכל אם ,XnP−→

n→∞X ונסמן ,Xל־ בהסתברות מתכנסת Xn כי נאמר מ"מ. X ויהי מ"מ סדרת Xnn תהי הגדרה:

limn→∞

P (|Xn −X | > ǫ) = 0

,n > N שלכל כך ,N קיים ǫ > 0 לכל אם ורק אם XnP−→

n→∞X טענה:

P (ω ∈ Ω | |Xn (ω)−X (ω)| > ǫ) < ǫ

בהיחבא שמופיע זה הוא (השני תפקיד שמשחקים אפסילונים שני יש הראשונה שבהגדרה לב נשים כתרגיל. ההוכחה את נשאיר הערה:

אפסילון. אותו להיות יכול שזה כך על מצביעה הטענה בגבול).

הגדולים המספרים של החלש החוק 9.2.2

אז .µ <∞ תוחלת עם ושווי־התפלגות בזוגות ב"ת מ"מ X1, X2, ... יהיו הגדולים) המספרים של החלש (החוק משפט:

1

n

n∑

i=1

XiP−→

n→∞µ

הוכחה:

.σ := V ar (Xi) <∞ שונות קיימת זה במקרה .i לכל |Xi| ≤M עבורו ,M חסם קיים כאשר תחילה נדון •התלות אי מהנחת ואז ,Sn := 1

n

∑ni=1Xi נסמן

E

[1

nSn

]

=1

n

n∑

i=1

E [Xi] =1

nnµ = µ

V ar

(1

nSn

)

=1

n2

n∑

i=1

V ar (Xi) =n

n2σ =

σ

n

,ǫ > 0 שלכל צ'בישב, אי־שוויון ידי על נובע מכאן

P

(∣∣∣∣

1

nSn − µ

∣∣∣∣> ǫ

)

≤ V ar (Sn)

ǫ2=

σ/n

ǫ2−→n→∞

0

18

הבאה. הלמה את נוכיח כך לשם .i לכל Xi ≥ 0 בו במקרה כעת נדון •.E [X · 1X≥K ] < ǫ שמתקיים כך K קיים ǫ > 0 לכל אז .µ <∞ תוחלת עם אי־שלילי מ"מ X אם למה:

K0 ≥ X (ω) עבור ,ω ∈ Ω לכל כמעט (כי K → ∞ כאשר כ"ת YK → 0 מתקיים YK := X · 1X≥K נסמן הוכחה:

הנשלטת ההתכנסות ממשפט ולכן ,K לכל |YK | ≤ X גם אבל .(YK0(ω) = 0 מתקיים גדול מספיק

E [YK ] → 0

N כנדרש.

מספיק. גדול n כל עבור P(∣∣ 1nSn − µ

∣∣ > ǫ

)< ǫ כי להראות ונרצה ,ǫ > 0 יהי כך אם

.E [X · 1X≥K ] < ǫ2 שעבורו K נבחר מהלמה

.Xi = X ′i +X ′′

i ואז .X ′′i := Xi · 1Xi≥K ,X ′

i := Xi · 1Xi<K נסמן

.Sn = S′n + S′′

n ואז .S′′n =

∑ni=1X

′′i ,S′

n =∑n

i=1X′i ,Sn =

∑ni=1Xi בהתאם נסמן

.µ = µ′ + µ′′ ואז .µ′′ := E [X ′′n ] ,µ

′ := E [X ′n] עוד נסמן

נחשב:

P

(∣∣∣∣

1

nSn − µ

∣∣∣∣> ǫ

)

= P (|Sn − µn| ≥ ǫn) = P (|(S′n − µ′n) + (S′′

n − µ′′n)| ≥ ǫn)

≤ P (|S′n − µ′n| ≥ ǫn) + P (|S′′

n − µ′′n| ≥ ǫn)

מקיים הראשון המחובר

P (|S′n − µ′n| ≥ ǫn) ≤ 1

ǫ2n2V ar (Sn) =

1

ǫ2n2nV ar (X ′

i) ≤K2

ǫ2n−→n→∞

0

מקיים השני המחובר

P (|S′′n − µ′′n| ≥ ǫn) ≤ P (S′′

n ≥ ǫn) ≤ µ′′

ǫn−→n→∞

0

מרקוב). אי־שוויון הוא השני השוויון אי (כאשר

.X−i := Xi · 1Xi<0 ,X+

i = Xi · 1Xi≥0 נכתוב הכללי. המקרה את נראה כעת •.µ = µ+ − µ− ואז ,µ−, µ+ את נגדיר כן .Sn = S+

n − S−n ואז ,S−

n , S+n את נגדיר דומה באופן

. 1nSn → µ+ − µ− = µ ולכן , 1nS−n → µ− וגם 1

nS+n → µ+ כי נקבל לבסוף

הגדולים המספרים של החזק החוק 9.2.3

אם ,Xna.s.−→n→∞

X ונסמן ,Xל־ בוודאות כמעט מתכנסת Xn כי נאמר מ"מ. X ויהי מ"מ סדרת Xnn תהי הגדרה:

P(

ω ∈ Ω | limn→∞

Xn (ω) = X (ω))

= 1

אזי .µ <∞ תוחלת עם ושווי־התפלגות בזוגות!) (לאו־דווקא ב"ת מ"מ X1, X2, ... יהיו הגדולים) המספרים של החזק (החוק משפט:

1

n

n∑

i=1

Xia.s.−→n→∞

µ

19

הוכחה:

.σ := V ar (Xi) <∞ שונות שונות קיימת זה במקרה .i לכל |Xi| ≤M עבורו ,M חסם קיים כאשר תחילה נדון •צ'בישב ומאי־שוויון ,Sn :=

∑ni=1Xi נסמן בזוגות. ב"ת Xi כי זה בשלב עוד נניח

P

(∣∣∣∣

1

nSn − µ

∣∣∣∣> ǫ

)

≤ V ar(Sn

n

)

ǫ2=

σ

ǫ2n

כי ונקבל , 1n2Sn2 הסדרה בתת נתבונן

P

(∣∣∣∣

1

n2Sn2 − µ

∣∣∣∣> ǫ

)

≤ σ

ǫ2n2

,An :=∣∣ 1n2Sn2 − µ

∣∣ > ǫ

נסמן אם בורל־קנטלי, של השנייה מהלמה כך אם מתכנס. המתאים ההסתברויות טור ולכן

P

(

lim supn→∞

An

)

= 0

,n > N שלכל כך N קיים 1 בהסתברות כלומר

∣∣∣∣

Sn2

n2− µ

∣∣∣∣≤ ǫ

כלומר

1

n2Sn2

a.s.−→n→∞

µ

,n2 ≤ k < (n+ 1)2 לכל כי לב נשים הסדרה. לכל מתקיימת זו התכנסות כי להראות נרצה

Sn2 − 2Mn ≤ Sk ≤ Sn2 + 2Mn

ולכן

n2

k

(1

n2Sn2 − 2

M

n

)

≤ 1

kSn2 − 2M

n

k≤ 1

kSk ≤ 1

kSn2 + 2M

n

k≤(

1

n2Sn2 + 2

M

n

)n2

k

ולכן ,2Mn ≈ 0 וגם n2

k ≈ 1 אז ,k, n→ ∞ וכאשר

1

kSk ≈ 1

n2Sn2 ≈ µ

הבאה. הלמה את נוכיח כך לשם .i לכל Xi ≥ 0 בו במקרה כעת נדון •,µ <∞ היא והתוחלת ,i לכל Xi ≥ 0 אם למה:

P

(

lim sup1

nSn ≤ 4µ

)

= 1

מאורעות). של ולא מספרים של lim sup שזה לב (נשים

20

,X ′′i := Xi ·1Xi>2k ,X ′

i := Xi ·1Xi≤2k נגדיר ,i = 1, ..., 2k עבור מסוים, k עבור . 12kS2k הסדרה בתת נתבונן הוכחה:

.S2k = S′2k + S′′

2k נגדיר בהתאמה .Xi = X ′i +X ′′

i ואז

הבא: בחסם נתבונן

P

(1

2kS2k > 2µ

)

= P

(1

2kS′2k +

1

2kS′′2k > 2µ

)

≤ P(S′2k > 2µ2k

)+ P (S′′

2k > 0)

מתקיים: השני המחובר עבור –

P (S′′2k > 0) ≤ 2kP (X ′′

i > 0) = 2kP(Xi > 2k

)

מתקיים: הראשון המחובר עבור –

P(S′2k > 2µ2k

)= P

(S′2k − µ2k > µ2k

)≤ P

(∣∣S′

2k − µ2k∣∣ > µ2k

)

(µ′≤µ) ≤ P(∣∣S′

2k − µ′2k∣∣ > µ2k

)

(Chebyshev) ≤ 1

µ222kV ar (S′

2k) =1

µ222k2kV ar (X ′

i) =1

µ22kV ar (X ′

i)

=1

µ22kV ar

(Xi · 1Xi≤2k

)≤ 1

µ22kE[X2

i · 1Xi≤2k]

.pi := P(2i ≤ Xi ≤ 2i+1

)נסמן כעת

השני: המחובר עבור –

∞∑

k=1

P (S′′2k > 0) ≤

∞∑

k=1

2kP(Xi > 2k

)=

∞∑

k=1

2k∞∑

i=k

pi

=

∞∑

i=1

i∑

k=1

2kpi =

∞∑

i=1

pi

i∑

k=1

2k =

∞∑

i=1

pi(2i+1 − 1

)

≤ 2

∞∑

i=1

pi2i ≤ 2E [Xi] = 2µ <∞

∑∞i=1 pi2

i = ולכן Yi ≤ Xi אז Yi := 2i · 12i≤Xi≤2i+1 אם כי הוא האחרונה בשורה האי־שוויון כאשר

.(E [Yi] ≤ E [Xi]

הראשון: המחובר עבור –

∞∑

k=1

P(S′2k > 2µ2k

)≤ 1

µ2

∞∑

k=1

2−kE[X2

i · 1Xi≤2k]≤ 1

µ2

∞∑

k=1

2−kk−1∑

i=1

22i+2pi

=1

µ2

∞∑

i=1

22i+2pi

∞∑

k=i+1

2−k =1

µ2

∞∑

i=1

22i+22−ipi

≤ 1

µ24

∞∑

i=1

2ipi ≤4

µ2E [Xi] <∞

.(Xi ≤(2i+1

)2= 22i+2 ולכן ,2i ≤ Xi ≤ 2i+1 כי הוא הראשונה בשורה האחרון השוויון אי (כאשר

21

Ak := נסמן אם בורל־קנטלי, של הראשונה מהלמה ולכן ,∑∞

k=1 P(

12kS2k > 2µ

)< ∞ כי מצאנו כך אם

,

12kS2k > 2µ

P

(

lim infk→∞

Ak

)

= 0

,k > K שלכל כך ,K קיים 1 בהסתברות כלומר

1

2kS2k ≤ 2µ

מתקיים ,k > K לאיזה 2k ≤ n < 2k+1 כל עבור כעת

1

2nSn ≤ 1

2kSn ≤ 1

2kS2k ≤ 2µ

לכן

P

(

lim supn→∞

1

nSn ≤ 4µ

)

= 1

N בלמה. כנדרש

,k > K שלכל כך K ונבחר ,ǫ > 0 נקבע ,Xi ≥ 0 המקרה עבור כך אם

E [Xi · 1Xi≥k] < ǫ

,µ = µ′ + µ′′ ונקבל והממוצעים, התוחלות את בהתאמה (נסמן X ′′i := Xi · 1Xi≥k וכן X ′

i := Xi · 1Xi<k נכתוב

.(Sn = S′n + S′′

n

לכן .1 בהסתברות lim supn→∞1nS

′′n ≤ 4µ′′ ≤ 4ǫ כי נובע ומהלמה , 1nS

′n

a.s.−→n→∞

µ′ כי נובע הראשון מהמקרה

,1 בהסתברות

µ− ǫ ≤ µ′ ≤ lim infn→∞

1

nSn ≤ lim sup

n→∞

1

nSn = µ′ + 4ǫ ≤ µ+ 3ǫ

,1 בהסתברות ולכן שרירותי, ǫ > 0 אבל

lim supn→∞

1

nSn = µ = lim inf

n→∞1

nSn

,1 בהסתברות כלומר

1

nSn

a.s.−→n→∞

µ

את אופן באותו ונקבל ,X−i = min (Xi, 0) ,X+

i := max (Xi, 0) כאשר ,Xi := X+i + X

′i נכתוב הכללי במקרה •

הנדרש.

החלש), (החוק 1nSn

P−→n→∞

µ אז שלהם, התוחלת היא µ < ∞ שאם הראינו ושווי־התפלגות. ב"ת מ"מ Xi∞i=1 יהיו תרגיל:

החזק). (החוק 1nSn

a.s.−→n→∞

µ

22

התוחלת? הוא הנ"ל הערך כי אומר זה האם כ"ת, או בהסתברות כלשהו, לערך ממוצעת התכנסות מתקיימת כי יודעים אם מה

אליה)? היא שההתכנסות יודעים כבר תוחלת יש אם (כי תוחלת שקיימת אומר זה האם אחרות, במילים

אכן זה כ"ת התכנסות מתקיימת ואם תוחלת, בהכרח שיש אומר לא זה בהסתברות התכנסות מתקיימת שאם היא התשובה

תוחלת. בהכרח שיש אומר

לאפס בהסתברות מתכנסת שלהם הממוצעים סדרת ועדיין חסרי־תוחלת, שהם וש"ה ב"ת מ"מ לסדרת דוגמה יש כלומר,

(תרגיל). כ"ת מתכנסת שלהם הממוצעים שסדרת כך כנ"ל מ"מ סדרת אין מנגד (תרגיל).

כסף 2 פי מכילה מהמעטפות שאחת ידוע כסף. שמכילות שתיים מבין אחת מעטפה לבחור ניתן המעטפות) שתי (פרדוקס דוגמה:

להחליף? כדאי האם מעטפה. להחליף ההזדמנות לנו וניתנת בה, יש כסף כמה וחושפים אחת מעטפה בוחרים מהשנייה.

מקיים השנייה) במעטפה (הסכום X1 אז שראינו. מה הוא X0 נניח

E [X1] =1

2· 12X0 +

1

2· 2X0 =

5

4X0 > X0

על השפעה אין אחת מעטפה שפתחנו ולעובדה המעטפות, שתי בין סימטריה שיש ברור שני מצד להחליף. כדאי תמיד כלומר

הבחירות. שתי בין הבדל כל שאין ברור ולכן זו, סימטריה

מוגדרות אינן במעטפות הסכומים של ההסתברויות ולכן הטבעיים, על אחידה התפלגות קיימת שלא היא זה פרדוקס עם הבעיה

תקף. הסתברותי למודל המצייתת הפרדוקס של יותר משוכללת גרסה נראה היטב.

הערכים זוג את ,1/2 בהסתברות (3, 9) הערכים זוג את נכניס כלומר, .3 של חזקות הן למעטפות שנכניס הערכים כי נניח

.P(3n, 3n+1

)= 1/2n כלומר, הלאה. וכן ,1/4 בהסתברות (9, 27)

(X0, X1) = או ,1/2k בהסתברות (X0, X1) =(3k, 3k+1

)מקרים: משני אחד ייתכן .3k ומצאנו אחת מעטפה פתחנו כי נניח

.1/2k+1 בהסתברות(3k−1, 3k

)

כי לב נשים

P(X0 = 3k ∪X1 = 3k

)=

1

2k+

1

2k−1=

3

2k

כי נובע ולכן

pk := P((3k, 3k+1

)| We found 3k

)=P(3k, 3k+1

)

3/2k=

1/2k

3/2k=

1

3

pk−1 := P((3k−1, 3k

)| We found 3k

)=P(3k−1, 3k

)

3/2k=

1/2k−1

3/2k=

2

3

היא החלפה של במקרה הרווח תוחלת כי נקבל כעת

pk · 3k+1 − pk−1 · 3k =1

3· 3k+1 − 2

3· 3k = 3k − 2 · 3k−1 = 3k−1 > 0

להחליף. כדאי תמיד כלומר,

מהחלפת הרווח תוחלת כי שמצאנו העובדה לכן אינסופית, היא זו התפלגות עבור הרווח שתוחלת היא זה לפרדוקס הסיבה

אינסופיים. ערכים זוג של בהפרש מדובר שכן למעשה, היטב מוגדרת אינה חיובית היא המעטפה

23

וצ'רנוף הופדינג וחסמי מומנטים, יוצרת פונקציה 9.3

להיות ψX : R → R שלו המומנטים יוצרת הפונקציה את נגדיר כלשהו. מ"מ X יהי הגדרה:

ψX (t) := E[etX]

זו. תוחלת קיימת אם

אזי ,E [X ] := µ קיימת אם הערה:

E[etX]= E

[ ∞∑

k=0

tkXk

k!

]

=

∞∑

k=0

tk

k!E[Xk]

החסומה. ההתכנסות משפט ידי ועל ,(|X | ≤M ) חסום X כאשר מתקיים האמצעי השוויון כאשר

פוביני, משפט ידי על מומנטים, יוצרות פונקציות ובעלי ב"ת X,Y אם הערה:

ψX+Y (t) = ψX (t)ψY (t)

.i לכל |Xi| ≤ 1 ונניח שווי־התפלגות), (לאו־דווקא µ = 0 תוחלת עם ב"ת מ"מ Xi∞i=1 יהיו (הופדינג) משפט:

,λ > 0 לכל אזי ,Sn :=∑n

i=1Xi נסמן

P (Sn ≥ λ) ≤ e−λ2

2n

אזי ,|X | ≤ 1 ומקיים µ = 0 תוחלת בעל מ"מ X אם למה:

ψX (t) ≤ e12t2

שנמתח לישר מתחת נמצאת הפונקציה ,[−1, 1] בקטע לכן .X של כפונקציה קמורה היא המומנטים יוצרת הפונקציה הוכחה:

כלומר .y =(1−X2

)e−t +

(1+X2

)et שנוסחתו בקצוות, הערכים בין

etX ≤(1−X

2

)

e−t +

(1 +X

2

)

et

נקבל בתוחלת לכן .|X | ≤ 1 עבור

ψX (t) = E[etX]≤ E

[(1−X

2

)

e−t +

(1 +X

2

)

et]

=e−t + et

2+et − e−t

2E [X ]︸ ︷︷ ︸

=0

=e−t + et

2

24

כי לב נשים . e−t+et

2 ≤ e12t2 כי להראות כך אם נותר

e−t + et =

∞∑

k=0

tk + (−t)kk!

=

∞∑

l=0

t2l

(2l)!

e12t2 =

∞∑

k=0

(t2/2)k

k!=

∞∑

k=0

t2k

2kk!

N הנדרש. החסם את לראות וקל

,t > 0 שלכל נובע מהלמה הוכחה:

P (Sn ≥ λ) = P(etSn ≥ etλ

)

(Markov) ≤ ψSn(t)

etλ= e−tλ · ΠψX (t)

= e−tλ ·(

e12t2)n

= et2n2

−tλ

נקבל .t = λn את למצוא וניתן מימין, הביטוי את לאפס ונשווה נגזור השוויון. אי את שמקיים האידאלי tה־ את נחפש

eλ2

2n2 n− λnλ = e−

λ2

2n

במשפט. כנדרש

.i לכל |Xi| ≤ 1 ונניח שווי־התפלגות), (לאו־דווקא µ = 0 תוחלת עם ב"ת מ"מ Xi∞i=1 יהיו הכללה) (צ'רנוף. משפט:

,λ > 0 לכל אזי .vn :=∑n

i=1 σi וכן Sn :=∑n

i=1Xi נסמן .σi := Var (Xi) כי נניח

P (Sn ≥ λ) ≤ max(

e−λ2

4vn , e−λ2

)

כללי. חסם אינו e−λ2

4vn כי להראות תרגיל:

,0 ≤ t ≤ 1 לכל אזי ,v := Var (X) נסמן ,|X | ≤ 1 וכן ,µ = 0 תוחלת עם מ"מ X אם למה:

ψX (t) ≤ evt2

לכתוב נוכל X מחסימות הוכחה:

ψX (t) = E[etX]= 1 + tµ+

∞∑

k=2

tk

k!E[Xk]= 1 +

∞∑

k=2

tk

k!E[Xk]

(∗) ≤ 1 +

∞∑

k=2

tk

k!E[X2]= 1 + v ·

∞∑

k=2

tk

k!

(1+x≤ex) = 1 + v ·(et − 1− t

)≤ ev(e

t−1−t)

(0≤t≤1=⇒0≤et−1−t≤t2) ≤ evt2

N .(|X | ≤ 1 כי ,k ≥ 2 לכל E[Xk]≤ E

[X2]כי לב נשים (∗))

25

הופדינג, משפט להוכחת דומה באופן הוכחה:

P (Sn ≥ λ) = P(etSn ≥ etλ

)

(Markov) ≤ 1

etλψSn

(t) ≤ e−tλevt2

= evt2−tλ

.t = 1 את ניקח אחרת .λ < 2v אכן עוד כל t = λ2v את ונמצא לאפס, והשוואה גזירה ידי על אידיאלי t נבחר

כלומר .ev−λ ≤ e−λv נקבל השני ובמקרה ,e

λ2

4v−λ2

4v = e−λ2

4v נקבל הראשון במקרה

P (Sn ≥ λ) ≤ max(

e−λ2

4vn , e−λ2

)

במשפט. כנדרש

נורמליים). מ"מ של בקירוב ההתנהגות זו (כי e−λ2

4v את לשפר ניתן לא כי לב נשים הערה:

.c קבוע לאיזה e−c·λ log λv ידי על מעט לשפר ניתן e−

λ2 החלק את מנגד

,0 ≤ t ≤ 1 לכל אזי ,v := Var (X) נסמן ,|X | ≤ 1 וכן ,µ = 0 תוחלת עם מ"מ X אם כי בלמה ראינו הוכחה:

ψX (t) ≤ evt2

.0 ≤ t ≤ 1 לכל ψX (t) ≤ ev(et−1−t) החסם את קיבלנו למעשה כי לב נשים אבל

:λ ≥ 2v במקרה נתבונן .t = λ2v בחירת ידי על e−

λ2

4v החסם את ונקבל הקודם במשפט נשתמש λ < 2v אם כעת,

ψSn(t) =

n∏

i=1

ψXi(t) ≤

n∏

i=1

eσi(et−1−t) = ev(et−1−t)

כי נקבל לכן .v =∑n

i=1 σi כאשר

P (Sn ≥ λ) = P(eSn ≥ eλ

)≤ ψSn

(t) e−tλ ≤ ev(et−1−t)−tλ

לאפס: ונשווה המעריך את נגזור

v(et − 1

)− λ = 0

ונקבל בחסם נציב .t = log(λv + 1

)כי ונקבל

ev(λv+1−1−log(λ

v+1))−λ log( λ

v+1) = eλ−(v+λ) log(λ

v+1)

≤ eλ−λ log(λv+1) ≤ e−c·λ log λ

v

.λ ≥ 2v כי הוא האחרון האי־שוויון כאשר

.e−c·λ log λv החסם את יותר לשפר ניתן לא הערה:

.Xnd−→ X ∼ Poisson (1) אז ,Xn ∼ Bin

(n, 1

n

)אם טענה:

26

לכן ב"ת. Yi ∼ Ber(1n

)עבור Xn =

∑ni=1 Yi בינומי, מ"מ מהגדרת כי לב נשים הוכחה:

P (Xn = k) = P

(n∑

i=1

Yi = k

)

=

(n

k

)(1

n

)k (

1− 1

n

)n−k

קבוע, k שלכל נובע מכאן

P (Xn = k)

(n

k

)(1

n

)k (

1− 1

n

)n−k

=1

k!

n!

(n− k)!nk

︸ ︷︷ ︸

→1

(

1− 1

n

)n−k

︸ ︷︷ ︸

→e−1

−→n→∞

1

k!e−1

N

מתקיים המשפט. תנאי על עונים Zi אז .(E [Yi] =1n ) Zi := Yi − 1

n ונגדיר ב"ת, Yi ∼ Ber(1n

)מ"מ ניקח

Sn =n∑

i=1

Zi =n∑

i=1

(

Yi −1

n

)

=n∑

i=1

Yi − 1

כי נובע מהמשפט .Sn → Poisson (1)− 1 ולכן

P (Sn ≥ λ) ≤ max(

e−λ2

4v , e−c·λ log λv

)

עבור v =∑n

i=1 σi כי לב ונשים

σi = Var

(

Yi −1

n

)

= Var (Yi) = n1

n

(

1− 1

n

)

= 1− 1

n→ 1 = Var (Poisson (1))

.e−c·λ log λv המשמעותי, הוא השני החסם ולכן λ ≥ 2v נקבל גדול מספיק קבוע λ > 0 עבור

:Sn ∼ Poisson (1)− 1 יודעים כי במפורש, זו הסתברות נחשב שני מצד

P (Sn ≥ λ) =∑

k=λ+1

e−1 1

k!≥ e−1 1

(λ+ 1)!

מהמשפט: לחסם זאת להשוות נרצה ערך־תקרה). ניקח לא ואם טבעי, מספר λ (נניח

e−1 1

(λ+ 1)!≤ e−c·λ log λ

v

סטירלינג, מנוסחת

λ! ≈√2π

(λ

e

)λ

=⇒ logλ! ≈ log√2π · λ log λ

e= log

√2π · (λ logλ− λ)

הנדרש. את ונקבל אקספוננט נוציא

ומעירים הקודקודים, בכל ישנות צפרדעים עם מתחילים סופיות. דרגות ובעל קשיר גרף G יהי כן אם הצפרדעים): (מודל דוגמה

אותה, מעירה היא חדשה צפרדע עם מפגש ובכל הגרף, על פשוט מקרי הילוך מתחילה זו צפרדע .v0 בקודקוד אחת צפרדע

הלאה. וכן הגרף, על פשוט מקרי הילוך היא גם מתחילה החדשה והצפרדע

27

יתעוררו. הצפרדעים שכל ההסתברות מהי נשאל

הצפרדעים. כל את מעירה לבד היא אז נשנה, הוא v0 הצפרדע של המקרי ההילוך אם כי לב נשים

מתברר חולף. הוא פשוט מקרי הילוך d ≥ 3 עבור ואילו ,d = 1, 2 עבור נשנה הוא פשוט מקרי הילוך ,Zd הגרף על כי ידוע

כל דרגות (כלומר d מדרגה רגולרי עץ הוא G בו במקרה כעת נדון מתעוררות. כולן הצפרדעים במודל d ≥ 3 עבור שגם

בגרף). "למעלה" להמשיך אפשר (כלומר שורש זה לעץ שאין כך על נחשוב .(dל־ שוות הקודקודים

יתעוררו. הצפרדעים כל לא 1 בהסתברות גדול, מספיק d עבור טענה:

קבוצת ידי על נשלטת הערות הצפרדעים קבוצת מכך: יותר ערות. צפרדעים 2t היותר לכל יש ,t בזמן כי לב נשים הוכחה:

הבא: במודל הערות הצפרדעים

(שני ל־2 מתפצלת הצפרדע צעד בכל פשוט. מקרי הילוך שעושה ,v0 על יחידה צפרדע עם מתחילים ,G גרף אותו עלקודקוד).10 באותו להיות יכולים שכפולים

.t באורך G על פשוט מקרי הילוך של תוצאה הוא ,t בזמן הזה במודל צפרדע של המיקום

המשלימה ובהסתברות ב־1, גדל הגובה d−1d בהסתברות .Ht שנסמנו ,t בעץבזמן הצפרדע מיקום של הגובה על נסתכל

אזי ב־1. קטן הוא

Ht =

t∑

i=1

Xi

.P (Xi = −1) = 1d ,P (Xi = 1) = d−1

d ההתפלגות עם הצפרדע, של iה־ הצעד הוא Xi כאשר

אז .(Yi ≤ ש־1 לקבל כדי היא ב־2 החלוקה .E [Xi] =d−2d כי לב (נשים Yi =

−Xi+d−2

d

2 נגדיר

St =

t∑

i=1

Yi =1

2

(t∑

i=1

Xi − td− 2

d

)

=1

2

(

Ht − t · d− 2

d

)

צ'רנוף, ממשפט

P (St ≥ λ) ≤ max(

e−λ2

4v , e−c·λ log λv

)

Var (Xi) = 1 −(d−2d

)2= ולכן ,E [Xi] =

d−2d ,E

[X2

i

]= 1 כי לב נשים כן כמו .(tב־ (לינארי λ =

t· 2−dd

2 נבחר

כלומר, . 4d

(d−1d

)

v = tE [Yi] = t · 1d

(

1− 1

d

)

החסם את נקבל ולכן ,λv ≈ d→ ∞ גדול d עבור

e−c·λ log λv ≈ e−c·λ log d ≈ e−c· t

2log d

החסם את ונקבל ,log d > c2 ואז d > ec/2 ניקח אם לכן

P

(

St ≥t · 2−d

d

2

)

≤ e−t

אחת. צפרדע מעירה לקודקוד שמגיע צפרדע וכל ישנות, צפרדעים אינסוף יש קודקוד שבכל כך זאת לתאר ניתן שקול, 10באופן

28

בראשית שיבקרו הצפרדעים מספר תוחלת לכן .2te−tמ־ קטן t בזמן בראשית כלשהי לצפרדע ההסתברות כי נקבל לכן

סופית. היא

קודקודים dk יש . 1dk לפחות היא בראשית, לבקר מהראשית k במרחק שמתחילה שצפרדע ההסתברות כי לב נשים

.1 לפחות היא לראשית והגיעו k במרחק שהתחילו הצפרדעים מספר תוחלת ולכן מהראשית, k במרחק

,∞ היה בראשית המבקרות הצפרדעים מספר תוחלת אז יתעוררו, הצפרדעים שכל חיובית הסתברות הייתה אם כעת,

אפס. היא זו הסתברות בהכרח ולכן שראינו, למה בניגוד

29

IV חלק

מרטינגלים

מצומצמת הגדרה - מרטינגל 10

,n ∈ N לכל אם מרטינגל, היא Mnn≥0 מ"מ של סדרה הגדרה:

E [Mn+1 | M0 = m0, ...,Mn = mn] = mn

דוגמאות:

E [Xi] = 0 אז .P (Xi = −1) = 12 ,P (Xi = 1) = 1

2 התפלגות עם ב"ת מ"מ Xii∈N יהיו :Z על פשוט מקרי הילוך .1

.i ∈ N לכל

שכן מרטינגל, Mn∞n=1 כי ונקבל ,Mn =∑n

i=1Xi נגדיר

E [Mn+1 |M0 = m0, ...,Mn = mn] = E [Mn +Xn+1 |M0 = m0, ...,Mn = mn]

= E [Mn |M0 = m0, ...,Mn = mn] +E [Xn+1 |M0 = m0, ...,Mn = mn]

= mn +E [Xn+1] = mn

מרטינגל. היא Mn =∑n

i=1Xi אז ,E [Xi] = 0 ומקיימים ב"ת Xii≥0 אם כללי, באופן

Xi של בהיסטוריה המותנית שהתוחלת ובלבד בהיסטוריה, תלויה להיות יכולה Xi כל התפלגות יותר, עוד כללי באופן

אפס. היא

כלומר ,Z על פשוט מקרי הילוך הוא Yn כי נניח :Z על פשוט מקרי הילוך .2

Yn =

n∑

i=1

Xi

שכן מרטינגל, הוא Mn := Y 2n − n אזי .P (Xi = −1) = P (Xi = 1) = 1/2 עבור

E [Mn+1 | ...] = E[Y 2n+1 − (n+ 1) | ...

]= E

[

(Yn +Xn+1)2 − (n+ 1) | ...

]

= E[(Y 2n + 2YnXn+1 +X2

n+1 − n− 1)| ...]

= E [Mn | ...] + 2E [YnXn+1 | ...] +E[X2

n+1

]− 1

= mn

Xi כי גם לב (נשים מהתוחלת ויוצא נקבע Yn כי נובע M0 = m0, ...,Mn = mn בהינתן כי E [YnXn+1] = 0 כאשר

.E[X2

n+11]= 1 וכן ב"ת), כולם

שכן מרטינגל, Mnn≥1 כי ונקבל ,Mn =∏n

i=1Xi נגדיר .i ∈ N לכל E [Xi] = 1 וכן ב"ת, מ"מ Xii≥0 נניח .3

E [Mn+1 | ...] = E [Mn ·Xn+1 | ...](Mn,Xn+1 are independent) = E [Mn | ...] ·E [Xn+1 | ...] = mn · 1 = mn

30

מחזירים מכן ולאחר צבעו, את ומזהים אקראי כדור שולפים שלב בכל ולבן. שחור כדורים, שני עם כד יש פוליה: של הכד .4

צבע. אותו בעל חדש אחד כדור עוד עם יחד לכד אותו

על אחידה היא בכד), כדורים N יש כאשר (כלומר N בזמן (לבנים) השחורים הכדורים מספר התפלגות תרגיל:

.1, ..., N − 1

מרטינגל. הוא 1NBN אזי בכד). כדורים N יש כאשר (כלומר N בזמן השחורים הכדורים מספר BN יהי טענה:

נחשב: .BN =∑N

i=1 χi ואז ,i בזמן שחור כדור הוצאנו אם האינדיקטור χi כי נניח הוכחה:

E

[1

N + 1BN+1 | B1 = b1, ...,

1

NBN =

1

NbN

]

=1

N + 1E [BN + χN+1 | ...]

=1

N + 1bN +

1

N + 1E [χN+1 | ...]

=1

N + 1bN +

1

N + 1

bNN

=1

NbN

.N + 1 בשלב שחור כדור להוציא ההסתברות זו כי E [χN+1 | ...] = bNN כאשר

,v ∈ V לכל אם הרמונית, נקראת f : V → R פונקציה סופיות. דרגות בעל גרף G = (V,E) יהי הגדרה:

f (v) =1

deg v

∑

w, (w,v)∈E

f (w)

מהתפלגות שנבחר Xn של שכן הוא Xn+1 (כלומר G על פשוט מקרי הילוך Xn סופיות, דרגות בעל גרף G = (V,E) יהי תרגיל:

מרטינגל. Mn := f (Xn) הרמונית, f : V → R לכל אז .(Xn שכני על אחידה

קבועה. היא ,Z2 על וחסומה הרמונית פונקציה ליוביל: משפט

.Zd לכל נכון ליוביל משפט כי שידוע לב לשים יש קבועה. ולא חסומה, שהיא עליו הרמונית פונקציה עם גרף למצוא תרגיל:

קלף מוציא השולף זה בשלב לעצור. לשולף מורים שאנחנו עד קלפים שולפים שחורים, ו־26 אדומים 26 בה קלפים בחפיסת תרגיל:

הפסדנו. ־ אדום ואם זכינו, שחור הוא אם אחד,

לזכות ההסתברות - נבחר אסטרטגיה איזו משנה לא ולכן מרטינגל, הוא בחפיסה שנותרו השחורים הקלפים שיעור כי להראות

.1/2 היא

מותנית תוחלת מבוא: 11

Y : Ω → R מ"מ כי נאמר תוחלת. בעל מ"מ X : Ω → R יהי תת־σ־אלגברה. G ⊂ F הסתברות, מרחב (Ω,F , P ) יהי הגדרה:

הבאים: הדברים מתקיימים אם ,Y := E [X | G] ונסמן G בהינתן X של המותנית התוחלת הוא

G־מדיד. הוא Y .1

,A ∈ G לכל .2

E [X · 1A] = E [Y · 1A]

31

Y = E [X | G] גם אז קבועה, פונקציה כלומר מ"מ, X אם לכן הקבועות. כל הן המדידות הפונקציות ,G = ∅,Ω אם דוגמה:

ומתקיים קבועה, פונקציה

Y = E [Y ] = E [Y · 1Ω]

= E [X · 1Ω] = E [X ] = X

זה במקרה .Ac על וקבועה A על קבועה Y = E [X | G] אז ,A ∈ F לאיזו G = ∅, A,Ac,Ω אם דוגמה:

E [X | G] (ω) =

1P (A)E [X · 1A] ω ∈ A

1P (Ac)E [1Ac ] ω ∈ Ac

כ"ת. יחידה והיא , G ⊂ F לכל ביחס X של מותנית תוחלת קיימת אז תוחלת, בעל מ"מ X : Ω → R אם טענה:

יחידה f ∈ L1 (µ) יש אז 11,ν ≪ µ המקיימות µ, ν מידות זוג עליו ויהיו מדיד, מרחב (Ω,F) יהי רדון־ניקודים) (משפט תזכורת:

,A ∈ F שלכל כך כ"ת,

ν (A) =

ˆ

A

fdµ

רדון־ניקודים. נגזרת נקראת והיא ,f := dνdµ זו פונקציה לסמן נהוג

המוגדרת ν ובמידה µ = P במידה נתבונן ושלילי). חיובי לחלק נפרק (אחרת X ≥ 0 הכלליות הגבלת ללא נניח הוכחה:

.A ∈ G לכל ν (A) := E [X · 1A]dνdP ∈ L1 (P ) רדון־ניקודים נגזרת יש לכן .ν ≪ P כן כמו .(Ω,G) על סופית מידה ν כי נובע תוחלת בעל X כי מההנחה

המקיימת כ"ת, יחידה

E [X · 1A] = ν (A) =

ˆ

A

dν

dPdP = E

[dν

dP· 1A

]

המבוקשת. המותנית התוחלת היא dνdP := E [X | G] אז

עם A = Y2 − Y1 > ǫ מדידה קבוצה יש אז מותנות, תוחלות זוג Y1, Y2 אם כי ישירות, גם נובעת כ"ת היחידות כי לב נשים

ולכן G־מדידות), Y1, Y2 (כי A ∈ G אבל .P (A) > 0

ˆ

A

(Y2 − Y1) dP = E [X · 1A]−E [X · 1A] = 0

ולכן ,A על Y2 − Y1 > ǫ אבל

ˆ

A

(Y2 − Y1) dP ≥ ǫP (A)

.P (A) = 0 ולכן

.ν (A) = 0 ⇐= µ (A) = 0 ,A ∈ F לכל :µל־ ביחס בהחלט רציפה ν 11כלומר

32

נגדיר שני). מומנט בעל שקול, באופן (או שונות בעל מ"מ X : Ω → R ויהי מדיד, מרחב (Ω,F) יהי (אלטרנטיבית) הגדרה:

f (a) := E

[

(X − a)2]

= E[X2]− 2aE [X ] + a2

לכן

f ′ (a) = −2E [X ] + 2a

.a = E [X ] עבור המינימום את נקבל לאפס, נשווה ואם

Y = E [X | G] כי להראות ניתן G־מדידה. פונקציה Y עבור ,f (Y ) := E

[

(X − Y )2]

בפונקציה נתבונן דומה באופן

.f (Y ) את ממזער

המ"מ אוסף .E [X · Y ] הפנימית למכפלה ביחס הילברט מרחב הוא שני, מומנט בעלי שהם המ"מ מרחב (אלטרנטיבית) הגדרה:

שלו. סגור תת־מרחב הוא ה־G־מדידיםה־G־מדידות. הפונקציות לתת־מרחב X של ההטלה היא E [X | G] המותנית התוחלת אזי

תת־σ־אלגברה. G ⊂ F ותהי תוחלת, בעלי מ"מ X,Y : Ω → R יהיו מדיד, מרחב (Ω,F) יהי תכונות:

E [E [X | G]] = E [X ] .1

.E [X | G] = X אז G־מדידה, היא X אם .2

E [aX + bY | G] = aE [X | G] + bE [Y | G] .3

.E [X | G] ≥ 0 אז X ≥ 0 אם .4

.ϕ (E [X | G]) ≤ E [ϕ (X) | G] קמורה, ϕ : R → R אם ינסן: אי־שוויון של וריאציה .5

.E [E [X | G] | H] = E [X | H] תתי־σ־אלגבראות, H ⊂ G ⊂ F אם .6

.E [ZX | G] = ZE [X | G] G־מדיד, מ"מ Z אם :TOWIK Taking out what is known .7

.E [X | G] = E [X ] אז ,Gב־ ב"ת X אם .8

תוחלת, עם מ"מ סדרת Xnn∈N אם .9

.E [Xn | G] ↑ E [X | G] אז ,Xn ↑ X אם ,n ∈ N לכל Xn ≥ 0 אם מונוטונית: התכנסות (א)

.E [Xn | G] a.s.−→n→∞

E [X | G] אז ,n ∈ N לכל |Xn| ≤ Z עם Z מ"מ וקיים Xna.s.−→n→∞

X אם נשלטת: התכנסות (ב)

.E [lim inf Xn | G] ≤ lim inf E [Xn | G] ,n ∈ N לכל Xn ≥ 0 אם פאטו: של הלמה של וריאציה .10

כללית הגדרה - מרטינגל 12

להכלה. ביחס עולה ,Fnn∈N σ־אלגבראות של סדרה היא פילטרציה הגדרה:

.n ∈ N לכל Fn־מדיד Xn כאשר Xnn≥0 מ"מ של סדרה היא ,Fnn≥0 לפילטרציה ביחס תהליך הגדרה:

אם מרטינגל, ייקרא Fnn≥0 כלשהי לפילטרציה ביחס Xnn≥0 תהליך הגדרה:

E [Xn+1 | Fn] = Xn

.Fn := σ (X0, ..., Xn) היא שלו, הטבעית הפילטרציה אז כלשהו, תהליך Xnn≥0 אם הגדרה:

33

,Fnn≥0ל־ ביחס מרטינגל Xnn≥0 אזי .Xn := E [X | Fn] נגדיר כלשהי, פילטרציה Fnn≥0 תוחלת, עם מ"מ X אם הערה:

שכן

E [Xn+1 | Fn] = E [E [X | Fn+1] | Fn] = E [X | Fn] = Xn

.E [Xm | Fn] = E [Xn] ,m > n לכל אז מרטינגל, Xnn∈N אם טענה:

נחשב, הוכחה:

Xn = E [Xn+1 | Fn] = E [E [Xn+2 | Fn+1] | Fn] = E [Xn+2 | Fn]

באינדוקציה. להמשיך וניתן

.1 ≤ n ∈ N לכל Fn−1־מדיד הוא אם צפוי, ייקרא Cnn≥1 תהליך ,Fnn≥0 פילטרציה בהינתן הגדרה:

טרנספורם־מרטינגל נגדיר ,Cnn≥0 מתאים צפוי תהליך עם יחד ,Fnn≥0 פילטרציה עם Xnn≥0 מרטינגל בהינתן הגדרה:

ידי על שלהם

(C •X)n :=

n∑

k=1

Ck · (Xk −Xk−1)

מרטינגל. (C •X)nn≥0 אז וחסום, צפוי תהליך Cnn≥0 וכן מרטינגל Xnn≥0 אם ,Fnn≥0 לפילטרציה ביחס טענה:

נחשב, הוכחה:

E[(C •X)n+1 | Fn

]= E [(C •X)n + Cn+1 (Xn+1 −Xn) | Fn]

= E [(C •X)n | Fn] +E [Cn+1 (Xn+1 −Xn) | Fn]

ולכן Fn־מדיד, הוא (C •X)n כי לב נשים

E [(C •X)n | Fn] = (C •X)n

ולכן Fn־מדיד, הוא Cn+1 כן כמו

E [Cn+1 (Xn+1 −Xn) | Fn] = Cn+1 ·E [Xn+1 −Xn | Fn]

כי לב נשים אבל

E [Xn+1 −Xn | Fn] = E [Xn+1 | Fn] +E [Xn | Fn]

= Xn −Xn = 0

הכל בסך ולכן

E [(C •X)n] = (C •X)n + 0 = (C •X)n

כנדרש.

34

עצירה זמן 13

,n ∈ N ∪ ∞ לכל אם עצירה, זמן נקראת τ : Ω → N ∪ ∞ מדידה פונקציה ,Fnn∈N פילטרציה בהינתן הגדרה:

ω ∈ Ω | τ (ω) = n ∈ Fn

.Fnמ־ יאוחר שלא בשלב נקבע τ = n המאורע אם עצירה זמן היא τ אינטואיטיבי, באופן מוטיבציה:

הקובע עצירה כלל הוא τ עצירה זמן ,nה־ ההימור לאחר הכולל הרווח הוא Xn שעבורה הימורים בסדרת אנחנו אם למשל,

אנחנו ברורה: לכך המוטיבציה מכך. יאוחר ולא ,n בשלב התרחש מה של המידע בסיס על ,nה־ בשלב להמר להפסיק האם

יותר. מאוחר רק שנקבע מידע בסיס על ולא בידינו, שיש המידע בסיס על nה־ בשלב להמר להפסיק האם לקבוע רוצים

ולהגדיר לא), או לעצור האם שלב בכל (שקובעת τn : Ω → 0, 1 עצירה זמני בסדרת להתבונן ניתן שקול באופן הערה:

τ (ω) := min n | τn (ω) = 1

.ω ∈ Ω | τn (ω) = n ∈ Fn שמתקיים כך

τ − 1 אך עצירה, זמן τ + 1 כן כמו עצירה. זמני הם max τ1, τ2 ,min τ1, τ2 אז עצירה, זמני τ1, τ2 אם כי לב נשים הערה:

עצירה. זמן בהכרח אינו

τ : Ω → עצירה וזמן Xnn∈N מרטינגל עם Fnn∈N פילטרציה תהי (Dood's Optional Stopping Times − OST ) משפט:

.N ∪ ∞הבאים: מהתנאים אחד מתקיים אם

קבוע. K ∈ R לאיזה כ"ת τ ≤ K .1

קבוע. K ∈ R לאיזה n ∈ N לכל |Xn| ≤ K וכן כ"ת, τ <∞ .2

קבוע. K ∈ R לאיזה n ∈ N לכל כ"ת |Xn+1 −Xn| ≤ K וכן ,E [τ ] <∞ .3

אזי

E [Xτ ] = E [X0]

כי מ"מ, אכן Xτ כי לב נשים הערה:

ω ∈ Ω | Xτ(ω) (ω) ≤ s

=⋃

n∈N

ω ∈ Ω | τ (ω) = n and Xn (ω) ≤ s

מדידות. קבוצות זוג של חיתוך הן באיחוד והקבוצות

מרטינגל. הוא Ynn∈N אזי .Yn := Xminn,τ נסמן למה:

נגדיר הוכחה:

Cn := 1τ≥n = 1− 1τ<n = 1− 1τ≤n−1

35

הוא (C •X)n לעיל שהראינו כפי כך אם וחסום. צפוי תהליך Cnn∈N ולכן ,τ ≤ n− 1 ∈ Fn−1 כי לב נשים

כי לב נשים אבל מרטינגל.

(C •X)n =

n∑

k=1

Ck (Xk −Xk−1) =

n∑

k=1

1k≤τ (Xk −Xk−1)

=

minn,τ∑

k=1

(Xk −Xk−1) = Xminn,τ −X0 = Yn −X0

ולכן

Yn = X0 + (C •X)n

N מרטינגל. הוא ולכן קבוע, ועוד מרטינגל הוא Ynn∈N כלומר

הוכחה:

,n ∈ N לכל ממרטינגליות, ולכן כ"ת, Xτ = XminK,τ אזי :1 תנאי שמתקיים נניח .1

E[Xminn,τ

]= E

[Xmin0,τ

]= E [X0]

החסומה, ההתכנסות ממשפט .Xminn,τa.s.−→n→∞

Xτ אז כ"ת τ <∞ אם כי לב נשים :2 שמתקיים נניח .2

E [X0] = E[Xminn,τ

]a.s.−→n→∞

E [Xτ ]

כי לב נשים :3 שמתקיים נניח .3

|Xn| =

∣∣∣∣∣X0 +

n∑

k=1

(Xk −Xk−1)

∣∣∣∣∣

≤ |X0|+n∑

k=1

|Xk −Xk−1| ≤ |X0|+ nK

נובע לכן

∣∣Xminn,τ

∣∣ ≤ |X0|+min n, τ ·K ≤ |X0|+ τK

הנשלטת ההתכנסות ממשפט ולכן תוחלת, בעל מ"מ הוא ימין צד אבל

E [X0] = E[Xminn,τ

]a.s.−→n→∞

E [Xτ ]

.n ≤ τ כל עבור רק אותם ולדרוש להחליש, ניתן 2,3 תנאים את הערה:

היא התוחלת אז כלשהו, נתון עצירה זמן לנו יש אם ולכן ,(K = 1 (עבור 3 תנאי מתקיים .Z על פשוט מקרי בהילוך נתבונן דוגמה:

ההתחלה). (נקודת X0

36

יפגע ההילוך כי ההסתברות מה נשאל .b ∈ Z לאיזה 0 < a < b ,a ∈ Z בנקודה המתחיל ,Z על פשוט מקרי בהילוך נתבונן דוגמה:

את לחשב ונרצה ,τ0 := min t | Xt = 0 ,τb := min t | Xt = b עצירה זמני שני נגדיר כלומר, ב־0. שיפגע לפני bב־.P (τb < τ0)

ולכן ,τ עבור במשפט 2,3 תנאים מתקיימים .τ := min τ0, τb העצירה בזמן נתבונן

E [Xτ ] = E [X0] = a

אבל

E [Xτ ] = 0 · P (τ0 < τb) + b · P (τb < τ0) = b · P (τb < τ0)

כי מכך נובע

P (τ0 < τb) =a

b

.P (τ0 <∞) ≥ P (τ <∞)−P (τb < τ0) = 1− ab ונקבל ,τ := min τ0, τb נגדיר נשנה. Z על פשוט מקרי הילוך מסקנה:

.P (τ0 <∞) = 1 ולכן ,b לכל P (τ0 <∞) ≥ 1− 1b ונקבל ,a = 1 ניקח

?E [τ ] מהי (המשך) דוגמה:

,P (τb < τ0) ≈ ab כי שנקבל כך P (τb < τ0) על חסם לתת ,Xn = a+

∑nk=1 Yk וכן Yk ∼ U (−m,m) אם תרגיל:

מתכנס. ab וכן a, b→ ∞ כאשר

כי לב ונשים ,Zn := X2n − n נגדיר .Xn = a+

∑nk=1 Yk וכן Yk ∼ U (−1, 1) נגדיר כעת

E[X2

n+1 − (n+ 1) | Fn

]= E

[

(Xn + Yn+1)2 − n− 1 | Fn

]

= E[X2

n + 2XnYn+1 + Y 2n+1 − n− 1 | Fn

]

= X2n − n+ 2XnE [Yn+1 | Fn]

︸ ︷︷ ︸

=0

+E[Y 2n+1 | Fn

]

︸ ︷︷ ︸

=1

− 1 = E[X2

n − n | Fn

]

מרטינגל. Znn∈N כלומר

ולכן במשפט, 3 תנאי מתקיים τ := min τ0, τb עבור .Znn∈N המרטינגל של τ0, τb העצירה בזמני נתבונן כעת

E [Zτ ] = E [Z0] = E[X2

0 − 0]= a2

כי לב נשים אבל

E [Zτ ] = E[X2

τ − τ]= E

[X2

τ

]−E [τ ]

ומתקיים

E[X2

τ

]= 02 · P (τ0 < τb) + b2P (τb < τ0)

כלומר

E [τ ] = ab− a2 = a (b− a)

37

.E [τ | τb < τ0] את באמצעותו ולחשב מרטינגל, הוא X3n − 3nXn כי להראות תרגיל:

כאן). גם עובד שהמשפט ולהיווכח ההוכחה אחר לעקוב ניתן אבל כאן, מתקיים לא 1,2,3 מהתנאים אחד (אף

f (v) = שמקיימת כפונקציה מוגדרת f : V → R הרמונית פונקציה ,G = (V,E) סופיות דרגות בעל קשיר לגרף הגדרה:

. 1deg v

∑

(u,v)∈E f (u)

ורק אם הרמונית f אז .f : V → R תהי .G = (V,E) סופיות דרגות בעל קשיר גרף על פשוט מקרי הילוך Xnn∈N יהי טענה:

.(Fn = σ (X1, ..., Xn) לפילטרציה (ביחס מרטינגל f (Xn)n∈N אם

כלומר ליוביל. הוא G אז נשנה, הוא עליו פשוט מקרי הילוך אם ,G = (V,E) סופיות דרגות בעל קשיר לגרף ליוביל: משפט

הקבועות. הפונקציות רק הן G על החסומות ההרמוניות הפונקציות

הוא f (Xn)n∈N כי נובע f של ההרמוניות מהנחת אז .X0 := v0 ∈ V עם G על פשוט מקרי הילוך Xnn∈N נניח הוכחה:

מרטינגל.

על הדיסקרטית הטופולוגיה (עם כ"ת τv <∞ כי נובע נשנה ההילוך כי מההנחה .v ∈ V לכל τv := min t | Xt = v נגדיר

ולכן ,OST במשפט 2 תנאי מתקיים לכן .(V

f (v0) = f (X0) = E [f (Xτv)] = f (v)

קבועה. f כלומר

אכן הוא זה גרף כי להראות ניתן התחלה). (נקודת שורש עם אינסופי בינארי עץ גרף ניקח ליוביל. שאינו לגרף דוגמה נראה דוגמה:

חולף.

השמאלי. על 1/4 הימני, הענף על 3/4 השורש, על 1/2 להיות f את נגדיר

הענפים. בשני לשמאלי מתחת 1/8 וכן הענפים, בשני לימני מתחת 7/8 זה אחרי

השמאלי. הצד בכל 1/16 וכן הימני, הצד בכל 15/16 זה אחרי

.1− 1/2k הערכים את ניתן ,kה־ שבשלב הכלל לפי הלאה, וכן

הרמונית. שהיא לבדוק וניתן חסומה, ולכן [0, 1] בקטע רק ערכים מקבלת זו פונקציה

ימין. בצד "ייבלע" כולו שההילוך כלשהי, בנקודה המתחיל פשוט מקרי הילוך של הסיכוי את מתארת זו פונקציה

.τ+v := min t > 0 | Xt = v עבור p := P (τ+v <∞) נסמן דוגמה:

אינסוף pל־ חוזרים 1 בהסתברות אז ,p = 1 אם .Geo (1− p) היא vל־ החזרות מספר התפלגות אז ,p < 1 אם כי לב נשים

פעמים.

אינסופית. התוחלת האם לקבוע די ,p = 1 האם להחליט כדי לכן .E [τ+v ] = 11−p <∞ כי נובע בפרט הראשון, במקרה

,Z על פשוט מקרי הילוך עבור כך,

E [# returns] =∑

n≥1

P (X2n = 0) =

∞∑

n=1

(2n

n

)

2−2n

≈∑

n≥1

(2n/e)2n

((n/e)n)2

√2π2n√2πn

2−2n =∑

n≥1

1√πn

= ∞

אז ,Z על ב"ת פשוטים מקריים הילוכים זוג הם Xn, Yn אם ,Z2 על פשוט מקרי הילוך עבור כן, כמו

P (X2n = 0 ∧ Y2n = 0) ≈ 1

πn

38

.∑

n≥11πn = ∞ שוב ולכן

ב־45 Z2 של הסטה אבל ,Z2 של האלכסונים על הילוך למעשה (שזה Xn+Yn ההילוך עם Z2 של הגרף על להסתכל נוכל כעת

נשנה. הילוך זהו כי ולקבל ,(Z2 נשארת מעלות

חולף. גרף הוא Zd ,d ≥ 3 עבור טענה:

לראשית). החזרות מספר תוחלת (כלומר E [#returns] <∞ כי להראות מספיק הוכחה:

לראשית לחזור האפשרויות סכום ולכן ,P (retuen at time 2n) ≈(

1√πn

)d

כי מקבלים היינו בלתי־תלויים, היו הצירים אם

תלויים. הצירים אבל .d ≥ 3 עבור מתכנס

מספרי k, l,m כאשר ,n := k + l+m ,n בשלב כי נקבל מהצירים. אחד בכל שהתבצעו הצעדים במספר נתבונן זאת במקום

בהתאמה. x, y, z בצירים הצעדים

.−1 או +1 ללכת האם מכן ולאחר ללכת, ציר באיזה להחליט תחילה שלבים. בשני ללכת לאן בהחלטה נתבונן

בזמן בראשית בחזרה להיות ההסתברות זוגיים, k, l,m בהינתן בראשית. להיות אפשרות אין אי־זוגי k, l,mמ־ אחד אם

אסימפטוטית, הוא זוגי) n) n := k + l +m

≈ 1√πk

· 1√πl

· 1√πm

יחד). הצירים בשלושת שחזרנו ההסתברות (סכום

קטנה ,i = k, l,m ,P(i < n

6

)כי נקבל ,(±1 אינדיקטורים של סכום הוא מהם אחד (כל k, l,m המ"מ עבור הופדינג ממשפט

אקספוננציאלית.

ידי על חסומה ,n בזמן בראשית להיות ההסתברות כלומר,

(

1√π n

6

)3

+ 3 · P(

i <n

6

)

והסכום .(n/6מ־ קטן מהם שאחד כלומר המשלים, לעומת n/6מ־ גדולים ששלושתם כך לראשית לחזור של המאורע על (נסתכל

מתכנס. זה טור של

39

בהתאמה, x, y, z בצירים שביצענו הצעדים מספר של המ"מ להיות K,L,M נסמן אם פורמלי, באופן

P (Xn = 0) =∑

k+l+m=n

P (K = k, L = l,M = m) · P (Xn = 0 | K = k, L = l,M = m)

≤∑

k+l+m=n

P (K = k, L = l,M = m)1√πk

· 1√πl

· 1√πm

=∑

k + l +m = nk, l,m ≥ n/6

...+∑

k + l +m = n∃i ∈ k, l,m , i > n/6

...

≤∑

k + l +m = nk, l,m ≥ n/6

P (K = k, L = l,M = m)1

√

π3 (n/6)3+

∑

k + l +m = n∃i ∈ k, l,m , i > n/6

P (K = k, L = l,M = m)

≤ 1√

π3 (n/6)3+

∑

k + l +m = n∃i ∈ k, l,m , i > n/6

P (K = k, L = l,M = m)1√

π3klm

︸ ︷︷ ︸

≤P (k<n/6)+P (l<n/6)+P (m<n/6)

מתכנס. n על הסכום ולכן

חולף. Zd ,d > 3 לכל כי נובע חולף Z3ש־ כך מתוך כי להראות ניתן הערה:

ליוביל. גרף הוא Zd ,d ≥ 1 לכל טענה:

נגריל nה־ בצעד .X0 = u, Y0 = v כאשר Xnn≥0 , Ynn≥0 מקריים הילוכים בשני ונתבונן ,u, v ∈ Zd יהיו הוכחה:

הבא: הכלל לפי ונפעל ,X in, Y

in נסמן אותן ,Xn, Yn של iה־ הקואורדינטות על נסתכל ,i ∼ U (1, ..., d)

.Z ∼ U (±1) עבור ,X in+1 = X i

n + Z, Y in+1 = Y i

n + Z אז X in = Y i

n אם

.Z ∼ U (±1) עבור ,X in+1 = X i

n + Z, Y in+1 = Y i

n − Z אז ,X in 6= Y i

n אם

בלתי־תלויים). (לא פשוטים מקריים הילוכים Xnn≥0 , Ynn≥0 כי מתקיים

אז M in 6= 0 אם .M i

n+1 = 0 אז M in = 0 אם .M i

n := X in − Y i

n על נסתכל

M in+1 =

M in + 2 P = 1/2

M in − 2 P = 1/2

.τ := min n | Xn = Yn <∞ אז ,1 בהסתברות זוגיים כולם M i0 אם

כי נובע OST מתוך הרמונית, f : V → R בהינתן כעת

E [f (Xτ )] = f (X0) = f (u)

E [f (Yτ )] = f (Y0) = f (v)

.f (u) = f (v) ולכן ,Xτ = Yτ ,τ העצירה בזמן אבל

40

.Xna.s.−→n→∞

X שמתקיים כך ,X מ"מ קיים אז ,n ≥ 0 לכל (בה"כ) |Xn| ≤ 1 חסום מרטינגל Xnn≥0 אם משפט:

כי נובע החסומה, ההתכנסות ממשפט הערה:

E [X ] = limn→∞

E [Xn] = limn→∞

E [X0] = E [X0]

מתכנס. אי־שלילי מרטינגל כי יותר, חזקה טענה נוכיח הוכחה:

אזי .τb := min t | Xt ≥ b נגדיר ,b > a ,b עבור .X0 := a נסמן אי־שלילי. מרטינגל Xnn≥0 כי נניח למה:

P (τb <∞) ≤ a

b

ממרטינגליות, הוכחה:

E[Xmin(τb,n)

]= E [X0] = a

וכן ,n→ ∞ כאשר P (τb < n) → P (τb <∞) אבל

E[Xmin(τb,n)

]≥ bP (τb < n)

ולכן

P (τb < n) ≤ a

b

N הנדרש. את נקבל n→ ∞ נשאיף

כלומר, המרטינגל. ידי על (a, b) הקטע של החציות מספר להיות Uab נגדיר ,a < b לכל הגדרה:

Uab := max k | ∃i1 < j1 < i2 < j2 < ... < ik < jk, ∀l, Xil ≤ a, Xjl ≥ b

,K ∈ R לכל מזאת, יתרה כ"ת. Uab <∞ אזי אי־שלילי. מרטינגל Xnn≥0 כי נניח למה:

P (Uab ≥ K) ≤

(a

b

)K

.ab היותר לכל הקודמת מהלמה היא נוספת פעם לחצות ההסתברות פעמים, k הקטע את חצינו כבר אם באינדוקציה. הוכחה:

N

כנדרש. מתכנסת, Xnn≥0 הסדרה ולכן ,1 בהסתברות Uab <∞ רציונליים, a < b לכל מסקנה:

ולאחר צבעו, את ומזהים אקראי כדור שולפים שלב בכל ולבן. שחור כדורים, שני עם כד יש כלומר פוליה. של בכד נתבונן דוגמה:

צבע. אותו בעל חדש אחד כדור עוד עם יחד לכד אותו מחזירים מכן

מרטינגל. הוא 1NBN אזי בכד). כדורים N יש כאשר (כלומר N בזמן השחורים הכדורים מספר BN אם כי ראינו

.B ∼ U ([0, 1]) בפרט .B מ"מ לאיזה 1NBN

a.s.−→N→∞

B כי נובע שהראינו מהמשפט

1 − המקיימים ,X בהינתן ב"ת שהם Ynn≥0 מ"מ סדרת נגריל .X ∼ U ([0, 1]) נגריל הבאה: בסיטואציה נתבונן

.P (Yn = 0 | X) = P (Yn = 1 | X) = X

של מהכד שמוציעים הכדורים צבעי לסדרת כמו ההתפלגות אותה בעלת היא Ynn≥0 הסדרה כי מתקיים אולם נוכיח, לא

פוליה.

41

חסום. מרטינגל Xn := E [X | Fn] כי ראינו פילטרציה, Fnn≥0 וכן חסום, מ"מ X אם :(Levy Upward Theorem) משפט

.F∞ := σ (F1,F2, ...) עבור Xna.s.−→n→∞

E [X | F∞] גם מתקיים

X∞ = כי להראות נרצה .X∞ מ"מ לאיזה Xna.s.−→n→∞

X∞ כי הקודם מהמשפט נובע ,Xnn≥0 המרטינגל מחסימות הוכחה:

.E [X | F∞]

מתקיימת לכן חסום. מרטינגל הוא Ynn≥0 כי לראות ניתן .n ≥ m עבור Yn := Xn · 1A במ"מ נתבונן .A ∈ Fm תהי

.Yna.s.−→n→∞

Y∞ := X∞ · 1A התכנסות

כעת, מתקיים

E [X · 1A] = E [E [X · 1A | Fn]]

= E [Xn · 1A] = E [Yn]

= E [Y∞] = E [X∞ · 1A]

לכל מתקיים זה שוויון גם ולכן ,A ∈ ⋃n≥0 Fn לכל E [X∞ · 1A] = E [X · 1A] ומתקיים ∞F־מדיד, הוא X∞ כי לב נשים

מספיק n ∈ N לאיזה Fn של קבוצה ידי על כרצוננו טוב לקירוב ניתנת F∞ של קבוצה כל (כי A ∈ σ(⋃

n≥0 Fn

)

= F∞

.X∞ = E [X | F∞] כלומר גדול),

נגדיר ב"ת. כולם ,P (Yn = 1) = 1 − P (Yn = 0) = pn ההתפלגות עם מ"מ Ynn≥0 ונניח ,X ∼ U 0, 1 יהי דוגמה:

.Zn := (X + Yn) mod 2

.Xn := E [X | Fn] מרטינגל זו לפילטרציה ביחס נגדיר .Fn := σ (Z1, ..., Zn) עבור ,Fnn≥0 בפילטרציה נתבונן

.Xna.s.−→n→∞

X אזי קבוע, pn = p < 1/2 כי נניח תרגיל:

.Xna.s.−→n→∞

E [X | F∞] 6= X אז אקספוננציאלית), (למשל מהר pn → 1/2 אם תרגיל:

מרטינגלים של מידה ריכוז 13.1

.E [Xn+1 −Xn | Fn] = 0 ולכן E [Xn+1 | Fn] = Xn כי ראינו ,Xnn≥0 מרטינגל בהינתן

.∑n

i=1 Yi = Xn −X0 וכן ,E [Yn+1 | Fn] = 0 כי ונקבל Yn := Xn −Xn−1 נסמן

.(Cov (Yi, Yj) = 0 (כלומר בלתי־מתואמים הם Y1, ..., Yn תרגיל:

אזי ,|Xn+1 −Xn| ≤ 1 הכלליות הגבלת ללא נאמר חסומים, הפרשים עם מרטינגל Xnn≥0 יהי :(Azuma) משפט

P

(n∑

i=1

(Xi −Xi−1) ≥ λ

)

= P (Xn −X0 ≥ λ) ≤ e−λ2/2n

מותנית. בתוחלת שימוש תוך הופדינג, משפט של להוכחה בדומה הוכחה:

?1, 1, 0 שיוצא ועד ברציפות? 1, 1, 1 שיוצא עד ההטלות מספר תוחלת מהי ב"ת. באופן פעמים אינסוף הוגן מטבע מטילים דוגמה:

?0, 1, 1 או

42

V חלק

מרקוב שרשראות

או סופית S עבור Xn : Ω → S מהצורה מ"מ של Xnn≥0 סטוכסטי תהליך היא בדיד בזמן הומוגנית מרקוב שרשרת הגדרה:

,n ≥ 0 שלכל כך בת־מניה,

P (Xn+1 = x | X0 = x0, X1 = x1, ..., Xn = xn) = Pxn,x

המעבר. מטריצת המכונה אינסופית), (אולי |S| × |S| מגודל סטוכסטית מטריצה P עבור

.x ∈ S לכל∑

y∈S Px,y = 1 וגם ,x, y ∈ S לכל Px,y ≥ 0 אם סטוכסטית, מטריצה היא P מטריצה הערה:

שכן התהליך, התפלגות את קובעים ,P (X0 = x0) של הערך עם יחד P המטריצה הערה:

P (X0 = x0, ..., Xn = xn) = P (X0 = x0) · P (X1 = x1 | X0 = x0) · P (X2 = x2 | X0 = x0, X1 = x1) · ... ··... · P (Xn = xn | X0 = x0, ..., Xn−1 = xn−1)

= P (X0 = x0) · Px0,x1· Px1,x2

· ... · Pxn−1,xn

דוגמה:

מהקודמים. אחד באף כלל תלויה אינה ההתפלגות שכן מרקוב, שרשרת הם ושווי־התפלגות ב"ת מ"מ .1

מרקוב, שרשרת Ynn≥0 אזי .Yn :=∑n

i=1Xn במ"מ נתבונן ב"ת. Xn : Ω → S יהיו .2

P (Yn+1 = y | Y0 = y0, ..., Yn = yn) = P (Yn +Xn+1 = y | Y0 = y0, ..., Yn = yn)

= P (yn +Xn+1 = y | Y0 = y0, ..., Yn = yn) = P (Xn+1 = yn − y)

מהצורה אינסופית היא לה המתאימה המטריצה .Y0, ..., Yn בכל ב"ת הוא Xn+1 שכן

P =

.

.

.

.

.

.

.

.

. 0 1/21/2 0 1/2

1/2 0.

.

.

.

.

.

.

.

.

למקום אקראי קלף העברת ידי על קלפים חפיסת ערבוב למשל מרקוב. שרשרת היא מקרית פעולה של מצטברת הפעלה .3

אקראי.

43

מתקיים, אז .µn (x) = P (Xn = x) הווקטור µn ∈ R|S| כי נניח

µn+1 (x) : = P (Xn+1 = x) =∑

(x0,...,xn)∈Sn+1

P (X0 = x0, ..., Xn = xn and Xn+1 = x)

=∑

xn∈S

∑

(x0,...,xn−1)∈Sn

P (X0 = x0, ..., Xn = xn) · P (Xn+1 = x | X0 = x0, ..., Xn = xn)

=∑

xn∈S

Pxn,x ·∑

(x0,...,xn−1)∈Sn

P (X0 = x0, ..., Xn = xn)

=∑

xn∈S

Pxn,x · µn (xn)

כלומר,

µn+1 = µnPנקבל, ובאינדוקציה

µn = µ0Pn

השני. לעלה לקפוץ או שלה העלה על להישאר האם מחליטה היא לדקה אחת עלים. משני אחד על בביצה נמצאת צפרדע דוגמה:

היא המעברים ומטריצת ,e, w הם העלים נניח

P =

(pee pewpwe pww

)

=

(1− p pq 1− q

)

π אזי .π ∈ R2 וקטור לאיזה שלו הקואורדינטות בשתי מתכנס כלומר ,R2 של כווקטור מתכנס µn = µ0Pn הווקטור כי נניח

.π = πP להתקיים וצריך ,R|S| של בסימפלקס נמצא

המשוואות מתקבלות ,π = (x, y) אם זה, במקרה כי לראות ניתן

πP =

x = x (1− p) + yq

y = y (1− q) + xp=⇒ xp = yq =⇒ y = x

p

q

.(p+ q > 0 כי (בהנחה x = qp+q , y = p

p+q הפתרון את נקבל ולכן ,x+ y = 1 גם אבל

יחידה. אינה הסטציונרית ההתפלגות ולכן ,π = πP מקיים π ∈ R2 וקטור כל ולכן ,P = I2×2 אז p = q = 0 של במקרה

היא P במטריצה הכפלה ל־1. מסתכמים שערכיהם אי־שליליים, ערכים עם הווקטורים כל הוא ,R|S| של הסימפלקס הערה:

לעצמו. מהסימפלקס רציפה העתקה

ונקבל ∆n := xn − qp+q נגדיר ,µn = (xn, 1− xn) הווקטור עבור

∆n+1 = xn+1 −q

p+ q= xn (1− p) + (1− xn) q −

q

p+ q

= xn (1− p− q) + q − q

p+ q= ∆n (1− p− q)

כי באינדוקציה מצאנו

∆n = ∆0 (1− p− q)n −→n→∞

0

.p = q = 1 או p = q = 0 כן אם אלא

44

.π = πP שמתקיים כך ,π וקטור עם P מידה היא סטציונרית מידה ,P מעבר מטריצת עם מרקוב שרשרת בהינתן הגדרה:

סטציונרית. הסתברות מידת קיימת אז ,S סופי מצבים מרחב על מרקוב שרשרת P אם משפט:

עם משמאל עצמי וקטור גם יש ולכן ,1 עצמי ערך עם מימין עצמי וקטור הוא (1, ..., 1) כי נובע סטוכסטית מטריצה P מהיות הערה:

אחרת. בצורה זאת נוכיח לכן אי־שלילי. הוא הזה העצמי הווקטור האם ברור לא זאת עם .1 עצמי ערך

:= עבור ,µ 7→ µP ,P : → העתקה כלומר לעצמו. R|S| של מהסימפלקס רציפה העתקה P כי לב נשים הוכחה:

.µ ∈ R|S| | µ (x) ≥ 0,

∑

x∈S µ (x) = 1

המבוקשת. המידה היא זו שבת ונקודת שבת, נקודת קיימת בראואר של השבת נקודת ממשפט

.νN := 1N

∑Nn=1 µn בממוצע ונתבונן µn := µ0Pn נגדיר כלשהי, µ0 ∈ נקבע (נוספת) הוכחה:

שמתקיים לראות קל .νNk→ π מתכנסת תת־סדרה בעלת νNN

νNP − νN =µN+1 − µ1

N→ 0

.πP − π = 0 כי נקבל ,νNkk על זאת נפעיל אם

מידה עם המקרים בשני השלמים, על או הטבעיים על הזזה למשל סטציונרית. מידה בהכרח אין אינסופית, S שבו במקרה הערה:

.P ≡ 1 כי לראות ניתן השלמים של ובמקרה ,P ≡ 0 כי לראות ניתן הטבעיים של במקרה .P (k, k + 1) = 1

ננרמל פשוט סטציונרית. היא אחידה π אז ,(∑

y∈S Px,y = 1 וגם∑

x∈S Px,y = 1 (כלומר דו־סטוכסטית מטריצה P אם דוגמה:

.π = πP של פתרון π ≡ 1 ונקבל 1־ים, של לווקטור

סימטרית. המטריצה זה במקרה ולמעשה דו־סטוכסטית, מטריצה נותן רגולרי גרף על פשוט מקרי הילוך דוגמה:

שכן סטציונרית, מידה היא π (x) := deg x זה במקרה כלשהו. גרף על פשוט מקרי בהילוך נתבונן דוגמה:

π (y) =∑

(x,y)∈G

π (x)P (x, y) =∑

(x,y)∈G

deg x1

deg x=

∑

(x,y)∈G

1 = deg y

לדרגת שווה הכניסה דרגת קודקוד, בכל (כלומר x קודקוד לכל degin x = degout x וכן מכוון, גרף G = (V,E) אם תרגיל:

סטציונרית. מידה אופן באותו מתקבלת אז היציאה),

.Pnx,y > 0 שמתקיים כך n ≥ 0 קיים ,x, y ∈ S לכל אם אי־פריקה, נקראת P מעבר מטריצת עם מרקוב שרשרת הגדרה:

קודקודים. זוג כל בין כלשהו באורך מסלול שקיים כלומר חזקה. לקשירות ביטוי זה השרשרת, של המצבים בגרף הערה:

,x ∈ S לכל כלומר, .h ≡ Ph אם P־הרמונית, נקראת h : S → R פונקציה ,P מעבר מטריצת עם מרקוב לשרשרת הגדרה:

h (x) =∑

y∈S

Px,yh (y)

סטוכסטית. מטריצה P כי הרמונית, היא קבועה פונקציה הערה:

מרטינגל. היא h (Xn)n≥0 אז P־הרמונית, היא h : S → R וכן ,P מעבר מטריצת עם מרקוב שרשרת Xnn≥0 אם הערה:

h אזי הרמונית, h : S → R וכן ,S סופי מצבים ומרחב P מעבר מטריצת עם אי־פריקה מרקוב שרשרת Xnn≥0 אם משפט:

קבועה.

45

אי־פריקה. השרשרת כי כ"ת τ < ∞ אז כלשהי. X0 = x0 עבור τ := min n | Xn = y עצירה זמן נגדיר .y ∈ S יהי הוכחה:

כי נובע OST ממשפט כך אם חסומה. h (Xn) ולכן חסומה, h ,S מסופיות כן כמו

h (x0) = E [h (X0)] = E [h (Xτ )] = h (y)

השמאלי העצמי המרחב גם לכן .1 מממד כלומר הקבועות, הפונקציות רק הוא ,1 העצמי הווקטור של הימני העצמי המרחב מסקנה:

הסתברות. מידת היא מהן אחת שבדיוק הסטציונריות, המידות מרחב ממד זה כלומר .1 מממד הוא

לסטציונריות התכנסות 13.2

,x ∈ S לכל נגדיר .P מעבר ומטריצת S מצבים מרחב עם מרקוב שרשרת Xnn≥0 תהי הגדרה:

Ax :=n ∈ N | Pn

x,x > 0

ax := gcdAx

.x של המחזור נקרא ax

לחיבור. סגורה Ax ,x ∈ S לכל הערה:

אז לחיבור, הסגורה כלשהי קבוצה A ⊂ N אם טענה:

|A gcd (A)N| <∞

(תרגיל)

.x, y ∈ S לכל ax = ay כלומר שווים. המחזורים כל אז אי־פריקה, השרשרת אם טענה:

הקודמת מהטענה לכן .Ay +m + l ⊂ Ax לכן .Pmx,y,P l

y,x > 0 שמתקיים כך m, l קיימים מאי־פריקות .x, y ∈ S נקבע הוכחה:

.ax = ay ולכן ,ay ≤ ax גם סימטרי באופן .ax ≤ ay כי נובע

מחזורית. השרשרת כי נאמר a > 1 אם .P של המחזור להיות x ∈ S לאיזה a := ax את נסמן אי־פריקה, שרשרת עבור הגדרה:

.µN → π מתקיים ,(a = 1 (כלומר ולא־מחזורית ,S סופי מצבים מרחב בעלת אי־פריקה שרשרת P עבור משפט:

מספיק). גדול r לכל נכון זה (למעשה Pkx,y > 0 מתקיים x, y ∈ S שלכל כך ,k קיים המשפט, בתנאי למה:

.x ∈ S לכל |N−Ax| <∞ אז לא־מחזורית, P אם .Axy :=n ∈ N | Pn

x,y > 0בקבוצה נתבונן הוכחה:

N .

∣∣∣N−⋂x,y∈S Axy

∣∣∣ <∞ גם לכן .|N−Axy| <∞ לכן .Ax + l ⊂ Axy אז P l

x,y > 0 אם כן כמו

כאשר P (XN = YN ) → 1 ידי על XN , YN של צימוד נחפש כלשהי. µ0 התפלגות לאיזו X0 ∼ µ0, Y0 ∼ π נקבע הוכחה:

.N → ∞,Xm 6= Ym אם .P לפי Xm+1 = Ym+1 נגריל אז Xm = Ym אם .X0, ..., Xm, Y0, ..., Ym את שהגדרנו באינדוקציה נניח

מהלמה). k (עבור P לפי Xm+1, ..., Xm+k, Ym+1, ..., Ym+k את בלתי־תלוי באופן נגריל

לנצח. נמשך השוויון ואז .Xm+k = Ym+k שמתקיים כך minx,y Pkx,y יש ,(Xm 6= Ym (כלומר השני בשלב שנמצאים פעם בכל

אפס. היא Xm 6= Ym פעמים שאינסוף ההסתברות ולכן גאומטרית, דועך השני השלב את שמבצעים הפעמים מספר

46

,x, y ∈ S ולכל n לכל הבאה: בצורה מרקוב תכונת את הגדרנו תזכורת:

P (Xn+1 = x | X0 = x0, X1 = x1, ..., Xn = xn) = Pxn,x

הבאה: החזקה מרקוב תכונת מתקיימת טענה:

לפילטרציה ביחס כ"ת, סופי עצירה זמן τ כי נניח Fn־מדיד. הוא Xn כי מתקיים .Fn := σ (X0, ..., Xn) נגדיר n ∈ N לכל

.Fnn≥0

ב"ת היא Xτ ובהינתן מעבר, הסתברויות אותן עם מרקוב שרשרת הוא Ynn≥0 אז ,Yn := Xτ+n נגדיר n ∈ N לכל

.X0, ..., Xτ ב־

τ = n של תת־מאורע שזה כך כאלה הם x0, x1, ..., xn כאשר ,X0 = x0, X1 = x1, ..., Xn = xn במאורע נתנה הוכחה:

לעצור). לנו מורה העצירה זמן שבו מאורע הוא אכן זה שמאורע (כלומר

P (Ym+1 = y | Y0 = y0, Y1 = y1, ..., Ym = ym and X0 = x0, X1 = x1, ..., Xn = xn)

= P (Xn+m+1 = yn+m+1 | X0 = x0, ..., Xn = xn and Xn+1 = yn+1−m, ..., Xn+m = yn+m−n)

(By Markov property) = PYmYm+1

נגדיר ,a ∈ S עבור הגדרה:

τ+a := min n ≥ 1 | Xτ = a

סופי, מצבים מרחב ובעלת אי־פריקה מרקוב שרשרת עבור טענה:

π (x) =1

Ex

[τ+x]

מתקיים, כי לב נשים תחילה .π הסטציונרית בהתפלגות המתחילה השרשרת על נסתכל הוכחה:

E [|1 ≤ n ≤ |S| | Xn = x|] = |S|π (x)

.(π (x) היא x את לקבל ההסתברות נתון, זמן בכל (כי

הגדולים, המספרים מחוק לכן .i = 1, ...,m לכל ti − ti−1 ∼ τ+x אזי .t0, ..., tm בזמנים xב־ מבקרים כי נניח שני, מצד

1

m

m∑

i=1

(ti − ti−1) =1

m(tm − t0)

a.s.−→m→∞

Ex

[τ+x]

ולכן , 1m t0 → 0 כי לב נשים

1

mtm

a.s.−→m→∞

Ex

[τ+x]:= µ

47

נקבל, אז גדול. k לאיזה m = kµ נבחר

1

mtm =

1

kt kµµ

. 1k t kµ→ 1 נקבל k → ∞ כאשר ולכן

.tm > (µ− ǫ)m ,m > M לכל גדול, מספיק M עבור ,ǫ > 0 לכל לכן

.Cl := |1 ≤ i ≤ l | Xi = x| < m למאורע שקול tm > l המאורע כי לב נשים

כי, נובע בהסתברות ההתכנסות לגבי מהנתון

∀ǫ>0, P (tm > (µ− ǫ)m) → 1

המאורעות, ומשקילות

∀ǫ>0, P(C(µ−ǫ)m ≤ m

)→ 1

כלומר,

∀ǫ>0, P

(

Ck <k

µ− ǫ

)

→ 1

אופן, ובאותו

∀ǫ>0, P

(

Ck >k

µ+ ǫ

)

→ 1

הכל, בסך כלומר

∀ǫ>0, P

(1

µ+ ǫ<Ck

k<

1

µ− ǫ

)

→ 1

מרקוב, מאי־שוויון כי לב נשים

π (x) = E

[1

kCk

]

≥ P

(1

µ+ ǫ<

1

kCk

)1

µ+ ǫ→ 1

µ+ ǫ

פחות) 1 המשלים, (עבור מרקוב מאי־שויון שוב שני, ומצד

π (x) = E

[1

kCk

]

≤ 1

µ− ǫ+ P

(1

kCk ≥ 1

µ− ǫ

)

→ 1

µ− ǫ

48

Reversability 13.3

,π (x) = 1|S| כלומר האחידה, ההתפלגות זה במקרה .Pxy = Pyx סימטרית, מעברים מטריצת עם מרקוב בשרשרת נתבונן דוגמה:

כי, סטציונרית. היא

∑

x∈S

1

|S|Pxy =1

|S|∑

x∈S

Pxy =1

|S|∑

y∈S

Pxy =1

|S|

.Pxy =

1

deg x (x, y) ∈ G

0 otherwise

כלומר, .G גרף על פשוט הילוך שהיא P מעברים מטריצת עם מרקוב בשרשרת נתבונן דוגמה:

כי, סטציונרית. התפלגות ולקבל לנרמל וניתן סטציונרית, מידה היא π (x) = deg x זה במקרה

∑

x∈S

deg xPxy =∑

(x,y)∈G

1 = deg y

היא, זו והתפלגות ,k ≥ 0 לכל (X0, X1) ∼ (Xk, Xk+1) אז ,X0 ∼ π אם הגדרה:

P (Xk = x,Xk+1 = y) = π (x)Pxy

.(X0, X1) ∼ (X1, X0) אם רוורסבילית, היא מרקוב שרשרת כי נאמר

.π (x)Pxy = π (y)Pyx אם רוורסבילית היא מרקוב שרשרת שקול, באופן

מתקיים, הקודמות. הדוגמאות בשתי נתבונן דוגמה:

P (X0 = x,X1 = y) = π (x)Pxy = π (y)Pyx = P (X1 = x,X0 = y)

מתקיים, השנייה בדוגמה גם מידי. זה הראשונה בדוגמה

π (x)Pxy = deg x1

deg x= deg y

1

deg y= π (y)Pyx

סטציונרית. מידה היא π אז ,π למידה ביחס רוורסבילית מרקוב שרשרת אם טענה:

כי להראות צריך הוכחה:

∑

x∈S

π (x)Pxy = π (y)

אכן, אבל

∑

x∈S

π (x)Pxy =∑

x∈S

π (y)Pyx = π (y)∑

x∈S

Pyx = π (y)

49

הסטציונרית ההתפלגות כי הראינו ואי־פריקה. סימטרית מרקוב שרשרת של מעבר מטריצת P תהי מטרופוליס) (אלגוריתם הגדרה:

יחידה.

בצורה ,π להתפלגות ביחס רווסבילית שתהיה חדשה מרקוב שרשרת נייצר המצבים. מרחב על כלשהי הסתברות מידת π תהי

הבאה:

ידי על המצבים, המרחב אותו על Q מעבר מטריצת נגדיר

Qxy =

Pxy ·min(

1, π(y)π(x)

)

x 6= y

1−∑z∈S Pxz ·min(

1, π(z)π(x)

)

x = y

המידה היא π בפרט .π להתפלגות ביחס רוורסבילית מרקוב שרשרת של מעבר מטריצת היא Q מטרופוליס, אלגוריתם בתנאי טענה:

.Q של הסטציונרית

כי להראות צריך הוכחה:

π (x)Qxy = π (y)Qyx

להראות שצריך מה אז ,x 6= y עבור נדון

π (x)Pxy ·min

(

1,π (y)

π (x)

)

= π (y)Pyx ·min

(

1,π (x)

π (y)

)

ונקבל נצמצם ולכן סימטרית, P כי הנחנו

π (x) ·min

(

1,π (y)

π (x)

)

= π (y) ·min

(

1,π (x)

π (y)

)

תמיד. מתקיים זה שוויון כי לראות וקל

.max f את למצוא מעוניינים כלשהי. פונקציה f : S → R תהי .P מעבר מטריצת עם סופי, מצבים מרחב S כי נניח דוגמה:

מטרופוליס אלגוריתם לפי .π(y)π(x) = λf(y)−f(x) כי נקבל .cλ :=

∑

x∈S λf(x) עבור ,πλ (x) := cλλ

f(x) נגדיר ,λ > 1 לכל

שלה. הסטציונרית ההתפלגות שזו מרקוב שרשרת לקבל ניתן

(בקירוב). f של המקסימום את ולמצוא המתקבלת השרשרת את לנתח ניתן לעתים

.(P. Dia onis של Markov Chain Monte Carlo Revolution מהמאמר לקוחה (הדוגמה דוגמה:

היא אחרת, אות תופיע אות שלאחר ההסתברות כלומר, האנגלית. בשפה טקסט לייצור מרקוב שרשרת של במודל משתמשים

בשפה. יחד שלהן ההופעות להסתברות בהתאם

היא מסוים, טקסט לקבל ההסתברות אזי

P (∀i=1,...,n, Xi = li) =∏

i=1,...,n−1

P (li, li+1)

נגדיר

f (l1, ..., ln) =n∑

i=1

logP (li, li+1)

50

נגדיר ,σ פרמוטציה לכל

f (σ) =

n∑

i=1

logP(σ−1 (ci) , σ

−1 (ci+1))

.σ הפרמוטציה הפעלת לאחר הטקסט אותיות הן c1, ..., cn כאשר

במתודולוגיה להשתמש ניתן מקסימלית. להיות צריכה f (σ) אז .ci = σ (li) כלומר ,σ היא השתמשו שבה הפרמוטציה כי נניח

הטקסט. את ולפענח σ את למצוא ובכך המקסימום, את לקרב כדי הקודמת בדוגמה שתיארנו

51

VI חלק

המרכזי הגבול משפט

מקריים משתנים של התכנסויות 14

.X מ"מ ויהי Xnn≥1 מ"מ של סדרה תהי הגדרה:

אם ,Xna.s.−→n→∞

X ונסמן ,Xל־ כמעט־תמיד מתכנסת הסדרה כי נאמר .1

P (Xn → X) = 1

אם ,XnP−→

n→∞X ונסמן ,Xל־ בהסתברות מתכנסת הסדרה כי נאמר .2

∀ǫ>0, P (|Xn −X | > ǫ) −→n→∞

0

רציפה, F בה t ∈ R לכל אם ,Xnd−→

n→∞X ונסמן ,Xל־ בהתפלגות מתכנסת הסדרה כי נאמר .3

Fn (t) −→n→∞

F (t)

.F (t) := P (X ≤ t) ,Fn (t) := P (Xn ≤ t) כאשר

,f : Ω → R וחסומה רציפה פונקציה לכל אם ,Xnw−→

n→∞X ונסמן ,Xל־ חלש מתכנסת הסדרה כי נאמר .4

E [f (Xn)] −→n→∞

E [f (X)]

.1 → 2 → 3 ↔ 4 מתקיים מוגדרת, ההתכנסות שבהם במרחבים טענה:

3 ↔ 4 כי נראה .1 → 2 → 3 כי בעבר הראינו הוכחה:

רציפה פונקציה נגדיר ,δ > 0 עבור .Fn (t) → F (t) כי נראה .FX של רציפות נקודת t תהי חלשה. התכנסות נניח •

אזי, .fδ (y) :=

1 y ≤ t

1 + y−tδ t < y < t+ δ

0 y > t+ δ

וחסומה

Fn (t) : = P (Xn ≤ t) = E[1Xn≤t

]≤ E [fδ (Xn)]

−→n→∞

E [fδ (X)] ≤ E[1X≤t+δ

]= P (X ≤ t+ δ) := F (t+ δ)

.lim supn→∞ Fn (t) ≤ F (t) ,F של רציפות נקודת t ומהיות ,δ > 0 לכל lim supn→∞ Fn (t) ≤ F (t+ δ) כי נובע לכן

lim infn→∞ Fn (t) ≥ כי ולקבל מתאימות, gδ פונקציות בחירת עבור דומה, בצורה ההפוך השוויון אי את להראות ניתן

.lim infn→∞ Fn (t) ≥ F (t) ,F של רציפות נקודת t ומהיות ,δ > 0 לכל F (t+ δ)

בהתפלגות. התכנסות יש כלומר ,lim supn Fn (t) = F (t) = lim infn Fn (t) הכל בסך לכן

52

בהתפלגות. התכנסות נניח •

מקיימת F : R → R אם למה:

t → −∞ כאשר F (t) → 0 .1

t→ ∞ כאשר F (t) → 1 .2

חלש עולה מונוטונית .3

מימין רציפות .4

.F היא שלו המצטברת ההתפלגות שפונקציית ,X מ"מ קיים אזי

וכי ,t → 1 כאשר F−1 (t) → ∞ כי מתקיים הפיכה. F זה במקרה ממש. ועולה מימין), רק (לא רציפה F כי נניח הוכחה:

.t→ 0 כאשר F−1 (t) → −∞ההתפלגות פונקציית כי להראות קל לבג, מידת עם [0, 1] הקטע על מסתכלים אם אזי .X (ω) := F−1 (ω) נגדיר

N .F היא X של המצטברת

נקודתית. Xn → X אז נקודתית, Fn → F אם אזי ,Xn := F−1n ונגדיר X := F−1 נגדיר אם הקודמת, הלמה בתנאי למה:

N באינפי. סטנדרטית טענה הוכחה:

לישר כשיקוף ההופכית", "הפונקציה את גאומטרית להגדיר ניתן ממש, עולה מונוטונית אינה הפונקציה אם גם הערה:

.F היא שלו שההתפלגות מ"מ היא זו ופונקציה המישור, על x = yשההתפלגות המ"מ את גאומטרית להגדיר ניתן מימין), רק (אלא ממש רציפה אינה הפונקציה אם גם דומה, באופן

.F היא שלו

.E [f (Xn)] −→n→∞

E [f (X)] ולכן ,f (Xn)a.s.−→n→∞

f (X) כי לראות קל כלשהי, וחסומה רציפה f עבור ,Xnd−→

n→∞X אם כעת

מצטברת התפלגות פונקציות של התכנסות 15

פונקציה עם Fnkk≥1 תת־סדרה קיימת אזי מצטברת. התפלגות פונקציות של סדרה Fnn≥1 תהי :Helly-Barry של הלמה

.Fnk(t) → F (t) ,F של t ∈ R רציפות נקודת שלכל כך מימין, ורציפה חלש עולה מונוטונית F

ול־1 ל־0 שואפת בהכרח לא כלומר התפלגות. פונקציית המגדירים התנאים בכל בהכרח עומדת אינה הגבולית F כי לב נשים הערה:

בהתאמה. ,t→ ∞ או t→ −∞ כאשר

.t לכל Fn (t) → 0 ולכן ,Fn (t) = P (Xn ≤ t) =

0 t ≤ n

1 t > nאזי .P (Xn = n) = 1 לדוגמה,

ולכן חסומה סדרה זו .Fn (r0)n≥1 בסדרה ונתבונן r0 את ניקח הרציונליים. של מניה rkk≥1 תהי באלכסון. נשתמש הוכחה:

.n0i אינדקסים עם מתכנסת, תת־סדרה לה יש

נמשיך .n1i אינדקסים עם מתכנסת, תת־סדרה לה יש ולכן חסומה סדרה זו .

Fn0,i

(r1)

i≥1בסדרה ונתבונן r1 את ניקח

אינסוף. עד הלאה

(אי־שוויון F (t) := infx<r∈QG (r) נגדיר .G : Q → [0, 1] עבור Fnk(r) → G (r) כי מתקיים .nk := nk

k נגדיר לבסוף

חלש. עולה ומונוטונית מימין רציפה F כי להראות ניתן הרציונליים). על G עם בהכרח מזדהה לא F כלומר חזק;

.F של רציפות נקודת t ∈ R לכל Fnk(t) → F (t) כי להראות נרצה

שיש נובע F מהגדרת .|F (r2)− F (r1)| < ǫ עם רציונליים r1 < t < r2 יש ,ǫ > 0 בהינתן .F של רציפות נקודת t תהילכן יחד, גם שניהם |F (r1)−G (r3)| , |F (r2)−G (r3)| < ǫ עם רציונליים r3 < x < r4

|G (r4)−G (r3)| < 2ǫ

53

כלומר,

∣∣∣∣limnk

Fnk(r4)− lim

nk

Fnk(r3)

∣∣∣∣< 2ǫ

ולכן

lim supnk

Fnk(t)− lim inf

nk

Fnk(t) < 2ǫ

N .F (t) שווה גם בהכרח ולכן קיים, הגבול כלומר

,(L,M) ⊂ R רחב מספיק ממשי קטע עבור ǫ > 0 לכל אם הדוקה, נקראת Fnn≥1 מצטברת התפלגות פונקציות של סדרה הגדרה:

,n לכל מתקיים

Fn (L) < ǫ , Fn (M) ≥ 1− ǫ

הדוקה. אינה Fnb≥1 כי מתקיים ,P (Xn = n) = 1 עם לעיל שהראינו בדוגמה הערה:

מצטברת. התפלגות פונקציית היא שלה חלקי גבול כל הדוקה, שהיא מצטברת התפלגות פונקציות סדרת עבור טענה:

כתרגיל). מושארת (ההוכחה

סדרה זו אזי מצטברת, התפלגות פונקציית F עבור ,Fnd−→

n→∞F מקיימת מצטברת התפלגות פונקציות סדרת Fnn≥1 אם טענה:

הדוקה.

כתרגיל). מושארת (ההוכחה

המרכזי הגבול משפט 16

היא שלו הצפיפות אם ,Z ∼ N (0, 1) אחד, ושונות אפס תוחלת עם נורמלית מתפלג Z מ"מ כי אומרים תזכורת:

fZ (t) =1√2πe−

12t2

נסמן, שלו המצטברת ההתפלגות פונקציית את

Φ (λ) =

λˆ

−∞

fZ (t) dt =1√2π

λ

−∞

e−12t2dt

E[X2

n

]= 1 וכי E [Xn] = 0 כי נניח ושווי־התפלגות. בלתי־תלויים מקריים משתנים סדרת Xnn≥1 תהי המרכזי: הגבול משפט

.n לכל

אזי ,1 ושונות 0 תוחלת בעל שהוא , 1√n(X1 + ...+Xn) מ"מ נגדיר

1√n(X1 + ...+Xn)

d−→n→∞

Z ∼ N (0, 1)

54

הבאה, בצורה המשפט את להבין ניתן כי לב נשים הערה:

P(X1 + ...+Xn ≤ λ

√n)−→n→∞

Φ (λ)

,E[

|Xn|3]

:=M <∞ כי ידוע אם :Berry-Esseen משפט

maxt∈R

|Fn (t)− Φ (t)| = O

(1√nM

)

זה). משפט נוכיח (לא הנורמלית. המצטברת ההתפלגות פונקציית Φ עבור

אופייניות פונקציות 16.1

,ϕX : R → C מהצורה להיות אינדיקטור) או מציינת מפונקציה (בשונה שלו אופיינית הפונקציה את נגדיר ממשי. מ"מ X יהי הגדרה:

ϕX (t) := E[eitX

]

טענה:

,t ∈ R לכל .1

|ϕX (t)| ≤ 1

מ"מ. לכל מוגדרת האופיינית הפונקציה כי נובע בפרט

זו). פונקציה של התוחלת גם ולכן ,∣∣eitX

∣∣ ≤ 1 כי לב (נשים

,t ∈ R לכל ב"ת, מ"מ X,Y אם .2

ϕX+Y (t) = ϕX (t) · ϕY (t)

,t ∈ R לכל אזי ,aX + b במ"מ נתבונן a, b ∈ R לכל .3

ϕaX+b (t) = E

[

eit(aX+b)]

= ϕX (at) · eitb

.ϕ−X (t) = ϕX (−t) = ϕX (t) בפרט,

.R כל על במידה־שווה רציפה ϕX .4

P (X ≤ −t) = כלומר ל־0. ביחס סימטרי X אם ורק אם קורה זה ממשית. פונקציה היא כלומר ,ϕX : R → R כי ייתכן .5

.t > 0 לכל P (X ≥ t)

כתרגיל). מושארת (ההוכחה

.X − Y ∼ U (−1, 1) עם ושווי־התפלגות, ב"ת X,Y קיימים שלא להראות תרגיל: .6

דוגמאות:

55

,P (X = 1) = P (X = −1) = 1/2 .1

ϕX (t) =1

2eit +

1

2e−it = cos t

,X ∼ exp (1) .2

ϕX (t) =

∞

0

eitx · e−xdx =

∞

0

e(it−1)xdx =1

it− 1e(it−1)x |∞0 =

1

1− it

,fX (x) = 12e

−|x| כלומר כפול, אקספוננט הוא X .3

ϕX (t) =1

2· 1

1− it+

1

2· 1

1− i · (−t) =1

2·(

1

1− it+

1

1 + it

)

=1

1 + t2

,X ∼ N (0, 1) .4

ϕX (t) =1√2π

ˆ

R

eitx · e− 12x2

dx = e−12t2 1√

2π

ˆ

R

e−12(x−it)2dx = e−

12t2

. 1√2πe−

12z2

בפונקציה נתבונן הבא: המסילתי האינטגרל באמצעות , 1√2π

´

Re

12(x−it)2dx = 1 כי להראות ניתן כי

כי לראות ניתן .[−K + it,K + it] מרוכב קטע הוא העליון וחלקו ,[−K,K] ממשי קטע הוא שבסיסו במרובע נתבונן

העליון. החלק ועל הבסיס על שווה האינטגרל ערך ולכן ,K → ∞ כאשר לאפס שואף האינטגרל בצדדים

המרכזי הגבול משפט הוכחת 16.2

מידית: נובע הוא מהן הבאות, הלמות שלוש באמצעות המרכזי הגבול משפט את נוכיח

,a < b לכל כלשהו, X מ"מ שעבור הקובעת לוי, של ההיפוך נוסחת ידי על ,X של ההתפלגות את קובעת ϕX :1 למה

1

2πlim

T→∞

T

−T

1

it

(e−ita − e−itb

)· ϕX (t) dt = P (a < X < b) +

1

2(P (X = a) + P (X = b))

כי, דומה באופן להראות ניתן

1

2πlim

T→∞

T

−T

e−itaϕX (t) dt = P (X = a)

לכל ϕXn(t) → ϕX (t) אם ורק אם ,(Xn

w−→n→∞

X שקול באופן (או Xnd−→

n→∞X מתקיים ,X ומ"מ Xnn≥1 מ"מ עבור :2 למה

.t ∈ R

הדוקה סדרה ,Fn (a) := P (Xn ≤ a) כאשר Xn ∼ Fn עבור לוי: של הצפיפות משפט הוא זו למה של הלא־טריוויאלי החלק

.t ∈ R לכל ,ϕ לאיזו ϕn (t) → ϕ (t) כי ונניח ,Xn של האופיינית הפונקציה ϕn תהי התפלגויות. של

.(ϕX ≡ ϕ (ובפרט ,(Xnw−→

n→∞X שקול, באופן (או Xn

d−→n→∞

X שמתקיים כך ,FX (a) התפלגות עם X מ"מ קיים אזי

56

כאן. זאת נצטרך לא הדוקה. הסדרה כי הדרישה על ולוותר המשפט, את להכליל ניתן הערה:

.Z ∼ N (0, 1) עבור ,t ∈ R לכל ϕ 1√n(X1+...+Xn) (t) → ϕZ (t) מתקיים אחד, ושונות אפס תוחלת עם Xnn≥1 מ"מ עבור :3 למה

,t ∈ R לכל חסום 1it

(e−ita − e−itb

)הביטוי כי לב נשים :1 למה הוכחת

b− a ≥bˆ

a

∣∣e−ity

∣∣ dy ≥

∣∣∣∣∣∣

bˆ

a

e−itydy

∣∣∣∣∣∣

=

∣∣∣∣

1

it

(e−ita − eitb

)∣∣∣∣

סדר את להחליף כדי פוביני במשפט נשתמש כך אם חסום. שבלמה האינטגרנד ולכן שווה, במידה חסומה ϕX הפונקציה גם

האינטגרציה,

1

2πlim

T→∞

T

−T

1

it

(e−ita − eitb

)· E[eitx]dt =

1

2πlim

T→∞E

T

−T

1

it

(e−ita − e−itb

)eitxdt

:=1

2πlim

T→∞E [IT (x)]

,IT (x) בפונקציה נתבונן

IT (x) : =

T

−T

1

it

(e−ita − e−itb

)eitxdt =

T

−T

1

it

(

eit(x−a) − eit(x−b))

dt

=

T

−T

1

t(sin (t (x− a))− sin (t (x− b))) dt =

T

−T

1

tsin (t (x− a)) dt−

T

−T

1

tsin (t (x− b)) dt

= 2 · J (T (x− a))− 2 · J (T (x− b))

הבאה, בעובדה נשתמש .J (T ) :=´ T

01t sin tdt כאשר

limT→∞

T

0

1

tsin tdt =

π

2

החסומה, ההתכנסות ממשפט ולכן חסומה, פונקציה IT (x) כי ונקבל

1

2πlim

T→∞E [IT (x)] = E

[

limT→∞

1

2πIT (x)

]

= E

[

limT→∞

[J (T (x− a))− J (T (x− b))]]

=

1 a < x < b1/2 x = a, b

0 otherwise

57

.´∞−∞ |ϕX (t)| dt <∞ כלומר אינטגרבילית, היא ϕX כי נניח הערה:

ההיפוך, מנוסחת כך אם .P (X = a) = P (X = b) = 0 כלומר אטומיים, לא a, b כי נניח

FX (b)− FX (a) = P (a < X < b) =1

2π

∞

−∞

1

it

(e−ita − e−itb

)· ϕX (t) dt

אטומיים, לא a, b עבור a < x0 < b נקבע כלשהו, x0 עבור

FX (b)− FX (a) = P (a < X < b) ≤ |b− a| ·∞

−∞

|ϕX (t)| dt −→|b−a|→0

0

לא־אטומית. הסתברות מידת זו כלומר ,P (X = x0) = 0 ולכן

עוד, לב נשים

fX (a) = F ′X (a) = lim

b↓a

1

b− a(FX (b)− FX (a)) =

1

2π

∞

−∞

eita · ϕX (t) dt

ϕX (t) = נקבל שני מצד צפיפות, בעל X כאשר ואכן לופיטל). כלל ידי (על b ↓ a כאשר 1it · e−ita−e−itb

b−a → e−ita כי

.´∞−∞ fX (x) eitxdx

.ϕX (t) = 11+t2 כי ראינו ,fX (x) = 1

2e−|x| עם X מ"מ עבור הערה:

לא התוחלת כלומר ,´∞−∞

x1+x2 dx = ∞ מתקיים .ϕX (t) = e−|t| נקבל קושי), (צפיפות fX (x) = 1

π(1+x2) עם X מ"מ עבור

קיימת.

.(√nב־ ולא nב־ (מחלקים קושי מתפלג 1

n (X1 + ...+Xn) אזי וב"ת, קושי צפיפות בעלי מ"מ Xii≥1 אם תרגיל:

.Xnk

d−→n→∞

X ,Xn של חלקי גבול שהוא ,FX התפלגות עם X מ"מ שקיים נובע Helly-Barry של מהלמה :2 למה הוכחת

.Xnd−→

n→∞X כי להראות כך אם נותר .ϕX ≡ ϕ ולכן ,ϕnk

(t) → ϕX (t) כי מכך נובע

כי נובע אבל .(Hally-Barry של הלמה של חוזרת מהפעלה כזאת (יש אחרת מתכנסת תת־סדרה Xnl

d−→n→∞

Y תהי

.X ∼ Y לוי של ההיפוך מנוסחת ולכן ,ϕY ≡ ϕX ≡ ϕ

.Xnd−→

n→∞X כי נובע שקול באופן כלומר ,Xnij

d−→n→∞

X תת־תת־סדרה יש ,Xniנאמר ,Xn של תת־סדרה לכל כי לבסוף נובע

כי הראינו :3 למה הוכחת

ϕ 1√n(X1+...+Xn) (t) = ϕX1+...+Xn

(1√nt

)

= ϕX (t)n

.n→ ∞ כאשר ϕX (t)n → e−

1tt2 כי להראות נרצה איזה). משנה (לא i = 1, ..., n לאיזה X = Xi כאשר

,2 מסדר טיילור פיתוח של השגיאה עבור מתקיים∣∣∣∣eix −

(

1 + ix− 1

2x2)∣∣∣∣≤ min

(

|x|2 , 16|x|3)

58

קטן). x כאשר הוא הקובייתי והחסם גדול, x כאשר הוא הריבועי (החסם

ונקבל, תוחלת ניקח ,E [X ] = 0, E[X2]= 1 בהנחה ונשתמש ,x = tX נציב

∣∣∣∣ϕX (t)−

(

1− 1

2t2)∣∣∣∣

=

∣∣∣∣E[eitX

]−(

1 + itE [X ]− 1

2t2E

[X2])∣∣∣∣

≤ E

[∣∣∣∣eitX −

(

1 + itX − 1

2t2X2

)∣∣∣∣

]

≤ E

[

min

(

|tX |2 , 16|tX |3

)]

= t2E

[

min

(

|X |2 , 16|t| |X |3

)]

min(

|X |2 , 16 |t| |X |3)

→ כן כמו תוחלת. יש |X |2 לפונקציה כי קיימת התוחלת ולכן ,min(

|X |2 , 16 |t| |X |3)

≤ |X |2 מתקייםכי נובע הנשלטת ההתכנסות ממשפט לכן .t→ 0 כאשר 0

E

[

min

(

|X |2 , 16|t| |X |3

)]

−→t→0

0

ϕX (t) = אחרות, במילים .(t2 מאשר יותר מהר t → 0 כאשר לאפס (שואף∣∣ϕX (t)−

(1− 1

2 t2)∣∣ = o

(t2)כלומר

.1− 12 t

2 + o(t2)

נקבל, הכל בסך

ϕX

(1√nt

)n

=

(

1− 1

2nt2 + o

(1

nt2))n

−→t→0

e−12t2 = ϕZ (t)

כנדרש.

59