lectures probability
DESCRIPTION
Lectures ProbabilityTRANSCRIPT
ÌÎÑÊÎÂÑÊÈÉ �ÎÑÓÄÀ�ÑÒÂÅÍÍÛÉ
ÓÍÈÂÅ�ÑÈÒÅÒ
èìåíè Ì.Â.ËÎÌÎÍÎÑÎÂÀ
Ìåõàíèêî-ìàòåìàòè÷åñêèé �àêóëüòåò
Êà�åäðà òåîðèè âåðîÿòíîñòåé
Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà.
Çàïèñêè ëåêöèé.
Þ.Í. Òþðèí
Ïîä ðåäàêöèåé �.È. Ñèìîíîâîé
Mo êâà 2003 ãîä
Þ.Í. Òþðèí
Ïîä ðåäàêöèåé �.È. Ñèìîíîâîé
Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà.
Çàïèñêè ëåêöèé.
Êóðñ ìàòåìàòè÷åñêîé ñòàòèñòèêè ÿâëÿåòñÿ îáÿçàòåëüíûì äëÿ ñòó-
äåíòîâ îòäåëåíèÿ ìàòåìàòèêè ìåõàíèêî-ìàòåìàòè÷åñêîãî �àêóëüòåòà
Ì�Ó. Ïî äåéñòâóþùåìó ó÷åáíîìó ïëàíó êóðñ ÷èòàåòñÿ â ïÿòîì ñåìå-
ñòðå. Íàñòîÿùåå èçäàíèå ïðåäñòàâëÿåò ñîáîé íåñêîëüêî ðàñøèðåííûå
çàïèñêè ëåêöèé ýòîãî êóðñà.
Èçäàíèå ìîæåò áûòü ïîëåçíûì äëÿ ñòóäåíòîâ ìàòåìàòè÷åñêèõ �à-
êóëüòåòîâ è äðóãèõ ÂÓÇîâ.
�åöåíçåíò � ä.�.-ì.í., ïðî�. Â. Í. Òóòóáàëèí
Ìåõàíèêî-ìàòåìàòè÷åñêèé �àêóëüòåò Ì�Ó, 2003 ã.
Ñîäåðæàíèå
Ïðåäèñëîâèå 7
Ïðîãðàììà êóðñà ëåêöèé 8
Ëåêöèÿ 1. Âñòóïëåíèå: ÷åì è êàê çàíèìàåòñÿ ìàòåìà-
òè÷åñêàÿ ñòàòèñòèêà 11
� 1. Ñòàòèñòè÷åñêèå ìîäåëè è çàäà÷è . . . . . . . . . . . . 11
1.1. Ïðîñòåéøàÿ ìîäåëü: âûáîðêà . . . . . . . . . . . 11
1.2. Ïðîñòàÿ ëèíåéíàÿ ðåãðåññèÿ . . . . . . . . . . . 15
1.3. Ôèíàíñîâûå äàííûå . . . . . . . . . . . . . . . . 20
1.3.1. ×òî òàêîå �èíàíñîâûå äàííûå? . . . . . . . . 20
1.3.2. Âåðîÿòíîñòíûå ìîäåëè äèíàìèêè êóðñîâ àêöèé 24
1.4. Îáùàÿ (àáñòðàêòíàÿ) ñòàòèñòè÷åñêàÿ ìîäåëü . . 27
� 2. Òåîðåìà �ëèâåíêî . . . . . . . . . . . . . . . . . . . . . 29
� 3. �ëàçîìåðíàÿ ïðîâåðêà ïðåäïîëîæåíèé î òèïå ðàñïðå-
äåëåíèÿ . . . . . . . . . . . . . . . . . . . . . . . . . . 34
Ëåêöèÿ 2. Íà÷àëà îöåíèâàíèÿ 39
� 1. Àáñòðàêòíàÿ ñòàòèñòè÷åñêàÿ ìîäåëü . . . . . . . . . . 39
� 2. Îöåíèâàíèå: ïîñòàíîâêà çàäà÷è . . . . . . . . . . . . . 39
� 3. Íåðàâåíñòâî Êðàìåðà-�àî äëÿ îäíîìåðíîãî ïàðàìåò-
ðà. (Îíî æå � íåðàâåíñòâî èí�îðìàöèè, íåðàâåí-
ñòâî Ôðåøå) . . . . . . . . . . . . . . . . . . . . . . . 45
� 4. Ýêñïîíåíöèàëüíûå ñåìåéñòâà . . . . . . . . . . . . . . 48
� 5. Ñòàòèñòè÷åñêèå îöåíêè äëÿ ìíîãîìåðíûõ ïàðàìåòðîâ 51
5.1. Ñëó÷àéíûå âåêòîðû, èõ ñðåäíèå è äèñïåðñèè . . 51
5.2. Ìíîãîìåðíîå íåðàâåíñòâî Êðàìåðà-�àî . . . . . 53
Ëåêöèÿ 3. Äîñòàòî÷íûå ñòàòèñòèêè è íàèëó÷øèå íåñìå-
ùåííûå îöåíêè 57
� 1. Óñëîâíûå ðàñïðåäåëåíèÿ (ýëåìåíòàðíàÿ òåîðèÿ) . . . 57
� 2. �àñïðåäåëåíèå âåðîÿòíîñòåé íà ïîâåðõíîñòè . . . . . 58
� 3. Äîñòàòî÷íûå ñòàòèñòèêè . . . . . . . . . . . . . . . . . 61
� 4. Ëèíåéíàÿ ðåãðåññèÿ . . . . . . . . . . . . . . . . . . . 67
� 5. Íîðìàëüíàÿ âûáîðêà . . . . . . . . . . . . . . . . . . . 68
3
Ëåêöèÿ 4. Íàèëó÷øèå íåñìåùåííûå îöåíêè 71
� 1. Óñëîâíûå ìàòåìàòè÷åñêèå îæèäàíèÿ . . . . . . . . . 71
� 2. Óëó÷øåíèå íåñìåùåííûõ îöåíîê . . . . . . . . . . . . 73
� 3. Ïîëíûå äîñòàòî÷íûå ñòàòèñòèêè . . . . . . . . . . . . 75
Ëåêöèè 5-6. Óñëîâíûå ìàòåìàòè÷åñêèå îæèäàíèÿ è
óñëîâíàÿ âåðîÿòíîñòü 79
� 1. Îïðåäåëåíèÿ è ïðîñòåéøèå ñâîéñòâà . . . . . . . . . 79
1.1. Íàïîìèíàíèÿ: âåðîÿòíîñòíîå ïðîñòðàíñòâî è
ñëó÷àéíûå âåëè÷èíû (À.Í. Êîëìîãîðîâ, 1933) 79
1.2. Ïðîèçâîäíàÿ �àäîíà-Íèêîäèìà (1930) . . . . . . 80
1.3. Îïðåäåëåíèå óñëîâíîãî ìàòåìàòè÷åñêîãî îæè-
äàíèÿ . . . . . . . . . . . . . . . . . . . . . . . 80
1.4. Íåêîòîðûå ñâîéñòâà E(X jG) . . . . . . . . . . . 82
� 2. Ïðîñòûå ñëó÷àéíûå âåëè÷èíû . . . . . . . . . . . . . 84
� 3. Íåêîòîðûå äàëüíåéøèå ñâîéñòâà óñëîâíûõ ìàòåìà-
òè÷åñêèõ îæèäàíèé . . . . . . . . . . . . . . . . . . . 87
3.1. Äîêàçàòåëüñòâî (5.3.2) äëÿ ñëó÷àÿ ïðîñòûõ ñëó-
÷àéíûõ âåëè÷èí . . . . . . . . . . . . . . . . . 88
3.2. Îáùèé ñëó÷àé . . . . . . . . . . . . . . . . . . . . 88
3.3. Ëåììà . . . . . . . . . . . . . . . . . . . . . . . . 89
3.4. �-àääèòèâíîñòü óñëîâíîé âåðîÿòíîñòè P fAjGg . 90
3.5. Óñëîâíàÿ äèñïåðñèÿ . . . . . . . . . . . . . . . . 90
3.6. Íàèëó÷øèé êâàäðàòè÷íûé ïðîãíîç . . . . . . . 91
� 4. Ïðèìåð âû÷èñëåíèÿ E(X jY ) . . . . . . . . . . . . . . 91
Ëåêöèÿ 7. Ëèíåéíàÿ ãàóññîâñêàÿ ìîäåëü 93
� 1. Íåñìåùåííîå îöåíèâàíèå ïàðàìåòðîâ . . . . . . . . . 93
1.1. Íåñêîëüêî âñïîìîãàòåëüíûõ îïðåäåëåíèé . . . . 93
1.2. Äâå ëåììû î êðóãîâûõ íîðìàëüíûõ ðàñïðåäåëå-
íèÿõ . . . . . . . . . . . . . . . . . . . . . . . . 95
1.3. Ëèíåéíàÿ ìîäåëü . . . . . . . . . . . . . . . . . . 97
1.4. Ïðîñòîé ïðèìåð ëèíåéíîé ãàóññîâñêîé ìîäåëè . 98
� 2. Ôàêòîðíûå ìîäåëè (�àêòîðíûå ýêñïåðèìåíòû) . . . 99
2.1. Îäíî�àêòîðíàÿ ãàóññîâñêàÿ ìîäåëü . . . . . . . 99
2.2. Àääèòèâíàÿ äâóõ�àêòîðíàÿ ìîäåëü . . . . . . . 100
� 3. Ëèíåéíàÿ ðåãðåññèÿ . . . . . . . . . . . . . . . . . . . 103
4
Ëåêöèÿ 8. Äîâåðèòåëüíîå (èíòåðâàëüíîå) îöåíèâàíèå 105
� 1. Íîðìàëüíîå ðàñïðåäåëåíèå N(a; �
2
): äîâåðèòåëüíûé
èíòåðâàë äëÿ a . . . . . . . . . . . . . . . . . . . . . . 106
� 2. �àñïðåäåëåíèå Ñòüþäåíòà . . . . . . . . . . . . . . . . 108
� 3. Öåíòðàëüíûå âåëè÷èíû . . . . . . . . . . . . . . . . . 111
� 4. Ïðèáëèæåííûå äîâåðèòåëüíûå ãðàíèöû äëÿ âåðîÿò-
íîñòè óñïåõà â èñïûòàíèÿõ Áåðíóëëè . . . . . . . . . 113
� 5. �åãðåññèîííàÿ ìîäåëü . . . . . . . . . . . . . . . . . . 114
Ëåêöèÿ 9. Ïðîâåðêà ñòàòèñòè÷åñêèõ ãèïîòåç 118
� 1. Ïîñòàíîâêà çàäà÷è, îñíîâíûå ïîíÿòèÿ . . . . . . . . . 118
� 2. Ïðèìåð ðåàëüíîé ïðîâåðêè ñòàòèñòè÷åñêîé ãèïîòåçû 120
Ëåêöèÿ 10. Ñòàòèñòè÷åñêèå êðèòåðèè 124
� 1. Îïòèìàëüíûé êðèòåðèé Íåéìàíà-Ïèðñîíà (J. Neyman,
S. Pearson, 1933) . . . . . . . . . . . . . . . . . . . . . 124
� 2. �àâíîìåðíî íàèáîëåå ìîùíûå êðèòåðèè . . . . . . . 127
Ëåêöèÿ 11. Ïðîâåðêà ëèíåéíûõ ãèïîòåç (â ëèíåéíûõ
ãàóññîâñêèõ ìîäåëÿõ) 132
� 1. Ïðèìåðû ëèíåéíûõ ãèïîòåç . . . . . . . . . . . . . . . 132
1.1. Âûáîð ñòåïåíè ìíîãî÷ëåíà . . . . . . . . . . . . 132
1.2. Îäíî�àêòîðíûé äèñïåðñèîííûé àíàëèç . . . . . 133
� 2. Îáùàÿ ëèíåéíàÿ ãèïîòåçà . . . . . . . . . . . . . . . . 134
� 3. Ïðèìåíåíèå êðèòåðèÿ îòíîøåíèÿ ïðàâäîïîäîáèé ê
ïðîâåðêå ëèíåéíûõ ãèïîòåç . . . . . . . . . . . . . . 135
� 4. Ïðèìåð: äâå íîðìàëüíûå âûáîðêè . . . . . . . . . . . 139
� 5. Çàêëþ÷åíèå . . . . . . . . . . . . . . . . . . . . . . . . 140
Ëåêöèÿ 12. �àíãîâûå ìåòîäû: êðèòåðèé ðàíãîâûõ ñóìì
(Wil oxon) 141
� 1. Îáùåå îïðåäåëåíèå ðàíãîâ . . . . . . . . . . . . . . . 141
� 2. Ñðàâíåíèå äâóõ âûáîðîê, ìîãóùèõ îòëè÷àòüñÿ ñäâèãîì142
� 3. Ñâÿçü äîâåðèòåëüíîãî îöåíèâàíèÿ è ïðîâåðêè ãèïîòåç 145
� 4. Äîâåðèòåëüíîå îöåíèâàíèå ñäâèãà . . . . . . . . . . . 146
� 5. Òî÷å÷íàÿ îöåíêà ñäâèãà . . . . . . . . . . . . . . . . . 148
� 6. Ñîâïàäåíèÿ . . . . . . . . . . . . . . . . . . . . . . . . 148
� 7. Äðóãèå ðàíãîâûå ïðàâèëà . . . . . . . . . . . . . . . . 149
5
Ëåêöèÿ 13. Àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü ñòàòèñòèêè
ðàíãîâûõ ñóìì Óèëêîêñîíà 151
� 1. Ôîðìóëèðîâêè òåîðåì . . . . . . . . . . . . . . . . . . 151
� 2. Äîêàçàòåëüñòâî òåîðåìû 13.1.3 . . . . . . . . . . . . . 154
� 3. Âû÷èñëåíèå äèñïåðñèè U -ñòàòèñòèê . . . . . . . . . . 155
� 4. Äîêàçàòåëüñòâî âñïîìîãàòåëüíûõ óòâåðæäåíèé èç ïà-
ðàãðà�à 2 . . . . . . . . . . . . . . . . . . . . . . . . . 156
� 5. Äîêàçàòåëüñòâî òåîðåìû Ñëóöêîãî . . . . . . . . . . . 157
� 6. Ïðèìåíåíèå òåîðåìû 13.1.1 äëÿ âû÷èñëåíèé êðèòè-
÷åñêèõ çíà÷åíèé . . . . . . . . . . . . . . . . . . . . . 159
Ëåêöèÿ 14. Ìåòîä íàèáîëüøåãî ïðàâäîïîäîáèÿ 161
� 1. Îïðåäåëåíèÿ . . . . . . . . . . . . . . . . . . . . . . . 161
� 2. Ñîñòîÿòåëüíîñòü îöåíîê íàèáîëüøåãî ïðàâäîïîäîáèÿ 162
2.1. Ëåììà (âàðèàíò ò.í. íåðàâåíñòâà òåîðèè èí�îð-
ìàöèè) . . . . . . . . . . . . . . . . . . . . . . 162
2.2. Ïî÷åìó îöåíêà íàèáîëüøåãî ïðàâäîïîäîáèÿ ñî-
ñòîÿòåëüíà � ïðàâäîïîäîáíîå ðàññóæäåíèå . 164
2.3. Äîêàçàòåëüñòâî ñõîäèìîñòè
^
�
n
P
�! �
0
äëÿ îäíî-
ìåðíîãî ñëó÷àÿ . . . . . . . . . . . . . . . . . 165
� 3. Àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü îöåíîê íàèáîëüøåãî
ïðàâäîïîäîáèÿ (ïî âûáîðêå èç ðåãóëÿðíîãî ñåìåéñòâà)166
3.1. Îäíîìåðíûé ñëó÷àé . . . . . . . . . . . . . . . . 166
3.2. Ìíîãîìåðíûé ñëó÷àé . . . . . . . . . . . . . . . . 170
3.3. Àñèìïòîòè÷åñêè ý��åêòèâíûå îöåíêè . . . . . 171
� 4. Îäíîøàãîâûå îöåíêè . . . . . . . . . . . . . . . . . . . 172
Ëåêöèÿ 15. Óñòîé÷èâûå îöåíêè 174
� 1. Ôóíêöèÿ âëèÿíèÿ . . . . . . . . . . . . . . . . . . . . . 174
� 2. Ì-îöåíêè . . . . . . . . . . . . . . . . . . . . . . . . . 177
� 3. Àñèìïòîòè÷åñêîå ðàñïðåäåëåíèå T (F
n
) � íàâîäÿùèå
ñîîáðàæåíèÿ . . . . . . . . . . . . . . . . . . . . . . . 180
Ëåêöèÿ 16. Êðèòåðèè ñîãëàñèÿ òèïà Ïèðñîíà-Ôèøåðà183
� 1. Òåîðåìà Ê. Ïèðñîíà . . . . . . . . . . . . . . . . . . . 183
� 2. Äîêàçàòåëüñòâî òåîðåìû Êàðëà Ïèðñîíà . . . . . . . 185
� 3. Ñëîæíûå ãèïîòåçû . . . . . . . . . . . . . . . . . . . . 187
� 4. Òàáëèöû ñîïðÿæåííîñòè . . . . . . . . . . . . . . . . . 188
Ñïèñîê ëèòåðàòóðû 191
6
Ïðåäèñëîâèå
Êóðñ ïðåäñòàâëÿåò ñîáîé ââåäåíèå â ìàòåìàòè÷åñêóþ ñòàòè-
ñòèêó â å¼ òðàäèöèîííîì ïîíèìàíèè, êîãäà îòêëîíåíèÿ îò çàêî-
íîìåðíîñòåé (îøèáêè) òîëêóþò êàê ñëó÷àéíûå âåëè÷èíû, â äóõå
÷àñòîòíîé òåîðèè âåðîÿòíîñòåé.
Ìû ñòðåìèëèñü èçëîæèòü â êóðñå îñíîâíûå èäåè (îöåíèâàíèå,
ïðîâåðêà ãèïîòåç, ðîáàñòíîñòü, ñòàòèñòè÷åñêàÿ îïòèìàëüíîñòü è
ò. ä.) è îñíîâíûå ìåòîäû (íàèìåíüøèå êâàäðàòû, ìàêñèìàëüíîå
ïðàâäîïîäîáèå, íåïàðàìåòðè÷åñêèé ïîäõîä è ò. ä.) ìàòåìàòè÷å-
ñêîé ñòàòèñòèêè. Ìû çíàêîìèì ñ íèìè íàøèõ ñëóøàòåëåé íà ïðè-
ìåðå ëèíåéíîé ñòàòèñòè÷åñêîé ìîäåëè êàê â ãàóññîâñêîé, òàê è
â íåïàðàìåòðè÷åñêîé ïîñòàíîâêàõ. Ïåðâàÿ ÷àñòü êóðñà ïîñâÿùå-
íà îïòèìàëüíûì ñòàòèñòè÷åñêèì âûâîäàì äëÿ êîíå÷íîãî ÷èñëà
íàáëþäåíèé. Íåñêîëüêî îñîáíÿêîì â íåé ñòîÿò äâå ëåêöèè, ãäå
ðàññêàçàíî îá óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäàíèÿõ (ïî Êîëìîãî-
ðîâó). Ýòà òåìà îòíîñèòñÿ, ñêîðåå, ê òåîðèè âåðîÿòíîñòåé, íî ïî
îñîáåííîñòÿì ó÷åáíîãî ïëàíà ïåðåíåñåíà â êóðñ ìàòåìàòè÷åñêîé
ñòàòèñòèêè. Óñëîâíûå ìàòåìàòè÷åñêèå îæèäàíèÿ íåîáõîäèìû äëÿ
èçëîæåíèÿ íåñìåùåííîãî îöåíèâàíèÿ ñ ìèíèìàëüíîé äèñïåðñèåé
� òåîðåòè÷åñêîãî îñíîâàíèÿ äëÿ ìåòîäà íàèìåíüøèõ êâàäðàòîâ,
è äëÿ àñèìïòîòè÷åñêîé òåîðèè U-ñòàòèñòèê.
Âî âòîðîé ÷àñòè íà ïðèìåðå âûáîðêè èçëîæåí àñèìïòîòè÷å-
ñêèé ïîäõîä ê àíàëèçó äàííûõ, êîãäà îáúåì âûáîðêè íåîãðàíè-
÷åííî âîçðàñòàåò.
Áîëüøèì íåäîñòàòêîì êóðñà, êîòîðûé åãî àâòîð ïîëíîñòüþ ñî-
çíàåò, ÿâëÿåòñÿ êàê îòñóòñòâèå çàäà÷ ñ ÷èñëîâûìè (ðåàëüíûìè)
äàííûìè, òàê è îòñóòñòâèå ïðèìåðîâ, ãäå áû òàêèå äàííûå îáðà-
áàòûâàëèñü. Íî îïûò ïðåïîäàâàíèÿ óáåäèë àâòîðà â òîì, ÷òî ñðåäè
ñòóäåíòîâ �àêóëüòåòà òåîðåòè÷åñêîé ìàòåìàòèêè (êàêîâ ìåõ-ìàò)
ïîäîáíûå çàäà÷è íå íàõîäÿò ìíîãî ïðèâåðæåíöåâ.
Àâòîð è ðåäàêòîð áëàãîäàðÿò Å. Ñà�îíîâó çà ïîìîùü â ïîäãî-
òîâêå ýëåêòðîííîãî âàðèàíòà ðóêîïèñè.
7
Ïðîãðàììà êóðñà ëåêöèé
I. Íà÷àëà òåîðèè îöåíèâàíèÿ.
1. Ïîíÿòèå ñòàòèñòè÷åñêîé ìîäåëè. Ïðèìåðû: âûáîðêà, ëèíåéíàÿ
ãàóññîâñêàÿ ìîäåëü.
2. Òåîðåìà �ëèâåíêî.
3. Íåêîòîðûå ïîíÿòèÿ òåîðèè îöåíèâàíèÿ: �óíêöèè óùåðáà è ðèñ-
êà, äîïóñòèìûå è áàéåñîâñêèå îöåíêè. Íåñìåùåííîå îöåíèâàíèå,
êâàäðàòè÷íûé ðèñê.
4. Íåðàâåíñòâî èí�îðìàöèè (íåðàâåíñòâî Êðàìåðà-�àî) äëÿ ðåãó-
ëÿðíûõ îäíîïàðàìåòðè÷åñêèõ ñåìåéñòâ: íåïðåðûâíûå è äèñêðåò-
íûå ðàñïðåäåëåíèÿ.
5. Ý��åêòèâíûå îöåíêè, ýêñïîíåíöèàëüíûå ñåìåéñòâà ðàñïðåäå-
ëåíèé.
6. Ìíîãîìåðíîå íåðàâåíñòâî Êðàìåðà-�àî.
7. Äîñòàòî÷íûå ñòàòèñòèêè: îïðåäåëåíèå, ïðèìåðû.
8. Äîñòàòî÷íûå ñòàòèñòèêè â ñëó÷àå íîðìàëüíîé âûáîðêè. Âûáî-
ðî÷íûå êîý��èöèåíòû àñèììåòðèè è ýêñöåññà.
9. Òåîðåìà �àêòîðèçàöèè (äîêàçàòåëüñòâà äëÿ ýëåìåíòàðíûõ ñëó-
÷àåâ).
10. Óëó÷øåíèå íåñìåùåííûõ îöåíîê ïóòåì èõ óñðåäíåíèÿ ïî äî-
ñòàòî÷íûì ñòàòèñòèêàì: îäíîìåðíàÿ òåîðåìà Áëåêâåëëà-�àî.
11. Ìíîãîìåðíàÿ òåîðåìà Áëåêâåëëà-�àî.
12. Ïîëíûå äîñòàòî÷íûå ñòàòèñòèêè: îïðåäåëåíèå, ïðèìåðû, åäèí-
ñòâåííîñòü íàèëó÷øåé íåñìåùåííîé îöåíêè.
II. Óñëîâíûå ìàòåìàòè÷åñêèå îæèäàíèÿ è óñëîâíûå âåðî-
ÿòíîñòè.
13. Íàïîìèíàíèÿ: âåðîÿòíîñòíûå ïðîñòðàíñòâà, ñëó÷àéíûå âå-
ëè÷èíû, àáñîëþòíàÿ íåïðåðûâíîñòü ìåð, ïðîèçâîäíàÿ �àäîíà-
Íèêîäèìà.
14. Óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå ñëó÷àéíîé âåëè÷èíû îò-
íîñèòåëüíî ñèãìà-àëãåáðû: îïðåäåëåíèå.
15. Íåêîòîðûå ïðîñòåéøèå ñâîéñòâà óñëîâíîãî ìàòåìàòè÷åñêîãî
îæèäàíèÿ.
16. Óñëîâíûå âåðîÿòíîñòè, óñëîâíûå ðàñïðåäåëåíèÿ.
17. Ñïåöèàëüíûé ñëó÷àé: E(X jY ) äëÿ ïðîñòûõ ñëó÷àéíûõ âåëè-
÷èí X è Y .
18. Íåêîòîðûå äàëüíåéøèå ñâîéñòâà óñëîâíûõ ìàòåìàòè÷åñêèõ
îæèäàíèé.  ÷àñòíîñòè: E('(Y )X jY ) = '(Y )E(X jY ); óñëîâíàÿ
8
äèñïåðñèÿ, íàèëó÷øèé êâàäðàòè÷íûé ïðîãíîç.
19. Ïðèìåðû âû÷èñëåíèÿ E(X jY ).
Ø. Îöåíèâàíèå â ëèíåéíîé ìîäåëè.
20. �åãðåññèîííûå è �àêòîðíûå (ñ îäíèì è äâóìÿ �àêòîðàìè) ëè-
íåéíûå ìîäåëè.
21. Äîñòàòî÷íûå ñòàòèñòèêè â ëèíåéíîé ãàóññîâñêîé ìîäåëè.
22. Ëåììà îá îðòîãîíàëüíûõ ðàçëîæåíèÿõ ñëó÷àéíîãî ãàóññîâ-
ñêîãî âåêòîðà. �àñïðåäåëåíèÿ õè-êâàäðàò (öåíòðàëüíûå è íåöåí-
òðàëüíûå).
23. Íàèëó÷øèå íåñìåùåííûå îöåíêè ïàðàìåòðîâ â ëèíåéíîé ãàóñ-
ñîâñêîé ìîäåëè, èõ ðàñïðåäåëåíèÿ.
24. Âû÷èñëåíèå îöåíîê íàèìåíüøèõ êâàäðàòîâ â ìîäåëè ëèíåéíîé
ðåãðåññèè.
25. Èíòåðâàëüíûå îöåíêè äëÿ ïàðàìåòðîâ íîðìàëüíîé âûáîðêè.
�àñïðåäåëåíèÿ Ñòüþäåíòà (öåíòðàëüíîå è íåöåíòðàëüíîå).
26. Äîâåðèòåëüíûå ãðàíèöû äëÿ âåðîÿòíîñòè óñïåõà â èñïûòàíèÿõ
Áåðíóëëè.
27. Äîâåðèòåëüíûå ýëëèïñîèäû äëÿ ïàðàìåòðîâ ëèíåéíîé ãàóññîâ-
ñêîé ìîäåëè. Ý�-îòíîøåíèÿ è ý�-ðàñïðåäåëåíèÿ.
IV. Ïðîâåðêà ñòàòèñòè÷åñêèõ ãèïîòåç.
28. Ïðîâåðêà ñòàòèñòè÷åñêèõ ãèïîòåç: îáùèå ïðèíöèïû è îñíîâíûå
ïîíÿòèÿ (êðèòè÷åñêîå ìíîæåñòâî, óðîâåíü çíà÷èìîñòè, àëüòåðíà-
òèâû, îøèáêè ïåðâîãî è âòîðîãî ðîäîâ, �óíêöèÿ ìîùíîñòè).
29. Ëåììà Íåéìàíà-Ïèðñîíà.
30. Ïîíÿòèå î ðàâíîìåðíî íàèáîëåå ìîùíûõ êðèòåðèÿõ è ïðèìåð:
ïðîâåðêà ãèïîòåçû � � �
0
ïðîòèâ àëüòåðíàòèâû � > �
0
(ïî ðåçóëü-
òàòàì èñïûòàíèé Áåðíóëëè, çäåñü � � âåðîÿòíîñòü óñïåõà).
31. Ñâÿçü ìåæäó ïðîâåðêîé ãèïîòåç è äîâåðèòåëüíûì îöåíèâàíè-
åì.
32. Ïðîâåðêà ëèíåéíûõ ãèïîòåç â ãàóññîâñêèõ ëèíåéíûõ ìîäåëÿõ
ñ ïîìîùüþ êðèòåðèÿ îòíîøåíèÿ ïðàâäîïîäîáèé.
33. Îäíî�àêòîðíûé äèñïåðñèîííûé àíàëèç: ïðîâåðêà íóëåâîé ãè-
ïîòåçû (î ðàâåíñòâå ý��åêòîâ îáðàáîòêè).
34. Äâóõ�àêòîðíûé äèñïåðñèîííûé àíàëèç (àääèòèâíàÿ ìîäåëü,
îäíî íàáëþäåíèå â êëåòêå): ïðîâåðêà íóëåâîé ãèïîòåçû (î ðàâåí-
ñòâå ý��åêòîâ îáðàáîòêè).
35. Äâå ãàóññîâñêèå âûáîðêè, ìîãóùèå îòëè÷àòüñÿ ñäâèãîì: ïðî-
9
âåðêà ãèïîòåçû î èõ îäíîðîäíîñòè. Äîâåðèòåëüíûå èíòåðâàëû äëÿ
ïàðàìåòðà ñäâèãà.
36. �àíãè íàáëþäåíèé. Ñòàòèñòèêà ðàíãîâûõ ñóìì W
m;n
(Óèëêîê-
ñîí) äëÿ ïðîâåðêè ãèïîòåçû îá îäíîðîäíîñòè äâóõ âûáîðîê. Âû-
÷èñëåíèå EW
m;n
è DW
m;n
ïðè ãèïîòåçå.
37. Òî÷å÷íûå è èíòåðâàëüíûå îöåíêè äëÿ ñäâèãà îäíîé âûáîðêè
îòíîñèòåëüíî äðóãîé ïîìîùüþ ñòàòèñòèêè ðàíãîâûõ ñóìì Óèë-
êîêñîíà.
38. Ñòàòèñòèêà Ìàííà-Óèòíè U
m;n
è åå ñâÿçü ñ W
m;n
.
39. Òåîðåìà Ñëóöêîãî.
40. Òåîðåìà îá àñèìïòîòè÷åñêîé íîðìàëüíîñòè äâóõâûáîðî÷íûõ
U - ñòàòèñòèê.
41. Àñèìïòîòè÷åñêèå ðàñïðåäåëåíèÿ ñòàòèñòèê Ìàííà-Óèòíè U
m;n
è Óèëêîêñîíà W
m;n
ïðè m; n!1.
V. Àñèìïòîòè÷åñêèå ìåòîäû îöåíèâàíèÿ è ïðîâåðêà ãè-
ïîòåç.
42. Ìåòîä íàèáîëüøåãî ïðàâäîïîäîáèÿ. Íåðàâåíñòâà òåîðèè èí-
�îðìàöèè.
43. Ñîñòîÿòåëüíîñòü îöåíîê íàèáîëüøåãî ïðàâäîïîäîáèÿ (âûáîð-
êà, îäíîìåðíûé ïàðàìåòð).
44. Àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü îöåíîê íàèáîëüøåãî ïðàâäî-
ïîäîáèÿ (âûáîðêè èç ðåãóëÿðíûõ ñåìåéñòâ ðàñïðåäåëåíèé).
45. Óñòîé÷èâîñòü îöåíîê, �óíêöèè âëèÿíèÿ, ïðèìåðû.
46. Ì-îöåíêè è èõ �óíêöèè âëèÿíèÿ.
47. Àñèìïòîòè÷åñêèå ñâîéñòâà Ì-îöåíîê � ýâðèñòè÷åñêèé âûâîä
ñ ïîìîùüþ �óíêöèé âëèÿíèÿ.
48. Êðèòåðèé ñîãëàñèÿ Ê.Ïèðñîíà äëÿ ïðîñòîé ãèïîòåçû; òåîðåìà
Ê.Ïèðñîíà.
49. Êðèòåðèè òèïà Ïèðñîíà-Ôèøåðà äëÿ ñëîæíûõ ãèïîòåç (áåç äî-
êàçàòåëüñòâà). Ïðîâåðêà ãèïîòåçû î íåçàâèñèìîñòè ïðèçíàêîâ ïî
òàáëèöå ñîïðÿæåííîñòè.
10
Ëåêöèÿ 1. Âñòóïëåíèå: ÷åì è êàê çàíèìà-
åòñÿ ìàòåìàòè÷åñêàÿ ñòàòèñòèêà
Ìàòåìàòè÷åñêóþ ñòàòèñòèêó ìîæíî îïèñàòü êàê íàóêó î òîì,
êàê äåëàòü âûâîäû èç íàáëþäåíèé (èçìåðåíèé, ñîîáùåíèé è ò.ï.),
êîòîðûå ïîäâåðæåíû äåéñòâèþ ñëó÷àÿ, à òàêæå è î òîì, êàê ñîáè-
ðàòü òàêèå ñâåäåíèÿ (ò. å. íàáëþäàòü, èçìåðÿòü è ò. ä.). Ìàòåìàòè-
÷åñêàÿ ñòàòèñòèêà, áóäó÷è íàóêîé ìàòåìàòè÷åñêîé, îðèåíòèðîâàíà
íà ïðèëîæåíèÿ. Èç ïðèëîæåíèé ïðèõîäÿò çàäà÷è, êîòîðûìè çàíè-
ìàåòñÿ ìàòåìàòè÷åñêàÿ ñòàòèñòèêà è äëÿ êîòîðûõ îíà ñîçäàåò ñâîè
òåîðèè. Ñòàòèñòè÷åñêèå ìåòîäû íóæíû âñþäó, ãäå åñòü èçìåðåíèÿ
(â øèðîêîì ñìûñëå) è ãäå åñòü íåîáõîäèìîñòü äåéñòâèé ñ íèìè (èõ
îáðàáîòêà).  ïåðâóþ î÷åðåäü ýòî åñòåñòâåííûå íàóêè è òåõíèêà,
íî òàêæå ìåäèöèíà, ïñèõîëîãèÿ, íàóêè î ñåëüñêîì õîçÿéñòâå, ýêî-
íîìèêà è ò.ä. Ýêîíîìåòðèÿ, áóäó÷è ÷àñòüþ ýêîíîìè÷åñêîé íàóêè,
ïî ñóòè ïðåäñòàâëÿåò ñîáîé ñïåöèàëèçèðîâàííûé ðàçäåë ìàòåìà-
òè÷åñêîé ñòàòèñòèêè.
� 1. Ñòàòèñòè÷åñêèå ìîäåëè è çàäà÷è
 ýòîì ðàçäåëå ìû ðàññìîòðèì íåñêîëüêî ïðîñòûõ ïðèìåðîâ.
Íà ýòèõ ïðèìåðàõ ìû ïîçíàêîìèìñÿ ñ òåì, êàêèì ìîæåò áûòü ñòà-
òèñòè÷åñêèé ìàòåðèàë (óïîìÿíóòûå âûøå íàáëþäåíèÿ), êàê ñòà-
âÿòñÿ çàäà÷è ìàòåìàòè÷åñêîé ñòàòèñòèêè è êàêèìè îíè áûâàþò.
Òàê ìû ïðèäåì ê îáùåé (àáñòðàêòíîé) ñòàòèñòè÷åñêîé ìîäåëè. Ïî-
ïóòíî ìû óâèäèì, êàêèì îáðàçîì ñòàòèñòè÷åñêèé ìàòåðèàë ìîæíî
ïðåäñòàâèòü íàãëÿäíî.
1.1. Ïðîñòåéøàÿ ìîäåëü: âûáîðêà
Ýòîò ïðèìåð ÿ çàèìñòâóþ èç ñòàðîé êíèãè À. Õàëüäà [Õàëüä À.
Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà ñ òåõíè÷åñêèìè ïðèëîæåíèÿìè. � Ì.:
Èçä-âî Èíîñòðàííîé ëèòåðàòóðû, 1956. � 664 ñ.℄. Õàëüä ïðèâîäèò
ðåçóëüòàòû èçìåðåíèé 200 çàêëåïîê, ñëó÷àéíî îòîáðàííûõ äëÿ
ýòîãî â ïðîöåññå ïðîèçâîäñòâà.
Ñîâîêóïíîñòü îáúåêòîâ, âûáðàííûõ èç îáùåé ñîâîêóïíîñòè
äëÿ ïîñëåäóþùåãî èçó÷åíèÿ, íàçûâàþò âûáîðêîé (sample). (Ó ýòî-
ãî ñëîâà íåñêîëüêî çíà÷åíèé. Äðóãèå íàì âñòðåòÿòñÿ ïîçæå). Ñî-
âîêóïíîñòü, èç êîòîðîé èçâëå÷åíà âûáîðêà, íàçûâàþò ãåíåðàëüíîé
11
ñîâîêóïíîñòüþ, ïîïóëÿöèåé (population) è ò. ä. Ñòàòèñòèêà óïî-
òðåáëÿåò ýòè òåðìèíû êàê äëÿ êîíå÷íûõ, òàê è äëÿ áåñêîíå÷íûõ
ñîâîêóïíîñòåé, êàê ðåàëüíî ñóùåñòâóþùèõ, òàê è ïðèìûñëèâàå-
ìûõ ê âûáîðêàì. Õàëüä ïðèâîäèò äàííûå â òîì ïîðÿäêå, êàê îíè
ïîñòóïàëè. Ïåðâè÷íîå ïðåäñòàâëåíèå äàííûõ � òàáëèöà.
Òàáëèöà 1.1.1.
Äèàìåòðû 200 ãîëîâîê çàêëåïîê, ìì
13.39 13.43 13.54 13.64 13.40 13.55 13.40 13.26
13.42 13.50 13.32 13.31 13.28 13.52 13.46 13.63
13.38 13.44 13.52 13.53 13.37 13.33 13.24 13.13
13.53 13.53 13.39 13.57 13.51 13.34 13.39 13.47
13.51 13.48 13.62 13.58 13.57 13.33 13.51 13.40
13.30 13.48 13.40 13.57 13.51 13.40 13.52 14.56
13.40 13.34 13.23 13.37 13.48 13.48 13.62 13.35
13.40 13.36 13.45 13.48 13.29 13.58 13.44 13.56
13.28 13.59 13.47 13.46 13.62 13.54 13.20 13.38
13.43 13.35 13.56 13.51 13.47 13.40 13.29 13.20
13.46 13.44 13.42 13.29 13.41 13.39 13.50 13.48
13.53 13.34 13.45 13.42 13.29 13.38 13.45 13.50
13.55 13.33 13.32 13.69 13.46 13.32 13.32 13.48
13.29 13.25 13.44 13.60 13.43 13.51 13.43 13.38
13.24 13.28 13.58 13.31 13.31 13.45 13.43 13.44
13.34 13.49 13.50 13.38 13.48 13.43 13.37 13.29
13.54 13.33 13.36 13.46 13.23 13.44 13.38 13.27
13.66 13.26 13.40 13.52 13.59 13.48 13.46 13.40
13.43 13.26 13.50 13.38 13.43 13.34 13.41 13.24
13.42 13.55 13.37 13.41 13.38 13.14 13.42 13.52
13.38 13.54 13.30 13.18 13.32 13.46 13.39 13.35
13.34 13.37 13.50 13.61 13.42 13.32 13.35 13.40
13.57 13.31 13.40 13.36 13.28 13.58 13.58 13.38
13.26 13.37 13.28 13.39 13.32 13.20 13.43 13.34
13.33 13.33 13.31 13.45 13.39 13.45 13.41 13.45
Òàáëè÷íîå ïðåäñòàâëåíèå äàííûõ íå äàåò î íèõ áûñòðîãî è ÿñ-
íîãî ïîíÿòèÿ. Äëÿ ýòîãî íóæíû èíûå �îðìû � áîëåå íàãëÿäíûå è
îáîáùåííûå. Ïðèåìû òàêîãî ðîäà îáðàçóþò òàê íàçûâàåìóþ îïè-
ñàòåëüíóþ ñòàòèñòèêó. Êîå-êàêèå èç íèõ ìû ñåé÷àñ èñïîëüçóåì.
Òî÷å÷íàÿ äèàãðàììà (s atter diagram, ðèñ. 1.1.1) â íàøåì ñëó÷àå
ñòðîèòñÿ òàê. Íà îñè àáñöèññ âûáèðàåì òàêîé ìàñøòàá, ÷òîáû íà
12
ëèñòå áóìàãè (íà ýêðàíå) ìîæíî áûëî óäîáíî ðàçìåñòèòü âñå (èëè
ïî÷òè âñå � ñì. íèæå) íàáëþäåíèÿ. Êàæäîå íàáëþäåííîå çíà÷åíèå
äàëåå ïðåäñòàâëÿåì òî÷êîé ïëîñêîñòè, êîòîðàÿ ðàñïîëàãàåòñÿ íàä
îñüþ àáñöèññ è àáñöèññà êîòîðîé ðàâíà ýòîìó çíà÷åíèþ. �èñ. 1.1.1,
ïîëó÷åííûé òàêèì ñïîñîáîì, äàåò î äàííûõ òàáëèöû ãîðàçäî áîëåå
ÿñíîå ïðåäñòàâëåíèå. Ïðè ïîñòðîåíèè ìû îáíàðóæèâàåì, ÷òî îäíî
èç ÷èñåë âûáîðêè � èìåííî, 14.56 � äàëåêî îòñòóïàåò îò îñíîâíîé
ìàññû íàáëþäåíèé. Ýòî ÷èñëî � ÿâíûé "âûáðîñ". Íà íåãî ñëåäóåò
îáðàòèòü âíèìàíèå. Íåêîòîðîå êîëè÷åñòâî âûáðîñîâ ïðèñóòñòâóåò
â âûáîðêàõ äîâîëüíî ÷àñòî. Ïîðîé îíè ñòîëü âåëèêè, ÷òî ïðè ðà-
çóìíî âûáðàííîì ìàñøòàáå èì íå îñòàåòñÿ ìåñòà íà ãðà�èêå (êàê
ýòî ñëó÷èëîñü è ó íàñ). Î òîì, êàê îòíîñèòüñÿ ê âûáðîñàì, ìû
áóäåì ãîâîðèòü â ñâîåì ìåñòå.  äàííîì ñëó÷àå âûáðîñ � ÿâíàÿ
îïå÷àòêà. Åå íàäî ëèáî èñïðàâèòü (íà 13.56, ïî-âèäèìîìó), ëèáî
ýòî ÷èñëî ïðîñòî óäàëèòü.
13.0 13.1 13.2 13.3 13.4 13.5 13.6 13.7 13.80
2
4
6
8
10
12
14
�èñ. 1.1.1. Òî÷å÷íàÿ äèàãðàììà äèàìåòðîâ ãîëîâîê çàêëåïîê (ïî
äàííûì òàáë. 1.1.1)
Ïðåäñòàâëåíèå ÷èñëîâîãî ìàññèâà ìîæíî ñäåëàòü åùå áîëåå íà-
ãëÿäíûì ïðè ïîìîùè åãî ãðóïïèðîâêè è ïîñòðîåíèÿ ãèñòîãðàìì
(histogram, ðèñ. 1.1.2). Îñü àáñöèññ â äèàïàçîíå íàáëþäåííûõ çíà-
÷åíèé ðàçáèâàþò íà íåêîòîðîå ÷èñëî íåïåðåñåêàþùèõñÿ èíòåðâà-
13
ëîâ (îáû÷íî ðàâíûõ). Íàä êàæäûì èíòåðâàëîì "íàäñòðàèâàþò"
ïðÿìîóãîëüíèê, ïëîùàäü êîòîðîãî ïðîïîðöèîíàëüíà ÷èñëó ïîïàâ-
øèõ â åãî îñíîâàíèå íàáëþäåíèé.  ñëó÷àå ðàâíûõ èíòåðâàëîâ âû-
ñîòû ïðÿìîóãîëüíèêîâ ïðîïîðöèîíàëüíû ýòèì ÷èñëåííîñòÿì (÷à-
ñòîòàì èíòåðâàëîâ). �èñ. 1.1.2 ïîêàçûâàåò ãèñòîãðàììû ñ ðàçíûìè
äëèíàìè èíòåðâàëîâ.
13.0 13.1 13.2 13.3 13.4 13.5 13.6 13.7 13.80
5
10
15
20
= 0.01
13.0 13.1 13.2 13.3 13.4 13.5 13.6 13.7 13.80
15
30
45
60
= 0.03
13.0 13.1 13.2 13.3 13.4 13.5 13.6 13.7 13.80
35
70
105
140
= 0.07
13.0 13.1 13.2 13.3 13.4 13.5 13.6 13.7 13.80
55
110
165
220
= 0.11
�èñ. 1.1.2. �èñòîãðàììû äèàìåòðîâ ãîëîâîê çàêëåïîê ïðè ðàçíûõ
äëèíàõ èíòåðâàëîâ ãðóïïèðîâêè �
Ïî ýòèì ðèñóíêàì ìîæíî ïîíÿòü, êàê äëèíà èíòåðâàëà ãðóï-
ïèðîâêè âëèÿåò íà �îðìó ãèñòîãðàììû. Åñëè äëèíà èíòåðâàëà
ãðóïïèðîâêè ìàëà, òî ñëó÷àéíûå êîëåáàíèÿ îêàçûâàþò ñèëüíîå
âëèÿíèå íà �îðìó ãèñòîãðàììû (çóá÷àòóþ), òàê êàê ïðè ýòîì êàæ-
äûé èíòåðâàë ñîäåðæèò ëèøü íåáîëüøîå ÷èñëî èçìåðåíèé. Åñëè
æå äëèíà èíòåðâàëà âåëèêà, òî ñêðàäûâàþòñÿ õàðàêòåðíûå ÷åðòû
ðàñïðåäåëåíèÿ. �èñòîãðàììû è òî÷å÷íàÿ äèàãðàììà íàâîäÿò íàñ
íà ñòàòèñòè÷åñêóþ ìîäåëü: äàííûå â òàáë. 1.1.1 � ýòî íåçàâèñè-
ìûå ðåàëèçàöèè êàêîé-òî ñëó÷àéíîé âåëè÷èíû. Áîëåå ïîäðîáíûé
àíàëèç (íàïðèìåð, ñ ïîìîùüþ âûáîðî÷íîé �óíêöèè ðàñïðåäåëå-
íèÿ è íîðìàëüíîé âåðîÿòíîñòíîé áóìàãè � ñì. � 3) ïîêàçûâàåò,
÷òî ýòî ãàóññîâñêàÿ ñëó÷àéíàÿ âåëè÷èíà (óïîìÿíóòîå ÷èñëî 14.56
â ðàìêàõ ãàóññîâñêîé ìîäåëè ïîÿâèòüñÿ íå ìîæåò è, äåéñòâèòåëü-
14
íî, äîëæíî ðàññìàòðèâàòüñÿ êàê ãðóáàÿ îøèáêà íàáëþäåíèÿ, êàê
âûáðîñ).
 ñòàòèñòèêå ñîâîêóïíîñòü íåçàâèñèìûõ ðåàëèçàöèé ñëó÷àé-
íîé âåëè÷èíû òàêæå íàçûâàþò âûáîðêîé � âûáîðêîé èç íåêîòî-
ðîãî ðàñïðåäåëåíèÿ âåðîÿòíîñòåé. Íàçâàíèå âûáîðêè ÷àñòî ïåðå-
íîñÿò è íà ñîâîêóïíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí.
Èòàê, ñòàòèñòè÷åñêàÿ ìîäåëü äëÿ ýòîãî ïðèìåðà: 200 ÷èñåë
òàáë. 1.1.1 � ýòî âûáîðêà èç íîðìàëüíîãî ðàñïðåäåëåíèÿ (ñîäåðæà-
ùàÿ îäèí âûáðîñ, åñëè íå èñïðàâëÿòü óïîìÿíóòóþ îïå÷àòêó). Êàê
åùå ãîâîðÿò, âûáîðêà èç íîðìàëüíîé (ãåíåðàëüíîé) ñîâîêóïíîñòè
N(a; �
2
). Ïàðàìåòðû a è �
2
ýòîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ â
ìîäåëè íå óòî÷íÿþòñÿ, îíè îñòàþòñÿ íåîïðåäåëåííûìè.
Ñòàòèñòè÷åñêèå çàäà÷è äëÿ ìîäåëè âûáîðêè:
� îöåíèòü ïàðàìåòðû ðàñïðåäåëåíèÿ, â äàííîì ñëó÷àå ãàóññîâ-
ñêîãî, ò.å. íàéòè äëÿ a è �
2
ïðèáëèæåííûå çíà÷åíèÿ;
� ïðîâåðèòü ïðåäïîëîæåíèå, ÷òî äàííàÿ âûáîðêà èçâëå÷åíà èç
íîðìàëüíîé ñîâîêóïíîñòè (ïðîâåðèòü ñîãëàñèå ãàóññîâñêîãî
ðàñïðåäåëåíèÿ ñ ðàñïðåäåëåíèåì âûáîðêè).
1.2. Ïðîñòàÿ ëèíåéíàÿ ðåãðåññèÿ
�àññìîòðèì äàííûå èç ñòàòüè Ý. Õàááëà [Hubble E. A relation
between distan e and radial velo ity among extra-gala ti nebulae
//Astronomy. -1929.- v.15. - p. 168-173℄, ãäå âïåðâûå áûëà ïîäòâåð-
æäåíà ìûñëü î ðàñøèðåíèè Âñåëåííîé (î "ðàçáåãàíèè ãàëàêòèê").
Ýòè äàííûå ñâÿçûâàþò ðàññòîÿíèå îò Çåìëè äî áëèæàéøèõ òó-
ìàííîñòåé ñ ëó÷åâûìè ñêîðîñòÿìè ýòèõ òóìàííîñòåé.
�èñóíîê ïðèâîäèò íàñ ê ìûñëè (òàê æå, êàê è Ý. Õàááëà áîëåå
ñåìèäåñÿòè ëåò íàçàä), ÷òî ëó÷åâûå ñêîðîñòè "â öåëîì" ïðîïîð-
öèîíàëüíû óäàëåíèÿì, è ê ñëåäóþùåé ìîäåëè:
y
i
= �x
i
+ "
i
; i = 1; 24:
Çäåñü:
x
i
� ðàññòîÿíèå äî i-îé òóìàííîñòè (óäàëåíèå),
y
i
� å¼ ëó÷åâàÿ ñêîðîñòü,
"
i
� îòñòóïëåíèå îò ëèíåéíîé çàâèñèìîñòè. Èõ íàçûâàþò îøèáêà-
ìè. Ýòè îòñòóïëåíèÿ, âîçìîæíî, îáúÿñíÿþòñÿ ñîáñòâåííûìè äâè-
æåíèÿìè òóìàííîñòåé â ïðîñòðàíñòâå, à òàêæå îøèáêàìè â èçìå-
ðåíèè ñêîðîñòåé è óäàëåíèé.
15
0.0 0.5 1.0 1.5 2.0 2.5-400
-200
0
200
400
600
800
1000
1200
1400
x
y
: y = 404.80 x
,
,
/
�èñ. 1.1.3. Äàííûå èç ñòàòüè E. Hubble 1929 ãîäà, ñâÿçûâàþùèå
óäàëåíèÿ è ëó÷åâûå ñêîðîñòè 24 òóìàííîñòåé.
Êîý��èöèåíò �, îïðåäåëÿþùèé ñêîðîñòü ðàñøèðåíèÿ Âñåëåí-
íîé, ñåé÷àñ íàçûâàþò ïîñòîÿííîé Õàááëà.
Âåëè÷èíû óäàëåíèé è ñêîðîñòåé äëÿ òåõ òóìàííîñòåé, êîòî-
ðûå îòðàæåíû íà ðèñ. 1.1.3, âïîñëåäñòâèè áûëè ïåðåñìîòðåíû è
óòî÷íåíû, ïîýòîìó ÷èñëåííîå çíà÷åíèå � ñèëüíî èçìåíèëîñü ïî
ñðàâíåíèþ ñ òåì, êîòîðîå íàøåë ñàì Õàááë (ñì. ðèñ. 1.1.4).
Áûëè òàêæå èçìåðåíû óäàëåíèÿ è ñêîðîñòè äëÿ ìíîãèõ äðó-
ãèõ òóìàííîñòåé, íàõîäÿùèõñÿ íà ãîðàçäî á�îëüøèõ ðàññòîÿíèÿõ
îò Çåìëè, ÷åì ïåðâûå äâàäöàòü ÷åòûðå, î êîòîðûõ íàïèñàë Õàááë.
Ëèíåéíûé õàðàêòåð çàâèñèìîñòè, òåì íå ìåíåå, ñîõðàíèëñÿ, áûë
óáåäèòåëüíî ïîäòâåðæäåí è, â íàñòîÿùåå âðåìÿ, ñîñòàâëÿåò îäèí
èç îñíîâíûõ çàêîíîâ àñòðîíîìèè. Âïðî÷åì, ÷èñëåííîå çíà÷åíèå
� � âîïðîñ âñå åùå äèñêóññèîííûé (è ÷ðåçâû÷àéíî âàæíûé äëÿ
òåîðèé âîçíèêíîâåíèÿ è ýâîëþöèè Âñåëåííîé).
Êàæäîå èç ïîñëåäóþùèõ ïðåäïîëîæåíèé èëè èõ ñî÷åòàíèÿ ïîç-
âîëÿþò äåëàòü áîëåå ñîäåðæàòåëüíûå è îïðåäåëåííûå âûâîäû î
ñâîéñòâàõ ìîäåëè, å¼ ïàðàìåòðàõ, å¼ àäåêâàòíîñòè, î ïðåäñêàçàíè-
ÿõ íà å¼ îñíîâå è ò. ä. Îäíîâðåìåííî ïðèíÿòèå áîëåå ñîäåðæàòåëü-
íûõ ïðåäïîëîæåíèé î ìîäåëè äåëàåò ýòè âûâîäû áîëåå ïîäâåðæåí-
16
0 2 4 6 8 10 12 14 16 18-400
-200
0
200
400
600
800
1000
1200
1400
: y = 67.97 x
x
y
,
,
/
�èñ. 1.1.4. Ñîâðåìåííûå äàííûå, ñâÿçûâàþùèå óäàëåíèÿ è
ëó÷åâûå ñêîðîñòè òóìàííîñòåé.
íûìè ðèñêó îøèáêè, åñëè ñäåëàííûå ïðåäïîëîæåíèÿ íåâåðíû.
Ïðèâåäåì � â ïîðÿäêå óáûâàíèÿ âàæíîñòè � ïðåäïîëîæåíèÿ
îá îøèáêàõ, êîòîðûå äåëàåò ìàòåìàòè÷åñêàÿ ñòàòèñòèêà.
(1) "
1
; : : : ; "
n
� ñëó÷àéíûå âåëè÷èíû (â òîì ñìûñëå, êîòîðûé
äàåò ýòîìó ïîíÿòèþ òåîðèÿ âåðîÿòíîñòåé). Ïðåäïîëîæåíèå
î ñëó÷àéíîñòè îøèáîê � ãëàâíîå äëÿ ìàòåìàòè÷åñêîé ñòàòè-
ñòèêè.
(2) "
1
; : : : ; "
n
� íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû. Ýòî î÷åíü
âàæíîå ïðåäïîëîæåíèå. Ñîäåðæàòåëüíî îíî îçíà÷àåò, ÷òî
îøèáêè, ñäåëàííûå â îäíîì èçìåðåíèè, íå âëèÿþò íà îøèá-
êè äðóãèõ èçìåðåíèé, ò.å. êàæäîå èçìåðåíèå äåëàåòñÿ íàíî-
âî. Íà ïðàêòèêå âñòðå÷àþòñÿ çàäà÷è, ãäå ïðåäïîëîæåíèå î
íåçàâèñèìîñòè îøèáîê íåïðèåìëåìî. Íî òîãäà íàäî óêàçàòü,
êàêîâà ñòðóêòóðà èõ çàâèñèìîñòè (ò.å. óòî÷íèòü ñòàòèñòè÷å-
ñêóþ ìîäåëü).
(3)  èçìåðåíèÿõ íåò ñèñòåìàòè÷åñêèõ îøèáîê. Ìàòåìàòè÷åñêè
ýòó ìûñëü âûðàæàþò ðàçíûìè ñïîñîáàìè. Íàèáîëåå óïîòðå-
17
áèòåëüíî ïðåäïîëîæåíèå
(a) E"
1
= E"
2
= : : : = E"
n
= 0:
Äðóãàÿ âîçìîæíàÿ �îðìà: äëÿ êàæäîãî i
(b) Pf"
i
> 0g = Pf"
i
< 0g = 0:5:
Ñòàòèñòè÷åñêèå ìåòîäû ïîçâîëÿþò óìåíüøèòü âëèÿíèå ñëó-
÷àéíûõ îøèáîê (ïðè óâåëè÷åíèè ÷èñëà íàáëþäåíèé) ëèøü
òîãäà, êîãäà ñèñòåìàòè÷åñêèå îøèáêè îòñóòñòâóþò. �åàëüíî,
â ïðèëîæåíèÿõ, ïðåäïîëîæåíèå îá îòñóòñòâèè ñèñòåìàòè÷å-
ñêèõ îøèáîê îçíà÷àåò, ÷òî òàêèå îøèáêè ïðåíåáðåæèìî ìà-
ëû ïî ñðàâíåíèþ ñî ñëó÷àéíûìè.
(4) "
1
; : : : ; "
n
� îäèíàêîâî ðàñïðåäåëåííûå ñëó÷àéíûå âåëè÷èíû.
Åñëè ýòî ïðåäïîëîæåíèå íåïðèåìëåìî, æåëàòåëüíî óêàçàòü,
êàê òî÷íîñòü èçìåðåíèÿ â îïûòå i ñâÿçàíà ñ äðóãèìè ïåðå-
ìåííûìè ìîäåëè (ñ x
i
, íàïðèìåð). Ò.å. óòî÷íèòü ìîäåëü.
(5) "
1
; : : : ; "
n
ñóòü íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, ðàñïðå-
äåëåííûå ïî íîðìàëüíîìó çàêîíó N(0; �
2
). Äèñïåðñèþ �
2
îáû÷íî ñ÷èòàþò íåèçâåñòíîé. Ýòî ïðåäïîëîæåíèå îá îøèá-
êàõ äîëãîå âðåìÿ äëÿ ñòàòèñòèêè áûëî îñíîâíûì. Åãî ìîæ-
íî íàçâàòü êëàññè÷åñêèì. Ïðåäïîëîæåíèå î íîðìàëüíîì ðàñ-
ïðåäåëåíèè îøèáîê õîðîøî îïèñûâàåò õàðàêòåð òàêèõ îøè-
áîê â ãåîäåçèè, àñòðîíîìèè è äðóãèõ íàóêàõ ñ âûñîêîé êóëü-
òóðîé èçìåðåíèÿ.
Âñå âìåñòå � �îðìóëà y
i
= �x
i
+ "
i
è ïðåäïîëîæåíèÿ îá
îøèáêàõ � îáðàçóþò ñòàòèñòè÷åñêóþ ìîäåëü äëÿ íàáëþäåíèé
(x
i
; y
i
); i = 1; : : : ; n. Åñëè, íàïðèìåð, ìû ïðèíèìàåì ïðåäïîëîæå-
íèå (5), ìû ïîëó÷àåì ò.í. ãàóññîâñêóþ ìîäåëü. À, ñêàæåì, ïðåäïî-
ëîæåíèÿ (1) è (3b) äàþò îäíó èç ò.í. íåïàðàìåòðè÷åñêèõ ìîäåëåé.
Íà ýòîì ïðèìåðå ìîæíî ïåðå÷èñëèòü è îñíîâíûå çàäà÷è, êîòî-
ðûå ñòîÿò ïåðåä ìàòåìàòè÷åñêîé ñòàòèñòèêîé.
� Î ö å í è â à í è å. Íàäî ïðåäëîæèòü òàêîé ìåòîä îáðàáîòêè
íàáëþäåíèé (x
i
; y
i
); i = 1; : : : ; n, ò.å. òàêóþ �óíêöèþ f(:), ÷òîáû
f(x
1
; y
1
; x
2
; y
2
; : : :) ïðèáëèæåííî ðàâíÿëîñü íåèçâåñòíîìó �. Âåëè-
÷èíó
^
� = f(x
1
; y
1
; : : :) íàçûâàþò îöåíêîé ïàðàìåòðà �. Îöåíêîé
íàçûâàþò è ñàìîþ �óíêöèþ f(:). Ôóíêöèþ f(:) íàäî âûáèðàòü
òàê, ÷òîáû ïðèáëèæåííîå ðàâåíñòâî
^
� � � áûëî êàê ìîæíî áîëåå
18
òî÷íûì. Êàê èçìåðèòü áëèçîñòü
^
� ê � è êàê âûáðàòü �óíêöèþ f(:)
� ïðåäìåòû äàëüíåéøåãî èçó÷åíèÿ.
� Ò î ÷ í î ñ ò ü î ö å í è â à í è ÿ. Íàäî äàòü êîëè÷å-
ñòâåííóþ õàðàêòåðèñòèêó äëÿ òî÷íîñòè ïðèáëèæåííîãî ðàâåíñòâà
^
� � �. Ýòà çàäà÷à ðåøàåòñÿ â ðàìêàõ ò.í. äîâåðèòåëüíîãî (èíòåð-
âàëüíîãî) îöåíèâàíèÿ.
� Ï ð î â å ð ê à ñ ò à ò è ñ ò è ÷ å ñ ê è õ ã è ï î ò å ç. Âîç-
ìîæíî, ÷òî î âåëè÷èíå íåèçâåñòíîãî � ñóùåñòâóþò êàêèå-òî ïðåä-
ïîëîæåíèÿ (íå îñíîâàííûå íà íàáëþäåíèÿõ (x
1
; y
1
); : : : ; (x
n
; y
n
)).
Íàïðèìåð, ïðåäïîëîæåíèå, ÷òî � = �
0
èëè � � �
0
, ãäå �
0
� çà-
äàííîå çíà÷åíèå.  òàêîì ñëó÷àå åñòåñòâåííî ïîñòàâèòü âîïðîñ î
ïðîâåðêå ýòîãî ïðåäïîëîæåíèÿ ïî èìåþùèìñÿ íàáëþäåíèÿì.
Ç à ì å ÷ à í è å î ò å ð ì è í î ë î ã è è. Ïðè �îðìèðîâàíèè
ñòàòèñòè÷åñêîé ìîäåëè îáû÷íî ïðèõîäèòñÿ äåëàòü òå èëè èíûå
ïðåäïîëîæåíèÿ î ñâîéñòâàõ íàáëþäåíèé, ñâÿçè ïåðåìåííûõ è ïà-
ðàìåòðîâ, ñâîéñòâàõ ñëó÷àéíûõ îøèáîê è ò.ä. ×òîáû âûäåëèòü òå
ïðåäïîëîæåíèÿ, êîòîðûå ìû ñîáèðàåìñÿ ïðîâåðèòü ïî íàáëþäåíè-
ÿì, ýòè ïðåäïîëîæåíèÿ ìû áóäåì íàçûâàòü ãèïîòåçàìè, òî÷íåå �
ñòàòèñòè÷åñêèìè ãèïîòåçàìè.
1940 1950 1960 1970 1980 19900
2
4
6
8
10
12
14
16
18
20
y = 5.87 + 0.275 (t - 1944)
y
t
�èñ. 1.1.5. Äèíàìè÷åñêèé ðÿä óðîæàéíîñòè çåðíîâûõ êóëüòóð â
ÑÑÑ� çà 1945�1989 ãã.
19
Âòîðîé ïðèìåð ëèíåéíîé ðåãðåññèè: óðîæàéíîñòü çåðíîâûõ â
ÑÑÑ�, ïî äàííûì À. Ìàíåëëè. Ìîäåëü: y
t
= a + bt + "
t
, t � êà-
ëåíäàðíûé ãîä.
1.3. Ôèíàíñîâûå äàííûå
1
1.3.1. ×òî òàêîå �èíàíñîâûå äàííûå? Âåðîÿòíîñòíî-ñòàòèñ-
òè÷åñêèå ìåòîäû, ïî ñâîåìó èñòîðè÷åñêîìó ïðîèñõîæäåíèþ � ýòî
îïðåäåëåííàÿ ãðóïïà ìåòîäîâ ìàòåìàòè÷åñêîé �èçèêè. Âïðî÷åì,
è ïðè ñàìîì èõ âîçíèêíîâåíèè ñîâåðøàëèñü ïîïûòêè ïðèìåíåíèÿ
â îáëàñòÿõ ãîðàçäî áîëåå øèðîêèõ, ÷åì �óíäàìåíòàëüíàÿ èëè ïðè-
êëàäíàÿ �èçèêà. Ñòðàõîâàíèå, äåìîãðà�èþ è äàæå âåðîÿòíîñòè
ñóäåáíûõ ïðèãîâîðîâ ìîæíî íàéòè â ñòàðèííûõ òðàêòàòàõ ïî òåî-
ðèè âåðîÿòíîñòåé. Íî â ïîñëåäíèå íåñêîëüêî äåñÿòèëåòèé á�îëüøèé
íàó÷íûé èíòåðåñ è ëó÷øóþ çàðïëàòó îáåùàþò ïðèëîæåíèÿ ê ýêî-
íîìèêå, ÷åì ê êëàññè÷åñêèì îáëàñòÿì �èçèêè èëè òåõíèêè. Ïîýòî-
ìó ìíîãèå ñïåöèàëèñòû, ó÷èâøèåñÿ è ðàáîòàâøèå êàê ìàòåìàòè-
êè èëè �èçèêè, ïåðåêëþ÷àþòñÿ íà ðàáîòó â îáëàñòè ýêîíîìèêè,
â ÷àñòíîñòè, íà �èíàíñû. Èíòåðåñíî ïðåäñòàâèòü ñåáå ðåàëüíûå
âîçìîæíîñòè ïðèìåíåíèÿ ìûøëåíèÿ â ñòèëå ìàòåìàòè÷åñêîé �è-
çèêè â ýòèõ âåùàõ.
Ïî-ðóññêè, "�èíàíñû" è "äåíüãè" � ïî÷òè ñèíîíèìû. Íåáîëü-
øîå ðàçìûøëåíèå ïîêàçûâàåò, ÷òî ìû íà ñàìîì äåëå ïëîõî çíàåì,
÷òî òàêîå äåíüãè. Åùå ñòî ëåò íàçàä â õîäó áûëè çîëîòûå ìîíå-
òû (âðîäå áû êàê îñíîâà äåíåæíîé ñèñòåìû), íî îíè äîïîëíÿëèñü
àññèãíàöèÿìè. Ñïåöèàëèñòû ïî äåíåæíîìó îáðàùåíèþ çàìåòèëè,
÷òî ãîñóäàðñòâî, â ñóùíîñòè, íå èìååò ñïîñîáà îãðàíè÷èòü ìàñ-
ñó äåíåã, îáðàùàþùèõñÿ â ñòðàíå, ïîòîìó ÷òî ïðè îãðàíè÷åíèè,
ñêàæåì, êîëè÷åñòâà ìîíåò è àññèãíàöèé â õîä èäóò ðàçëè÷íûå âåê-
ñåëÿ, ðàñïèñêè èëè áèëåòû, êîòîðûå îáðàùàþòñÿ ïðèìåðíî íà òåõ
æå ïðàâàõ, ÷òî è òàêèå äåíüãè, êîòîðûå ìîíîïîëüíî âûïóñêàþòñÿ
ãîñóäàðñòâîì. Äî èçâåñòíûõ ïîð, êîíå÷íî, ïîêà íå âîçíèêàåò êðè-
çèñ äîâåðèÿ ê ñóððîãàòàì è âåñü íàðîä íà÷èíàåò æàæäàòü ïî÷åìó-
òî èìåííî "íàñòîÿùèõ" äåíåã. Òîãäà (êàê ýòî áûëî â ñåðåäèíå äå-
âÿòíàäöàòîãî âåêà) Àíãëèéñêèé áàíê õîòü è íå ïåðåñòàåò ñîâñåì
âûäàâàòü äåíüãè ïî âêëàäàì, íî äåëàåò ýòî : : : òðåõïåíñîâûìè ìî-
íåòàìè, ïîêà æàæäóùèì íå íàäîåñò ñòîÿòü â î÷åðåäè è êðèçèñ íå
óñïîêîèòñÿ.
1
Ýòîò ðàçäåë íàïèñàí Â.Í. Òóòóáàëèíûì
20
Öåííûå áóìàãè, òàêèå êàê àêöèè èëè ãîñóäàðñòâåííûå îáÿçà-
òåëüñòâà, íàäî, î÷åâèäíî, ñ÷èòàòü ðàçíîâèäíîñòÿìè äåíåã. Îíè ìî-
ãóò ñóùåñòâîâàòü è â áåçáóìàæíîì âèäå, ò. å. â âèäå êîìïüþòåð-
íûõ êîäîâ. Ïðè ñêîëüêî-íèáóäü íîðìàëüíûõ óñëîâèÿõ öåííûå áó-
ìàãè ëèêâèäíû, ò. å. ìîãóò áûòü áûñòðî ïðîäàíû íà ðûíêå (ò. å.
ïðåâðàùåíû â òó èëè èíóþ âàëþòó), à ñëåäîâàòåëüíî (÷åðåç âà-
ëþòó) è äðóã â äðóãà. Âîò è âîçíèêàåò âñåìèðíûé �èíàíñîâûé
ðûíîê, êîòîðûé çàíèìàåòñÿ â îãðîìíûõ ìàñøòàáàõ òåì, ÷òî ïðå-
âðàùàåò îäíè âèäû äåíåã â äðóãèå. Îí æèâåò áóðíîé æèçíüþ áëà-
ãîäàðÿ ñïåêóëÿíòàì, çàâåòíîé ìå÷òîé êîòîðûõ ÿâëÿåòñÿ âûãàäàòü
÷òî-íèáóäü íà êîëåáàíèÿõ êóðñîâ, ïî êîòîðûì îäíè äåíüãè ïðå-
âðàùàþòñÿ â äðóãèå. Äëÿ ýòîãî õîòåëîñü áû íàõîäèòü â îáùåì
õàîñå êàêèå-òî çàêîíîìåðíîñòè, â òîì ÷èñëå ïóòåì ïðèìåíåíèÿ
âåðîÿòíîñòíî-ñòàòèñòè÷åñêèõ ìåòîäîâ.
-0.2
-0.1
0.0
0.1
0.2
II
c)
03.21.9711.07.9506.25.9402.10.9309.29.9105.17.9001.02.89
-0.12
-0.06
0.00
0.06
0.12
I
b)
03.21.9711.07.9506.25.9402.10.9309.29.9105.17.9001.02.89
0
20
40
60
80
II
II I
a)
03.21.9711.07.9506.25.9402.10.9309.29.9105.17.9001.02.89
�èñ. 1.1.6. a) Äèíàìèêà öåí àêöèé äâóõ àìåðèêàíñêèõ êîìïàíèé I
è II; b) ïðèðàùåíèÿ ëîãàðè�ìîâ öåí àêöèé I-îé êîìïàíèè;
) ïðèðàùåíèÿ ëîãàðè�ìîâ öåí àêöèé II-îé êîìïàíèè
�àññìîòðèì ðèñ. 1.1.6a), íà êîòîðîì ïðåäñòàâëåí êóðñ àêöèé
äâóõ íàóäà÷ó âûáðàííûõ àìåðèêàíñêèõ êîìïàíèé. Äëÿ íà÷àëà
21
ñëåäóåò àêêóðàòíî ñêàçàòü, êàêèå èìåííî äàííûå ïðåäñòàâëåíû íà
ýòîì ðèñóíêå. Ýòî òàê íàçûâàåìûå öåíû çàêðûòèÿ òîðãîâ. Êàæ-
äûé äåíü (èñêëþ÷àÿ âûõîäíûå è ïðàçäíèêè) íà áèðæàõ Ñîåäèíåí-
íûõ Øòàòîâ ñîâåðøàþòñÿ ñäåëêè ñ àêöèÿìè ìíîãèõ ðàçëè÷íûõ
êîìïàíèé (êòî-òî ïðîäàåò àêöèè, à êòî-òî äðóãîé èõ îäíîâðåìåí-
íî ïîêóïàåò). Äàííûå î öåíå, ïî êîòîðîé ñîâåðøèëàñü ñäåëêà, ïî-
ïàäàþò â áèðæåâóþ èí�îðìàöèîííóþ ñèñòåìó, à çàòåì äåëàþòñÿ
äîñòóïíûìè âñåì æåëàþùèì. Îñîáåííîå çíà÷åíèå ïðèäàåòñÿ öåíå
ïîñëåäíåé ñäåëêè ñ àêöèÿìè äàííîé êîìïàíèè â äàííûé òîðãîâûé
äåíü: ýòî êàê áû èòîã, íà êîòîðîì îñòàíîâèëñÿ ðûíîê â äàííûé
äåíü â ñâîåì ïðîöåññå îöåíêè àêöèé ýòîé êîìïàíèè (íà ìîìåíò
çàêðûòèÿ òîðãîâ). Êðîìå òîãî, ìîãóò áûòü óñòàíîâëåíû òå èëè
èíûå ïðàâèëà èãðû, â êîòîðûõ ó÷àñòâóåò èìåííî öåíà ïîñëåäíåé
ñäåëêè. Íàïðèìåð, ñ ó÷åòîì ýòîé öåíû ïðîèñõîäèò èñïîëíåíèå îï-
öèîíîâ. Íî êàê áûòü, åñëè â êàêîé-íèáóäü äåíü ñäåëîê ñ àêöèÿìè
äàííîé êîìïàíèè âîîáùå íå ïðîèçâîäèëîñü? Òîãäà íóæíî áðàòü
öåíó çàêðûòèÿ ïðåäûäóùåãî äíÿ è ò.ä.
Òàêèì îáðàçîì, ñëåäóåò ïîìíèòü î òîì, ÷òî ïðè èìèòàöèè òåõ
èëè èíûõ ñòðàòåãèé áèðæåâîé èãðû íà îñíîâå ïðîøëûõ äàííûõ î
öåíàõ çàêðûòèÿ ìû íå â ñîñòîÿíèè òî÷íî âîññîçäàòü, êàêèìè áû-
ëè áû íàñòîÿùèå öåíû ñäåëîê ïðè ïðèìåíåíèè ýòîé ñòðàòåãèè â
ðåàëüíûõ óñëîâèÿõ. Ïî ïîðÿäêó âåëè÷èíû ðàçíèöà ìîæåò ñîñòàâ-
ëÿòü åäèíèöû ïðîöåíòîâ îò öåíû àêöèé, ÷òî â îäíèõ óñëîâèÿõ
ìîæåò áûòü ñóùåñòâåííî, à â äðóãèõ � íåò. Íî â äàëüíåéøåì ïðè
îïèñàíèè èìèòàöèé äåéñòâèÿ ñòðàòåãèé ìû íå áóäåì óïîìèíàòü
îá ýòîé íåèçáåæíîé óñëîâíîñòè.
Åñòü åùå îäíî îáñòîÿòåëüñòâî, î êîòîðîì ñëåäóåò óïîìÿíóòü.
Âðåìÿ îò âðåìåíè òà èëè èíàÿ êîìïàíèÿ ïðîèçâîäèò ñî ñâîèìè
àêöèÿìè òàê íàçûâàåìûé "ñïëèò" (split), ïðè êîòîðîì ñòàðûå àê-
öèè îáìåíèâàþòñÿ íà íîâûå â îïðåäåëåííîì îòíîøåíèè, íàïðèìåð
3:2, ò.å. äâå ñòàðûõ àêöèè îáìåíèâàþòñÿ íà òðè íîâûõ. Àâòîìà-
òè÷åñêè öåíà íîâîé àêöèè ðàâíà 2/3 öåíû ñòàðîé. Ïîíÿòíî, ÷òî
ïðè ðàññìîòðåíèè äèíàìèêè öåí çà êàêîé-òî äëèòåëüíûé ïåðè-
îä íóæíî ïðèâåñòè âñå öåíû ê êàêèì-òî îïðåäåëåííûì àêöèÿì,
îáû÷íî òåì, êîòîðûå ñóùåñòâóþò íà êîíåö ïåðèîäà. Íà àìåðèêàí-
ñêîì ðûíêå óêðåïèëàñü íåìíîãî ñòðàííàÿ òðàäèöèÿ, êîãäà öåëûå
äîëëàðû â çíà÷åíèè öåíû ñ÷èòàþòñÿ, åñòåñòâåííî, ïî äåñÿòè÷íîé
ñèñòåìå, íî äðîáè ïîñëå çàïÿòîé � ïî äâîè÷íîé, íàïðèìåð, 5/32
äîëëàðà (äàëüøå 1/32, êàæåòñÿ, íå èäóò).  �àéëàõ æå äàííûõ,
êîíå÷íî, âñ¼ ïèøåòñÿ ïî äåñÿòè÷íîé ñèñòåìå. Êàçàëîñü áû, ìîãóò
22
âîçíèêàòü ëèøü òàêèå äåñÿòè÷íûå äðîáè, êîòîðûå ñîîòâåòñòâóþò
ñòåïåíÿì äâîéêè, íî èç-çà ñïëèòà ýòî íå âñåãäà òàê.
Èòàê, ïî îñè îðäèíàò íà ðèñ. 1.1.6a) îòëîæåíû öåíû ïîñëåäíèõ
ñäåëîê êàæäîãî äíÿ ñ àêöèÿìè äàííîé êîìïàíèè, ïðèâåäåííûå ê
òåì àêöèÿì, êîòîðûå áûëè íà êîíåö ðàññìàòðèâàåìîãî êàëåíäàð-
íîãî ïåðèîäà. ×òî æå îòëîæåíî ïî îñè àáñöèññ? Äåëî â òîì, ÷òî
â �àéëàõ äàííûõ ñòîÿò êàëåíäàðíûå äàòû, íî òå (âûõîäíûå èëè
ïðàçäíè÷íûå) äíè, â êîòîðûå íå áûëî òîðãîâ, ïðîïóùåíû. Òàêèì
îáðàçîì, ïî îñè àáñöèññ �àêòè÷åñêè îòëîæåí íîìåð äíÿ òîðãîâ,
ñ÷èòàÿ çà íóëåâîé äåíü 2 ÿíâàðÿ 1989 ãîäà, íî (ïî ïîíÿòíûì ñîîá-
ðàæåíèÿì) îöè�ðîâêà äàíà â êàëåíäàðíûõ äàòàõ. Èíûìè ñëîâàìè,
â äíè, êîãäà íåò òîðãîâ, ñ÷èòàåòñÿ, ÷òî âðåìÿ êàê áû íå èäåò, è ïî-
âèäèìîìó, ýòî äîñòàòî÷íî ïðàâèëüíî äëÿ �èíàíñîâûõ äàííûõ. Â
ãîäó ïðèìåðíî 250 òîðãîâûõ äíåé, è â ñâÿçè ñ ýòèì âîçíèêàåò âî-
ïðîñ, êàê ðàçóìíåå ïåðåñ÷èòûâàòü ãîäîâûå ïðîöåíòû â äíåâíûå:
êîíêðåòíî 5% ãîäîâûõ � ýòî 0.05/365 èëè 0.05/250 â äåíü? Âè-
äèìî, áîëåå ïðàâèëåí âòîðîé ñïîñîá (åñëè, êîíå÷íî, ðå÷ü èäåò î
êàêèõ-òî ðàñ÷åòàõ íà �èíàíñîâîì ðûíêå).
Òåïåðü ìîæíî ñêàçàòü êðàòêî: íà ðèñ. 1.1.6a) ïðåäñòàâëåíû
äàííûå î öåíàõ àêöèé äâóõ àìåðèêàíñêèõ êîìïàíèé ïðèìåðíî
çà 8 êàëåíäàðíûõ ëåò: ñ íà÷àëà ÿíâàðÿ 1989 ã. ïî êîíåö ÿíâàðÿ
1997 ã.  êàæäîì �àéëå äàííûõ íàáëþäåíèé íåñêîëüêî áîëåå, ÷åì
8�250 = 2000. Êàëåíäàðíûå äàòû îáîçíà÷åíû ïî àìåðèêàíñêîé ñè-
ñòåìå: 05.17.91 îçíà÷àåò 17 ìàÿ 1991 ãîäà. Äàííûå ïðåäñòàâëåíû
ñ íåêîòîðûì îãðóáëåíèåì â ñîîòâåòñòâèè ñ âîçìîæíîñòÿìè êîì-
ïüþòåðíîé ãðà�èêè.
Ïåðâîå íàáëþäåíèå, êîòîðîå ìîæíî ñäåëàòü, ãëÿäÿ íà ðèñ.
1.1.6a), ñîñòîèò â òîì, ÷òî êóðñû àêöèé ÷ðåçâû÷àéíî äèíàìè÷íû.
Ïóñòü öåëüþ ñïåêóëÿíòà ÿâëÿåòñÿ ïðèîáðåòåíèå âîçìîæíî áîëü-
øåãî êîëè÷åñòâà äîëëàðîâ (ýòî íå îáÿçàòåëüíî òàê: äîëëàðû ëèøü
îäèí èç âèäîâ äåíåã è ìîæíî áûëî áû ñòðåìèòüñÿ ïðèîáðåñòè, íà-
îáîðîò, ïîáîëüøå àêöèé èëè ÷åãî-íèáóäü åùå). Òîãäà âàæíî îöå-
íèòü, çà ñêîëüêî âðåìåíè ìîæíî (â ïðèíöèïå) ïîëó÷èòü òîò èëè
èíîé ïðîöåíò ïðèáûëè íà âëîæåííûé êàïèòàë. Îöè�ðîâêà îñè àá-
ñöèññ íà ðèñ. 1.1.6a) ïðîèçâåäåíà ñ èíòåðâàëîì ïðèìåðíî â 15 ìå-
ñÿöåâ. Ìû âèäèì, ÷òî â ðÿäå ñëó÷àåâ êóðñ àêöèé çà ïîëîâèíó ýòîãî
ñðîêà ìåíÿåòñÿ â 1.5�2 ðàçà. Èòàê, åñëè óäà÷íî (äåøåâî) êóïèòü è
òîæå óäà÷íî (äîðîãî) ïðîäàòü, òî ìîæíî ìåíåå ÷åì çà ãîä çàðàáî-
òàòü 50-100% ïðèáûëè. Âîò è âîçíèêàåò ïëåìÿ áèðæåâûõ èãðîêîâ,
êîòîðûå ðàññ÷èòûâàþò íà ñâîè ñïîñîáíîñòè óäà÷íî âûáèðàòü ìî-
23
ìåíòû ïîêóïêè è ïðîäàæè. Ïîñìîòðèì, êàêîå îòíîøåíèå ê ýòîìó
ìîãóò èìåòü âåðîÿòíîñòíûå ìåòîäû.
1.3.2. Âåðîÿòíîñòíûå ìîäåëè äèíàìèêè êóðñîâ àêöèé.
Ïðè îäíîì âçãëÿäå íà ðèñ. 1.1.6a) ñòàíîâèòñÿ ÿñíûì, ÷òî â âåðîÿò-
íîñòíîì ñìûñëå ðå÷ü èäåò î íåñòàöèîíàðíûõ ñëó÷àéíûõ ïðîöåñ-
ñàõ. Íî â ïîíÿòèè íåñòàöèîíàðíîãî ñëó÷àéíîãî ïðîöåññà ïîëüçû
ìàëî: íåñòàöèîíàðíîñòü îçíà÷àåò, ÷òî ðàñïðåäåëåíèÿ âåðîÿòíî-
ñòåé, ñîîòâåòñòâóþùèå ïðîöåññó, êàê-òî ìåíÿþòñÿ ñî âðåìåíåì.
×òîáû ýòè ðàñïðåäåëåíèÿ êàêèì-òî îáðàçîì óçíàòü ïóòåì îáðà-
áîòêè �àêòè÷åñêèõ äàííûõ, ñëåäîâàëî áû ñîçäàòü àíñàìáëü èäåí-
òè÷íûõ â âåðîÿòíîñòíîì ñìûñëå ðåàëèçàöèé äàííîãî ñëó÷àéíîãî
ïðîöåññà. Íî êàê ñîçäàòü àíñàìáëü êîììåð÷åñêèõ êîìïàíèé, èäåí-
òè÷íûõ äàííîé?  ýòîì è ðàçíèöà ìåæäó ìèðîì ýêîíîìèêè è ìè-
ðîì �èçèêè, â êîòîðîì àíñàìáëü èäåíòè÷íûõ ïðîöåññîâ, âîîáùå
ãîâîðÿ, âîçìîæåí.
Ñëåäóþùèì õîäîì ìûñëè ÿâëÿåòñÿ ðàçëîæåíèå íàáëþäàåìîãî
ïðîöåññà íà ñóììó äåòåðìèíèðîâàííîé è ñëó÷àéíîé ñîñòàâëÿþ-
ùèõ. Äåòåðìèíèðîâàííàÿ ñîñòàâëÿþùàÿ â ýêîíîìèêå íàçûâàåòñÿ
òðåíäîì, è âîïðîñ ñîñòîèò â òîì, ÷òîáû òàê îïðåäåëèòü è âû÷åñòü
òðåíä, ÷òîáû îñòàâøàÿñÿ ñëó÷àéíàÿ ñîñòàâëÿþùàÿ îêàçàëàñü, ïî
ìåíüøåé ìåðå, ñòàöèîíàðíûì ñëó÷àéíûì ïðîöåññîì (ñòàöèîíàð-
íîñòü äåëàåò âîçìîæíûì îïðåäåëåíèå âåðîÿòíîñòíûõ õàðàêòåðè-
ñòèê ïî åäèíñòâåííîé ðåàëèçàöèè ïðîöåññà � çà ñ÷åò óñðåäíåíèÿ
êàêèõ-òî ñòàòèñòèê ïî âðåìåíè). �àññìàòðèâàÿ áîëåå èëè ìåíåå
ïðîèçâîëüíûé ÷åðòåæ, òàêîå ðàçäåëåíèå ìîæíî ñ òîé èëè èíîé
ñòåïåíüþ íàäåæíîñòè ïðîäåëàòü, íî ìû äîëæíû íàñòîðîæèòüñÿ
ïðè ìûñëè î òîì, ÷òî îíî äàëåêî íå îäíîçíà÷íî (â ñëó÷àå êóðñîâ
àêöèé).
Íàïðèìåð, ðàññìàòðèâàÿ àêöèè ïåðâîé êîìïàíèè, ìîæíî ñêà-
çàòü, ÷òî äî êîíöà 1993 ãîäà òðåíä áûë áëèçîê ê íóëþ, à ïîòîì
âäðóã ñòàë î÷åíü äàæå ïîëîæèòåëüíûì, òàê ÷òî àêöèè â êîíöå
êîíöîâ âûðîñëè â 2.5 ðàçà. Íî ìîæíî ñêàçàòü è òàê, ÷òî äî êîíöà
1991 ãîäà òðåíä áûë îòðèöàòåëüíûì (àêöèè óïàëè â 1.5 ðàçà), à
ïîòîì ñòàë ïîëîæèòåëüíûì, äà òàê, ÷òî àêöèè âûðîñëè â 4 ðàçà.
Äëÿ àêöèé âòîðîé êîìïàíèè ìîæíî âûäåëèòü îäèí îáùèé òðåíä
çà âñå 8 ëåò èëè äâà ðàçíûõ òðåíäà (îäèí ñ 1989 ïî êîíåö 1991
ãîäà, äðóãîé, áîëåå êðóòîé, ñ íà÷àëà 1992 ãîäà äî íà÷àëà 1997
ãîäà), à ïðè æåëàíèè � òðè òðåíäà èëè áîëåå. Åñëè æå ïîçâî-
24
ëèòü âûäåëÿòü òðåíäû íå òîëüêî â âèäå ìîíîòîííî ðàñòóùèõ èëè
óáûâàþùèõ �óíêöèé, íî òàêæå â âèäå òåõ èëè èíûõ ïåðèîäè÷íî-
ñòåé (ãàðìîíèê), òî èìÿ âñåì ýòèì òðåíäàì áóäåò � ëåãèîí. Ïðè
ëþáîì âûäåëåíèè òðåíäà ìîæíî äîáèòüñÿ, ÷òîáû ìîäåëü íåïëîõî
îïèñûâàëà èìåþùèåñÿ äàííûå íàáëþäåíèé, íî áóäåò ñîâåðøåííî
íåèçâåñòíî, ïðîäîëæèòñÿ ëè òàêîé òðåíä õîòü êàêîå-íèáóäü âðåìÿ
â áóäóùåì.
Íàêîíåö, ñóùåñòâóåò åùå òðåòèé ñïîñîá âûäåëåíèÿ ñòàòèñòè÷å-
ñêè ñòàöèîíàðíûõ ÿâëåíèé â íåñòàöèîíàðíûõ ñëó÷àéíûõ ïðîöåñ-
ñàõ. Ýòîò ñïîñîá èñïîëüçîâàí â ïðèìåíåíèè ê �èíàíñîâûì äàí-
íûì Áàøåëüå íà ðóáåæå 19-ãî è 20-ãî âåêîâ, à â ïðèìåíåíèè ê òå-
îðèè òóðáóëåíòíîñòè Êîëìîãîðîâûì è åãî ó÷åíèêàìè â ñåðåäèíå
20-ãî âåêà. Îí ñîñòîèò â ðàññìîòðåíèè ïðèðàùåíèé ïðîöåññà çà
íå ñëèøêîì áîëüøîå âðåìÿ (îòñþäà âîçíèêëî ïîíÿòèå ñëó÷àéíîãî
ïðîöåññà ñî ñòàöèîíàðíûìè ïðèðàùåíèÿìè).
Ïóñòü S
t
� êóðñ àêöèé â ìîìåíò t (â ñëó÷àå, êîãäà ðå÷ü èäåò
î öåíàõ çàêðûòèÿ, t äèñêðåòíî è îáîçíà÷àåò íîìåð äíÿ òîðãîâ).
Åñëè ñëåäîâàòü ïîäõîäó Áàøåëüå, òî íóæíî ðàññìîòðåòü ðàçíîñòè
(ïðèðàùåíèÿ)
�
h
S
t
= S
t+h
� S
t
: (1:1:1)
Åñëè çàêîíû ðàñïðåäåëåíèÿ òàêèõ ðàçíîñòåé îêàçûâàþòñÿ íå çàâè-
ñÿùèìè îò t, òî ïðîöåññ S
t
íàçûâàåòñÿ ïðîöåññîì ñî ñòàöèîíàðíû-
ìè ïðèðàùåíèÿìè. Âïðî÷åì, äëÿ �èíàíñîâûõ äàííûõ ñ÷èòàåòñÿ
ïîëåçíûì ïðèáåãàòü ê ëîãàðè�ìèðîâàíèþ
x
t
= lnS
t
; (1:1:2)
òàê ÷òî ðàññìàòðèâàþòñÿ ïðèðàùåíèÿ ëîãàðè�ìà
�
h
x
t
= lnS
t+h
� lnS
t
= ln(S
t+h
=S
t
): (1:1:3)
Ç à ì å ÷ à í è å. Åñëè S
t
= 100 äîëëàðîâ, òî ÷òî òàêîå lnS
t
?
Èíà÷å ãîâîðÿ, â êàêóþ ñòåïåíü íóæíî âîçâåñòè ÷èñëî e, ÷òîáû âîç-
íèêëè 100 äîëëàðîâ? Îòâåò íà ýòîò áåññìûñëåííûé âîïðîñ ñîñòîèò
â òîì, ÷òî ëþáûå �èíàíñîâûå äàííûå � ýòî äàííûå îá îòíîøåíèè,
â êîòîðîì îáìåíèâàþòñÿ äðóã íà äðóãà åäèíèöû äâóõ ðàçëè÷íûõ
"äåíåã", íàïðèìåð àêöèè è äîëëàðû. Èíà÷å ãîâîðÿ, äàííûå î êóð-
ñàõ áåçðàçìåðíû (ïîòîìó íà ðèñ. 1.1.6a) øêàëà îðäèíàò îöè�ðî-
âàíà â áåçðàçìåðíûõ åäèíèöàõ, à íå â äîëëàðàõ).
25
Ïåðåõîä ê ïðèðàùåíèÿì â ñëó÷àå òåîðèè òóðáóëåíòíîñòè ïðè-
âîäèò ê íåêîòîðûì äîñòàòî÷íî èíòåðåñíûì è äàæå óäèâèòåëü-
íûì çàêîíîìåðíîñòÿì â ñìûñëå êîððåëÿöèîííûõ è ñïåêòðàëüíûõ
ñâîéñòâ ýòèõ ïðèðàùåíèé (ðå÷ü èäåò, íàïðèìåð, î ïðèðàùåíèÿõ
ïðîåêöèè ñêîðîñòè òóðáóëåíòíîãî ïîòîêà íà êàêóþ-òî èç îñåé êî-
îðäèíàò). Íî äëÿ �èíàíñîâûõ äàííûõ � êàê â ñëó÷àå Áàøåëüå
(1.1.1), òàê è â ñëó÷àå áîëåå ñîâðåìåííîãî ïîäõîäà (1.1.2), (1.1.3) �
÷ðåçâû÷àéíî òðóäíî ïîéòè äàëüøå íåêîòîðîé òðèâèàëüíîñòè, ñóòü
êîòîðîé ñòàíåò ÿñíîé èç ðàññìîòðåíèÿ ðèñóíêîâ 1.1.6b) è 1.1.6 ).
Íà ýòèõ ðèñóíêàõ ïðåäñòàâëåíû ïðè h = 1 äåíü ïðèðàùåíèÿ
ëîãàðè�ìîâ öåí àêöèé òåõ æå äâóõ êîìïàíèé, ÷òî è íà ðèñ. 1.1.6a).
(Îáðàòèòå âíèìàíèå íà òî, ÷òî ÷åðòåæè âûïîëíåíû â ðàçíîì ìàñ-
øòàáå ïî îñè îðäèíàò). Ìû âèäèì òèïè÷íóþ êàðòèíó áåëîãî øóìà,
ò.å. ïîñëåäîâàòåëüíîñòè íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí. Ïîëó-
÷àåòñÿ, ÷òî ðàçíîñòè
Æ
t
= �
1
lnS
t
= ln(S
t+1
=S
t
) (1:1:4)
ïîõîæè (ïðè ðàçëè÷íûõ t) íà íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû.
 êàêîì ñìûñëå òðóäíî ïîéòè äàëüøå ýòîé äîâîëüíî òðèâèàëü-
íîé ìîäåëè? Òåîðåòè÷åñêè ïðåäëîæèòü êàêèå-ëèáî ìîäåëè ñ çàâè-
ñèìûìè âåëè÷èíàìè Æ
t
, ðàçóìååòñÿ, âïîëíå âîçìîæíî. Íî íóæíî
íà êîíêðåòíîì ìàòåðèàëå äîêàçàòü ïîëüçó ýòèõ òåîðåòè÷åñêè ìûñ-
ëèìûõ ìîäåëåé äëÿ ëó÷øåãî ïîíèìàíèÿ �àêòè÷åñêèõ äàííûõ (à
æåëàòåëüíî òàêæå � è äëÿ êàêèõ-òî ïðàêòè÷åñêèõ öåëåé). È âîò
ýòî îêàçûâàåòñÿ î÷åíü òðóäíûì, êàê ìû ÷àñòè÷íî óâèäèì íèæå.
Äîïóñòèâ, ÷òî Æ
t
= ln(S
t+1
=S
t
) � íåçàâèñèìûå ñëó÷àéíûå âå-
ëè÷èíû, ìû ïîëó÷èì, ÷òî ïðåäïîëîæåíèå ñòàöèîíàðíîñòè ïî t ñâå-
äåòñÿ ïðîñòî ê òîìó, ÷òî ðàñïðåäåëåíèå Æ
t
ïðè âñåõ t îäèíàêîâî.
 òàêîì ñëó÷àå
EÆ
t
= a; DÆ
t
= E(Æ
t
� a)
2
= �
2
íå çàâèñÿò îò t. Äëÿ ïðèðàùåíèÿ
�
h
x
t
= lnS
t+h
� lnS
t
= Æ
t
+ � � �+ Æ
t+h�1
ïîëó÷àåì
E�
h
x
t
= ah; D�
h
x
t
= h�
2
: (1:1:5)
Ïîêà ÷òî åäèíèöåé âðåìåíè ó íàñ ÿâëÿëñÿ îäèí (òîðãîâûé)
äåíü, t è h ïðèíèìàëè öåëûå çíà÷åíèÿ. Íî ìîæíî âðåìÿ âûðà-
æàòü â äðóãèõ åäèíèöàõ, íàïðèìåð â ãîäàõ, è òîãäà t è h áóäóò
26
ìåíÿòüñÿ íà ðåøåòêå ñ øàãîì 1/250. Ïñèõîëîãè÷åñêè åñòåñòâåííî
ïåðåéòè â òàêîì ñëó÷àå ê ìîäåëè ñ íåïðåðûâíûì âðåìåíåì: ñ÷è-
òàòü, ÷òî S
t
è x
t
= lnS
t
îïðåäåëåíû äëÿ íåïðåðûâíîãî âðåìåíè,
ïðè÷åì x
t
ÿâëÿåòñÿ ïðîöåññîì ñ íåçàâèñèìûìè ïðèðàùåíèÿìè, à
ðàâåíñòâà (1.1.5) ñîõðàíÿþòñÿ. Ïðîñòåéøèì èç òàêèõ ïðîöåññîâ
ÿâëÿåòñÿ ïðîöåññ áðîóíîâñêîãî äâèæåíèÿ ñ êîý��èöèåíòîì ñíîñà
a è êîý��èöèåíòîì äè��óçèè �
2
. Âîò ìû è ïðèøëè ê çíàìåíè-
òîé ìîäåëè ãåîìåòðè÷åñêîãî (èëè ýêîíîìè÷åñêîãî) áðîóíîâñêîãî
äâèæåíèÿ, êîòîðóþ ìîæíî çàïèñàòü â ñëåäóþùåì âèäå:
lnS
t
� lnS
0
= at+ �w(t);
ãäå w(t) � âèíåðîâñêèé ïðîöåññ.
Ç à ì å ÷ à í è å. Ôîðìóëû (1.1.5) ñ÷èòàþòñÿ ñïðàâåäëèâûìè äëÿ
íå ñëèøêîì áîëüøèõ çíà÷åíèé h.  êàêîé èìåííî îáëàñòè çíà÷å-
íèé h ñïðàâåäëèâ ëèíåéíûé ðîñò äèñïåðñèè ïðèðàùåíèÿ, ñëåäóåò
âûÿñíÿòü ïî �àêòè÷åñêèì äàííûì.
1.4. Îáùàÿ (àáñòðàêòíàÿ) ñòàòèñòè÷åñêàÿ ìîäåëü
�àäè åäèíîîáðàçèÿ áóäåì äàëåå ãîâîðèòü, ÷òî èìåþùèéñÿ â
íàøåì ðàñïîðÿæåíèè ñòàòèñòè÷åñêèé ìàòåðèàë îáðàçóåò îäíî íà-
áëþäåíèå X .  ïðèìåðå èç ðàçäåëà 1.1 X � ýòî äâåñòè ÷èñåë èç
òàáë. 1.1.1, ÷òî ìîæíî çàïèñàòü êàê X = (x
1
; : : : ; x
n
), ãäå n = 200.
 ïåðâîì ïðèìåðå èç ðàçäåëà 1.2 â êà÷åñòâå åäèíîãî íàáëþäåíèÿ
âûñòóïàþò n = 24 ïàðû (x
i
; y
i
) � óäàëåíèÿ è ëó÷åâûå ñêîðîñòè.
Âî âòîðîì ïðèìåðå èç ðàçäåëà 1.2 � ýòî äàííûå îá óðîæàéíîñòè
� X åñòü ïîñëåäîâàòåëüíîñòü ÷èñåë x
t
, ãäå t (êàëåíäàðíàÿ äàòà)
èçìåíÿåòñÿ îò T
1
= 1945 äî T
2
= 1989, ïðîáåãàÿ 45 ëåò. Â ïðèìåðå
èç ðàçäåëà 1.3 íàáëþäåíèå X � ýòî ïîñëåäîâàòåëüíîñòü öåí àêöèé
äàííîé êîìïàíèè çà ïåðèîä íàáëþäåíèÿ. Íà ðèñ. 1.1.6a) èçîáðàæå-
íû äâå òàêèå ïîñëåäîâàòåëüíîñòè (äâå òðàåêòîðèè), ò.å. èìåþòñÿ
äâà íàáëþäåíèÿ.
Ôîðìèðîâàíèå îáùåé ñòàòèñòè÷åñêîé ìîäåëè íà÷íåì ñ òîãî,
÷òî ñêàæåì, ÷òî ìû ðàñïîëàãàåì íàáëþäåíèåìX . Ýòî íàø ñòàòè-
ñòè÷åñêèé ìàòåðèàë. Âñå âûâîäû ìû áóäåì äåëàòü, îñíîâûâàÿñü
íà íàáëþäåíèèX . Åãî ìàòåìàòè÷åñêàÿ ïðèðîäà íå ñóùåñòâåííà:X
ìîæåò áûòü ñîâîêóïíîñòüþ ÷èñåë, âåêòîðîì, ìàòðèöåé, �óíêöè-
åé âðåìåíè (íàïðèìåð, êðèâîé, çàïèñàííîé ñàìîïèñöåì) èëè ïðî-
ñòðàíñòâà è ò.ä.
27
Ìû ðàññìàòðèâàåì X êàê òî÷êó íåêîåãî ìíîæåñòâà X , íàçûâà-
åìîãî ïðîñòðàíñòâîì íàáëþäåíèé, âûáîðî÷íûì ïðîñòðàíñòâîì,
ãåíåðàëüíîé ñîâîêóïíîñòüþ è ò. ä.
Âî âñåõ ðàññìîòðåííûõ ïðèìåðàõ â êà÷åñòâå âûáîðî÷íîãî ïðî-
ñòðàíñòâà X ìîæíî âçÿòü n-ìåðíîå àðè�ìåòè÷åñêîå ïðîñòðàíñòâî
R
n
(ñ ðàçíûìè n), õîòÿ â íåêîòîðûõ ñëó÷àÿõ ìîæíî áûëî áû îãðà-
íè÷èòüñÿ îïðåäåëåííûìè ïîäìíîæåñòâàìè R
n
.
Êëþ÷åâîå ïðåäïîëîæåíèå ñîñòîèò â òîì, ÷òî äàííîå çíà÷åíèå
X ïîÿâèëîñü êàê ðåçóëüòàò íåêîåãî ñëó÷àéíîãî âûáîðà ýëåìåíòà èç
X . Ýòîò ñëó÷àéíûé âûáîð áûë ïðîèçâåäåí â ñîîòâåòñòâèè ñ íåêî-
òîðûì ðàñïðåäåëåíèåì âåðîÿòíîñòåé P íà X . Êàê ïðàâèëî, ýòî
êîíêðåòíîå ðàñïðåäåëåíèå P íàì íå èçâåñòíî. Îäíàêî ìû ìîæåì
óêàçàòü êàêèå-òî ñâîéñòâà, êîòîðûìè P îáëàäàåò. Èíà÷å ãîâîðÿ,
íàì èçâåñòíî (ìû ìîæåì óêàçàòü) íåêîòîðîå ìíîæåñòâî P âåðîÿò-
íîñòíûõ ðàñïðåäåëåíèé íà X , êîòîðîìó ïðèíàäëåæèò íåèçâåñòíîå
èñòèííîå ðàñïðåäåëåíèå P .
 íàøèõ ïðèìåðàõ P � ýòî ðàñïðåäåëåíèå âåðîÿòíîñòåé íà R
n
.
Äëÿ ìîäåëè âûáîðêè, êîãäà íàáëþäåííûå çíà÷åíèÿ ðàññìàòðè-
âàþòñÿ êàê ðåàëèçàöèè íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ
ñëó÷àéíûõ âåëè÷èí, âåðîÿòíîñòíàÿ ìåðà P � ýòî ïðîèçâåäåíèå n
îäíîìåðíûõ îäèíàêîâûõ ðàñïðåäåëåíèé. Ìíîæåñòâî P � ýòî ñî-
âîêóïíîñòü òàêèõ n-ìåðíûõ ðàñïðåäåëåíèé. Çà ñ÷åò äàëüíåéøèõ
ïðåäïîëîæåíèé îá îäíîìåðíûõ ðàñïðåäåëåíèÿõ ýòà ñîâîêóïíîñòü
ìîæåò áûòü ñäåëàíà áîëåå óçêîé. Åñëè, íàïðèìåð, ìû ïðåäïîëî-
æèì, ÷òî óïîìÿíóòîå îäíîìåðíîå ðàñïðåäåëåíèå � ãàóññîâñêîå
(ñ íåîïðåäåëåííûìè ïàðàìåòðàìè), òî â êà÷åñòâå P ìû ïîëó÷èì
äâóõïàðàìåòðè÷åñêîå ñåìåéñòâî n-ìåðíûõ ãàóññîâñêèõ ðàñïðåäå-
ëåíèé.
 ðåãðåññèîííûõ ìîäåëÿõ íàáëþäåííûå îòêëèêè y
1
; : : : ; y
n
òî-
æå ðàññìàòðèâàþò êàê ðåàëèçàöèè íåçàâèñèìûõ ñëó÷àéíûõ ïåðå-
ìåííûõ, òàê ÷òî P � ñíîâà ïðîèçâåäåíèå ìåð. Íî çäåñü îäíîìåð-
íûå ðàñïðåäåëåíèÿ íå îäèíàêîâû: êàæäîå èç íèõ çàâèñèò îò ñîîò-
âåòñòâóþùåãî çíà÷åíèÿ �àêòîðà x (è îò ðàñïðåäåëåíèÿ ñëó÷àéíûõ
îøèáîê, åñëè ïîñëåäíèå íå ïðåäïîëàãàþòñÿ îäèíàêîâî ðàñïðåäå-
ëåííûìè).
Íàêîíåö, â ïðèìåðå èç ðàçäåëà 1.3 öåíû àêöèé â ïîñëåäîâàòåëü-
íûå ìîìåíòû âðåìåíè ðàññìàòðèâàþòñÿ êàê ñëó÷àéíûå âåëè÷èíû,
íå ÿâëÿþùèåñÿ íåçàâèñèìûìè. Ïîýòîìó ðàñïðåäåëåíèå P â ýòîì
ñëó÷àå óñòðîåíî áîëåå ñëîæíî, ÷åì ïðîèçâåäåíèå ìåð. Èññëåäîâà-
íèåì òàêèõ ìîäåëåé çàíèìàåòñÿ ñòàòèñòèêà âðåìåííûõ ðÿäîâ. Ìû
28
æå â êóðñå áóäåì çàíèìàòüñÿ ëèøü ñòàòèñòèêîé íåçàâèñèìûõ
íàáëþäåíèé.
Çàäà÷à ñòàòèñòèêè � âûâîäû î P èëè ñâîéñòâàõ P íà îñíîâà-
íèè X . Íàïðèìåð, îñíîâûâàÿñü íà X , íàäî âû÷èñëèòü ïðèáëèæåí-
íûå çíà÷åíèÿ �óíêöèîíàëîâ îò P èëè îòâåòèòü, ñîâìåñòèìû ëè ñ
íàáëþäåííûì X ïðåäïîëîæåíèÿ î òåõ èëè èíûõ ñâîéñòâàõ P .
Ìíîæåñòâî P â ïðàêòè÷åñêèõ çàäà÷àõ ÷àñòî îêàçûâàåòñÿ ïà-
ðàìåòðèçîâàííûì ñ ïîìîùüþ íåêîòîðîãî ïàðàìåòðà �, êîòîðûé
ìåíÿåòñÿ â çàäàííîé îáëàñòè �. Îáû÷íî � � èíòåðâàë ÷èñëîâîé
ïðÿìîé (åñëè � � îäíîìåðíûé ïàðàìåòð) èëè îáëàñòü êîíå÷íîìåð-
íîãî ïðîñòðàíñòâà (êîãäà � � ìíîãîìåðíûé ïàðàìåòð). Â ïàðàìåò-
ðè÷åñêîì ñëó÷àå:
P = fP
�
; � 2 �g:
 ýòîé îáñòàíîâêå íàñ îáû÷íî èíòåðåñóåò çíà÷åíèå �, îòâå÷à-
þùåå èñòèííîìó ðàñïðåäåëåíèþ P
�
(èñòèííîå çíà÷åíèå �) ëèáî
çíà÷åíèÿ òåõ èëè èíûõ �óíêöèé �(�) ïðè èñòèííîì �, è ò.ï. Îñíî-
âûâàÿñü íà X , ìû äîëæíû íàéòè äëÿ íèõ ïðèáëèæåííûå çíà÷å-
íèÿ.
� 2. Òåîðåìà �ëèâåíêî
(Ïðèìåð òîãî, êàê ïî âûáîðêå óñòàíàâëèâàþòñÿ ñâîéñòâà ðàñ-
ïðåäåëåíèÿ âåðîÿòíîñòåé).
Ïóñòü x
1
; x
2
; : : : ; x
n
� íåçàâèñèìûå, îäèíàêîâî ðàñïðåäåëåííûå
ñëó÷àéíûå âåëè÷èíû (âûáîðêà). Èõ (îáùóþ) �óíêöèþ ðàñïðåäå-
ëåíèÿ îáîçíà÷èì ÷åðåç F (x):
F (x) = Pfx
i
� xg:
Îáîçíà÷èì ÷åðåç F
n
(x) òàê íàçûâàåìóþ ýìïèðè÷åñêóþ �óíê-
öèþ ðàñïðåäåëåíèÿ, êîòîðàÿ ñòðîèòñÿ ïî âûáîðêå. Äëÿ ýòîãî â
êàæäóþ èç òî÷åê x
1
; x
2
; : : : ; x
n
ïîìåñòèì âåðîÿòíîñòü, ðàâíóþ
1
n
.
Òàê íà ÷èñëîâîé ïðÿìîé âîçíèêàåò íîâîå ðàñïðåäåëåíèå âåðîÿòíî-
ñòåé, ñëó÷àéíîå. Åãî �óíêöèþ ðàñïðåäåëåíèÿ è îáîçíà÷èì ÷åðåç
F
n
(x). Ïîýòîìó F
n
(x) íàçûâàþò åùå è �óíêöèåé ðàñïðåäåëåíèÿ
âûáîðêè. Ñ ïîìîùüþ èíäèêàòîðîâ ñîáûòèé I(x
i
� x), �óíêöèþ
F
n
(x) ìîæíî çàïèñàòü â âèäå:
F
n
(x) =
1
n
n
X
i=1
I(x
i
� x):
29
13.0 13.1 13.2 13.3 13.4 13.5 13.6 13.7 13.8x
b) %
0.10
99.90
2.30
97.70
15.90
84.10
50.00
13.0 13.1 13.2 13.3 13.4 13.5 13.6 13.7 13.80.00
0.25
0.50
0.75
1.00
a) F(x)
x
�èñ. 1.2.1. à) Ýìïèðè÷åñêàÿ �óíêöèÿ ðàñïðåäåëåíèÿ äëÿ äàííûõ
èç òàáë. 1.1.1; b) ż èçîáðàæåíèå íà íîðìàëüíîé áóìàãå
Ç à ì å ÷ à í è å. ×àñòî �óíêöèþ ðàñïðåäåëåíèÿ îïðåäåëÿþò
÷óòü èíà÷å, ÷åì ñêàçàíî âûøå, ïîñðåäñòâîì ñòðîãèõ íåðàâåíñòâ:
F (x) = Pfx
i
< xg:
 ýòîì ñëó÷àå àíàëîãè÷íî èçìåíÿåòñÿ è îïðåäåëåíèå �óíêöèè ðàñ-
ïðåäåëåíèÿ âûáîðêè. �àçëè÷èå ìåæäó ýòèìè äâóìÿ îïðåäåëåíèÿ-
ìè íåñóùåñòâåííû: äëÿ íåïðåðûâíûõ ðàñïðåäåëåíèé îíè ñîâïàäà-
þò; äëÿ äðóãèõ ðàçëè÷èå ñîñòîèò ëèøü â òîì, ñ êàêîé ñòîðîíû
(ñëåâà èëè ñïðàâà) �óíêöèÿ ðàñïðåäåëåíèÿ îêàçûâàåòñÿ íåïðå-
ðûâíîé.
Ñëåäóþùàÿ íèæå �îðìóëèðîâêà òåîðåìû �ëèâåíêî íå çàâèñèò
îò òîãî, êàêîé âàðèàíò îïðåäåëåíèÿ ìû ïðèíèìàåì.
Ò å î ð å ì à � ë è â å í ê î. Ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ
âåëè÷èí D
n
= sup
x
jF
n
(x) � F (x)j (n = 1; 2; : : :) ñõîäèòñÿ ê íóëþ
ïî âåðîÿòíîñòè ïðè n!1. Äðóãèìè ñëîâàìè: äëÿ ëþáûõ " > 0,
30
Æ > 0 íàéäåòñÿ íîìåð N = N("; Æ) òàêîé, ÷òî
Pfsup
x
jF
n
(x)� F (x)j < "g > 1� Æ äëÿ âñåõ n � N:
Ä î ê à ç à ò å ë ü ñ ò â î. Ïðåäâàðèòåëüíûå çàìå÷àíèÿ: äëÿ
âñÿêîãî x
F
n
(x)
P
�! F (x):
Ýòî âñåãî ëèøü ïåðå�îðìóëèðîâêà òåîðåìû Áåðíóëëè (î ñõîäè-
ìîñòè ÷àñòîòû ñîáûòèÿ ê åãî âåðîÿòíîñòè â ïîñëåäîâàòåëüíîñòè
íåçàâèñèìûõ èñïûòàíèé) äëÿ ñîáûòèÿ fx
i
� xg.
Ñíà÷àëà äîêàçàòåëüñòâî ïðîâåäåì äëÿ íåïðåðûâíîé �óíêöèè
F (�). Ñ íåáîëüøèìè èçìåíåíèÿìè ýòî äîêàçàòåëüñòâî îêàæåòñÿ
ñïðàâåäëèâûì è äëÿ ðàçðûâíûõ �óíêöèé ðàñïðåäåëåíèÿ, î ÷åì
áóäåò ñêàçàíî íèæå.
Ïóñòü " > 0 è Æ > 0 çàäàíû. Âûáåðåì íàòóðàëüíîå ÷èñëî R òàê,
÷òîáû 1=R < "=2. �àçîáüåì îòðåçîê [0,1℄ îñè îðäèíàò íà R ðàâíûõ
÷àñòåé. Îäíîâðåìåííî, íà R îòðåçêîâ �
1
; : : : ;�
R
, áóäåò ðàçäåëåíà
è îñü àáñöèññ òî÷êàìè �1 = a
0
< a
1
< a
2
< : : : < a
R
= 1; ãäå
�
k
= [a
k�1
; a
k
℄, F (a
k
) = k=R, k = 1; : : : ; R.
k
y = F(x)
x
y1
aR-1akak-10a1
�èñ. 1.2.2. �ðà�èê �óíêöèè y = F (x)
Ââåäåì ñîáûòèå
n
=
�
max
1�k�R�1
jF
n
(a
k
)� F (a
k
)j <
"
2
�
:
31
Ïî óæå óïîìÿíóòîé òåîðåìå Áåðíóëëè, ñóùåñòâóåò N = N("; Æ)
òàêîå, ÷òî Pf
n
g > 1 � Æ äëÿ âñåõ n � N("; Æ). (Äðóãèìè ñëîâà-
ìè: ñëåäñòâèåì ñõîäèìîñòè â êàæäîé òî÷êå ÿâëÿåòñÿ ðàâíîìåðíàÿ
ñõîäèìîñòü íà êàæäîì êîíå÷íîì ìíîæåñòâå òî÷åê).
Òåïåðü ïîêàæåì, ÷òî åñëè ïðîèçîøëî ñîáûòèå
n
, òî ïðè óêà-
çàííîì âûáîðå R
sup
�1<x<1
jF
n
(x)� F (x)j < ":
ßñíî, ÷òî
sup
�1<x<1
jF
n
(x)� F (x)j = max
k=1;:::;R
sup
x2�
k
jF
n
(x)� F (x)j:
Ïîýòîìó, äîñòàòî÷íî ïîêàçàòü, ÷òî åñëè ïðîèçîøëî ñîáûòèå
n
,
òî äëÿ êàæäîãî k = 1; R
sup
x2�
k
jF
n
(x) � F (x)j < ": (1:2:1)
Ïîñêîëüêó äëÿ ëþáîé �óíêöèè f(�)
sup jf(x)j = max[sup f(x); sup(�f(x))℄;
äëÿ äîêàçàòåëüñòâà (1.2.1) äîñòàòî÷íî îöåíèòü ñâåðõó ïîðîçíü
sup
x2�
k
[F
n
(x) � F (x)℄ è sup
x2�
k
[F (x) � F
n
(x)℄:
Îöåíèì òîëüêî ïåðâîå èç äâóõ âûðàæåíèé, ïîñêîëüêó âòîðàÿ îöåí-
êà ïîëó÷àåòñÿ àíàëîãè÷íî.
 ñèëó òîãî, ÷òî �óíêöèè ðàñïðåäåëåíèÿ F (�) è F
n
(�) ìîíîòîí-
íî íå óáûâàþò, ïðè x 2 �
k
= [a
k�1
; a
k
℄:
F
n
(x)�F(x)�F
n
(a
k
)�F(a
k�1
)=[F
n
(a
k
)�F(a
k
)℄+[F(a
k
)�F(a
k�1
)℄=
= [F
n
(a
k
)� F (a
k
)℄ +
1
R
:
Åñëè ïðîèçîøëî ñîáûòèå
n
, òî öåïî÷êó ìîæíî ïðîäîëæèòü è
íàïèñàòü:
F
n
(x) � F (x) �
"
2
+
"
2
= ";
ïðè÷åì ýòî âåðíî äëÿ êàæäîãî îòðåçêà �
k
. Ñëåäîâàòåëüíî,
n
� fsup
x
jF
n
(x) � F (x)j < "g:
32
Äëÿ íåïðåðûâíûõ F (�) äîêàçàòåëüñòâî îêîí÷åíî, ïîñêîëüêó
Pf
n
g>1�Æ äëÿ âñåõ äîñòàòî÷íî áîëüøèõ n (äëÿ n>N=N("; Æ)).
Äëÿ �óíêöèé ñ ðàçðûâàìè òî æå äîêàçàòåëüñòâî ïðîõîäèò ñ
íåêîòîðûìè èçìåíåíèÿìè. Âçàìåí ïîñëåäîâàòåëüíîñòè (a
0
; a
1
;: : :;a
R
),
ðàññìîòðèì êîíå÷íóþ ïîñëåäîâàòåëüíîñòü
�1 = b
0
< b
1
< : : : < b
K
=1
òàêóþ, ÷òî ïðèðàùåíèå F (�) íà êàæäîì èíòåðâàëå (b
k�1
; b
k
) ,
k = 1;K, íå ïðåâîñõîäèò "=2:
jF (b
k
� 0)� F (b
k�1
+ 0)j �
"
2
:
(Ïèøåì ïðåäåëû ñëåâà è ïðåäåëû ñïðàâà âìåñòî òîãî, ÷òîáû â
îäíîì ñëó÷àå íàïèñàòü çíà÷åíèå �óíêöèè â òî÷êå, ñ òåì, ÷òîáû
âûêëàäêà ãîäèëàñü äëÿ îáîèõ îïðåäåëåíèé �óíêöèè ðàñïðåäåëå-
íèÿ: äëÿ Pfx
i
� xg è äëÿ Pfx
i
< xg).
Êàê ìîæíî ïîñòðîèòü òàêóþ ïîñëåäîâàòåëüíîñòü, ïîêàçàíî íà
ðèñ. 1.2.3.
y = F(x)
bk
, /2
2_{
{2_
bk+1
bkb
k-1
x
�èñ. 1.2.3. Ôðàãìåíò ãðà�èêà �óíêöèè y = F (x). Îòìå÷åíû
íåñêîëüêî òî÷åê ðàçáèåíèÿ b
k�1
; b
k
; b
k+1
.
 ÷àñòíîñòè, â ïîñëåäîâàòåëüíîñòü (b
0
; b
1
; : : : ; b
K
) âîéäóò âñå
òî÷êè ñêà÷êîâ �óíêöèè F (�), â êîòîðûõ ñêà÷îê ïðåâîñõîäèò "=2
(èõ êîíå÷íîå ÷èñëî).
33
Ñîáûòèå
n
, êîòîðîå ðàíåå áûëî ñâÿçàíî ñ ïîñëåäîâàòåëüíî-
ñòüþ (a
1
; a
2
; : : : ; a
R�1
), òåïåðü îïðåäåëèì òàê:
n
=
n
max
1�k�K�1
�
jF
n
(b
k
+0)�F (b
k
+0)j; jF
n
(b
k
�0)�F (b
k
�0)j
�
<
"
2
o
:
Ïî òåîðåìå Áåðíóëëè (êàê è ðàíüøå), äëÿ äîñòàòî÷íî áîëüøèõ n
Pf
n
g > 1� Æ:
Ñ ýòèì èçìåíåíèåì äîêàçàòåëüñòâî ïðîõîäèò òàê æå, êàê è
ðàíüøå. (Äëÿ êðàéíèõ îòðåçêîâ �
1
è �
R
â âûêëàäêè âõîäÿò çíà-
÷åíèÿ �óíêöèé F
n
(:) è F (:) â òî÷êàõ a
0
= �1 è a
R
=1. Äëÿ ýòèõ
çíà÷åíèé àðãóìåíòà �îðìàëüíî ïîëàãàåì F
n
(�1) = F (�1) = 0,
F
n
(1) = F (1) = 1). �
Ìû äîêàçàëè, ÷òî F
n
ðàâíîìåðíî ñõîäèòñÿ ê F ïî âåðîÿòíîñòè.
Áîëåå ñèëüíàÿ �îðìà ýòîé òåîðåìû (êîòîðàÿ è áûëà äîêàçàíà åå
àâòîðàìè: �ëèâåíêî � äëÿ íåïðåðûâíîãî ñëó÷àÿ, Êàíòåëëè � äëÿ
îáùåãî) óòâåðæäàåò ñõîäèìîñòü ñ âåðîÿòíîñòüþ 1.
Ñîîòíîøåíèå ìåæäó ýòèìè äâóìÿ òåîðåìàìè î ñõîäèìîñòè F
n
ê F òàêîå æå, êàê ìåæäó ïðîñòî çàêîíîì áîëüøèõ ÷èñåë è óñèëåí-
íûì çàêîíîì áîëüøèõ ÷èñåë. (Òåîðåìà �ëèâåíêî-Êàíòåëëè è åñòü
çàêîí áîëüøèõ ÷èñåë â �óíêöèîíàëüíîì ïðîñòðàíñòâå).
Âïðî÷åì, äëÿ ïðàêòèêè, èìåþùåé äåëî ñ êîíå÷íûìè âûáîðêà-
ìè, ñõîäèìîñòü ñ âåðîÿòíîñòüþ 1 äàåò íå áîëüøå, ÷åì ñõîäèìîñòü
ïî âåðîÿòíîñòè: åñëè �
n
! � (ñ âåðîÿòíîñòüþ 1 ëè, ïî âåðîÿòíî-
ñòè ëè), òî äëÿ äàííîé íàì âûáîðêè (äëÿ äàííîãî n) ýòî îçíà÷àåò
ëèøü, ÷òî �
n
ïðèáëèæåííî ðàâíà � (åñëè, ê òîìó æå, "n äîñòà-
òî÷íî âåëèêî"). Ïîýòîìó â êóðñå ìû áóäåì ðàññìàòðèâàòü òîëüêî
"ñëàáûå" ïðåäåëüíûå òåîðåìû, óòâåðæäàþùèå ñõîäèìîñòü ïî âå-
ðîÿòíîñòè, äàæå åñëè èçâåñòíû èõ óñèëåííûå âàðèàíòû.
� 3. �ëàçîìåðíàÿ ïðîâåðêà ïðåäïîëîæåíèé î òèïå
ðàñïðåäåëåíèÿ
Òåîðåìà �ëèâåíêî ïîçâîëÿåò ïî âûáîðî÷íîé �óíêöèè ðàñïðå-
äåëåíèÿ (îáúåêòó íàáëþäàåìîìó) ñóäèòü î �óíêöèè ðàñïðåäåëå-
íèÿ ñëó÷àéíûõ âåëè÷èí, êîòîðûå îáðàçóþò ýòó âûáîðêó. Ýòó èñ-
òèííóþ �óíêöèþ ðàñïðåäåëåíèÿ èíîãäà � â ïðîòèâîïîëîæíîñòü
âûáîðî÷íîé � íàçûâàþò òåîðåòè÷åñêîé (õîòÿ ÷àñòî íèêàêîé òå-
îðèè çà íåé íå ñòîèò). Òàê â ïðèìåðå èç 1.1, åñëè ðàçìåðû çàêëå-
34
ïîê ñîñòàâëÿþò âûáîðêó èç íîðìàëüíîé ñîâîêóïíîñòè, òî âûáî-
ðî÷íàÿ �óíêöèÿ ðàñïðåäåëåíèÿ y = F
n
(x) (çäåñü n = 200) äîëæ-
íà áûòü áëèçêà ê íåêîòîðîé íîðìàëüíîé �óíêöèè ðàñïðåäåëåíèÿ
y = �
�
x� a
�
�
, ãäå a è � � êàêèå-òî ïàðàìåòðû íîðìàëüíîãî çà-
êîíà, íåèçâåñòíûå íàáëþäàòåëþ (a � ìàòåìàòè÷åñêîå îæèäàíèå,
� � ñòàíäàðòíîå îòêëîíåíèå). Ê ñîæàëåíèþ, íåâîçìîæíî ñêàçàòü,
òàê ëè ýòî, ïðîñòî ãëÿäÿ íà ãðà�èê y = F
n
(x) (ñì. ðèñ. 1.2.1à)).
Äëÿ ñòàòèñòè÷åñêèõ ïðîâåðîê îáñóæäàåìîãî ïðåäïîëîæåíèÿ åñòü
ðàçëè÷íûå òî÷íûå ìåòîäû, íî î íèõ ëó÷øå ãîâîðèòü íå ñåé÷àñ. À
ñåé÷àñ ñòîèò ïîçíàêîìèòüñÿ ñ õîðîøèì ãëàçîìåðíûì ñïîñîáîì äëÿ
ïðîâåðêè íîðìàëüíîñòè. Äëÿ ýòîãî íàäî èçîáðàçèòü çàâèñèìîñòè
y = F
n
(x) è y = �
�
x� a
�
�
â èíîé ñèñòåìå êîîðäèíàò. Âçàìåí ïåðåìåííîé y ââåäåì íîâóþ ïå-
ðåìåííóþ z, ïîëîæèâ z = �
�1
(y). Çäåñü �
�1
(:) îáîçíà÷àåò �óíê-
öèþ, îáðàòíóþ �óíêöèè Ëàïëàñà �(:). (Òàê êàê �(:) � ìîíîòîííî
âîçðàñòàþùàÿ �óíêöèÿ, îáðàòíàÿ ê íåé ñóùåñòâóåò). ż òàêæå
íàçûâàþò �óíêöèåé êâàíòèëåé ñòàíäàðòíîãî íîðìàëüíîãî ðàñ-
ïðåäåëåíèÿ. ż òàáëèöû åñòü, êàê ïðàâèëî, âî âñÿêîì ñáîðíè-
êå ñòàòèñòè÷åñêèõ òàáëèö.  íîâîé ñèñòåìå êîîðäèíàò �óíêöèÿ
y = �
�
x� a
�
�
ïåðåõîäèò â ëèíåéíóþ �óíêöèþ z =
x� a
�
, à å¼
ãðà�èê � â ïðÿìóþ ëèíèþ. Ïðè ýòîì âñÿêîå îòñòóïëåíèå ðàñïðå-
äåëåíèÿ y = F (x) îò íîðìàëüíîãî ïîðîæäàåò îòêëîíåíèå ãðà�è-
êà z = �
�1
(F (x)) îò ïðÿìîé ëèíèè. �ëàç íåìåäëåííî ýòè îòêëî-
íåíèÿ çàìå÷àåò. Ïîñêîëüêó F
n
(x) � �
�
x� a
�
�
, ãðà�èê �óíêöèè
y = F
n
(x) íà ïëîñêîñòè (x; z), îñòàâàÿñü ñòóïåí÷àòîé ëîìàíîé ëè-
íèåé, äîëæåí ïîäõîäèòü áëèçêî ê ýòîé ïðÿìîé. (Ñì. ãðà�èê íà
ðèñ. 1.2.1b). Ýòîò ãðà�èê ïîäòâåðæäàåò, ÷òî ÷èñëà òàáëèöû 1.1.1
ìîæíî ñ÷èòàòü íîðìàëüíîé, èëè ãàóññîâñêîé âûáîðêîé).
Îïèñàííûé ìåòîä, êîòîðûé ïîçâîëÿåò ñîïîñòàâëÿòü ðàñïðåäå-
ëåíèÿ ñ íîðìàëüíûìè ñ ïîìîùüþ íîðìàëüíîé âåðîÿòíîñòíîé áó-
ìàãè, ìîæåò áûòü ïîëåçåí è â äðóãèõ îáñòîÿòåëüñòâàõ. Ïðèìåíèì
åãî, ÷òîáû ñîñòàâèòü ïðåäñòàâëåíèå î õàðàêòåðå ñõîäèìîñòè áèíî-
ìèàëüíîãî ðàñïðåäåëåíèÿ ê íîðìàëüíîìó.
Í î ð ì à ë ü í à ÿ à ï ï ð î ê ñ è ì à ö è ÿ äëÿ áèíîìèàëü-
íûõ ðàñïðåäåëåíèé. Íà ðèñ. 1.3.1 èçîáðàæåíû �óíêöèè ðàñïðå-
äåëåíèÿ äëÿ ñëó÷àéíîãî ÷èñëà óñïåõîâ â n èñïûòàíèÿõ Áåðíóëëè.
35
0 5 10 15 20 25 30 35 40 45 500.00
0.25
0.50
0.75
1.00
n = 50
II I I p = 0.2
II p = 0.5
0 5 10 15 20 25 30 35 40 45 500.00
0.25
0.50
0.75
1.00
n = 25
II
I I p = 0.2 II p = 0.5
n = 10
S25
S50
0 5 10 15 20 25 30 35 40 45 500.00
0.25
0.50
0.75
1.00
I I p = 0.2 II p = 0.5
II
S10
�èñ. 1.3.1. Ôóíêöèè ðàñïðåäåëåíèÿ äëÿ ñëó÷àéíîãî ÷èñëà óñïåõîâ
â n èñïûòàíèÿõ Áåðíóëëè ïðè ðàçíûõ n
×èñëî èñïûòàíèé n ïðèíèìàåò çíà÷åíèÿ n = 10; 25; 50; äëÿ âåðî-
ÿòíîñòè óñïåõà ðàññìîòðåíû äâå âîçìîæíîñòè: p = 0; 2 è p = 0; 5.
Ñîãëàñíî òåîðåìå Ìóàâðà-Ëàïëàñà, PfS
n
< yg � �
�
y � np
p
npq
�
, è
òî÷íîñòü ïðèáëèæåíèÿ óâåëè÷èâàåòñÿ ñ ðîñòîì n. Âèäíî, ÷òî ïðè
óâåëè÷åíèè n ãðà�èêè �óíêöèé ðàñïðåäåëåíèÿ ïîñòåïåííî ïðèîá-
ðåòàþò �îðìó, íàïîìèíàþùóþ �óíêöèþ ðàñïðåäåëåíèÿ íîðìàëü-
íîãî çàêîíà � ñ òîé îãîâîðêîé, ÷òî �óíêöèè áèíîìèàëüíûõ ðàñ-
ïðåäåëåíèé � ñòóïåí÷àòûå, à íîðìàëüíûå �óíêöèè íåïðåðûâíû.
Âïðî÷åì, íà-ãëàç òðóäíî ñóäèòü, âåëèêî ëè ýòî ñõîäñòâî.
Ïðè ïîñòðîåíèè òåõ æå ãðà�èêîâ íà âåðîÿòíîñòíîé áóìàãå
(ðèñ. 1.3.2) ñõîäñòâî ñ íîðìàëüíûì ðàñïðåäåëåíèåì ñòàíîâèòñÿ ÿâ-
íûì � ýòè ãðà�èêè "âûïðÿìëÿþòñÿ".
Ñòîëü æå ÿñíûì ñòàíîâèòñÿ è õàðàêòåð îòñòóïëåíèé îò íîð-
ìàëüíîãî çàêîíà, ñâÿçàííûé ñ äèñêðåòíîñòüþ áèíîìèàëüíûõ ðàñ-
ïðåäåëåíèé. ßñíî âèäíî, íàïðèìåð, ÷òî äëÿ öåëûõ y âåëè÷èíó
36
0 5 10 15 20 25 30 35 40 45 50
n = 50
I p = 0.2 II p = 0.5
I II
%
%
%
S50
2.30050.00097.700
0.003
99.997
0 5 10 15 20 25 30 35 40 45 50
n = 25 I p = 0.2 II p = 0.5
I II
S25
2.300
99.99797.700
2.30050.000
0.003
0 5 10 15 20 25 30 35 40 45 50
I p = 0.2 II p = 0.5
II
n = 10
S10
I
50.00097.700
0.003
99.997
�èñ. 1.3.2. Ôóíêöèè ðàñïðåäåëåíèÿ äëÿ ÷èñëà óñïåõîâ â n
èñïûòàíèÿõ Áåðíóëëè íà íîðìàëüíîé âåðîÿòíîñòíîé áóìàãå
PfS
n
� yg ñëåäóåò ïðèáëèæàòü íå ñ ïîìîùüþ �
�
y � np
p
npq
�
, à ñ ïî-
ìîùüþ �
�
y + 0:5� np
p
npq
�
, èáî ðàçíîñòü
�
�
�
PfS
n
�yg��
�
y + 0:5� np
p
npq
�
�
�
�
ìíîãî ìåíüøå, ÷åì
�
�
�
PfS
n
� yg � �
�
y � np
p
npq
�
�
�
�
. Ïîñëåäíÿÿ âåëè÷è-
íà, â ñèëó ëîêàëüíîé ïðåäåëüíîé òåîðåìû Ìóàâðà-Ëàïëàñà, èìååò
ïîðÿäîê O
�
1
p
n
�
, ò.å. óáûâàåò âåñüìà ìåäëåííî ïðè óâåëè÷åíèè
n. Ïåðåõîä îò àðãóìåíòà y ê y + 0:5 ïðè âû÷èñëåíèè PfS
n
� yg ñ
ïîìîùüþ íîðìàëüíîãî ïðèáëèæåíèÿ äëÿ ñëó÷àÿ p= q=0:5 óëó÷-
øàåò ñêîðîñòü ñõîäèìîñòè äî O
�
1
n
�
. Ýòó ïîïðàâêó â àðãóìåíòå
íàçûâàþò ïîïðàâêîé íà íåïðåðûâíîñòü. Çàìåòèì, ÷òî ïî òåì æå
ïðè÷èíàì äëÿ âû÷èñëåíèÿ PfS
n
� yg íàäî èñïîëüçîâàòü â êà÷å-
ñòâå ïðèáëèæåííîãî çíà÷åíèÿ 1� �
�
y � 0:5� np
p
npq
�
.
Ïðèåì, êîòîðûé âûøå áûë èñïîëüçîâàí äëÿ íîðìàëüíîãî ðàñ-
37
ïðåäåëåíèÿ, èìååò âåñüìà îáùèé õàðàêòåð è ïîäõîäèò äëÿ âñåõ
ò.í. ìàñøòàáíî-ñäâèãîâûõ ñåìåéñòâ ðàñïðåäåëåíèé. Òàê íàçûâàþò
ðàñïðåäåëåíèÿ ñ �óíêöèÿìè âèäà G
�
x� a
�
�
, ãäå G(:) � íåêîòî-
ðàÿ çàäàííàÿ �óíêöèÿ ðàñïðåäåëåíèÿ ("ñòàíäàðòíàÿ"), à ÷èñëà a
è � > 0 � ïàðàìåòðû ñäâèãà è ìàñøòàáà. Äëÿ âûÿâëåíèÿ ñõîäñòâà
çàäàííîãî ðàñïðåäåëåíèÿ (íàïðèìåð, âûáîðî÷íîãî) ñ êàêèì-ëèáî
÷ëåíîì óêàçàííîãî ìàñøòàáíî-ñäâèãîâîãî ñåìåéñòâà íàäî ðàññìàò-
ðèâàòü ãðà�èêè �óíêöèé y = F
n
(x) è y = G
�
x� a
�
�
íà ïëîñêîñòè
(x; z), ãäå z = G
�1
(y).
�àññìîòðèì êàê ïðèìåð ïîêàçàòåëüíîå ðàñïðåäåëåíèå. Ýòî ðàñ-
ïðåäåëåíèå ñîñðåäîòî÷åíî íà ïîëîæèòåëüíîé ïîëóîñè, åãî �óíê-
öèÿ F (x) = 1 � exp(�x=�) (äëÿ x � 0) ñîäåðæèò ìàñøòàáíûé
ïàðàìåòð � > 0. Îïèñàííûé ïðèåì ïðåâðàùåíèÿ çàâèñèìîñòè â
ëèíåéíóþ â ýòîì ñëó÷àå óäîáíî ïðèìåíèòü íå ê �óíêöèÿì ðàñ-
ïðåäåëåíèÿ, à ê èõ äîïîëíåíèÿì äî åäèíèöû:
R(x) = 1� F (x); R
n
(x) = 1� F
n
(x):
Ôóíêöèþ R(x) íàçûâàþò �óíêöèåé äîæèòèÿ (survival fun tion).
Åñëè � � 0 � ñëó÷àéíîå âðåìÿ ðàáîòû (æèçíè) èçäåëèÿ, òî
R(x) = Pf� � xg åñòü âåðîÿòíîñòü òîãî, ÷òî èçäåëèå ïðîñëó-
æèò íå ìåíüøåå âðåìÿ, ÷åì x > 0. R
n
(x) � âûáîðî÷íàÿ �óíêöèÿ
äîæèòèÿ. Ïî òåîðåìå �ëèâåíêî �óíêöèè R(x) è R
n
(x) äîëæíû
áûòü áëèçêè, êîãäà n âåëèêî.
Äëÿ ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ R(x)=exp(�x=�) äëÿ x�0.
Åñëè ââåñòè ïåðåìåííóþ z=�ln y, òî ãðà�èê �óíêöèè y=exp(�x=�)
ïðåâðàòèòñÿ â ïðÿìóþ ëèíèþ: z = x=�. Åñëè âûáîðêà èçâëå÷åíà èç
ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ, òî ãðà�èê �óíêöèè z = � lnR
n
(x)
òîæå äîëæåí ïîõîäèòü íà ïðÿìóþ ëèíèþ (ïðîõîäÿùóþ ÷åðåç íà÷à-
ëî êîîðäèíàò). Ñõîäñòâî (èëè íåñõîäñòâî) ãðà�èêà ñ òàêîé ïðÿìîé
ïðè íåáîëüøîì íàâûêå ëåãêî îïðåäåëèòü íà-ãëàç.
38
Ëåêöèÿ 2. Íà÷àëà îöåíèâàíèÿ
� 1. Àáñòðàêòíàÿ ñòàòèñòè÷åñêàÿ ìîäåëü
Èìååòñÿ íàáëþäåíèå X (òàê ìû îáîçíà÷àåì èìåþùèéñÿ ñòà-
òèñòè÷åñêèé ìàòåðèàë). Åãî ìàòåìàòè÷åñêàÿ ïðèðîäà íå âàæíà:
ýòî ìîæåò áûòü íàáîð ÷èñåë; ÷èñëîâàÿ ïîñëåäîâàòåëüíîñòü; çà-
ïèñü, ñäåëàííàÿ ñàìîïèñöåì, è ò.ï.). Ê èìåþùåìóñÿ íàáëþäåíèþ
X ìû ïðèìûñëèâàåì ìíîæåñòâî X , X 2 X , íàçûâàåìîå âûáîðî÷-
íûì ïðîñòðàíñòâîì. Âûáîðî÷íîå ïðîñòðàíñòâî � ýòî ñîâîêóï-
íîñòü òàêèõ èñõîäîâ, êîòîðûå ìîãëè áû ïîÿâèòüñÿ â íàøåì îïû-
òå âìåñòî X . Ìû ïðåäïîëàãàåì, ÷òî ýëåìåíò X áûë âûáðàí èç
ìíîæåñòâà X ñëó÷àéíî (ñëó÷àéíûé âûáîð), ñîãëàñíî íåêîòîðîìó
ðàñïðåäåëåíèþ âåðîÿòíîñòåé íà X .
Ýòî âåðîÿòíîñòíîå ðàñïðåäåëåíèå P íà ìíîæåñòâå X íàì, êàê
ïðàâèëî, íå èçâåñòíî. Èñõîäÿ èç óñëîâèé îïûòà, ìû ìîæåì óêàçàòü
ëèøü íåêîòîðûå ñâîéñòâà P . Èíà÷å ãîâîðÿ, ìû ìîæåì óêàçàòü
ñîâîêóïíîñòü P âåðîÿòíîñòíûõ ìåð íà X , êîòîðîé ïðèíàäëåæèò
ðàñïðåäåëåíèå P .
 ýòîé ñõåìå çàäà÷åé ìàòåìàòè÷åñêîé ñòàòèñòèêè ÿâëÿþòñÿ âû-
âîäû î ðàñïðåäåëåíèè P , êîòîðûå ìîæíî ïîëó÷èòü íà îñíîâàíèè
íàáëþäåíèÿ X .
Âî ìíîãèõ ïðàêòè÷åñêè âàæíûõ ñëó÷àÿõ (íå âñåõ!) ìíîæåñòâî
P èìååò åñòåñòâåííóþ ïàðàìåòðèçàöèþ, òàê ÷òî P = fP
�
: � 2 �g,
ãäå çàäàííîå ïàðàìåòðè÷åñêîå ìíîæåñòâî � ïðèíàäëåæèò êîíå÷-
íîìåðíîìó (àðè�ìåòè÷åñêîìó) ïðîñòðàíñòâó.
Ñòàòèñòè÷åñêèå çàäà÷è ÷àñòî ïðåäñòàâëÿþò â ïàðàìåòðè÷åñêîé
�îðìå.  ýòîì ñëó÷àå íàñ èíòåðåñóþò âûâîäû î çíà÷åíèè �.
� 2. Îöåíèâàíèå: ïîñòàíîâêà çàäà÷è
2.1.  òå÷åíèå íåñêîëüêèõ ëåêöèé ìû áóäåì îáñóæäàòü çàäà÷ó
îöåíèâàíèÿ ïàðàìåòðà � è/èëè �óíêöèé îò �. "Îöåíèòü" çäåñü
îçíà÷àåò "Óêàçàòü ïðèáëèæåííîå çíà÷åíèå, îïèðàÿñü íà íàáëþ-
äåíèå X". �åøàÿ ýòó çàäà÷ó, íå áóäåì îãðàíè÷èâàòü ñåáÿ åäèí-
ñòâåííî èìåþùèìñÿ íàáëþäåíèåì X . Ïðèìåì âî âíèìàíèå, ÷òî â
äðóãîì, íî àíàëîãè÷íîì îïûòå ìû ìîæåì âñòðåòèòü èíîå çíà÷å-
íèå X èç X . À ïîòîìó áóäåì èñêàòü ïðàâèëî Æ(�), ïî êîòîðîìó
êàæäîå âîçìîæíîå íàáëþäåíèå X èç X ïåðåñ÷èòûâàåòñÿ â çíà-
÷åíèå Æ(X), êîòîðîå äàëåå âûñòóïàåò êàê ïðèáëèæåííîå çíà÷åíèå
39
íåèçâåñòíîãî ïàðàìåòðà � : Æ(X) � �. (Ëèáî êàê ïðèáëèæåííîå
çíà÷åíèå äëÿ �(�), åñëè íàñ èíòåðåñóåò íå ñàì ïàðàìåòð �, à íåêî-
òîðàÿ �óíêöèÿ îò íåãî.  ýòîì ñëó÷àå �óíêöèÿ �(�) äîëæíà áûòü
çàäàíà). Ñëó÷àéíóþ âåëè÷èíó Æ(X) íàçûâàþò îöåíêîé �. Çàäà÷à
ñòàòèñòèêè: âûáðàòü ïðàâèëî Æ(�) òàê, ÷òîáû îöåíèòü � êàê ìîæíî
ëó÷øå (òî÷íåå). Ïðè ýòîì ïðèäåòñÿ äàòü ïîíÿòèþ ñõîäñòâà (èëè
îòëè÷èÿ) êàêóþ-ëèáî ðàçóìíóþ êîëè÷åñòâåííóþ ìåðó.
2.2. Îáðàòèìñÿ ê íåêîòîðûì èç ðàññìîòðåííûõ ðàíåå ïðèìåðîâ
è îáñóäèì, êàêèå çàäà÷è îöåíèâàíèÿ è êàêèå îöåíêè òàì âîçíè-
êàþò. Äëÿ äàííûõ èç ïðèìåðà ðàçäåëà 1.1 â êà÷åñòâå ñòàòèñòè-
÷åñêîé ìîäåëè ìû ïðèíÿëè âûáîðêó èç íîðìàëüíîãî ðàñïðåäåëå-
íèÿ, âîçìîæíî, ñ çàñîðåíèåì. Ïàðàìåòðû ýòîãî íîðìàëüíîãî çà-
êîíà îñòàþòñÿ ïîñòîÿííûìè, ïîêà îáîðóäîâàíèå ðàáîòàåò èñïðàâ-
íî. Ïðè âûõîäå ýòèõ ïàðàìåòðîâ çà òåõíè÷åñêè ðàçðåøåííûå ãðà-
íèöû, ïðîèçâîäñòâî íàäî îñòàíîâèòü (è ïðîèçâåñòè åãî íàëàäêó).
Äëÿ êîíòðîëÿ çà õîäîì ëþáîãî ìàññîâîãî ïðîèçâîäñòâà (â êîòîðîì
ñïëîøíàÿ ïðîâåðêà ïðîäóêöèè íåâîçìîæíà) íàäî âðåìÿ îò âðåìå-
íè áðàòü âûáîðêè ïðîäóêöèè, ïî êîòîðûì îöåíèâàòü ïàðàìåòðû
ðàñïðåäåëåíèÿ (â äàííîì ñëó÷àå ïàðàìåòðû íîðìàëüíîãî çàêîíà).
Èòàê, ïóñòü x
1
; : : : ; x
n
� âûáîðêà èç N(a; �
2
). Ïîïóëÿðíûå
îöåíêè äëÿ a:
Ñðåäíåå àðè�ìåòè÷åñêîå: �x =
1
n
n
X
i=1
x
i
.
Ìåäèàíà (âûáîðêè): med(x
1
; : : : ; x
n
). Ïî îïðåäåëåíèþ, ìåäèà-
íîé ÷èñëîâîé ñîâîêóïíîñòè, íàçûâàþò òàêîå ÷èñëî (ñêàæåì, �), êî-
òîðîå äåëèò ýòó ñîâîêóïíîñòü ïîïîëàì: ÷èñëî ýëåìåíòîâ, êîòîðûå
ìåíüøå �, ðàâíî ÷èñëó ýëåìåíòîâ, êîòîðûå áîëüøå �. ×òîáû òî÷-
íåå (ñêîðåå, áîëåå îïåðàöèîííî) îïðåäåëèòü ìåäèàíó êîíå÷íîé ñî-
âîêóïíîñòè x
1
; : : : ; x
n
, óïîðÿäî÷èì åå ýëåìåíòû â ïîðÿäêå âîçðàñ-
òàíèÿ. Äàäèì ýëåìåíòàì ýòîé óïîðÿäî÷åííîé ïî-íîâîìó ñîâîêóï-
íîñòè îáîçíà÷åíèÿ x
(1)
� x
(2)
� : : : � x
(n)
. Âåëè÷èíû x
(1)
; : : : ; x
(n)
íàçûâàþò ïîðÿäêîâûìè ñòàòèñòèêàìè, à âñþ èõ ñîâîêóïíîñòü
� âàðèàöèîííûì ðÿäîì. Åñëè èñõîäíóþ ñîâîêóïíîñòü x
1
; : : : ; x
n
ñîñòàâëÿëè ñëó÷àéíûå âåëè÷èíû, ñëó÷àéíûìè âåëè÷èíàìè ÿâëÿ-
þòñÿ è ïîðÿäêîâûå ñòàòèñòèêè. Äëÿ íå÷åòíîãî n = 2m � 1 (m �
íàòóðàëüíîå ÷èñëî) med(x
1
; : : : ; x
n
) = x
(m)
. Äëÿ n = 2m ìåäèà-
íîé ìîæíî íàçâàòü ëþáîå ÷èñëî èç èíòåðâàëà (x
(m)
; x
(m+1)
). Äëÿ
40
îïðåäåëåííîñòè, â êà÷åñòâå ìåäèàíû áåðóò åãî ñåðåäèíó:
med(x
1
; : : : ; x
n
) =
x
(m)
+ x
(m+1)
2
:
Óñå÷åííîå ñðåäíåå ìîæíî îïðåäåëèòü ñ ïîìîùüþ ïîðÿäêîâûõ
ñòàòèñòèê: äëÿ k �
�
n
2
�
�x
(k)
=
x
(k+1)
+ : : :+ x
(n�k)
n� 2k
:
Ïðè âû÷èñëåíèè �x
(k)
èç èñõîäíîé âûáîðêè èñêëþ÷àþò k ñàìûõ
ìàëûõ è k ñàìûõ áîëüøèõ ÷ëåíîâ; ïî îñòàâøåéñÿ ñîâîêóïíîñòè
âû÷èñëÿþò ñðåäíåå àðè�ìåòè÷åñêîå. Ê óñå÷åííîìó ñðåäíåìó êàê
ê îöåíêå öåíòðà âûáîðêè èç ñèììåòðè÷íîãî ðàñïðåäåëåíèÿ ïðè-
áåãàþò, ÷òîáû èñêëþ÷èòü âëèÿíèå êðàéíèõ ýëåìåíòîâ íàáëþäåí-
íîé ñîâîêóïíîñòè. Äëÿ çàñîðåííîé íîðìàëüíîé ñîâîêóïíîñòè ýòîò
ïðèåì ïîçâîëÿåò çíà÷èòåëüíî ñíèçèòü (èñêëþ÷èòü) âëèÿíèå âû-
áðîñîâ íà âåëè÷èíó îöåíêè. Âûáðîñû, åñëè îíè âåëèêè, ìîãóò âû-
çâàòü çíà÷èòåëüíîå îòêëîíåíèå ñðåäíåãî àðè�ìåòè÷åñêîãî �x îò
èñòèííîãî çíà÷åíèÿ a, èíòåðåñóþùåãî ñòàòèñòèêà. Ìåäèàíà, êàê
îöåíêà öåíòðà, òîæå äàåò "óñòîé÷èâóþ" ïî îòíîøåíèþ ê âûáðî-
ñàì (robust) îöåíêó öåíòðà.
È óñå÷åííîå ñðåäíåå, è ìåäèàíà âõîäÿò â òàê íàçûâàåìîå ñåìåé-
ñòâî L-îöåíîê: ëèíåéíûõ êîìáèíàöèé ïîðÿäêîâûõ ñòàòèñòèê âèäà
n
P
i=1
i
x
(i)
, ïðè÷åì
n
P
i=1
i
= 1. (Ñëîâî "îöåíêà" â íàçâàíèè ýòèõ ñòà-
òèñòèê íàäî âîñïðèíèìàòü ñ íåêîòîðîé îñòîðîæíîñòüþ, ïîñêîëüêó
íå âñåãäà ÿñíî, ÷òî èìåííî îöåíèâàåò äàííàÿ L-îöåíêà).
Êëàññè÷åñêîé îöåíêîé äëÿ äèñïåðñèè �
2
ïî âûáîðêå èçN(a; �
2
)
ñëóæèò
s
2
=
1
n� 1
n
X
i=1
(x
i
� �x)
2
:
Ïîñêîëüêó âëèÿíèå âûáðîñîâ íà âåëè÷èíó s
2
âåëèêî, îöåíèâàíèå
�
2
òîæå íóæäàåòñÿ â ïîïðàâêàõ â äóõå òåõ, ÷òî áûëè ñäåëàíû
âûøå â îòíîøåíèè �x êàê îöåíêè a. Ñåé÷àñ ìû î íèõ ãîâîðèòü íå
áóäåì.
Ëèíåéíàÿ ðåãðåññèÿ âèäà
y
i
= a+ bx
i
+ "
i
; i = 1; n (2:2:1)
41
áûëà ïðèíÿòà â êà÷åñòâå ñòàòèñòè÷åñêîé ìîäåëè äëÿ äàííûõ
Ý. Õàááëà è äëÿ èçìåíåíèÿ óðîæàéíîñòè çåðíîâûõ â ÑÑÑ�. (Â
ïîñëåäíåì ñëó÷àå ðîëü �àêòîðà x è åãî çíà÷åíèé x
1
; x
2
; : : : èãðà-
ëè êàëåíäàðíûå ãîäû t = 1945; 1946; : : :). Îöåíêè äëÿ ïàðàìåòðîâ
a; b íóæíû, â ÷àñòíîñòè, ÷òîáû ïðåäñêàçûâàòü áóäóùèå çíà÷åíèÿ
îòêëèêîâ ïðè áóäóùèõ çíà÷åíèÿõ �àêòîðà. Îñîáåííî âàæåí êî-
ý��èöèåíò íàêëîíà b: îí ïîêàçûâàåò, êàêîâî âëèÿíèå x íà y.
�àöèîíàëüíûå ñïîñîáû îöåíèâàíèÿ ïàðàìåòðîâ ëèíåéíîé ìî-
äåëè ñâîäÿòñÿ ê ìèíèìèçàöèè (â òîì èëè èíîì ñìûñëå) ñîâîêóï-
íîñòè íåâÿçîê y
i
�a�bx
i
; i = 1; n. ( ýòîé �îðìóëå a; b âûñòóïàþò
â êà÷åñòâå ïåðåìåííûõ. Èñòèííûå (è íåèçâåñòíûå) çíà÷åíèÿ ýòèõ
ïàðàìåòðîâ â �îðìóëå (2.2.1) íàäî áûëî áû îáîçíà÷èòü êàê-òî
èíà÷å, íàïðèìåð, êàê a
0
; b
0
� íî òàê îáû÷íî íå äåëàþò, è ìèðÿòñÿ
ñ âîçíèêàþùåé äâóñìûñëåííîñòüþ).
Ìåòîä íàèìåíüøèõ ìîäóëåé:
n
X
i=1
jy
i
� a� bx
i
j ! min
a;b
:
Ìåòîä íàèìåíüøèõ êâàäðàòîâ:
n
X
i=1
(y
i
� a� bx
i
)
2
! min
a;b
:
Òàê íàçûâàåìîå M-îöåíèâàíèå:
n
X
i=1
�(y
i
� a� bx
i
)! min
a;b
îáîáùàåò ïðåäûäóùèå ìåòîäû. Ôóíêöèþ �(:) ìîæíî âûáèðàòü,
ðóêîâîäñòâóÿñü ðàçëè÷íûìè ñîîáðàæåíèÿìè. Íàïðèìåð, ñòðåìÿñü
óìåíüøèòü âëèÿíèå âûáðîñîâ.
Íàçâàííûå îáùèå ìåòîäû ïðèìåíèìû è ê âûáîðêå (ê îöåíèâà-
íèþ öåíòðà). Ìåòîä íàèìåíüøèõ êâàäðàòîâ:
n
X
i=1
(x
i
� a)
2
! min
a
äàåò a = �x (÷òî ëåãêî ïðîâåðèòü). Ìåòîä íàèìåíüøèõ ìîäóëåé:
n
X
i=1
jx
i
� aj ! min
a
42
äàåò a = med(x
1
; : : : ; x
n
), ÷òî òîæå íåòðóäíî ïîäòâåðäèòü.
Íà ñëó÷àé ëèíåéíîé ðåãðåññèè ìîæíî îáîáùèòü è L� îöåíè-
âàíèå (ñäåëàâ åãî ðåêóððåíòíûì).
2.3. Âåðíåìñÿ ê îáùåé çàäà÷å, ïîñòàâëåííîé â íà÷àëå ýòîãî ðàç-
äåëà: ïî íàáëþäåíèþ X , ïîëó÷åííîìó ïóòåì ñëó÷àéíîãî âûáîðà,
óïðàâëÿåìîãî ðàñïðåäåëåíèåì âåðîÿòíîñòåé P
�
, ãäå � 2 �, îöå-
íèòü ïàðàìåòð �. ×òî îçíà÷àåò: òàê âûáðàòü èçìåðèìóþ �óíêöèþ
Æ(:), îïðåäåëåííóþ íà X , ÷òîáû Æ(X) è � áûëè áëèçêè.
Ìîæíî ïðåäëîæèòü î÷åíü ìíîãî ñïîñîáîâ, èçìåðÿþùèõ áëè-
çîñòü Æ(X) è �. Ñëîæèëàñü îáùàÿ òî÷êà çðåíèÿ: åñòü �óíêöèÿ
ïîòåðü L(�; d) � 0, ïðèíèìàþùàÿ îïðåäåëåííîå ÷èñëîâîå çíà÷å-
íèå, êîãäà â êà÷åñòâå îöåíêè èñòèííîãî � âûñòóïàåò âåëè÷èíà d.
 ñëó÷àå íàáëþäåíèÿ X è ïðàâèëà îöåíèâàíèÿ Æ(�) âåëè÷èíà ïî-
òåðü ñîñòàâëÿåò ñëó÷àéíóþ âåëè÷èíó L(�; Æ(X)). Íàïðèìåð, êàê â
ðàññìîòðåííûõ ïðèìåðàõ, ìîæåò áûòü
L(�; Æ(X)) = j� � Æ(X)j
èëè
L(�; Æ(X)) = j� � Æ(X)j
2
è ò.ä:
 êàæäîì îòäåëüíîì îïûòå âåëè÷èíà ïîòåðü ñëó÷àéíà.  ñòàòè-
ñòèêå ïðèíÿòî õàðàêòåðèçîâàòü ñòàòèñòè÷åñêèå ïðàâèëà ñðåäíèìè
ðåçóëüòàòàìè, äîñòèãàåìûìè ïðè ìíîãîêðàòíîì ïðèìåíåíèè. Ïî
çàêîíó áîëüøèõ ÷èñåë ýòî:
E
�
L(�; Æ(X)):
�àçúÿñíåíèå îáîçíà÷åíèé: òàê êàê ìû äîëæíû äåðæàòü â óìå
âñå âîçìîæíûå çíà÷åíèÿ ïàðàìåòðà � 2 �, íàì ñëåäóåò óêàçûâàòü,
ïî êàêîé èìåííî ìåðå P
�
ìû ïðîèçâîäèì îñðåäíåíèå � ò.å. âû÷èñ-
ëÿåì ìàòåìàòè÷åñêîå îæèäàíèå. Èíäåêñ � îêîëî ñèìâîëà îñðåä-
íåíèÿ E èëè âåðîÿòíîñòè P ÿâíî óêàçûâàåò íà ýòî. Òàêèì îáðà-
çîì, òî÷íîñòü (à, ñêîðåå, íåòî÷íîñòü) ïðàâèëà Æ îïèñûâàåò òåïåðü
�óíêöèÿ ðèñêà
R(�; Æ) = E
�
L(�; Æ(X)):
ßñíî, ÷òî ïðàâèëî Æ
1
(�) ëó÷øå, ÷åì ïðàâèëî Æ
2
(�), åñëè
R(�; Æ
1
) � R(�; Æ
2
) (2:2:2)
43
ïðè âñåõ � 2 � (à äëÿ íåêîòîðûõ çíà÷åíèé � ýòî ñîîòíîøåíèå åñòü
ñòðîãîå íåðàâåíñòâî). Íàèëó÷øèì ñëåäóåò íàçâàòü òàêîå ïðàâèëî
Æ(�), êîòîðîå ïðåâîñõîäèò ëþáîå äðóãîå ïðàâèëî.
Ê ñîæàëåíèþ, íàèëó÷øåãî â ýòîì ñìûñëå ïðàâèëà îáû÷íî íå
ñóùåñòâóåò, èáî çäåñü ðå÷ü èäåò î ñðàâíåíèè �óíêöèé.  ìíîæå-
ñòâå �óíêöèé îò � âèäàR(�; Æ) (ãäå Æ(�)��óíêöèÿ îò íàáëþäåíèé)
îáû÷íî íåò ìèíèìàëüíîãî ýëåìåíòà. (Õîòÿ áû ïîòîìó, ÷òî ïðàâèëî
Æ(X) = �
0
, ãäå �
0
� �èêñèðîâàííîå çíà÷åíèå, íåëüçÿ óëó÷øèòü â
òî÷êå � = �
0
. Õîòÿ, ïðè äðóãèõ �, ýòî ïðàâèëî íèêóäà íå ãîäèòñÿ).
Äëÿ ïðåîäîëåíèÿ ýòîãî çàòðóäíåíèÿ åñòü äâå ãëàâíûå âîçìîæ-
íîñòè. Ïåðâàÿ � ýòî èçó÷åíèå äîïóñòèìûõ ïðàâèë.
Î ï ð å ä å ë å í è å 2.2.1. Ïðàâèëî Æ
1
(�) íàçûâàþò äîïóñòè-
ìûì, åñëè íåò ïðàâèëà ëó÷øåãî, ÷åì Æ
1
(:), ò.å. åñëè íå ñóùåñòâóåò
ïðàâèëà Æ
2
(�), äëÿ êîòîðîãî âûïîëíÿåòñÿ (2.2.2).
Äîïóñòèìûå ïðàâèëà, ïî ñóùåñòâó, ñîâïàäàþò ñ òàê íàçûâàå-
ìûìè áàéåñîâñêèìè ïðàâèëàìè.
Î ï ð å ä å ë å í è å 2.2.2. Áàéåñîâñêèå ïðàâèëà � ýòî îïòèìàëü-
íûå ïðàâèëà â ñèòóàöèè, êîãäà íåèçâåñòíûé ïàðàìåòð � ïîëó÷åí
ïóòåì ñëó÷àéíîãî âûáîðà.
 ýòîì ñëó÷àå ðèñê R(�; Æ) åñòåñòâåííî îñðåäíèòü åùå è ïî � �
ïî òîé (âåðîÿòíîñòíîé) ìåðå, êîòîðàÿ óïðàâëÿëà âûáîðîì �. �èñê
ïðàâèëà Æ(�) ïîñëå ýòîãî ïðåâðàùàåòñÿ â ÷èñëî. Ïîýòîìó çàäà÷à î
ìèíèìóìå èìååò ðåøåíèå.
Âçãëÿä íà � êàê íà ñëó÷àéíûé âåêòîð íàçûâàþò áàéåñîâñêèì
ïîäõîäîì ê ñòàòèñòèêå. Îí èìååò êàê ãîðÿ÷èõ ñòîðîííèêîâ, òàê è
ïðîòèâíèêîâ. Ìû íå áóäåì êàñàòüñÿ åãî â ëåêöèÿõ.
Äðóãàÿ âîçìîæíîñòü � ïðîäîëæåíèå ïîèñêà îïòèìàëüíûõ
(ò. å. ðàâíîìåðíî íàèëó÷øèõ ïðàâèë) Æ(�), íî â áîëåå óçêîì ìíî-
æåñòâå âîçìîæíîñòåé. Ñóæåíèå ïîëÿ âûáîðà äîñòèãàåòñÿ ïóòåì
íàëîæåíèÿ íà îöåíêó Æ(�) êàêèõ-ëèáî äîïîëíèòåëüíûõ (è åñòå-
ñòâåííûõ) òðåáîâàíèé. Íàèáîëåå âàæíûå ðåçóëüòàòû ïîëó÷åíû
äëÿ íåñìåùåííûõ ïðàâèë.
Î ï ð å ä å ë å í è å 2.2.3. Îöåíêà Æ(�) ïàðàìåòðà � (ëèáî
�óíêöèè �(�)) íàçûâàåòñÿ íåñìåùåííîé, åñëè E
�
Æ(X) = � (ëèáî
E
�
Æ(X) = �(�)) äëÿ âñåõ � 2 �.
Äëÿ âàæíîé ñ ïðèêëàäíîé òî÷êè çðåíèÿ ëèíåéíîé ñòàòèñòè-
÷åñêîé ìîäåëè óäàåòñÿ íàéòè íàèëó÷øèå íåñìåùåííûå îöåíêè,
åñëè âûáðàòü êâàäðàòè÷íóþ �óíêöèþ ïîòåðü L(�; d) = j� � dj
2
(èëè äàæå �óíêöèþ ïîòåðü ñ ìàòðè÷íûìè çíà÷åíèÿìè L(�; d) =
44
(��d)(��d)
T
� ñ÷èòàÿ � è d âåêòîðàìè-ñòîëáöàìè).  äàëüíåéøåì
ëèíåéíàÿ ìîäåëü áóäåò èçó÷åíà íàìè ïîäðîáíî.
Èç ýòîãî êîðîòêîãî ðàññêàçà âèäíî, íàñêîëüêî íåîïðåäåëåííûì
è çàâèñÿùèì îò íàøåãî ïðîèçâîëà ÿâëÿåòñÿ ïóòü ê îïòèìàëüíûì
ñòàòèñòè÷åñêèì ðåøåíèÿì. Íà åãî âûáîð âëèÿþò íå òîëüêî ëîãè-
÷åñêèå ñîîáðàæåíèÿ (îíè íåäîñòàòî÷íû), íî � â îñíîâíîì � êî-
íå÷íûé ðåçóëüòàò: óäàåòñÿ ëè ïîëó÷èòü â êîíöå-êîíöîâ ÿâíûå è
ðàçóìíûå ñòàòèñòè÷åñêèå ïðàâèëà.
Ôóíêöèÿ ðèñêà äëÿ íåñìåùåííûõ îöåíîê è êâàäðàòè÷íîé �óíê-
öèè ïîòåðü ïðåâðàùàåòñÿ â äèñïåðñèþ (â ìàòðèöó êîâàðèàöèè â
âåêòîðíîì ñëó÷àå): R(�; Æ) = E
�
(Æ(X)� �)
2
= E
�
(Æ(X)�E
�
Æ(X))
2
.
Çàäà÷à òåïåðü âûãëÿäèò î÷åíü åñòåñòâåííî: íàäî íàéòè íåñìåùåí-
íóþ îöåíêó ñ íàèìåíüøåé äèñïåðñèåé. Îäíàêî ïîäðîáíåå ýòîé
çàäà÷åé ìû çàéìåìñÿ íåñêîëüêî ïîçæå. À ñåé÷àñ ïðèâåäåì âàæ-
íûå äëÿ òåîðèè íåðàâåíñòâà, êîòîðûå â òàê íàçûâàåìîì ðåãóëÿð-
íîì ñëó÷àå îãðàíè÷èâàþò ñíèçó äèñïåðñèþ êàæäîé îöåíêè (äëÿ
ìíîãîìåðíîãî ïàðàìåòðà � ìàòðèöó êîâàðèàöèé). Äëÿ íåñìå-
ùåííûõ îöåíîê èìåííî äèñïåðñèÿ (ìàòðèöà êîâàðèàöèé) ñëóæèò
åñòåñòâåííîé ìåðîé òî÷íîñòè îöåíèâàíèÿ. Ïîýòîìó îáñóæäàåìûå
íåðàâåíñòâà ïîêàçûâàþò, ÷òî äëÿ òî÷íîñòè îöåíèâàíèÿ åñòü ãðà-
íèöà ñíèçó. Ýòà ãðàíèöà çàâèñèò îò ñòðóêòóðû ñòàòèñòè÷åñêîé
ìîäåëè (è åå ïàðàìåòðèçàöèè).
� 3. Íåðàâåíñòâî Êðàìåðà-�àî äëÿ îäíîìåðíîãî
ïàðàìåòðà. (Îíî æå � íåðàâåíñòâî èí�îðìàöèè,
íåðàâåíñòâî Ôðåøå)
Òàê íàçûâàþò íåðàâåíñòâî äëÿ äèñïåðñèè ñòàòèñòè÷åñêèõ îöå-
íîê îäíîìåðíîãî ïàðàìåòðà, êîòîðîå ìîæíî âûâåñòè ïðè ìíîãî-
÷èñëåííûõ óñëîâèÿõ ãëàäêîñòè, íàëàãàåìûõ íà çàâèñèìîñòü âåðî-
ÿòíîñòíîãî ðàñïðåäåëåíèÿ îò ìåíÿþùåãîñÿ ïàðàìåòðà. Òàêîé òèï
çàâèñèìîñòè îò ïàðàìåòðà, êîòîðûé íèæå áóäåò îïèñàí ïîäðîáíåå,
÷àñòî íàçûâàþò ðåãóëÿðíûì. Âïðî÷åì, ñîäåðæàíèå ýòîãî òåðìèíà
ìîæåò ìåíÿòüñÿ îò çàäà÷è ê çàäà÷å.
ÏóñòüX� íàáëþäåíèå (êîíå÷íîìåðíûé âåêòîð), ðàñïðåäåëåíèå
êîòîðîãî çàâèñèò îò íåèçâåñòíîãî ïàðàìåòðà �, ïðè÷åì �2�� R
1
,
ãäå � � çàäàííîå îòêðûòîå ìíîæåñòâî. Îòäåëüíî áóäåì ðàññìàò-
ðèâàòü äâå âîçìîæíîñòè:
(i) Ñëó÷àéíîå íàáëþäåíèå X èìååò ïëîòíîñòü p (x; �) îòíîñè-
45
òåëüíî ìåðû Ëåáåãà;
(ii) ñëó÷àéíîå íàáëþäåíèå X èìååò äèñêðåòíîå ðàñïðåäåëåíèå; â
ýòîì ñëó÷àå p (x; �) îáîçíà÷àåò âåðîÿòíîñòü ñîáûòèÿ X = x.
Âûêëàäêè â îáîèõ ñëó÷àÿõ èäóò îäèíàêîâî � ñ òîé ðàçíèöåé,
÷òî â ñëó÷àå (i) äëÿ ìàòåìàòè÷åñêèõ îæèäàíèé ìû ïèøåì èíòåãðà-
ëû, à ñëó÷àå (ii) � ñóììû (ðÿäû). Ïîýòîìó äîñòàòî÷íî ðàçîáðàòü
â ïîäðîáíîñòÿõ êàêóþ-ëèáî îäíó èç ýòèõ äâóõ âîçìîæíîñòåé; ñêà-
æåì, (i).
Ïóñòü T (X) � íåêîòîðàÿ ñòàòèñòèêà, ïðèíèìàþùàÿ çíà÷åíèÿ
â R
1
, äëÿ êîòîðîé ñóùåñòâóþò ìàòåìàòè÷åñêîå îæèäàíèå è äèñ-
ïåðñèÿ. Ïóñòü �(�) := E
�
T (X): Ñëåäîâàòåëüíî, T (X) åñòü íåñìå-
ùåííàÿ îöåíêà äëÿ �(�).
Ï ð å ä ï î ë î æ å í è ÿ î ï ë î ò í î ñ ò è p (x; �) (âçÿòûå
âìåñòå, îíè è ñîñòàâëÿþò óñëîâèÿ ðåãóëÿðíîñòè).
(a) Ìíîæåñòâî A = fx : p (x; �) > 0g íå çàâèñèò îò � (ýòî �
íàèáîëåå âàæíîå óñëîâèå).
(b) Ïðè âñåõ x 2 A, � 2 � ñóùåñòâóåò
�(x; �) :=
�
��
ln p (x; �):
( ) (Âîçìîæíîñòü äè��åðåíöèðîâàíèÿ ïîä çíàêîì èíòåãðàëà).
�
��
Z
A
p (x; �)dx =
Z
A
�
��
p (x; �)dx (= 0);
�
��
Z
A
T (x)p (x; �)dx =
Z
A
T (x)
�
��
p (x; �)dx (= �
0
(�)):
Ââåäåì âàæíîå ïîíÿòèå èí�îðìàöèè ïî Ôèøåðó, òî÷íåå: êî-
ëè÷åñòâà èí�îðìàöèè î ïàðàìåòðå �, ñîäåðæàùåéñÿ â íàáëþ-
äåíèè X :
I(�) := E
�
�
�
��
ln p (X; �)
�
2
= E
�
�
2
(X; �) (= D
�
�(X; �)):
Óñëîâèå
46
(d) 0 < I(�) <1:
Ò å î ð å ì à 2.3.1 (íåðàâåíñòâî Êðàìåðà-�àî).  ïåðå÷èñëåí-
íûõ óñëîâèÿõ (a)�(d)
D
�
T (X) �
[�
0
(�)℄
2
I(�)
: (2:3:1)
Äëÿ íåñìåùåííûõ îöåíîê ïàðàìåòðà �, êîãäà E
�
T (X) = �, èç ýòî-
ãî íåðàâåíñòâà ñëåäóåò, ÷òî
D
�
T (X) �
1
I(�)
:
Ä î ê à ç à ò å ë ü ñ ò â î.
1. Çàìåòèì, ÷òî E
�
�(X; �) = 0. Äåéñòâèòåëüíî, èç ( ) ìû çàêëþ-
÷àåì, ÷òî:
0 =
Z
A
�
��
p (x; �)dx =
Z
A
�
�
��
ln p (x; �)
�
p (x; �)dx = E
�
�(X; �):
Îòñþäà ñëåäóåò, â ÷àñòíîñòè, ÷òî I(�) = D
�
�(X; �).
2. Àíàëîãè÷íî, èç âòîðîãî ðàâåíñòâà ( ) ìû ïîëó÷àåì, ÷òî
�
0
(�) =
Z
A
T (x)
�
�
��
ln p (x; �)
�
p (x; �)dx = E
�
T (X)�(X; �) =
= E
�
[T (X)� �(�)℄�(X; �):
Ïîñëåäíåå ðàâåíñòâî � áëàãîäàðÿ òîìó, ÷òî E
�
�(X; �) = 0.
3. Íåðàâåíñòâî Êîøè (-Áóíÿêîâñêîãî-�èìàíà-Øâàðöà è ò.ä):
(E��)
2
� E�
2
E�
2
ïðèìåíèì ê ïîëó÷åííîìó â ïðåäûäóùåì ïóíêòå 2 ðàâåíñòâó, ïî-
ëàãàÿ � = T (X)� �(�), � = �(X; �). Ïîëó÷èì, ÷òî:
[�
0
(�)℄
2
� I(�)D
�
T (X):
Îòñþäà è ñëåäóåò óêàçàííîå â òåîðåìå íåðàâåíñòâî. �
Ç à ì å ÷ à í è å 2.3.1. Ïóñòü X = (X
1
; X
2
; : : : ; X
n
) � âû-
áîðêà. Ìîæíî ãîâîðèòü î êîëè÷åñòâå èí�îðìàöèè, çàêëþ÷åííîé â
47
âûáîðêå X � ïóñòü ýòî I
X
(�), è î êîëè÷åñòâå èí�îðìàöèè, ñîäåð-
æàùåéñÿ â îòäåëüíûõ íàáëþäåíèÿõ � ýëåìåíòàõ âûáîðêè � ïóñòü
ýòî i(�). Â ýòèõ óñëîâèÿõ
I
X
(�) = ni(�):
Ä î ê à ç à ò å ë ü ñ ò â î. Î÷åâèäíî: ïðàâäîïîäîáèå � ðàâ-
íî p (X; �) =
n
Q
i=1
f(X
i
; �), åñëè ÷åðåç f(�; �) îáîçíà÷èòü ïëîòíîñòü
âåðîÿòíîñòåé îòäåëüíûõ X
1
; : : : ; X
n
.
Îòñþäà: �(X; �) =
n
X
i=1
�
��
ln f(X
i
; �);
D
�
�(X; �) =
n
X
i=1
D
�
�
��
ln f(X
i
; �)
�
= ni(�):
Èç ñêàçàííîãî ìîæíî âûâåñòè âàæíîå êà÷åñòâåííîå ñëåäñòâèå î
âîçìîæíîé ñêîðîñòè óìåíüøåíèÿ äèñïåðñèè íåñìåùåííîé îöåíêè
ïðè âîçðàñòàíèè ÷èñëà íåçàâèñèìûõ íàáëþäåíèé n:D
�
T (X)�C=n,
ãäå C = [i(�)℄
�1
.
Ç à ì å ÷ à í è å 2.3.2.
I(�) = �E
�
�
2
��
2
ln p (X; �):
Ýòîò ðåçóëüòàò ïîëó÷àåòñÿ ïðîñòîé âûêëàäêîé.
� 4. Ýêñïîíåíöèàëüíûå ñåìåéñòâà
Ñëó÷àé, êîãäà íåðàâåíñòâî Êðàìåðà-�àî (2.3.1) âûïîëíÿåòñÿ â
âèäå ðàâåíñòâà, çàñëóæèâàåò îñîáîãî ðàññìîòðåíèÿ. Ïðè âûâîäå
(2.3.1) ìû ïðèìåíèëè íåðàâåíñòâî Êîøè:
(E��)
2
� E�
2
E�
2
; (2:4:1)
â êîòîðîì ðàâåíñòâî äîñòèãàåòñÿ ò. è ò.ò., êîãäà ìåæäó ñëó÷àéíû-
ìè âåëè÷èíàìè � è � ñóùåñòâóåò ëèíåéíàÿ ñâÿçü. Èíà÷å ãîâîðÿ,
êîãäà ñóùåñòâóþò òàêèå ïîñòîÿííûå (òàêèå ÷èñëà) A;B;C, ÷òî ñ
âåðîÿòíîñòüþ 1 âûïîëíÿåòñÿ ðàâåíñòâî
A� +B� + C = 0: (2:4:2)
48
 íàøåì ñëó÷àå � = �(X; �), � = T (X)��(�). Äëÿ íèõ ïðèâåäåííîå
âûøå ðàâåíñòâî ïðåâðàùàåòñÿ â
T (X) = �(�) + a(�)�(X; �); (2:4:3)
ãäå a(�) � íåêîòîðàÿ �óíêöèÿ �. Ïîñòîÿííàÿ C = 0, ò. ê. çäåñü
ìàòåìàòè÷åñêèå îæèäàíèÿ � è � ðàâíû íóëþ.
Îöåíêà T (X), äëÿ êîòîðîé â (2.3.1) (è, ñëåäîâàòåëüíî, â (2.4.3))
èìååò ìåñòî ðàâåíñòâî (ïðè âñåõ � 2 �), íàçûâàåòñÿ ý��åêòèâíîé.
Ñóùåñòâóþò ý��åêòèâíûå îöåíêè ëèøü äëÿ îñîáûõ ïàðàìåòðè÷å-
ñêèõ ñåìåéñòâ ðàñïðåäåëåíèé è ëèøü äëÿ íåêîòîðûõ �óíêöèé � .
Âèä ýòèõ ïàðàìåòðè÷åñêèõ ñåìåéñòâ ìû ñåé÷àñ óñòàíîâèì. Èñ-
õîäèì èç ðàâåíñòâà (2.4.3). Ýòî ðàâåíñòâî äëÿ ïëîòíîñòè (âåðîÿò-
íîñòè) p (X; �) äàåò óðàâíåíèå
�
��
ln p (X; �) =
1
a(�)
T (X)�
�(�)
a(�)
äëÿ âñåõ X 2 A (ñì. ïðåäïîëîæåíèå (a) èç � 3) è âñåõ � 2 �.
Èíòåãðèðóÿ, äëÿ p (X; �) ïîëó÷àåì âûðàæåíèå:
p (X; �) = expf (�)T (X) + d(�) + S(X)gI
A
(X): (2:4:4)
Çäåñü (�); d(�); S(X) � íåêîòîðûå �óíêöèè, çàâèñÿùèå òîëüêî
îò óêàçàííûõ àðãóìåíòîâ, I
A
(:) � èíäèêàòîðíàÿ �óíêöèÿ ìíîæå-
ñòâà A. (Çàìåòèì, ÷òî ïðåäñòàâëåíèå ïëîòíîñòè (2.4.4) â óêàçàí-
íîì âèäå íå åäèíñòâåííî).
Ñåìåéñòâî ðàñïðåäåëåíèé, ïëîòíîñòè (âåðîÿòíîñòè) êîòîðî-
ãî èìåþò âèä (2.4.4), íàçûâàþò ýêñïîíåíöèàëüíûì ñåìåéñòâîì.
Äëÿ ýêñïîíåíöèàëüíîãî ñåìåéñòâà ý��åêòèâíàÿ îöåíêà ñóùåñòâó-
åò äëÿ �óíêöèè �(�) = �
d
0
(�)
0
(�)
.
�àñïðåäåëåíèÿ ñîâîêóïíîñòè n íåçàâèñèìûõ ðåàëèçàöèé (X
1
,
X
2
, . . . ,X
n
) ñëó÷àéíîé âåëè÷èíû, ïðèíàäëåæàùåé ýêñïîíåíöèàëü-
íîìó ñåìåéñòâó (2.4.4), â ñâîþ î÷åðåäü, îáðàçóþò ýêñïîíåíöèàëü-
íîå ñåìåéñòâî ñ ïëîòíîñòüþ (âåðîÿòíîñòüþ):
p (x
1
; x
2
; : : : ; x
n
; �) =
= exp
h
(�)
n
X
i=1
T (x
i
) + nd(�) +
n
X
i=1
S(x
i
)
i
I
A
(x
1
; : : : ; x
n
):
49
Ìíîãèå ïðàêòè÷åñêè âàæíûå ïàðàìåòðè÷åñêèå ðàñïðåäåëåíèÿ
âõîäÿò â ýòîò êëàññ. Íàïðèìåð:
Á è í î ì è à ë ü í î å ð à ñ ï ð å ä å ë å í è å.
p (x; �)=
�
n
x
�
�
x
(1��)
n�x
=exp
n
x ln
�
�
1� �
�
+n ln(1��)+ ln
�
n
x
�
o
äëÿ x = 0; 1; : : : ; n; 0 < � < 1.
Äëÿ ïàðàìåòðà � åñòü ý��åêòèâíàÿ îöåíêà x=n.
Ï î ê à ç à ò å ë ü í î å ð à ñ ï ð å ä å ë å í è å (è âûáîðêà èç
ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ).
p (x; �) =
8
<
:
1
�
exp
�
�
x
�
�
; äëÿ x � 0; � > 0;
0; äëÿ x < 0:
Äëÿ âûáîðêè
p (x
1
; : : : ; x
n
; �) =
�
1
�
�
n
exp
�
�
1
�
n
X
i=1
x
i
�
; äëÿ x � 0; � > 0:
Äëÿ ïàðàìåòðà � åñòü ý��åêòèâíàÿ îöåíêà
n
P
i=1
X
i
=n.
 çàêëþ÷åíèå îòìåòèì, ÷òî ý��åêòèâíàÿ îöåíêà ìîæåò áûòü
òîëüêî îäíà (òî åñòü òîëüêî äëÿ îäíîé �óíêöèè �(�) è åå ëèíåéíûõ
�óíêöèé). ×òîáû äîêàçàòü ýòî, äîïóñòèì ïðîòèâîïîëîæíîå: äëÿ
íåêîòîðîãî ïàðàìåòðè÷åñêîãî ñåìåéñòâà åñòü äâà ðàâåíñòâà âèäà
(2.4.3):
T
i
(X) = �
i
(�) + a
i
(�)�(X; �); i = 1; 2:
Óìíîæèâ âòîðîå ðàâåíñòâî íà
a
1
(�)
a
2
(�)
è âû÷òÿ ðåçóëüòàò èç ïåðâîãî,
ïîëó÷èì, ÷òî:
T
1
(X) = �
1
(�)�
a
1
(�)
a
2
(�)
�
2
(�) +
a
1
(�)
a
2
(�)
T
2
(X): (2:4:5)
�àâåíñòâî (2.4.5) âîçìîæíî, òîëüêî åñëè:
a
1
(�)
a
2
(�)
= Const; �
1
(�) �
a
1
(�)
a
2
(�)
�
2
(�) = Const: (2:4:6)
50
Äåéñòâèòåëüíî, T
1
(X)�
a
1
(�)
a
2
(�)
T
2
(X) íå äîëæíî èçìåíÿòüñÿ, êîãäà
èçìåíÿåòñÿ X; X 2 A. Ýòî âîçìîæíî, òîëüêî åñëè
a
1
(�)
a
2
(�)
íå èçìå-
íÿåòñÿ, êîãäà èçìåíÿåòñÿ � 2 �.
Èç (2.4.6) ñëåäóåò, ÷òî âñå ý��åêòèâíûå îöåíêè ëèíåéíî âû-
ðàæàþòñÿ îäíà ÷åðåç äðóãóþ (ñì. (2.4.5)), êàê è ñîîòâåòñòâóþùèå
�óíêöèè �(�).
� 5. Ñòàòèñòè÷åñêèå îöåíêè äëÿ ìíîãîìåðíûõ ïà-
ðàìåòðîâ
5.1. Ñëó÷àéíûå âåêòîðû, èõ ñðåäíèå è äèñïåðñèè
ÏóñòüX � ñëó÷àéíûé îáúåêò (ñëó÷àéíàÿ âåëè÷èíà, ñëó÷àéíûé
âåêòîð è ò. ï.), ðàñïðåäåëåíèå êîòîðîãî îïðåäåëåíî ïàðàìåòðîì �.
Ïðåäïîëîæèì, ÷òî � � r-ìåðíûé ïàðàìåòð, êîòîðûé ìû áóäåì
ïðåäñòàâëÿòü â âèäå ñòîëáöà: � = (�
1
; : : : ; �
r
)
T
, � 2 � � R
r
, ãäå��
çàäàííîå îòêðûòîå ìíîæåñòâî. �àññìîòðèì çàäà÷ó îöåíèâàíèÿ �
èëè �óíêöèé îò � ïî íàáëþäåíèþX . ßñíî, ÷òî â êà÷åñòâå îöåíêè �
èëè �(�) äîëæíû âûñòóïàòü ñëó÷àéíûå âåêòîðû ñîîòâåòñòâóþùåé
ðàçìåðíîñòè (�óíêöèè îò X).
Ïîýòîìó ïðåäâàðèòåëüíî íàäî íàïîìíèòü, ÷òî òàêîå ñëó÷àé-
íûé âåêòîð, ñëó÷àéíàÿ ìàòðèöà, èõ ìàòåìàòè÷åñêèå îæèäàíèÿ è
êîâàðèàöèè, âìåñòå ñ íåêîòîðûìè ñâîéñòâàìè ýòèõ îáúåêòîâ. Ñëó-
÷àéíûé âåêòîð ïðè ýòîì åñòü ÷àñòíûé ñëó÷àé ñëó÷àéíîé ìàòðèöû.
Î ï ð å ä å ë å í è å 2.5.1. Ñëó÷àéíàÿ ìàòðèöà Z åñòü ìàò-
ðèöà, ýëåìåíòû z
ij
êîòîðîé ñóòü ñëó÷àéíûå âåëè÷èíû, çàäàííûå
íà îáùåì ïðîñòðàíñòâå ýëåìåíòàðíûõ èñõîäîâ, ò. å. èìåþùèå ñîâ-
ìåñòíîå ðàñïðåäåëåíèå âåðîÿòíîñòåé.
Î ï ð å ä å ë å í è å 2.5.2. Ìàòåìàòè÷åñêîå îæèäàíèå ñëó÷àé-
íîé ìàòðèöû Z = kz
ij
k åñòü
EZ = kEz
ij
k:
Ó ò â å ð æ ä å í è å 2.5.1. Ïóñòü Z � ñëó÷àéíàÿ ìàòðèöà, à
íåñëó÷àéíûå (ïîñòîÿííûå) ìàòðèöû A;B;C òàêîâû, ÷òî ìàòðèöà
AZB+C ñóùåñòâóåò. (�àçìåðíîñòè ìàòðèö A;B;Z è C ñîãëàñîâà-
íû â òîì ñìûñëå, ÷òî óêàçàííûå äåéñòâèÿ îñóùåñòâèìû). Òîãäà:
E(AZB + C) = A(EZ)B + C:
51
 ÷àñòíîñòè, åñëè Y � ñëó÷àéíûé âåêòîð, A � íåñëó÷àéíàÿ ìàò-
ðèöà è b � íåñëó÷àéíûé âåêòîð, òî
E(AY + b) = A(EY ) + b;
êîãäà óêàçàííûå îïåðàöèè (óìíîæåíèÿ è ñëîæåíèÿ) îñóùåñòâèìû.
Ó ò â å ð æ ä å í è å 2.5.2. Ïóñòü Z
1
è Z
2
� äâå ñëó÷àéíûå ìàò-
ðèöû, îïðåäåëåííûå íà îáùåì äëÿ íèõ ïðîñòðàíñòâå ýëåìåíòàð-
íûõ èñõîäîâ. Ïóñòü èõ ðàçìåðíîñòè ñîâïàäàþò, òàê ÷òî ìàòðèöà
Z
1
+ Z
2
ñóùåñòâóåò. Òîãäà:
E(Z
1
+ Z
2
) = EZ
1
+EZ
2
:
Óòâåðæäåíèÿ 2.5.1 è 2.5.2 âìåñòå ïîêàçûâàþò, ÷òî îïåðàöèÿ
âçÿòèÿ ìàòåìàòè÷åñêîãî îæèäàíèÿ äëÿ ñëó÷àéíûõ ìàòðèö îáëà-
äàåò ïðèâû÷íûìè äëÿ ýòîé îïåðàöèè äëÿ ñëó÷àéíîé âåëè÷èíû ëè-
íåéíûìè ñâîéñòâàìè. Ïðàâäà, ñ ó÷åòîì òîãî, ÷òî óìíîæåíèå ìàò-
ðèö íå êîììóòàòèâíî.
Ïóñòü X è Y � äâà ñëó÷àéíûõ âåêòîðà (ïðîèçâîëüíûõ ðàçìåð-
íîñòåé, íå îáÿçàòåëüíî îäèíàêîâûõ), èìåþùèå ñîâìåñòíîå ðàñïðå-
äåëåíèå. Âåêòîðû ìû ïðåäïî÷òèòåëüíî áóäåì ïðåäñòàâëÿòü â âèäå
âåêòîðîâ-ñòîëáöîâ (îäíîñòîëáöîâûõ ìàòðèö).
Î ï ð å ä å ë å í è å 5.2.3. Êîâàðèàöèîííàÿ ìàòðèöà (îíà æå
� ìàòðèöà êîâàðèàöèé, äèñïåðñèîííàÿ ìàòðèöà è ò. ï.) âåêòîðîâ
X è Y åñòü
Cov(X;Y ) = E(X �EX)(Y �EY )
T
:
Åñëè X = (x
1
; x
2
; : : :)
T
, Y = (y
1
; y
2
; : : :)
T
, òî ýëåìåíò (i; j) ìàòðèöû
Cov(X;Y ) åñòü êîâàðèàöèÿ ñëó÷àéíûõ âåëè÷èí x
i
è y
j
:
E(x
i
�Ex
i
)(y
j
�Ey
j
):
ßñíî, ÷òî:
Cov(X;Y ) = EXY
T
� (EX)(EY )
T
:
Î ï ð å ä å ë å í è å 2.5.4. Êîâàðèàöèîííàÿ ìàòðèöà ñëó÷àéíîãî
âåêòîðà X îïðåäåëÿåòñÿ êàê:
Cov(X;X) = E(X �EX)(X �EX)
T
= EXX
T
� (EX)(EX)
T
:
Äèàãîíàëüíûå ýëåìåíòû ýòîé ìàòðèöû � ñóòü äèñïåðñèè ñëó÷àé-
íûõ âåëè÷èí x
1
; x
2
; : : :. Îáîçíà÷åíèå Cov(X;X) ìû áóäåì çàìå-
íÿòü êîðîòêèì DX .
52
Ó ò â å ð æ ä å í è å 2.5.3. Ïóñòü X � ñëó÷àéíûé âåêòîð, A
� íåñëó÷àéíàÿ (ïîñòîÿííàÿ) ìàòðèöà, b � íåñëó÷àéíûé (ïîñòîÿí-
íûé) âåêòîð. Òîãäà:
D(AX + b) = A(DX)A
T
;
åñëè AX + b ñóùåñòâóåò (óêàçàííûå îïåðàöèè îñóùåñòâèìû, ò. å.
ðàçìåðíîñòè A, X è b ñîãëàñîâàíû).
×àñòíûé ñëó÷àé: ñêàëÿðíîå ïðîèçâåäåíèå. Ïóñòü A � ìàòðèöà,
ñîñòîÿùàÿ èç îäíîé ñòðîêè. �àññìîòðèì A êàê ðåçóëüòàò òðàíñïî-
íèðîâàíèÿ íåêîòîðîãî âåêòîðà a (âåêòîðà-ñòîëáöà): A = a
T
. Ïðè
ýòîì AX = a
T
X � åñòü ñêàëÿðíîå ïðîèçâåäåíèå âåêòîðîâ a è X .
Ó ò â å ð æ ä å í è å 2.5.4.
D(a
T
X) = a
T
(DX)a:
5.2. Ìíîãîìåðíîå íåðàâåíñòâî Êðàìåðà-�àî
Âåðíåìñÿ ê ïîñòàâëåííîé â íà÷àëå ýòîãî ïàðàãðà�à çàäà-
÷å. Ïóñòü '(�) � íåêîòîðàÿ âåêòîð-�óíêöèÿ, '(X) � îöåíêà
�(�) (ýòî âåêòîðû-ñòîëáöû), è ïóñòü E
�
'(X) = �(�), ãäå �(�) =
(�
1
(�); �
2
(�); : : : ; �
d
(�))
T
, � 2 � � R
r
.
Êàê è â îäíîìåðíîì (îäíîïàðàìåòðè÷åñêîì) ñëó÷àå ìû ãîòî-
âèìñÿ óêàçàòü ãðàíèöó ñíèçó äëÿ êâàäðàòè÷íîãî ðèñêà íåñìåùåí-
íîé îöåíêè. Íî ïðåæäå íàäî óòî÷íèòü, ÷òî òàêîå êâàäðàòè÷íûé
ðèñê â ìíîãîìåðíîì ñëó÷àå è êàê ñëåäóåò ñðàâíèâàòü êâàäðàòè÷-
íûå ðèñêè � íàïðèìåð, äâóõ ðàçíûõ îöåíîê.
Ïóñòü '(X), (X) � äâå íåñìåùåííûå îöåíêè �(�). Êàêàÿ èç
íèõ ëó÷øå? Ïîïðîáóåì íàéòè îòâåò, îáðàòèâøèñü ê óæå èçó÷åí-
íîìó îäíîìåðíîìó ñëó÷àþ. Âûáåðåì ïðîèçâîëüíûé íåñëó÷àéíûé
âåêòîð z. Ïåðåéäåì îò '(X), (X), �(�) ê ëèíåéíûì �îðìàì (ñêà-
ëÿðíûì ïðîèçâåäåíèÿì) � := z
T
'(X), � := z
T
(X), t(�) := z
T
�(�).
ßñíî, ÷òî
E
�
� = E
�
� = t(�);
òàê ÷òî � è � ñóòü íåñìåùåííûå (îäíîìåðíûå) îöåíêè t(�). Â îäíî-
ìåðíîì ñëó÷àå (ïðè êâàäðàòè÷íîé �óíêöèè ïîòåðü) èç äâóõ íåñìå-
ùåííûõ îöåíîê ëó÷øå òà, ÷üÿ äèñïåðñèÿ ìåíüøå.  ÷àñòíîñòè, �
íå õóæå, ÷åì �, åñëè D� � D� èëè:
z
T
[D
�
'(X)℄z � z
T
[D
�
(X)℄z: (2:5:1)
53
Ìû ìîæåì ïðèíÿòü òàêîå î ï ð å ä å ë å í è å: '(X) ëó÷øå,
÷åì (X), åñëè (2.5.1) âûïîëíÿåòñÿ äëÿ ëþáîãî âåêòîðà z 2 R
d
(è
äëÿ íåêîòîðûõ z ýòî íåðàâåíñòâî ñòðîãîå).
Ïî îòíîøåíèþ ê ïåðåìåííîìó z2R
d
, z
T
[D
�
'(X)℄z è z
T
[D
�
(X)℄z
ïðåäñòàâëÿþò ñîáîé êâàäðàòè÷íûå �îðìû (íåîòðèöàòåëüíî îïðå-
äåëåííûå). Íåðàâåíñòâî (2.5.1), åñëè îíî âûïîëíÿåòñÿ äëÿ âñåõ z,
ëèíåéíàÿ àëãåáðà èñòîëêîâûâàåò êàê ñîîòíîøåíèå ìåæäó ìàòðè-
öàìè êâàäðàòè÷íûõ �îðì.  äàííîì ñëó÷àå, ìåæäó ìàòðèöàìè
êîâàðèàöèé D
�
'(X) è D
�
(X): D
�
'(X) � D
�
(X):
Èòàê, ìû ïðèøëè ê çàêëþ÷åíèþ, ÷òî êâàäðàòè÷íûì ðèñêîì
ñòàòèñòèêè '(X), íåñìåùåííî îöåíèâàþùåé �(�), ìîæíî íàçâàòü
åå ìàòðèöó êîâàðèàöèé: D
�
' = E
�
['(X)� �(�)℄['(X) � �(�)℄
T
.
Èç äâóõ íåñìåùåííûõ îöåíîê ëó÷øå òà, ÷üÿ ìàòðèöà êîâàðèà-
öèé ìåíüøå (â óêàçàííîì âûøå ñìûñëå). Çàìåòèì, ÷òî äâå îöåíêè
ìîãóò áûòü íåñðàâíèìû.
Òåïåðü ïîíÿòíî, ÷òî ìíîãîìåðíîå îáîáùåíèå íåðàâåíñòâà Êðà-
ìåðà-�àî äîëæíî óñòàíàâëèâàòü ãðàíèöó ñíèçó äëÿ ìàòðèöû êî-
âàðèàöèé íåñìåùåííîé îöåíêè.
Ïåðåõîäèì ê âûâîäó íåðàâåíñòâà. Ââåäåì îïåðàòîð ÷àñòíîãî
äè��åðåíöèðîâàíèÿ ïî �, êîòîðûé � â âèäå èñêëþ÷åíèÿ! � çàïè-
øåì êàê ñòðîêó:
�
��
=
�
�
��
1
;
�
��
2
; : : : ;
�
��
r
�
:
Îïðåäåëèì ìàòðèöó èí�îðìàöèè (îáîáùåíèå êîëè÷åñòâà èí�îð-
ìàöèè):
I(�) = E
�
�
�
��
ln p (X; �)
�
T
�
�
��
ln p (X; �)
�
:
Ëåãêî âèäåòü, ÷òî I(�) � íåîòðèöàòåëüíî îïðåäåëåííàÿ ìàòðèöà,
÷òî ìû áóäåì çàïèñûâàòü êàê I(�) � 0. Ïðåäïîëîæèì, ÷òî I(�)
�1
ñóùåñòâóåò äëÿ âñåõ � 2 �.
Ââåäåì ìàòðèöó
��
��
(ðàçìåðà d� r), ïîëîæèâ:
��
��
=
0
B
B
B
B
B
B
B
B
�
��
1
��
1
��
1
��
2
: : :
��
1
��
r
��
2
��
1
��
2
��
2
: : :
��
2
��
r
.
.
.
.
.
. : : :
.
.
.
��
d
��
1
��
d
��
2
: : :
��
d
��
r
1
C
C
C
C
C
C
C
C
A
:
54
Ïîêàæåì, ÷òî ïðè ïðèíÿòûõ â � 3 "óñëîâèÿõ ðåãóëÿðíîñòè", îáîá-
ùåííûõ íà ìíîãîìåðíûé ñëó÷àé, ñïðàâåäëèâî íåðàâåíñòâî
E
�
('(X)� �(�))('(X) � �(�))
T
�
�
��
��
�
[I
�1
(�)℄
�
��
��
�
T
: (2:5:2)
Ä î ê à ç à ò å ë ü ñ ò â î. �àññìîòðèì âåêòîð-ñòðîêó:
�(X; �) =
�
��
ln p (X; �):
Òàê æå, êàê â ïóíêòå 1 èç � 3, íàõîäèì, ÷òî
E
�
�(X; �) = 0: (2:5:3)
Äè��åðåíöèðóåì ïî � òîæäåñòâî
Z
A
'(x)p (x; �) dx = �(�);
ïîëó÷àåì, ÷òî:
Z
A
'(x)
�
��
p (x; �) dx =
��
��
;
èëè
Z
A
'(x)
�
�
��
ln p (x; �)
�
p (x; �) dx =
��
��
:
Ïîñëåäíåå ðàâåíñòâî îçíà÷àåò, ÷òî:
E
�
'(X)�(X; �) =
��
��
: (2:5:4)
Òåïåðü ðàññìîòðèì (íåîòðèöàòåëüíî îïðåäåëåííóþ) ìàòðèöó
êîâàðèàöèé âåêòîðà
'(X)� �(�) �
��
��
I
�1
(�)�
T
(X; �):
(Îáðàòèòå âíèìàíèå íà òî, ÷òî ðàçìåðíîñòè ïåðåìíîæàåìûõ ìàò-
ðèö ñîãëàñîâàíû òàêèì îáðàçîì, ÷òî óìíîæåíèå âîçìîæíî).
�àññìîòðèì î÷åâèäíîå íåðàâåíñòâî:
E
�
�
('� �) �
��
��
I
�1
(�)�
T
��
('� �) �
��
��
I
�1
(�)�
T
�
T
� 0:
55
Ëåâóþ ÷àñòü ïðåîáðàçóåì:
E
�
(' � �)(' � �)
T
�E
�
('� �)
�
��
��
I
�1
(�)�
T
�
T
�
�E
�
�
��
��
I
�1
(�)�
T
�
('� �)
T
+ (2:5:5)
+E
�
�
��
��
I
�1
(�)�
T
� �
��
��
I
�1
(�)�
T
�
T
� 0:
Âòîðîå ñëàãàåìîå â (2.5.5):
�E
�
('� �)� I
�1
(�)
�
��
��
�
T
= �
�
��
��
�
I
�1
(�)
�
��
��
�
T
; (2:5:6)
èáî E
�
'� =
��
��
(ñì. (2.5.4)), E
�
� = 0 (ñì. (2.5.3)).
Òðåòüå ñëàãàåìîå îòëè÷àåòñÿ îò âòîðîãî ëèøü òðàíñïîíèðîâà-
íèåì (òðåòüå ñëàãàåìîå � ýòî òðàíñïîíèðîâàííîå âòîðîå). À òàê
êàê (2.5.6) � ñèììåòðè÷íî, òî òðåòüå ñëàãàåìîå òîæå ðàâíî (2.5.6).
Íàêîíåö, ÷åòâåðòîå ñëàãàåìîå äàñò:
�
��
��
�
I
�1
(�)
�
E
�
�
T
�
�
I
�1
(�)
�
��
��
�
T
=
�
��
��
�
I
�1
(�)
�
��
��
�
T
:
Ïðèâåäÿ â (2.5.5) ïîäîáíûå ÷ëåíû, ïîëó÷èì îòñþäà (2.5.2), ÷òî
è òðåáîâàëîñü. �
Çàêëþ÷èì òåìó íåðàâåíñòâ èí�îðìàöèè è ý��åêòèâíûõ îöå-
íîê îïðåäåëåíèåì ìíîãîïàðàìåòðè÷åñêèõ ýêñïîíåíöèàëüíûõ ñå-
ìåéñòâ. Ïëîòíîñòü (âåðîÿòíîñòü) äëÿ íèõ èìååò âèä:
p (x; �) = exp
h
n
X
j=1
j
(�)T
j
(x) + d(�) + S(x)
i
I
A
(x):
Íàèáîëåå âàæíûé ïðèìåð � ãàóññîâñêîå ðàñïðåäåëåíèå, ãäå ïëîò-
íîñòü çàâèñèò îò äâóìåðíîãî ïàðàìåòðà (a; �
2
):
p (x; a; �
2
) =
1
p
2��
2
exp
n
�
(x� a)
2
2�
2
o
:
56
Ëåêöèÿ 3. Äîñòàòî÷íûå ñòàòèñòèêè è íàè-
ëó÷øèå íåñìåùåííûå îöåíêè
� 1. Óñëîâíûå ðàñïðåäåëåíèÿ (ýëåìåíòàðíàÿ òåî-
ðèÿ)
 ýòîì ðàçäåëå íàì ïðèäåòñÿ îïåðèðîâàòü ïîíÿòèÿìè óñëîâ-
íîé âåðîÿòíîñòè, óñëîâíîãî ðàñïðåäåëåíèÿ, óñëîâíîãî ìàòåìàòè-
÷åñêîãî îæèäàíèÿ è ò. ä. îäíîé ñëó÷àéíîé âåëè÷èíû îòíîñèòåëüíî
äðóãîé. ×òîáû íå çàäåðæèâàòü ðàçâèòèÿ ñòàòèñòè÷åñêèõ èäåé, ìû
áóäåì ïîíà÷àëó îáõîäèòüñÿ ýëåìåíòàðíûìè �îðìàìè ýòèõ ïîíÿ-
òèé. Îíè ëèáî óæå èçâåñòíû èç êóðñà òåîðèè âåðîÿòíîñòåé, ëèáî
ìîãóò áûòü ïîëó÷åíû ýëåìåíòàðíûìè ñðåäñòâàìè (íàïðèìåð, ïðå-
äåëüíûì ïåðåõîäîì). Îñíîâàòåëüíóþ ðàçðàáîòêó îáùåãî ïîíÿòèÿ
óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ è óñëîâíîé âåðîÿòíîñòè ìû
íà íåäîëãîå âðåìÿ îòëîæèì.
Íà÷íåì ñ äèñêðåòíî ðàñïðåäåëåííîé ñëó÷àéíîé âåëè÷èíû X .
Ïóñòü PfX = xg = p (x) äëÿ x, ïðèíàäëåæàùèõ íîñèòåëþ ðàñ-
ïðåäåëåíèÿ (ïî óñëîâèþ ýòî êîíå÷íîå èëè ñ÷åòíîå ìíîæåñòâî).
Ïóñòü T = T (X) � íåêîòîðàÿ �óíêöèÿ îò X . Îáîçíà÷èì ÷åðåç
P
XjT
(x; T ) óñëîâíóþ âåðîÿòíîñòü ñîáûòèÿ fX = xg ïðè óñëîâèè,
÷òî T (X) = T :
P
XjT
(x; T )=PfX=xjT (X)=Tg=
8
>
>
<
>
>
:
p (x)
P
y: T (y)=T
p (y)
; åñëè T (x) = T
0; åñëè T (x) 6= T:
Òàê îïðåäåëåííûå óñëîâíûå âåðîÿòíîñòè îáðàçóþò óñëîâíîå ðàñ-
ïðåäåëåíèå, èáî ïðè âñÿêîì T
X
x: T (x)=T
P
XjT
(x; T ) = 1:
Ìîæíî ãîâîðèòü îá óñðåäíåíèè ïî ýòîìó ðàñïðåäåëåíèþ êàê ñàìîé
ñëó÷àéíîé âåëè÷èíû, òàê è �óíêöèé îò íåå f(X). Ýòè ñðåäíèå
åñòåñòâåííî íàçâàòü óñëîâíûìè ìàòåìàòè÷åñêèìè îæèäàíèÿìè X
èëè f(X) ïðè äàííîì T . Èõ îáîçíà÷àþò, ñîîòâåòñòâåííî, ÷åðåç
E(X jT ) è E(f(X)jT ):
E(X jT ) =
X
x: T (x)=T
xP
XjT
(x; T ); E(f(X)jT ) =
X
x: T (x)=T
f(x)P
XjT
(x; T ):
57
Çàìåòèì, ÷òî óñëîâíûå ìàòåìàòè÷åñêèå îæèäàíèÿ, òàê æå êàê
óñëîâíûå âåðîÿòíîñòè P
XjT
(x; T ), ÿâëÿþòñÿ �óíêöèÿìè îò ñëó-
÷àéíîé âåëè÷èíû T = T (X). Òåì ñàìûì, ýòè îáúåêòû òîæå ÿâëÿ-
þòñÿ ñëó÷àéíûìè âåëè÷èíàìè.
Ï ð è ì å ð. Ïóñòü X = (X
1
; : : : ; X
m
), ãäå X
1
; : : : ; X
m
ñóòü
íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, ðàñïðåäåëåííûå ïî Ïóàññîíó
ñ ïàðàìåòðàìè �
1
; : : : ; �
m
, ñîîòâåòñòâåííî. Íàéäåì óñëîâíîå ðàñ-
ïðåäåëåíèå X ïðè äàííîì çíà÷åíèè T = X
1
+ : : : +X
m
. Äëÿ íà-
áîðà x = (x
1
; : : : ; x
m
) öåëûõ íåîòðèöàòåëüíûõ ÷èñåë òàêèõ, ÷òî
x
1
+ : : :+ x
m
= T , íàõîäèì, ÷òî
P
XjT
(x; T ) =
m
Q
i=1
PfX
i
= x
i
g
PfX
1
+ : : :+X
m
= x
1
+ : : :+ x
m
g
:
Ïîñêîëüêó ñóììà íåçàâèñèìûõ ïóàññîíîâñêè ðàñïðåäåëåííûõ ñëà-
ãàåìûõ X
1
; : : : ; X
m
òîæå ðàñïðåäåëåíà ïî Ïóàññîíó, íî ñ ïàðàìåò-
ðîì �
1
+ : : :+ �
m
, íàõîäèì, ÷òî
P
XjT
(x; T ) =
�
x
1
1
: : : �
x
m
m
x
1
! : : : x
m
!
�
(x
1
+ : : :+ x
m
)!
(�
1
+ : : :+ �
m
)
x
1
+:::+x
m
=
=
(x
1
+ : : :+ x
m
)!
x
1
! : : : x
m
!
p
x
1
1
: : : p
x
m
m
=
T !
x
1
! : : : x
m
!
p
x
1
1
: : : p
x
m
m
;
ãäå p
i
= �
i
=(�
1
+ : : : + �
m
) äëÿ i = 1; : : : ;m. Ïîñëåäíåå âûðà-
æåíèå � ýòî ïîëèíîìèàëüíàÿ âåðîÿòíîñòü, ò. å. âåðîÿòíîñòü, ÷òî
â T èñïûòàíèÿõ Áåðíóëëè ñ m ðàçëè÷íûìè èñõîäàìè, âåðîÿò-
íîñòè êîòîðûõ ñóòü p
1
; : : : ; p
m
, èñõîäû ñ íîìåðàìè 1; : : : ;m ïðî-
èçîøëè x
1
; : : : ; x
m
ðàç. Ñëåäîâàòåëüíî, óñëîâíîå ðàñïðåäåëåíèå
(X
1
; : : : ; X
m
) ïðè äàííîì T = X
1
+ : : :+X
m
� ïîëèíîìèàëüíîå.
Äëÿ íåïðåðûâíî ðàñïðåäåëåííîé ñëó÷àéíîé âåëè÷èíû X å¼
óñëîâíîå ðàñïðåäåëåíèå ïðè äàííîì çíà÷åíèè T = T (X) ââîäèòñÿ
ñëîæíåå. Ïðè÷èíà òà, ÷òî çäåñü òèïè÷íî, ÷òî PfT (X) = Tg = 0,
ðàâíî êàê è PfX = xg = 0 äëÿ âñÿêîãî x. Ïîýòîìó äëÿ ïîñòðîå-
íèÿ óñëîâíîãî ðàñïðåäåëåíèÿ â ýòîì ñëó÷àå ïðèõîäèòñÿ ïðèáåãàòü
ê ïðåäåëüíûì ïåðåõîäàì.
� 2. �àñïðåäåëåíèå âåðîÿòíîñòåé íà ïîâåðõíîñòè
Ïðåäïîëîæèì, ÷òî â ïðîñòðàíñòâå R
d
çàäàíà âåðîÿòíîñòíàÿ
ìåðà P (:). Ïðåäïîëîæèì, ÷òî P (:) èìååò ïëîòíîñòü, ñêàæåì,
58
p (x); x 2 R
d
, îòíîñèòåëüíî ìåðû Ëåáåãà â R
d
. Ïðåäïîëîæèì
äàëåå, ÷òî â ïðîñòðàíñòâå R
d
çàäàíî ãëàäêîå ìíîãîîáðàçèå H .
�àçìåðíîñòü H îáîçíà÷èì ÷åðåç d� r, ãäå 0 < r < d. �àäè êðàòêî-
ñòè è îáðàçíîñòè áóäåì íàçûâàòü H ïîâåðõíîñòüþ. Ìû íàçûâàåì
ïîâåðõíîñòü ãëàäêîé, åñëè â êàæäîé òî÷êå x 2 H ñóùåñòâóþò êà-
ñàòåëüíîå è îðòîãîíàëüíîå ê H ïðîñòðàíñòâà, êîòîðûå îáîçíà÷èì
÷åðåç T (x) è N(x), ñîîòâåòñòâåííî. Çàìåòèì, ÷òî ìåðà Ëåáåãà â R
d
èíäóöèðóåò íà ïîâåðõíîñòè H íåêîòîðóþ ìåðó, êîòîðóþ áóäåì òî-
æå íàçûâàòü ìåðîé Ëåáåãà, èëè (d� r)-ìåðíîé ëåáåãîâñêîé ìåðîé
íà H , è îáîçíà÷àòü ÷åðåç s(A) � äëÿ ëþáîãî èçìåðèìîãî A � H .
Ïîäîáíî ýòîìó, âåðîÿòíîñòíàÿ ìåðà P (:) èíäóöèðóåò íà H íåêîòî-
ðóþ âåðîÿòíîñòíóþ ìåðó, ñêàæåì, �(:), ê îïðåäåëåíèþ êîòîðîé ìû
è ïåðåõîäèì. Â îáñóæäàåìîì íàìè ýëåìåíòàðíîì âàðèàíòå îïðå-
äåëåíèå �(:) ìîæåò áûòü äîñòèãíóòî ïðåäåëüíûì ïåðåõîäîì. �àäè
ïðîñòîòû â äàëüíåéøåì áóäåì ãîâîðèòü îá îòêðûòûõ ìíîæåñòâàõ
íà H è äëÿ ïðîèçâîëüíîãî îòêðûòîãî A îïðåäåëèì �(A). Ìû óâè-
äèì, ÷òî ìåðà �(:) çàäàåòñÿ ñ ïîìîùüþ ïëîòíîñòè îòíîñèòåëüíî
ëåáåãîâñêîé ìåðû s(:), è ÷òî ýòà ïëîòíîñòü êàê �óíêöèÿ x 2 H
ëèøü ìíîæèòåëåì (çàâèñÿùèì îò H) îòëè÷àåòñÿ îò p (x).
Äëÿ ìíîæåñòâà A � H îïðåäåëèì ïîëåçíîå äëÿ äàëüíåéøåãî
ïîíÿòèå "ïîïåðå÷íîãî "-ðàñøèðåíèÿ ("-ðàçäóòèÿ)". Ïóñòü U
"
(x)
îáîçíà÷àåò r-ìåðíûé øàð ðàäèóñà " ñ öåíòðîì â òî÷êå x, ëåæàùèé
â ïðîñòðàíñòâå N(x).
Ïîïåðå÷íûì "-ðàçäóòèåì ìíîæåñòâà A; A � H , íàçîâåì
A
"
=
[
x2A
U
"
(x):
Äàëåå ïîëîæèì ïî îïðåäåëåíèþ
�(A) = lim
"!0
PfA
"
g
PfH
"
g
; (3:2:1)
ãäå H
"
� àíàëîãè÷íûì îáðàçîì îïðåäåëåííîå ïîïåðå÷íîå "-ðàçäó-
òèå ïîâåðõíîñòè H . Çàéìåìñÿ ÷èñëèòåëåì ñòîÿùåé â ïðàâîé ÷àñòè
(3.2.1) äðîáè. (Çíàìåíàòåëü ðàññìàòðèâàåòñÿ àíàëîãè÷íî).
�àçîáüåì ìíîæåñòâî A íà íåïåðåñåêàþùèåñÿ ìíîæåñòâà �
1
,
. . . , �
N
. Ìàêñèìàëüíûé èç äèàìåòðîâ ýòèõ ìíîæåñòâ îáîçíà÷èì
÷åðåç Æ(N).  äàëüíåéøåì N ! 1 è Æ(N) ! 0. Çàìåòèì, ÷òî ïî-
ïåðå÷íûå "-ðàçäóòèÿ �
"
1
; : : : ;�
"
N
ìíîæåñòâ �
1
; : : : ;�
N
îáðàçóþò
ðàçáèåíèå ìíîæåñòâà A
"
. Âåðîÿòíîñòü PfA
"
g ïðåäñòàâèì â âèäå
59
èíòåãðàëà �èìàíà, à ïîñëåäíèé � êàê ïðåäåë èíòåãðàëüíûõ ñóìì:
PfA
"
g =
Z
A
"
p (x) dx = lim
Æ(N)!0
N
X
i=1
p (x
i
)�
d
(�
"
i
):
Çäåñü x
i
2 �
i
; i = 1; N ; �
d
(:) îáîçíà÷àåò d-ìåðíóþ ìåðó Ëåáåãà.
Çàìåòèì, ÷òî �
d
(�
"
i
) = �
r
(U
"
)s(�
i
)[1 + "Æo(1)℄ ïðè " ! 0; Æ ! 0.
Çäåñü U
"
� øàð ðàäèóñà " â ïðîñòðàíñòâå R
r
. Ïîýòîìó
N
X
i=1
p (x
i
)�
d
(�
"
i
) = �
r
(U
"
)
N
X
i=1
p (x
i
)s(�
i
)[1 + "Æo(1)℄:
Ïîñëåäíÿÿ èíòåãðàëüíàÿ ñóììà ïðè èçìåëü÷åíèè ðàçáèåíèÿ ñõî-
äèòñÿ ê
R
A
p (x)s(dx).
Àíàëîãè÷íûå ïðåîáðàçîâàíèÿ çíàìåíàòåëÿ (3.2.1) ïðèâîäÿò ê
ïîÿâëåíèþ è òàì ìíîæèòåëÿ �
r
(U
"
) � èíòåãðàëüíîé ñóììû, ðàñ-
ïðîñòðàíåííîé ïî âñåé ïîâåðõíîñòè H (ñ òåìè îãîâîðêàìè, êîòî-
ðûå íåîáõîäèìû äëÿ òîëêîâàíèÿ èíòåãðàëà ïî, âîçìîæíî, íåêîì-
ïàêòíîé (áåñêîíå÷íîé) îáëàñòè). Ïîñëå ñîêðàùåíèÿ îáùåãî äëÿ
÷èñëèòåëÿ è çíàìåíàòåëÿ ìíîæèòåëÿ �
r
(U
"
) ìû çàêëþ÷àåì, ÷òî
�(A) =
Z
A
p (x)
R
H
p (y)s(dy)
s(dx):
Òàêèì îáðàçîì, ðàñïðåäåëåíèå P (:) âî âñåì ïðîñòðàíñòâå R
d
, èìå-
þùåå ïëîòíîñòü p (:), èíäóöèðóåò íà ïîâåðõíîñòèH íåêîòîðîå ðàñ-
ïðåäåëåíèå �(:), òàêæå èìåþùåå ïëîòíîñòü îòíîñèòåëüíî ëåáåãîâ-
ñêîé ìåðû íà ïîâåðõíîñòè H , è ýòà ïëîòíîñòü ðàâíà
p (x)
R
H
p (y)s(dy)
äëÿ x 2 H:
Äîêàçàòåëüñòâî áûëî ïðîâåäåíî äëÿ ãëàäêèõ ïîâåðõíîñòåé, íî, ðà-
çóìååòñÿ îñòàåòñÿ ñïðàâåäëèâûì è äëÿ êóñî÷íî-ãëàäêèõ H .
Ñ ï å ö è à ë ü í û é ñ ë ó ÷ à é: óñëîâíîå ðàñïðåäåëåíèå.
Ïðåäïîëîæèì, ÷òî ðàñïðåäåëåíèå P (:) â ïðîñòðàíñòâå R
d
çàäàíî
ñëó÷àéíîé âåëè÷èíîé X , à ïîâåðõíîñòü H � ýòî îäíî èç ìíîæåñòâ
óðîâíÿ ñëó÷àéíîé �óíêöèè T = T (X) : H = fx : T (x) = tg. Â
60
ýòîì ñëó÷àå ðàñïðåäåëåíèå �(:) íà ïîâåðõíîñòè H , ðàññìîòðåííîå
âûøå, íàçûâàþò óñëîâíûì ðàñïðåäåëåíèåì ñëó÷àéíîé ïåðåìåííîé
X ïðè çàäàííîì çíà÷åíèè ñëó÷àéíîé âåëè÷èíû T (X), à ïëîòíîñòü
ýòîãî ðàñïðåäåëåíèÿ � óñëîâíîé ïëîòíîñòüþ X ïðè çàäàííîì
çíà÷åíèè T (X). Èíîãäà äëÿ ýòîé óñëîâíîé ïëîòíîñòè ïðèíèìàþò
îáîçíà÷åíèå
p
XjT
(x; T ) =
p (x)
R
T (y)=T
p (y)s(dy)
äëÿ x òàêèõ, ÷òî T (x) = T: (3:2:2)
�ëàâíûé êà÷åñòâåííûé âûâîä: óñëîâíàÿ ïëîòíîñòü ïðîïîðöèî-
íàëüíà èñõîäíîé ïëîòíîñòè.
Ï ð è ì å ð. Ïóñòü X = (X
1
; : : : ; X
m
), ãäå X
1
; : : : ; X
m
ñóòü íåçà-
âèñèìûå ñëó÷àéíûå âåëè÷èíû, ðàñïðåäåëåííûå ðàâíîìåðíî íà îò-
ðåçêå [0; a℄, ãäå a > 0. Íàéòè óñëîâíîå ðàñïðåäåëåíèåX ïðè äàííîì
çíà÷åíèè T (X) = max(X
1
; : : : ; X
m
).
Ïî óñëîâèþ,m-ìåðíàÿ ñëó÷àéíàÿ âåëè÷èíà X èìååò ðàâíîìåð-
íîå ðàñïðåäåëåíèå íà m-ìåðíîì êóáå
Q(a) = f x = (x
1
; : : : ; x
m
) : 0 � x
1
� a; : : : ; 0 � x
m
� a g:
Äëÿ 0 � T � a ìíîæåñòâî óðîâíÿ T (X) = T � ýòî òà ÷àñòü ïîâåðõ-
íîñòè êóáà Q(T ), ÷òî ëåæèò â ïîëîæèòåëüíîì îêòàíòå. Ìåðà s(:)
íà ýòîé ïîâåðõíîñòè � ýòî îáû÷íàÿ (m � 1)-ìåðíàÿ ìåðà Ëåáåãà.
Ñîãëàñíî (3.2.2), óñëîâíàÿ ïëîòíîñòü X ïðè äàííîì T ïîñòîÿí-
íà íà ïîâåðõíîñòè óðîâíÿ T (x
1
; : : : ; x
m
) = T . Ïîýòîìó óñëîâíîå
ðàñïðåäåëåíèå X ïðè äàííîì T � ðàâíîìåðíîå (íà óêàçàííîé ïî-
âåðõíîñòè).
Ç à ä à ÷ à. Íàéäèòå óñëîâíîå ðàñïðåäåëåíèå ñëó÷àéíîé âåëè-
÷èíû X
1
ïðè çàäàííîì çíà÷åíèè T .
� 3. Äîñòàòî÷íûå ñòàòèñòèêè
Íàïîìíèì, ÷òî ìû ðàññìàòðèâàåì ñëåäóþùóþ ñòàòèñòè÷åñêóþ
ìîäåëü: íàáëþäåíèå X ïîëó÷åíî ñëó÷àéíûì âûáîðîì èç ìíîæå-
ñòâà X ; ñëó÷àéíûé âûáîð óïðàâëÿåòñÿ ðàñïðåäåëåíèåì âåðîÿòíî-
ñòåé P
�
, ãäå � � íåêîòîðûé (íåèçâåñòíûé) ïàðàìåòð, ïðè÷åì � 2 �;
� � çàäàííîå ìíîæåñòâî âîçìîæíûõ çíà÷åíèé ýòîãî ïàðàìåòðà.
Î ï ð å ä å ë å í è å 3.3.1. Ñòàòèñòèêà T = T (X) íàçûâàåòñÿ
äîñòàòî÷íîé äëÿ ïàðàìåòðà �, � 2 �, åñëè óñëîâíîå ðàñïðåäåëå-
íèå X ïðè äàííîì çíà÷åíèè T (X) � îäíî è òî æå äëÿ âñåõ � 2 �.
61
(Èíà÷å ãîâîðÿ, åñëè óïîìÿíóòîå óñëîâíîå ðàñïðåäåëåíèå íå ìåíÿ-
åòñÿ (íå çàâèñèò îò �), êîãäà � ïðîáåãàåò ìíîæåñòâî �).
Ä è ñ ê ð å ò í û é ñ ë ó ÷ à é. Êîãäà ðàñïðåäåëåíèå X äèñêðåò-
íî, ïîíÿòèå óñëîâíîãî ðàñïðåäåëåíèÿ X ââîäèòñÿ ýëåìåíòàðíî:
P
�
fX = xjT (X) = tg =
P
�
fX = x; T (X) = tg
P
�
fT (X) = tg
=
=
8
<
:
P
�
fX = xg
P
�
fT (X) = tg
; åñëè T (X) = t;
0; åñëè T (X) 6= t:
Ï ð è ì å ð: èñïûòàíèÿ Áåðíóëëè. Ïóñòü X = (X
1
; X
2
; : : : ; X
n
)
� ðåçóëüòàòû èñïûòàíèé Áåðíóëëè, â êîòîðûõ âåðîÿòíîñòü óñïåõà
åñòü �, � 2 (0; 1).  êà÷åñòâå ñòàòèñòèêè T (X) âîçüìåì T =
n
P
i=1
X
i
.
Çäåñü X
i
ïðèíèìàåò çíà÷åíèÿ 0 èëè 1 (X
i
� ÷èñëî óñïåõîâ â èñ-
ïûòàíèè ñ íîìåðîì i), T � îáùåå ÷èñëî óñïåõîâ â n èñïûòàíè-
ÿõ. Ýëåìåíòàðíàÿ âûêëàäêà ïîêàçûâàåò, ÷òî â ýòîì ïðèìåðå (ãäå
x = (x
1
; x
2
; : : : ; x
n
) � çàäàííàÿ ïîñëåäîâàòåëüíîñòü íóëåé è åäè-
íèö):
P
�
fX = xjT (X) = tg =
8
>
>
<
>
>
:
1
C
t
n
; åñëè
n
P
i=1
x
i
= t;
0 ; åñëè
n
P
i=1
x
i
6= t:
Êàê âèäíî èç �îðìóëû, T =
n
P
i=1
X
i
åñòü äîñòàòî÷íàÿ ñòàòèñòèêà
äëÿ �, � 2 (0; 1).
Í å ï ð å ð û â í û é ñ ë ó ÷ à é. Òàê, äëÿ êðàòêîñòè, íà-
çîâåì ñòàòèñòè÷åñêóþ ìîäåëü, â êîòîðîé ðàñïðåäåëåíèå P
�
ìîæåò
áûòü çàäàíî ñ ïîìîùüþ ïëîòíîñòè p (x; �) îòíîñèòåëüíî íåêîòîðîé
ìåðû. Äëÿ ïðîñòîòû ïðåäïîëîæèì, ÷òî X ïðèíèìàåò çíà÷åíèÿ â
êîíå÷íîìåðíîì ïðîñòðàíñòâå, è ÷òî P
�
îáëàäàåò ïëîòíîñòüþ îò-
íîñèòåëüíî ëåáåãîâñêîé ìåðû.  ýòîì ñëó÷àå çíà÷åíèÿ ñòàòèñòèêè
T âûäåëÿþò ìíîæåñòâà óðîâíÿ fx : T (x) = tg. Óñëîâíîå ðàñ-
ïðåäåëåíèå X íà ìíîæåñòâå óðîâíÿ fx : T (x) = tg â ýòîì ñëó÷àå
ìîæíî çàäàòü ñ ïîìîùüþ ïëîòíîñòè (îòíîñèòåëüíî ëåáåãîâñêîé
ìåðû íà ìíîæåñòâå óðîâíÿ). Ýòà óñëîâíàÿ ïëîòíîñòü ïðîïîðöèî-
íàëüíà p (x; �). Ïîñêîëüêó èíòåãðàë îò ïëîòíîñòè ñîñòàâëÿåò 1, ýòà
62
óñëîâíàÿ ïëîòíîñòü X ïðè äàííîì T (X) = t, ò. å. íà ìíîæåñòâå
óðîâíÿ fx : T (x) = tg, ðàâíà
p (x; �)
R
fy: T (y)=tg
p (y; �) dy
:
(Âûðàæåíèå â çíàìåíàòåëå � ýòî èíòåãðàë ïî ïîâåðõíîñòè óðîâ-
íÿ).
Ä î ñ ò à ò î ÷ í û å ð à ç á è å í è ÿ. Èç îïðåäåëåíèÿ äîñòà-
òî÷íîé ñòàòèñòèêè ñëåäóåò, ÷òî åñëè ñëó÷àéíàÿ �óíêöèÿ S = S(T )
íàõîäèòñÿ âî âçàèìíî îäíîçíà÷íîì ñîîòâåòñòâèè ñ äîñòàòî÷íîé
ñòàòèñòèêîé T = T (X), òî S òîæå ÿâëÿåòñÿ äîñòàòî÷íîé ñòàòè-
ñòèêîé. Ïîýòîìó ïðàâèëüíåå áûëî áû ãîâîðèòü íå î äîñòàòî÷íûõ
ñòàòèñòèêàõ, à î ïðîèçâîäèìûõ èìè ðàçáèåíèÿõ âûáîðî÷íûõ ïðî-
ñòðàíñòâ (ðàçáèåíèÿõ íà ìíîæåñòâà óðîâíÿ äîñòàòî÷íûõ ñòàòè-
ñòèê). Äîñòàòî÷íàÿ ñòàòèñòèêà T = T (X) ðàçáèâàåò âûáîðî÷íîå
ïðîñòðàíñòâî X íà ìíîæåñòâà óðîâíÿ fx : T (x) = Constg. Óñëîâ-
íûå ðàñïðåäåëåíèÿX íà ýëåìåíòàõ ýòèõ ðàçáèåíèé îäèíàêîâû äëÿ
âñåõ ðàñïðåäåëåíèé �, êîãäà � 2 �.
Ï ð è ì å ð. Ïóñòü X = (X
1
; : : : ; X
n
) � âûáîðêà èç ïîêàçà-
òåëüíîãî ðàñïðåäåëåíèÿ, ãäå ïëîòíîñòü îòäåëüíîãî íàáëþäåíèÿX
i
ðàâíà:
f(u; �) =
8
<
:
1
�
exp
�
�
u
�
�
äëÿ u � 0;
0 äëÿ u < 0:
Ïàðàìåòð � � íåîòðèöàòåëüíîå ÷èñëî, ò. å. � 2 (0;1). Ïîêàæåì,
÷òî T =
n
P
i=1
X
i
� äîñòàòî÷íàÿ ñòàòèñòèêà äëÿ � â ýòîé ìîäåëè.
Ïëîòíîñòü X â òî÷êå u = (u
1
; : : : ; u
n
) åñòü:
n
Y
i=1
f(u
i
; �) =
8
>
>
>
>
<
>
>
>
>
:
�
1
�
�
n
exp
0
B
B
�
�
n
P
i=1
u
i
�
1
C
C
A
äëÿ u
1
� 0; : : : ; u
n
� 0;
0 â ïðîòèâíîì ñëó÷àå:
Óñëîâíàÿ ïëîòíîñòü X ïðè �èêñèðîâàííîì T ðàâíà (â òî÷êå u
63
òàêîé, ÷òî
n
P
i=1
u
i
= T; u
1
� 0; : : : ; u
n
� 0):
�
1
�
�
n
exp
0
B
B
�
�
n
P
i=1
u
i
�
1
C
C
A
Z
fy:
P
y
i
=T;y
i
�0g
�
1
�
�
n
exp
0
B
B
�
�
n
P
i=1
y
i
�
1
C
C
A
dy
=
=
�
1
�
�
n
exp
�
�
T
�
�
�
1
�
�
n
exp
�
�
T
�
�
Z
fy:
P
y
i
=T;y
i
�0g
dy
= Const(T ):
Çäåñü îêàçàëîñü, ÷òî óñëîâíàÿ ïëîòíîñòü (íà ìíîæåñòâå óðîâíÿ)
íå òîëüêî íå çàâèñèò îò � � ÷òî äîêàçûâàåò, ÷òî ñòàòèñòèêà T
äîñòàòî÷íà, � íî íå çàâèñèò è îò êîîðäèíàòû u. Ýòî îçíà÷àåò, ÷òî
óêàçàííîå óñëîâíîå ðàñïðåäåëåíèå X � ðàâíîìåðíîå (íà êàæäîì
ìíîæåñòâå óðîâíÿ).
Âûêëàäêè, êîòîðûå ìû ïðîäåëàëè â äâóõ ðàññìîòðåííûõ ïðè-
ìåðàõ, ïî ñóùåñòâó ïîâòîðÿþòñÿ ïðè äîêàçàòåëüñòâå ñëåäóþùåé
òåîðåìû.
Ò å î ð å ì à (�àêòîðèçàöèè). Ñòàòèñòèêà T = T (X) äîñòà-
òî÷íà äëÿ ïàðàìåòðà �, � 2 � ò. è ò. ò., êîãäà ñóùåñòâóþò
�óíêöèè g(t; �) è h(x) òàêèå, ÷òî
p (x; �) = g(T (x); �)h(x) (3:3:1)
ïðè âñåõ � 2 �.
Ç à ì å ÷ à í è å. Âåëè÷èíà p (x; �) îáîçíà÷àåò ëèáî ïëîòíîñòü
íàáëþäåíèÿ X â òî÷êå x, åñëè ìîäåëü íåïðåðûâíà, ëèáî âåðîÿò-
íîñòü òî÷êè x, åñëè ìîäåëü äèñêðåòíà.
Äîêàçàòåëüñòâî ïðîâåäåì äëÿ äèñêðåòíîãî ñëó÷àÿ. Äëÿ íåïðå-
ðûâíîãî ñëó÷àÿ îíî, ïî ñóùåñòâó, ïîâòîðÿåòñÿ.
Ä î ê à ç à ò å ë ü ñ ò â î (äèñêðåòíûé ñëó÷àé).
(() Åñëè âûïîëíåíî (3.3.1), òî T = T (X) � äîñòàòî÷íàÿ ñòà-
òèñòèêà äëÿ �.
64
Íàäî ïîêàçàòü, ÷òî óñëîâíîå ðàñïðåäåëåíèå X ïðè äàííîì çíà-
÷åíèè T (X) íå çàâèñèò îò � 2 �.
Ñíà÷àëà âû÷èñëèì:
P
�
fT = tg =
X
x:T (x)=t
p (x; �) =
X
x:T (x)=t
g(T (x); �)h(x) = g(t; �)
X
x:T (x)=t
h(x):
Òåïåðü äëÿ x òàêîãî, ÷òî T (x) = t ïîëó÷àåì, ÷òî:
P
�
fX = xjT (X) = tg =
P
�
fX = x; T (X) = tg
P
�
fT (X) = tg
=
=
P
�
fX = xg
P
�
fT (X) = tg
=
g(T (x); �)h(x)
g(t; �)
P
y:T (y)=t
h(y)
=
h(x)
X
T (x)=t
h(x)
:
�åçóëüòàò íå çàâèñèò îò � 2 �.
Åñëè æå x òàêîâî, ÷òî T (x) 6= t, òî îáñóæäàåìàÿ óñëîâíàÿ âå-
ðîÿòíîñòü ðàâíà 0, âíå çàâèñèìîñòè îò �. Äîñòàòî÷íîñòü óñëîâèÿ
(3.3.1) äîêàçàíà.
()) Åñëè T � äîñòàòî÷íàÿ ñòàòèñòèêà, òî (3.3.1) âûïîëíåíî.
Åñëè T � äîñòàòî÷íà äëÿ � 2 �, òî äëÿ òàêèõ x, ÷òî T (x) = t
è äëÿ âñåõ � 2 �:
P
�
fX = xjT (X) = tg = h(x)
� óñëîâíàÿ âåðîÿòíîñòü íå çàâèñèò îò �, îáîçíà÷èì åå ÷åðåç h(x).
Ïîäðîáíåå:
P
�
fX = x; T (X) = tg
P
�
fT (X) = tg
= h(x):
Ïîñêîëüêó T (x) = t, òî äðîáü â ëåâîé ÷àñòè åñòü:
P
�
fX = xg
P
�
fT (X) = tg
:
Îòñþäà
P
�
fX = xg = P
�
fT (X) = tgh(x):
Îáîçíà÷èâ P
�
fT (X) = tg ÷åðåç g(t; �), ïîëó÷èì òî, ÷òî è òðåáîâà-
ëîñü äîêàçàòü. �
Çàìåòèì, ÷òî h(x) � ýòî óñëîâíàÿ âåðîÿòíîñòü X ïðè äàííîì
T (â òî÷êå x), ëèáî h(x) ïðîïîðöèîíàëüíà ýòîé óñëîâíîé âåðîÿò-
íîñòè. Àíàëîãè÷íî g(t; �) ëèøü ïîñòîÿííûì ìíîæèòåëåì ìîæåò
îòëè÷àòüñÿ îò âåðîÿòíîñòè P
�
fT (X) = tg.
65
Ï ð è ì å ð (ïðèìåíåíèÿ òåîðåìû �àêòîðèçàöèè äëÿ íàõîæäå-
íèÿ äîñòàòî÷íîé ñòàòèñòèêè).
Ëèíåéíàÿ (ãàóññîâñêàÿ) ìîäåëü � âàæíûé îáúåêò èññëåäîâà-
íèé è ïðèëîæåíèé. Ñíà÷àëà áóäåò äàíà åå àáñòðàêòíàÿ �îðìóëè-
ðîâêà, à çàòåì îäíà èç êîíêðåòíûõ �îðì. Íàáëþäàåìûé îáúåêò �
âåêòîð X . Ñåé÷àñ ìû ñ÷èòàåì åãî êîíå÷íîìåðíûì (ïðèíàäëåæèò
n-ìåðíîìó ïðîñòðàíñòâó), X = (X
1
; : : : ; X
n
)
T
� âåêòîð-ñòîëáåö.
Åãî êîîðäèíàòû ñ÷èòàåì íåçàâèñèìûìè ñëó÷àéíûìè âåëè÷èíà-
ìè, ðàñïðåäåëåííûìè ïî íîðìàëüíîìó çàêîíó, ïðè÷åì DX
i
= �
2
,
i = 1; n. Çíà÷åíèå �
2
íå èçâåñòíî. Îòíîñèòåëüíî EX ïðåäïîëî-
æèì, ÷òî EX , áóäó÷è íåèçâåñòíûì, ïðèíàäëåæèò çàäàííîìó ëè-
íåéíîìó ïîäïðîñòðàíñòâó L, L � R
n
. Åñëè îáîçíà÷èòü EX = l,
E(X � EX)(X � EX)
T
= D
�
X = �
2
I (I � åäèíè÷íàÿ ìàòðèöà),
òî X � N(l; �
2
I), ïðè÷åì l 2 L, L � çàäàíî.
Ïîêàæåì, ÷òî äîñòàòî÷íîé ñòàòèñòèêîé äëÿ (ñîñòàâíîãî) ïàðà-
ìåòðà � = (l; �
2
), ïðè÷åì l 2 L, ñëóæèò ïàðà (proj
L
X; jproj
L
?
X j
2
).
Çäåñü ÷åðåç proj
M
îáîçíà÷åí îïåðàòîð ïðîåêòèðîâàíèÿ (â åâêëè-
äîâîé ìåòðèêå) íà ïîäïðîñòðàíñòâî M � R
n
; L
?
îáîçíà÷àåò îð-
òîãîíàëüíîå äîïîëíåíèå L äî R
n
, ò.å. R
n
= L � L
?
. Äëÿ äîêà-
çàòåëüñòâà äîñòàòî÷íî óêàçàòü ïðàâäîïîäîáèå (l; �
2
) è çàòåì åãî
ïðåîáðàçîâàòü:
p (X; �)=
�
1
�
p
2�
�
n
exp
n
�
1
2�
2
n
X
i=1
(X
i
�l
i
)
2
o
=
�
1
�
p
2�
�
n
exp
n
�
1
2�
2
jX�lj
2
o
=
=
�
1
�
p
2�
�
n
exp
n
�
1
2�
2
j(proj
L
X � l) + proj
L
?
X j
2
o
:
Ïî òåîðåìå Ïè�àãîðà:
j(proj
L
X � l) + proj
L
?
X j
2
= jproj
L
X � lj
2
+ jproj
L
?
X j
2
;
èáî (proj
L
X � l) ? proj
L
?
X , ò.ê. l 2 L. Ïîýòîìó ïðàâäîïîäîáèå
(l; �
2
) ðàâíî
�
1
�
p
2�
�
n
exp
n
�
1
2�
2
jproj
L
X � lj
2
o
exp
n
�
1
2�
2
jproj
L
?
X j
2
j
o
:
Ìû âèäèì, ÷òî ïðàâäîïîäîáèå çàâèñèò îò ñòàòèñòèê proj
L
X è
jproj
L
?
X j, íî íå îò X íåïîñðåäñòâåííî. Ýòà ïàðà è ñîñòàâëÿåò äî-
ñòàòî÷íóþ ñòàòèñòèêó. (Çàìåòèì, ÷òî �óíêöèÿ h(X) çäåñü ðàâíà 1,
66
òî÷íåå � ïîñòîÿííà ïî îòíîøåíèþ ê X . Ýòî îçíà÷àåò, ÷òî óñëîâ-
íîå ðàñïðåäåëåíèå X ïðè �èêñèðîâàííîì çíà÷åíèè äîñòàòî÷íîé
ñòàòèñòèêè � ðàâíîìåðíîå).
� 4. Ëèíåéíàÿ ðåãðåññèÿ
Çàäà÷à ëèíåéíîé ðåãðåññèè � îäíà èç ÷àñòíûõ �îðì çàäà-
÷è ëèíåéíîé ìîäåëè.  ïðîñòåéøåì ñëó÷àå ýòî çàäà÷à î ïîäáî-
ðå �óíêöèè îäíîãî ïåðåìåííîãî � ïîäáîðå ïî íåòî÷íûì íàáëþ-
äåíèÿì (èçìåðåíèÿì). Ïðåäïîëîæèì, ÷òî äâå ïåðåìåííûå t è x
ñâÿçàíû ñîîòíîøåíèåì x = f(t), ãäå f(�) � íåêîòîðàÿ �óíêöèÿ.
Ïðè íåêîòîðûõ çíà÷åíèÿõ t
1
; t
2
; : : : ; t
n
ïåðåìåííîé t (íàçûâàåìîé
÷àñòî �àêòîðîì), áûëè ïðîèçâåäåíû èçìåðåíèÿ ïåðåìåííîé x (íà-
çûâàåìîé îòêëèêîì). Îíè äàëè çíà÷åíèÿ x
1
; x
2
; : : : ; x
n
. Ïðè ýòîì
x
i
= f(t
i
)+ "
i
, ãäå "
1
; : : : ; "
n
� êàêèå-òî, ñîïðîâîæäàþùèå èçìåðå-
íèÿ, îøèáêè. Îñíîâíîå ïðåäïîëîæåíèå ñîñòîèò â òîì, ÷òî ìû ñ÷è-
òàåì óïîìÿíóòûå "
1
; "
2
; : : : ; "
n
íåçàâèñèìûìè ñëó÷àéíûìè âåëè÷è-
íàìè. Ìåíåå âàæíûå ïðåäïîëîæåíèÿ: "
i
ðàñïðåäåëåíû îäèíàêîâî
è ðàñïðåäåëåíû ïî íîðìàëüíîìó çàêîíó N(0; �
2
). Ïðåäïîëîæåíèå
E"
i
= 0 îòðàæàåò ïðåäñòàâëåíèå î òîì, ÷òî ñèñòåìàòè÷åñêèõ îøè-
áîê ïðè èçìåðåíèè îòêëèêà â íàøåé ñõåìå íåò. Âåëè÷èíà � îáû÷íî
ñ÷èòàåòñÿ íåèçâåñòíîé (íåîáÿçàòåëüíî). Îíà ÷èñëåííî âûðàæàåò
íåòî÷íîñòü (èçìåí÷èâîñòü) èçìåðåíèé, ò. å. ìàñøòàá ñëó÷àéíûõ
îøèáîê.
Ïîñëåäíåå ïðåäïîëîæåíèå, ïðåâðàùàþùåå çàäà÷ó ðåãðåññèè â
ëèíåéíóþ: ñ÷èòàåì, ÷òî f(�) ìîæíî (ñ äîñòàòî÷íîé àêêóðàòíî-
ñòüþ) âûðàçèòü â âèäå ëèíåéíîé êîìáèíàöèè çàäàííîãî êîíå÷íî-
ãî íàáîðà �óíêöèé (ñêàæåì '
1
; '
2
; : : :): ñóùåñòâóþò ïàðàìåòðû
�
1
; : : : ; �
m
òàêèå, ÷òî
f(t) = �
1
'
1
(t) + �
2
'
2
(t) + � � �+ �
m
'
m
(t):
 ýòîì ñëó÷àå âåêòîð X = (x
1
; x
2
; : : : ; x
n
)
T
ïðåäñòàâëÿåòñÿ â âèäå
ëèíåéíîé êîìáèíàöèè âåêòîðîâ:
�
j
= ('
j
(t
1
); '
j
(t
2
); : : : ; '
j
(t
n
))
T
; j = 1;m
è âåêòîðà " ñëó÷àéíûõ îøèáîê: " = ("
1
; : : : ; "
n
)
T
:
X =
m
X
j=1
�
j
�
j
+ ":
67
Ëèíåéíîå ïîäïðîñòðàíñòâî L, êîòîðîìó çàâåäîìî ïðèíàäëåæèò
âåêòîð EX , â äàííîì ñëó÷àå ïîðîæäåíî âåêòîðàìè �
1
; �
2
; : : : ; �
m
.
� 5. Íîðìàëüíàÿ âûáîðêà
�àññìîòðèì âûáîðêó x
1
; x
2
; : : : ; x
n
èç íîðìàëüíîé ñîâîêóïíî-
ñòè N(a; �
2
), ãäå ïàðàìåòðû a 2 R
1
, �
2
2 (0;1) íåèçâåñòíû. Òåî-
ðåìà �àêòîðèçàöèè ïîìîãàåò íàéòè äîñòàòî÷íûå ñòàòèñòèêè äëÿ
(a; �
2
). Âûïèøåì �óíêöèþ ïðàâäîïîäîáèÿ ýòîé ìîäåëè (ïîëüçóÿñü
íåçàâèñèìîñòüþ ãàóññîâñêèõ ñëó÷àéíûõ âåëè÷èí x
1
; x
2
; : : : ; x
n
) è
ïðåîáðàçóåì åå:
n
Y
i=1
1
�
p
2�
exp
n
�
(x
i
� a)
2
2�
2
o
=
=
�
1
�
p
2�
�
n
exp
n
�
1
2�
2
h
n
X
i=1
x
2
i
� 2a
n
X
i=1
x
i
+ na
2
io
:
Ïîñêîëüêó ïðàâäîïîäîáèå çàâèñèò îò ïåðåìåííûõ x
1
; x
2
; : : : ; x
n
ëèøü ïîñðåäñòâîì ñòàòèñòèê
n
P
i=1
x
i
è
n
P
i=1
x
2
i
, ýòà ïàðà è ÿâëÿåòñÿ äî-
ñòàòî÷íîé ñòàòèñòèêîé äëÿ (a; �
2
). Ìû óæå îáðàùàëè âíèìàíèå íà
òî, ÷òî ãëàâíûì â îïðåäåëåíèè äîñòàòî÷íîé ñòàòèñòèêè T = T (X)
ÿâëÿåòñÿ íå åå êîíêðåòíûé âèä, à òî ðàçáèåíèå âûáîðî÷íîãî ïðî-
ñòðàíñòâà íà ìíîæåñòâà óðîâíÿ âèäà fT (X) = Constg, êîòîðîå
îíà ïðîèçâîäèò. Ëþáàÿ äðóãàÿ ñòàòèñòèêà, åñëè îíà ïîðîæäàåò òî
æå ñàìîå ðàçáèåíèå, òîæå ÿâëÿåòñÿ äîñòàòî÷íîé.  ÷àñòíîñòè, äî-
ñòàòî÷íîé îêàæåòñÿ ëþáàÿ ñòàòèñòèêà, íàõîäÿùàÿñÿ âî âçàèìíî
îäíîçíà÷íîì ñîîòâåòñòâèè ñ T (X). Äëÿ îáñóæäàåìîé íîðìàëüíîé
âûáîðêè ïðåäïî÷èòàåìîé äîñòàòî÷íîé ñòàòèñòèêîé ñëóæèò ïàðà
(�x; s
2
):
�x =
1
n
n
X
i=1
x
i
; s
2
=
1
n� 1
n
X
i=1
(x
i
� �x)
2
:
Ëåãêî âèäåòü, ÷òî (�x; s
2
) âçàèìíî îäíîçíà÷íî ñâÿçàíà ñ (
n
P
i=1
x
i
,
n
P
i=1
x
2
i
). Î ïðåèìóùåñòâàõ, êîòîðûå äàåò ñòàòèñòèêà (�x; s
2
) ïåðåä
äðóãèìè ñòàòèñòèêàìè äëÿ (a; �
2
), ìû ïîäðîáíåå áóäåì ãîâîðèòü
68
ïîçæå. Ñåé÷àñ îòìåòèì ëèøü òî, ÷òî �x è s
2
íåñìåùåííî îöåíèâàþò
a è �
2
:
E�x = a; Es
2
= �
2
:
Âàæíîñòü ýòèõ ñâîéñòâ áóäåò ÿñíà óæå íà ñëåäóþùåé ëåêöèè. Çà-
ìåòèì, ÷òî ýòè ñîîòíîøåíèÿ ñïðàâåäëèâû äëÿ ëþáîé, íå òîëüêî
ãàóññîâñêîé, âûáîðêè (åñëè Dx
2
i
ñóùåñòâóþò).
Âûáîðêà èçN(a; �
2
) ÿâëÿåòñÿ ÷àñòíûì ñëó÷àåì ëèíåéíîé ìîäå-
ëè. �àññìîòðèì âåêòîð X = (x
1
; x
2
; : : : ; x
n
)
T
. Åãî ìàòåìàòè÷åñêîå
îæèäàíèå ðàâíî (a; a; : : : ; a)
T
, è ïîòîìó ïðèíàäëåæèò ëèíåéíîìó
ïîäïðîñòðàíñòâó L, ïîðîæäåííîìó âåêòîðîì (1; : : : ; 1)
T
. Òàê êàê
êîîðäèíàòû âåêòîðà X íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû, òî
DX = �
2
I . Òàêèì îáðàçîì, ïðåäïîñûëêè ëèíåéíîé ìîäåëè ñîáëþ-
äåíû. Äîñòàòî÷íûå ñòàòèñòèêè îáùåé ëèíåéíîé ìîäåëè â äàííîì
ñëó÷àå ñóòü:
proj
L
X = �x(1; 1; : : : ; 1)
T
;
jproj
L
?
X j
2
=
n
X
i=1
(x
i
� �x)
2
= (n� 1)s
2
:
Ïðè îáñóæäåíèè ãàóññîâñêîé ëèíåéíîé ìîäåëè ìû îòìå÷àëè,
÷òî óñëîâíîå ðàñïðåäåëåíèå X ïðè �èêñèðîâàííîì çíà÷åíèè äî-
ñòàòî÷íîé ñòàòèñòèêè � ðàâíîìåðíîå. Èç ýòîãî îáñòîÿòåëüñòâà
ìîæíî èçâëå÷ü èíòåðåñíûå ñëåäñòâèÿ.  äàííîì ïðèìåðå óïîìÿ-
íóòîå óñëîâíîå ðàñïðåäåëåíèå ñîñðåäîòî÷åíî íà (n � 2)-ìåðíîé
ñ�åðå:
�
y : y 2 R
n
;
n
X
i=1
y
i
= n�x;
n
X
i=1
(y
i
� �y)
2
= (n� 1)s
2
:
�àññìîòðèì âåêòîð
Y =
�
x
1
� �x
s
p
n� 1
;
x
2
� �x
s
p
n� 1
; : : : ;
x
n
� �x
s
p
n� 1
�
T
:
Ïðè �èêñèðîâàííîì çíà÷åíèè äîñòàòî÷íîé ñòàòèñòèêè (�x; s
2
) âåê-
òîð Y ÿâëÿåòñÿ ëèíåéíûì (è âçàèìíî-îäíîçíà÷íûì) ïðåîáðàçî-
âàíèåì âåêòîðà X . Ïîýòîìó óñëîâíîå (ïðè �èêñèðîâàííûõ �x; s
2
)
ðàñïðåäåëåíèå Y òîæå ÿâëÿåòñÿ ðàâíîìåðíûì. Ýòî óñëîâíîå ðàñ-
ïðåäåëåíèå ñîñðåäîòî÷åíî íà (n� 2)-ìåðíîé åäèíè÷íîé ñ�åðå
S
n�2
=
�
y : y 2 R
n
;
n
X
i=1
y
i
= 0;
n
X
i=1
y
2
i
= 1
:
69
Òåïåðü çàìåòèì, ÷òî ñêàçàííîå óñëîâíîå ðàñïðåäåëåíèå Y ïðè ëþ-
áûõ çíà÷åíèÿõ �x; s
2
� îäíî è òî æå (à èìåííî, ðàâíîìåðíîå íà
S
n�2
). Çíà÷èò:
� âåêòîð Y êàê ñëó÷àéíûé ýëåìåíò íå çàâèñèò îò �x; s
2
;
� (áåçóñëîâíîå) ðàñïðåäåëåíèå Y ñîâïàäàåò ñ óñëîâíûì, ò. å.
ÿâëÿåòñÿ óæå èçâåñòíûì ðàâíîìåðíûì ðàñïðåäåëåíèåì íà
S
n�2
.
Èç ñêàçàííîãî ñëåäóåò, ÷òî äëÿ íîðìàëüíîé âûáîðêè òàêèå (÷à-
ñòî ïðèìåíÿåìûå íà ïðàêòèêå) ñòàòèñòèêè, êàê âûáîðî÷íûé êîý�-
�èöèåíò àñèììåòðèè
1
n
n
X
i=1
�
x
i
� �x
s
�
3
è âûáîðî÷íûé êîý��èöèåíò
ýêñöåññà
1
n
n
X
i=1
�
x
i
� �x
s
�
4
� 3 ñòàòèñòè÷åñêè íåçàâèñèìû îò (�x; s
2
).
À èõ ðàñïðåäåëåíèÿ íå çàâèñÿò îò íåèçâåñòíûõ ïàðàìåòðîâ a; �
2
è ìîãóò áûòü âû÷èñëåíû è òàáóëèðîâàíû.
Óïîìÿíóòûå ñòàòèñòèêè ìîãóò ñëóæèòü äëÿ ïðîâåðêè íîð-
ìàëüíîñòè èìåþùåéñÿ âûáîðêè. Åñëè çíàòü, ÷òî äàííàÿ âûáîðêà
� íîðìàëüíàÿ, å¼ ìîæíî èññëåäîâàòü î÷åíü äåòàëüíî. (Èç äàëü-
íåéøèõ ëåêöèé áóäåò âèäíî, êàê). Äëÿ îáùåé ëèíåéíîé ãàóññîâ-
ñêîé ìîäåëè óòâåðæäåíèå î ðàâíîìåðíîì ðàñïðåäåëåíèè ñëó÷àé-
íîãî âåêòîðà (X�proj
L
X)=jproj
L
?
X j (íà åäèíè÷íîé ñ�åðå ðàçìåð-
íîñòè n� r, ãäå r = dimL) è åãî ñòàòèñòè÷åñêîé íåçàâèñèìîñòè îò
ïàðû (proj
L
X; jproj
L
?
X j
2
) äîêàçûâàåòñÿ àíàëîãè÷íî. Àíàëîãè÷íî
ìû ìîæåì ñîñòàâèòü êîý��èöèåíòû àñèììåòðèè è ýêñöåññà, è òî-
æå èñïîëüçîâàòü èõ äëÿ ïðîâåðêè íîðìàëüíîñòè ðàñïðåäåëåíèÿ X
â ëèíåéíîé ìîäåëè.
70
Ëåêöèÿ 4. Íàèëó÷øèå íåñìåùåííûå îöåí-
êè
Ïîä ýòèì íàçâàíèåì îáû÷íî ðàçóìåþò íåñìåùåííûå îöåíêè ñ
ìèíèìàëüíûì êâàäðàòè÷íûì ðèñêîì.
Äëÿ ñêàëÿðíîãî ïàðàìåòðà (è äëÿ ñêàëÿðíûõ �óíêöèé îò ïà-
ðàìåòðà) ýòî íåñìåùåííûå îöåíêè ñ ìèíèìàëüíîé äèñïåðñèåé; äëÿ
âåêòîðíîãî (êîíå÷íîìåðíîãî) ïàðàìåòðà è �óíêöèé îò íåãî � ýòî
íåñìåùåííûå îöåíêè ñ íàèìåíüøåé ìàòðèöåé êîâàðèàöèé. Â íåêî-
òîðûõ ñëó÷àÿõ óêàçàòü íàèëó÷øóþ íåñìåùåííóþ îöåíêó ïîìîãà-
þò íåðàâåíñòâà Êðàìåðà-�àî: åñëè îöåíêà ý��åêòèâíàÿ, òî îíà è
íàèëó÷øàÿ â óêàçàííîì âûøå ñìûñëå, òàê êàê èìååò íàèìåíüøóþ
âîçìîæíóþ äèñïåðñèþ.
Íî äàæå äëÿ ýêñïîíåíöèàëüíûõ ñåìåéñòâ ðàñïðåäåëåíèé, äëÿ
êîòîðûõ òîëüêî è ñóùåñòâóþò ý��åêòèâíûå îöåíêè, ý��åêòèâíî
îöåíèòü ìîæíî ëèøü îäíó êàêóþ-òî �óíêöèþ îò ïàðàìåòðà. Ñêà-
æåì, äëÿ èñïûòàíèé Áåðíóëëè, â êîòîðûõ ïàðàìåòðîì � ñëóæèò
âåðîÿòíîñòü óñïåõà, ý��åêòèâíàÿ îöåíêà åñòü òîëüêî äëÿ � (ýòî
÷àñòîòà óñïåõîâ). Íî êàêîâû íàèëó÷øèå íåñìåùåííûå îöåíêè, íà-
ïðèìåð, äëÿ �(1��) èëè �
2
? Âîïðîñ òåì áîëåå îòêðûò äëÿ ñåìåéñòâ
ðàñïðåäåëåíèé, íå ÿâëÿþùèõñÿ ýêñïîíåíöèàëüíûìè. Èçâåñòíûå ê
íàñòîÿùåìó âðåìåíè îáîáùåíèÿ íåðàâåíñòâà Êðàìåðà-�àî ðàñøè-
ðÿþò íàøè âîçìîæíîñòè íå ñëèøêîì çíà÷èòåëüíî.
Çàäà÷ó î íàèëó÷øèõ íåñìåùåííûõ îöåíêàõ óäàåòñÿ ïðîäâè-
íóòü (à ÷àñòî è ïîëíîñòüþ ðåøèòü), åñëè äëÿ íåèçâåñòíîãî ïà-
ðàìåòðà ñóùåñòâóåò äîñòàòî÷íàÿ ñòàòèñòèêà. Íåñìåùåííîå îöåíè-
âàíèå ïðè äîñòàòî÷íîé ñòàòèñòèêå è áóäåò íàøåé òåêóùåé òåìîé.
Äëÿ åå îáñóæäåíèÿ íàì ïîíàäîáèòñÿ ïîíÿòèå óñëîâíîãî ìàòåìàòè-
÷åñêîãî îæèäàíèÿ îäíîé ñëó÷àéíîé âåëè÷èíû ïðè �èêñèðîâàííîì
çíà÷åíèè äðóãîé.  ïîëíîì îáúåìå îíî áóäåò ââåäåíî è èçó÷åíî â
ñëåäóþùåé ëåêöèè. À ñåé÷àñ, ÷òîáû çàâåðøèòü òåìó íàèëó÷øåãî
íåñìåùåííîãî îöåíèâàíèÿ, ìû îãðàíè÷èìñÿ íå�îðìàëüíûì òîëêî-
âàíèåì ýòîãî ïîíÿòèÿ. À òàêæå óêàæåì íåêîòîðûå åãî ñâîéñòâà,
íåîáõîäèìûå äëÿ óïîìÿíóòîé öåëè.
� 1. Óñëîâíûå ìàòåìàòè÷åñêèå îæèäàíèÿ
Ïóñòü ñëó÷àéíûå âåëè÷èíû X è Y çàäàíû íà îäíîì âåðîÿò-
íîñòíîì ïðîñòðàíñòâå. (Ñîäåðæàòåëüíî ýòî îçíà÷àåò, ÷òî çíà÷å-
71
íèÿ ïåðåìåííûõ X , Y ïîëó÷åíû â îäíîì ýêñïåðèìåíòå). Ïîíÿòèå
óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ X ïðè äàííîì çíà÷åíèè Y
� äàëåå E(X jY ) � ìîæíî ââåñòè ýëåìåíòàðíûìè ñðåäñòâàìè, åñ-
ëè ïðè êàæäîì çíà÷åíèè Y ñóùåñòâóåò óñëîâíîå ðàñïðåäåëåíèå X .
�àññìîòðèì óñëîâíîå ðàñïðåäåëåíèå X ïðè äàííîì Y . Óñðåäíèì
çíà÷åíèÿ X (ïðè äàííîì Y ) ïî ýòîìó óñëîâíîìó ðàñïðåäåëåíèþ.
Ïîëó÷åííûé ðåçóëüòàò (÷èñëî, åñëè X ïðèíèìàåò ÷èñëîâûå çíà-
÷åíèÿ, âåêòîð-ñòîëáåö, åñëè çíà÷åíèÿ X ñóòü âåêòîðû-ñòîëáöû è
ò.ä.) çàâèñèò îò �èêñèðîâàííîãî çíà÷åíèÿ Y , ò.å. ÿâëÿåòñÿ �óíê-
öèåé Y . Åãî íàçûâàþò óñëîâíûì ìàòåìàòè÷åñêèì îæèäàíèåì X
ïðè äàííîì Y è îáîçíà÷àþò êàê E(X jY ). Ïîñêîëüêó Y � ñëó÷àé-
íàÿ âåëè÷èíà, E(X jY ) òîæå ÿâëÿåòñÿ ñëó÷àéíîé âåëè÷èíîé.
Åñëè ñîâìåñòíîå ðàñïðåäåëåíèå (X;Y ) èìååò ïëîòíîñòü p (x; y)
(ëèáî äèñêðåòíî), òî �îðìóëó äëÿ E(X jY ) ìîæíî ïîëó÷èòü ÿâíî.
 ýòîì ñëó÷àå óñëîâíîå ðàñïðåäåëåíèå X ïðè äàííîì Y èìååò
ïëîòíîñòü (â òî÷êå x), ðàâíóþ
p (x; Y )
R
p (x; Y )dx
:
Îòñþäà
E(X jY ) =
R
x p (x; Y )dx
R
p (x; Y )dx
:
Àíàëîãè÷íàÿ �îðìóëà (ñ çàìåíîé èíòåãðèðîâàíèÿ ñóììèðîâàíè-
åì) äåéñòâóåò è â äèñêðåòíîì ñëó÷àå.
 îáùåì ñëó÷àå ñîîòíîøåíèå ìåæäó óñëîâíûì ðàñïðåäåëåíè-
åì è óñëîâíûì ìàòåìàòè÷åñêèì îæèäàíèåì � îáðàòíîå ïî îòíîøå-
íèþ ê îïèñàííîìó: E(X jY ) ïåðâè÷íî è ââîäèòñÿ íåïîñðåäñòâåííî,
à ïîíÿòèå óñëîâíîãî ðàñïðåäåëåíèÿ X ïðè äàííîì Y ìîæåò áûòü
îïðåäåëåíî íà åãî îñíîâå.
Óêàæåì íåêîòîðûå ñâîéñòâà óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäà-
íèé, êîòîðûå íàì ñåé÷àñ ïîíàäîáÿòñÿ. Ëèíåéíûå ñâîéñòâà âïîëíå
îæèäàåìû è åñòåñòâåííû:
1) E(X
1
+X
2
jY ) = E(X
1
jY ) +E(X
2
jY ):
(Çäåñü ñëó÷àéíûå âåëè÷èíû X
1
, X
2
, äîëæíû áûòü çàäàíû íà
òîì æå ïðîñòðàíñòâå ýëåìåíòàðíûõ èñõîäîâ, ÷òî è Y ).
2) E(kX jY ) = kE(X jY );
ãäå k � ïîñòîÿííûé (íåñëó÷àéíûé) ìíîæèòåëü.
72
3) E[f(Y )X jY ℄ = f(Y )E(X jY ), ãäå f(Y ) � �óíêöèÿ Y .
Ýòî ñâîéñòâî òîæå åñòåñòâåííî, èáî ïðè �èêñèðîâàííîì çíà-
÷åíèè Y ñëó÷àéíàÿ âåëè÷èíà f(Y ) ïîñòîÿííà, à ïîñòîÿííûé
ìíîæèòåëü ìîæíî âûíîñèòü çà çíàê ìàòåìàòè÷åñêîãî îæè-
äàíèÿ. Íàäî îãîâîðèòü, ÷òî ïåðå÷èñëåííûå âûøå ðàâåíñòâà
âûïîëíÿþòñÿ ñ âåðîÿòíîñòüþ 1, èáî îíè ñîåäèíÿþò ñëó÷àé-
íûå âåëè÷èíû. Íóæíî òàêæå, ÷òîáû ñóùåñòâîâàëî EjX j (â
ïåðâîì ïóíêòå äîëæíû ñóùåñòâîâàòü EjX
1
j è EjX
2
j).
Íàèáîëåå âàæíûì ÿâëÿåòñÿ ñâîéñòâî
4) E[E(X jY )℄ = EX:
� 2. Óëó÷øåíèå íåñìåùåííûõ îöåíîê
Âåðíåìñÿ ê îáñóæäàâøåéñÿ çàäà÷å î íåñìåùåííûõ îöåíêàõ ñ
ìèíèìàëüíîé äèñïåðñèåé. Â å¼ ðåøåíèè ìîæíî ñäåëàòü øàã âïå-
ðåä, åñëè â ñòàòèñòè÷åñêîé ìîäåëè åñòü äîñòàòî÷íàÿ ñòàòèñòèêà.
Ïóñòü X � íàáëþäàåìàÿ ñëó÷àéíàÿ âåëè÷èíà, ðàñïðåäåëåííàÿ
ïî íåêîòîðîìó çàêîíó P
�
, ãäå � � íåèçâåñòíûé ïàðàìåòð, � 2 �,
� � çàäàíî.
Ïóñòü d = d(X) � íåñìåùåííàÿ îöåíêà �(�), ãäå �(�) � çàäàí-
íàÿ �óíêöèÿ, ò.å.:
E
�
d(X) = �(�) äëÿ âñåõ � 2 �;
ïðè÷åì E
�
jd(X)j ñóùåñòâóåò.
Ïóñòü T (X) � äîñòàòî÷íàÿ ñòàòèñòèêà äëÿ ïàðàìåòðà �. �àñ-
ñìîòðèì óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå d(X) ïðè äàííîì T :
'(T ) = E(d(X)jT ):
Çàìåòèì, ÷òî E(d(X)jT ) íå çàâèñèò îò �, òàê êàê îò � íå çàâèñèò
óñëîâíîå ðàñïðåäåëåíèå X ïðè äàííîì T � â ñèëó îïðåäåëåíèÿ
äîñòàòî÷íîé ñòàòèñòèêè.
Ò å î ð å ì à (Bla kwell-Rao, 1947-1949). Ïðè óêàçàííûõ âûøå
óñëîâèÿõ
(a) E
�
'(T ) = �(�),
(b) D
�
'(T ) � D
�
d(X).
73
Ïðè÷åì ðàâåíñòâî â (b) äîñòèãàåòñÿ, åñëè (è òîëüêî åñëè)
'(T ) = d(X) (ñ âåðîÿòíîñòüþ 1, äëÿ êàæäîãî � 2 �).
Ä î ê à ç à ò å ë ü ñ ò â î. Óòâåðæäåíèå (a) âûïîëíÿåòñÿ â ñèëó
ñâîéñòâà óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäàíèé EE(X jY ) = EX :
E
�
E[d(X)jT ℄ = E
�
d(X) = �(�):
Äîêàçàòåëüñòâî ñâîéñòâà (b) ïðîâåäåì ñíà÷àëà äëÿ îäíîìåðíûõ
', d è � ; ìíîãîìåðíûé ñëó÷àé ðàññìîòðèì íèæå.
Î ä í î ì å ð í û é ñ ë ó ÷ à é.
D
�
d(X) = E
�
[d(X)� �(�)℄
2
= E
�
[(d(X)�'(T )) + ('(T )� �(�))℄
2
=
E
�
(d� ')
2
+E
�
('� �)
2
+ 2E
�
(d� ')(' � �) = E
�
(d� ')
2
+D
�
';
ïîñêîëüêó
E
�
(d�')('��)=E
�
E
�
[(d�')('��)jT ℄=E
�
('� �)E
�
[(d� ')jT ℄=0;
èáî E
�
[(d(X)� '(T ))jT ℄ = E(djT )�E('jT ) = '� ' = 0.
(Ïîñëåäíåå ðàâåíñòâî � ñ âåðîÿòíîñòüþ 1 äëÿ êàæäîãî ðàñïðå-
äåëåíèÿ P
�
). �àâåíñòâî â (b) äîñòèãàåòñÿ, åñëè (è òîëüêî åñëè)
E
�
[d(X)� '(T )℄
2
= 0 ïðè âñåõ �:
Ýòî âîçìîæíî, åñëè (è òîëüêî åñëè) d(X) = '(T ) ñ âåðîÿòíîñòüþ 1
äëÿ âñåõ P
�
ðàñïðåäåëåíèé.
Ì í î ã î ì å ð í û é ñ ë ó ÷ à é. Ïóñòü d(X), �(�) ïðèíè-
ìàþò çíà÷åíèÿ â R
p
, çàïèñûâàåì èõ â âèäå ñòîëáöîâ, D
�
d < 1.
Ïóñòü z 2 R
p
, z � ïðîèçâîëüíûé âåêòîð. �àññìîòðèì ñêàëÿðíûå
âåëè÷èíû:
� = �(X) := z
T
d(X);
� = �(T ) := E[�(X)jT ℄ = z
T
E[d(X)jT ℄ = z
T
'(T );
t = t(�) := z
T
�(�):
ßñíî, ÷òî E
�
�(X) = t(�) = E
�
�(T ). Ïî îäíîìåðíîé òåîðåìå
Áëåêâåëëà-�àî
D
�
�(T ) � D
�
�(X):
Îòêóäà
D
�
(z
T
') � D
�
(z
T
d);
74
èëè
z
T
(D
�
')z � z
T
(D
�
d)z;
èëè
D
�
' � D
�
d:
�àâåíñòâî � åñëè
P
�
f�(T ) = �(X)g = 1;
èëè
P
�
fz
T
('(T )� d(X)) = 0g = 1
äëÿ âñåõ � 2 � è äëÿ âñåõ z 2 R
p
. �
� 3. Ïîëíûå äîñòàòî÷íûå ñòàòèñòèêè
Èç òåîðåìû Áëåêâåëëà-�àî ìîæíî ñäåëàòü, ïî ìåíüøåé ìåðå,
äâà âûâîäà:
� ýòà òåîðåìà äàåò ñïîñîá óëó÷øèòü íåñìåùåííóþ îöåíêó, åñëè
ìû òàêîé îöåíêîé óæå ðàñïîëàãàåì;
� îíà ãîâîðèò, ÷òî ïðè ïîèñêå íàèëó÷øåé íåñìåùåííîé îöåí-
êè ìîæíî îãðàíè÷èòü ñåáÿ �óíêöèÿìè îò äîñòàòî÷íîé ñòà-
òèñòèêè. Åñëè òàêàÿ (çàâèñÿùàÿ îò äîñòàòî÷íîé ñòàòèñòèêè)
íåñìåùåííàÿ îöåíêà åäèíñòâåííà, òî îíà àâòîìàòè÷åñêè îêà-
çûâàåòñÿ íàèëó÷øåé.
Åäèíñòâåííîñòü çàâèñÿùåé îò äîñòàòî÷íîé ñòàòèñòèêè íåñìå-
ùåííîé îöåíêè îáåñïå÷èâàåòñÿ òàê íàçûâàåìîé ïîëíîòîé äîñòà-
òî÷íîé ñòàòèñòèêè.
Î ï ð å ä å ë å í è å 4.3.1. Äîñòàòî÷íàÿ ñòàòèñòèêà T = T (X)
íàçûâàåòñÿ ïîëíîé, åñëè óðàâíåíèå îòíîñèòåëüíî �óíêöèè f(�)
E
�
f(T ) = 0 äëÿ âñåõ � 2 �
èìååò òîëüêî òðèâèàëüíîå f � 0 ðåøåíèå.
Ïîëíîòà, î÷åâèäíî, ÿâëÿåòñÿ ñâîéñòâîì ñåìåéñòâà ðàñïðåäåëå-
íèé ñòàòèñòèêè X . Ïîýòîìó ÷àñòî ãîâîðÿò î ïîëíûõ ñåìåéñòâàõ
ðàñïðåäåëåíèé (çàâèñÿùèõ îò �, � 2 �).
Ò å î ð å ì à (Ëåìàí, Øå��å, 1955). Åñëè T = T (X) � ïîëíàÿ
äîñòàòî÷íàÿ ñòàòèñòèêà è ' = '(T ) � íåñìåùåííàÿ îöåíêà
�(�), � 2 �, òî '(T (X)) � íàèëó÷øàÿ íåñìåùåííàÿ îöåíêà �(�).
75
Ä î ê à ç à ò å ë ü ñ ò â î. Äîñòàòî÷íî äîêàçàòü åäèíñòâåííîñòü
òàêîé îöåíêè '. Ïðåäïîëîæèì, ÷òî ñóùåñòâóåò äðóãàÿ (îòëè÷íàÿ
îò '(T )) íåñìåùåííàÿ îöåíêà (T ), òàê ÷òî
E
�
(T ) = E
�
'(T ) = �(�) äëÿ âñåõ � 2 �:
 ýòîì ñëó÷àå E
�
[ (T )� '(T )℄ = 0 äëÿ âñåõ � 2 �: Ïîñêîëüêó
ñòàòèñòèêà T � ïîëíàÿ, îòñþäà ñëåäóåò, ÷òî
(T )� '(T ) = 0 ïî÷òè íàâåðíîå, äëÿ âñåõ � 2 �:
Ò. å. îöåíêà ' � åäèíñòâåííà (ñ òî÷íîñòüþ äî ìíîæåñòâà ìåðû
íóëü), ÷òî è òðåáîâàëîñü äîêàçàòü. �
Ï ð è ì å ð 1. Èñïûòàíèÿ Áåðíóëëè. ×èñëî óñïåõîâ S
n
(÷àñòî-
òà) â n èñïûòàíèÿõ Áåðíóëëè ÿâëÿåòñÿ ïîëíîé äîñòàòî÷íîé ñòà-
òèñòèêîé äëÿ âåðîÿòíîñòè óñïåõà �, êîãäà ýòà âåðîÿòíîñòü � ðàñ-
ñìàòðèâàåòñÿ êàê íåèçâåñòíûé ïàðàìåòð, � 2 (0; 1). Êàê èçâåñòíî,
ðàñïðåäåëåíèå S
n
ÿâëÿåòñÿ áèíîìèíàëüíûì:
P
�
fS
n
= mg = C
m
n
�
m
(1� �)
n�m
äëÿ m = 0; n:
Ïîýòîìó ðå÷ü èäåò î ïîëíîòå ñåìåéñòâà áèíîìèíàëüíûõ ðàñïðå-
äåëåíèé, çàâèñÿùèõ îò ïàðàìåòðà �, � 2 (0; 1). �àññìîòðèì óðàâ-
íåíèå îòíîñèòåëüíî f(�):
E
�
f(S
n
) = 0: (4:3:1)
 äàííîì ñëó÷àå �óíêöèÿ f(�) äîëæíà áûòü îïðåäåëåíà íà ìíîæå-
ñòâå (0; 1; 2; : : : ; n), òàê ÷òî ìîæíî ãîâîðèòü î ïîñëåäîâàòåëüíîñòè
f(0); f(1); : : : ; f(n). Óðàâíåíèå (4.3.1) èìååò âèä:
n
X
m=0
C
m
n
f(m)�
m
(1� �)
n�m
= 0 äëÿ âñåõ � 2 (0; 1): (4:3:2)
Ââåäåì ïåðåìåííóþ z =
�
1� �
. Î÷åâèäíî, ÷òî z 2 (0;1) è ïðîáå-
ãàåò ýòî ìíîæåñòâî, êîãäà � ïðîáåãàåò ìíîæåñòâî (0, 1). Ñîêðàòèâ
(4.3.1) íà ìíîæèòåëü (1 � �)
n
, ïîëó÷àåì äëÿ ïîñëåäîâàòåëüíîñòè
f(0); f(1); : : : ; f(n), � ò. å. äëÿ �óíêöèè f(�) � óðàâíåíèå:
n
X
m=0
C
m
n
f(m)z
m
= 0; z 2 (0;1):
76
Ìíîãî÷ëåí (îò z) ñòåïåíè n ìîæåò òîæäåñòâåííî (íà îòêðûòîì
ìíîæåñòâå) îáðàùàòüñÿ â íóëü, òîëüêî åñëè âñå åãî êîý��èöèåí-
òû ðàâíû íóëþ. Îòñþäà ñëåäóåò, ÷òî f(0) = f(1) = : : : = f(n) = 0.
Òàêèì îáðàçîì, óðàâíåíèå (4.3.1) èìååò ëèøü òðèâèàëüíîå ðåøå-
íèå, ò. å. ñòàòèñòèêà S
n
� ïîëíàÿ.
Ïîëó÷èëè, ÷òî ÷àñòîòà
S
n
n
ÿâëÿåòñÿ äëÿ èñïûòàíèé Áåðíóëëè
íàèëó÷øåé íåñìåùåííîé îöåíêîé âåðîÿòíîñòè óñïåõà.
Ï ð è ì å ð 2. Âûáîðêà èç ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ. Ïóñòü
x
1
; x
2
; : : : ; x
n
� âûáîðêà èç ðàñïðåäåëåíèÿ ñ ïëîòíîñòüþ
p (x; �) =
8
<
:
1
�
exp
�
�
x
�
�
; äëÿ x � 0;
0; äëÿ x < 0;
ãäå � 2 (0;1) � íåèçâåñòíûé ïàðàìåòð. Íàì óæå èçâåñòíî, ÷òî
T =
n
P
i=1
x
i
ÿâëÿåòñÿ äîñòàòî÷íîé ñòàòèñòèêîé äëÿ �. Ïîêàæåì, ÷òî
ñòàòèñòèêà T � ïîëíàÿ.
Íåòðóäíî ïîêàçàòü, ÷òî T èìååò ïëîòíîñòü, çàäàâàåìóþ �îð-
ìóëîé:
q
n
(x; �) =
1
(n� 1)!
�
x
�
�
n�1
1
�
exp
�
�
x
�
�
äëÿ x � 0:
Ýòî ðàñïðåäåëåíèå íàçûâàþò ãàììà-ðàñïðåäåëåíèåì, â êîòîðîì
� ñëóæèò ìàñøòàáíûì ïàðàìåòðîì. (Ñëó÷àéíàÿ âåëè÷èíà T ïî
ðàñïðåäåëåíèþ ñîâïàäàåò ñî ñëó÷àéíîé âåëè÷èíîé � , ãäå ñëó÷àé-
íàÿ âåëè÷èíà èìååò ò. í. "ñòàíäàðòíîå" ãàììà-ðàñïðåäåëåíèå, ñ
ïëîòíîñòüþ
1
(n� 1)!
x
n�1
exp (�x) äëÿ x � 0;
ãäå n ìîæåò ïðèíèìàòü íàòóðàëüíûå çíà÷åíèÿ).
Ïîëíîòà ñòàòèñòèêè T îçíà÷àåò ïîëíîòó îòíîñèòåëüíî � ñåìåé-
ñòâà ãàììà-ðàñïðåäåëåíèé. �àññìîòðèì óðàâíåíèå
E
�
f(T ) = 0 äëÿ âñåõ � > 0
èëè
1
Z
0
f(x)
1
(n� 1)!
�
x
�
�
n�1
1
�
e
�
x
�
dx = 0 äëÿ � > 0:
77
Ââåäåì íîâóþ ïåðåìåííóþ t =
1
�
. Ïîñëå ñîêðàùåíèé ïîëó÷èì
óðàâíåíèå
1
Z
0
f(x) x
n�1
e
�tx
dx = 0 äëÿ âñåõ t > 0:
Ëåâàÿ ÷àñòü ýòîãî óðàâíåíèÿ � ýòî ïðåîáðàçîâàíèå Ëàïëàñà �óíê-
öèè x
n�1
f(x). Îíî òîæäåñòâåííî (îòíîñèòåëüíî t) ðàâíî íóëþ
òîëüêî äëÿ f(�) = 0. Îòñþäà ñëåäóåò, ÷òî ñòàòèñòèêà T � ïîëíàÿ.
Ïóñòü fP
�
; � 2 �g � k-ïàðàìåòðè÷åñêîå ýêñïîíåíöèàëüíîå ñå-
ìåéñòâî ðàñïðåäåëåíèé, ãäå ïëîòíîñòü
p (x; �) =
n
exp
h
k
X
j=1
j
(�)T
j
(x) + d(�) + S(x)
io
I
A
(x): (4:3:3)
Ïî òåîðåìå �àêòîðèçàöèè T (X) = (T
1
(X); T
2
(X); : : : ; T
k
(X)) åñòü
äîñòàòî÷íàÿ ñòàòèñòèêà äëÿ �, � 2 �.
Ò å î ð å ì à. Åñëè îáëàñòü çíà÷åíèé âåêòîðíîé �óíêöèè
(
1
(�);
2
(�); : : : ;
k
(�)), êîòîðóþ îíà çàïîëíÿåò, êîãäà � ïðîáåãàåò
ïàðàìåòðè÷åñêîå ìíîæåñòâî �, ñîäåðæèò êàêîå-ëèáî îòêðûòîå
ìíîæåñòâî, òî ñòàòèñòèêà T � ïîëíàÿ. (Ñåìåéñòâî ðàñïðåäå-
ëåíèé ñ ïëîòíîñòÿìè (4.3.3) � ïîëíîå).
Äîêàçàòåëüñòâî ýòîé òåîðåìû íå ïðèâîäèì. Îíî ìîæåò áûòü
îñíîâàíî íà ñâîéñòâàõ ïðåîáðàçîâàíèé Ëàïëàñà (Ôóðüå) (íà îáðà-
òèìîñòè ýòèõ ïðåîáðàçîâàíèé), ïîäîáíî ïðèìåðó 2.
Èç ýòîé òåîðåìû ìîæíî èçâëå÷ü ìíîãî ðåçóëüòàòîâ, îòíîñÿ-
ùèõñÿ êî ìíîãèì èçâåñòíûì ñåìåéñòâàì ðàñïðåäåëåíèé.  ÷àñò-
íîñòè, óòâåðæäåíèÿ ïðèìåðîâ 1 è 2. Åùå îäíèì ñëåäñòâèåì ýòîé
òåîðåìû ÿâëÿåòñÿ ïîëíîòà ñòàòèñòèêè (�x; s
2
), äîñòàòî÷íîé äëÿ ïà-
ðàìåòðîâ íîðìàëüíîãî ðàñïðåäåëåíèÿ N(a; �
2
) â ñëó÷àå âûáîðêè
èç ýòîãî ðàñïðåäåëåíèÿ.
Ï ð è ì å ð 3. Ëèíåéíàÿ ãàóññîâñêàÿ ìîäåëü. Ëèíåéíàÿ ãàóñ-
ñîâñêàÿ ìîäåëü X � N(l; �
2
I), l 2 L, L � çàäàíî. Ñëåäñòâèåì
ïðèâåäåííîé âûøå òåîðåìû ÿâëÿåòñÿ óòâåðæäåíèå î ïîëíîòå äî-
ñòàòî÷íîé ñòàòèñòèêè (proj
L
X; jproj
L
?
X j
2
) äëÿ (l; �
2
).
78
Ëåêöèè 5-6. Óñëîâíûå ìàòåìàòè÷åñêèå
îæèäàíèÿ è óñëîâíàÿ âåðîÿòíîñòü
� 1. Îïðåäåëåíèÿ è ïðîñòåéøèå ñâîéñòâà
1.1. Íàïîìèíàíèÿ: âåðîÿòíîñòíîå ïðîñòðàíñòâî è ñëó÷àé-
íûå âåëè÷èíû (À.Í. Êîëìîãîðîâ, 1933)
� Âåðîÿòíîñòíîé ìîäåëüþ, èëè âåðîÿòíîñòíûì ïðîñòðàí-
ñòâîì íàçûâàþò íàáîð (;A; P ).
� ýòî ìíîæåñòâî òî÷åê !; A � �-àëãåáðà ïîäìíîæåñòâ
èç ; P � âåðîÿòíîñòíàÿ ìåðà íà A.
� Ìíîæåñòâî íàçûâàþò ïðîñòðàíñòâîì ýëåìåíòàðíûõ èñ-
õîäîâ (èëè ýëåìåíòàðíûõ ñîáûòèé).
� Ìíîæåñòâà èç A íàçûâàþò èñõîäàìè èëè ñîáûòèÿìè.
� Ìíîæåñòâî A 2 íàçûâàþò A-èçìåðèìûì, åñëè A 2 A.
� Äëÿ âñÿêîãî A èç A çíà÷åíèå �óíêöèè P íà A, ò. å. âåëè÷èíó
P (A), íàçûâàþò âåðîÿòíîñòüþ ñîáûòèÿ A.
Íà ÷èñëîâîé ïðÿìîé âûäåëÿþò �-àëãåáðó áîðåëåâñêèõ ìíî-
æåñòâ B. Ýòî ìèíèìàëüíàÿ �-àëãåáðà ïîäìíîæåñòâ ÷èñëîâîé ïðÿ-
ìîé, êîòîðàÿ ñîäåðæèò ïðîèçâîëüíûå èíòåðâàëû, ïîëóèíòåðâàëû
è îòðåçêè ÷èñëîâîé ïðÿìîé.
� Äåéñòâèòåëüíàÿ �óíêöèÿ � = �(!), îïðåäåëåííàÿ íà , íà-
çûâàåòñÿ ñëó÷àéíîé âåëè÷èíîé, åñëè ìíîæåñòâà âèäà
f! : �(!) 2 Bg (5:1:1)
ÿâëÿþòñÿ ñîáûòèÿìè (ò. å. ïðèíàäëåæàò A) äëÿ ëþáûõ áî-
ðåëåâñêèõ ìíîæåñòâ B, B 2 B.
Êàæäàÿ ñëó÷àéíàÿ âåëè÷èíà � îïðåäåëÿåò â ïðîñòðàíñòâå
íåêîòîðóþ ñîâîêóïíîñòü ïîäìíîæåñòâ, îáðàçóþùèõ �-àëãåáðó, äà-
ëåå îáîçíà÷àåìóþ êàê A
�
, ñîñòîÿùóþ èç ñîáûòèé âèäà (5.1.1), êî-
ãäà B ïðîáåãàåò ìíîæåñòâî B.
79
1.2. Ïðîèçâîäíàÿ �àäîíà-Íèêîäèìà (1930)
Ïóñòü íà íåêîòîðîé �-àëãåáðå F ïîäìíîæåñòâ èç çàäàíû ìå-
ðû � è �.
� Ìåðó � íàçûâàþò àáñîëþòíî íåïðåðûâíîé îòíîñèòåëüíî ìå-
ðû �, åñëè èç ðàâåíñòâà �(A) = 0 ñëåäóåò, ÷òî è �(A) = 0
(äëÿ ìíîæåñòâ A èç F).
� Ìåðó � íàçûâàþò �-êîíå÷íîé, åñëè ìîæíî ïðåäñòàâèòü
â âèäå îáúåäèíåíèÿ ñ÷åòíîé ñîâîêóïíîñòè èçìåðèìûõ ìíî-
æåñòâ, �-ìåðû êîòîðûõ êîíå÷íû, ò. å., åñëè
=
1
[
i=1
A
i
; ïðè÷åì �(A
i
) <1; i = 1; 2; : : : :
Ò å î ð å ì à �àäîíà-Íèêîäèìà. Ïðåäïîëîæèì, ÷òî íà èç-
ìåðèìîì ïðîñòðàíñòâå (;F) çàäàíà �-êîíå÷íàÿ ìåðà � è ìåðà
�, àáñîëþòíî íåïðåðûâíàÿ îòíîñèòåëüíî �. Òîãäà ñóùåñòâóåò
F-èçìåðèìàÿ �óíêöèÿ f(!), òàêàÿ, ÷òî
�(A) =
Z
A
f(!)�(d!)
äëÿ âñÿêîãî A 2 F . Ñ òî÷íîñòüþ äî ìíîæåñòâà �-ìåðû íóëü,
�óíêöèÿ f(!) � åäèíñòâåííàÿ.
Ôóíêöèþ f(!) íàçûâàþò ïðîèçâîäíîé �àäîíà-Íèêîäèìà ìåðû
� ïî ìåðå �, èëè ïëîòíîñòüþ ìåðû � îòíîñèòåëüíî ìåðû �:
f(!) =
d�
d�
(!):
1.3. Îïðåäåëåíèå óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ
Ïóñòü íà âåðîÿòíîñòíîì ïðîñòðàíñòâå (;A; P ) çàäàíû äâå
ñëó÷àéíûå âåëè÷èíû X = X(!) è Y = Y (!). Ìû õîòèì îïðå-
äåëèòü ìàòåìàòè÷åñêîå îæèäàíèå X ïðè äàííîì Y , â äàëüíåéøåì
îáîçíà÷àåìîå êàê E(X jY ).
Ââåäåì íåñêîëüêî áîëåå îáùåå îïðåäåëåíèå óñëîâíîãî ìàòåìà-
òè÷åñêîãî îæèäàíèÿ X îòíîñèòåëüíî ïðîèçâîëüíîé �-ïîäàëãåáðû
äàííîé íàì �-àëãåáðû A. Ýòî ìàòåìàòè÷åñêîå îæèäàíèå ìû çàòåì
ñâÿæåì ñ E(X jY ).
80
Ïóñòü G � íåêîòîðàÿ �-ïîäàëãåáðà �-àëãåáðû A. (Ýòî îçíà÷à-
åò, ÷òî åñëè ìíîæåñòâî A âõîäèò â G, îíî òàêæå âõîäèò è â A).
Îïðåäåëèì óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå X îòíîñèòåëüíî
G, â äàëüíåéøåì îáîçíà÷àåìîå êàê E(X jG).
Ïðåäñòàâèì X â âèäå
X = X
+
�X
�
ãäå X
+
� 0, X
�
� 0. Îïðåäåëèì E(X
+
jG) è E(X
�
jG), è çàòåì
ïîëîæèì ïî îïðåäåëåíèþ:
E(X jG) = E(X
+
jG)�E(X
�
jG); (5:1:2)
åñëè õîòÿ áû îäíî èç ýòèõ óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäà-
íèé êîíå÷íî. Òàêèì îáðàçîì, E(X jG) ìîæåò ïðèíèìàòü çíà÷åíèÿ
+1 èëè �1. (Òàêóþ âîçìîæíîñòü èìååò è EX ïðè ýòîì ñïîñî-
áå îïðåäåëåíèÿ). Âïðî÷åì, ìîæíî îãðàíè÷èòüñÿ ñëó÷àåì, êîãäà
EjX j < 1. Â ñèëó (5.1.2) íàäî îïðåäåëèòü E(X jG) äëÿ X � 0.
Íà �-àëãåáðå G ðàññìîòðèì äâå ìåðû: P (�) è Q(�), ïîëîæèâ äëÿ
ïðîèçâîëüíîãî A 2 G
Q(A) =
Z
A
X(!)P (d!): (5:1:3)
ßñíî, ÷òî ìåðà Q àáñîëþòíî íåïðåðûâíà îòíîñèòåëüíî ìåðû
P . Ïîýòîìó, ïî òåîðåìå �àäîíà-Íèêîäèìà, ñóùåñòâóåò �óíêöèÿ
f = f(!), èçìåðèìàÿ îòíîñèòåëüíî G, è òàêàÿ, ÷òî
Q(A) =
Z
A
f(!)P (d!): (5:1:4)
Ôóíêöèþ f(!) èç (5.1.4) íàçîâåì óñëîâíûì ìàòåìàòè÷åñêèì
îæèäàíèåì X (çäåñü X � 0) îòíîñèòåëüíî �-àëãåáðû G, ò. å.:
E(X jG)(!) = f(!):
Îïðåäåëèâ E(X
+
jG) è E(X
�
jG), ïî �îðìóëå (5.1.2) îïðåäåëèì
E(X jG) äëÿ ïðîèçâîëüíîé ñëó÷àéíîé âåëè÷èíû X .
Òàêèì îáðàçîì, E(X jG) � ýòî ñëó÷àéíàÿ âåëè÷èíà, èçìåðèìàÿ
îòíîñèòåëüíî �-àëãåáðû G. Îíà îïðåäåëåíà åäèíñòâåííûì îáðà-
çîì, ñ òî÷íîñòüþ äî ìíîæåñòâ íóëåâîé âåðîÿòíîñòè.
81
Ïóñòü ñåé÷àñ G = A
Y
. Òàê êàê E(X jA
Y
) èçìåðèìà îòíîñèòåëü-
íî A
Y
, òî êàê �óíêöèÿ îò !, ýòà ñëó÷àéíàÿ âåëè÷èíà ñ âåðîÿòíî-
ñòüþ 1 ïîñòîÿííà íà ìíîæåñòâàõ âèäà f! : Y (!) = Constg. Ïîýòî-
ìó E(X jA
Y
) ìîæíî ðàññìàòðèâàòü êàê �óíêöèþ îò Y = Y (!), è,
ïî îïðåäåëåíèþ, ìîæíî ïîëîæèòü
E(X jY ) = E(X jA
Y
):
1.4. Íåêîòîðûå ñâîéñòâà E(X jG)
�
R
A
E(X jG)P (d!) =
R
A
XP (d!) äëÿ âñÿêîãî A 2 G: (5.1.5)
Ýòî ñâîéñòâî � âñåãî ëèøü äðóãàÿ çàïèñü îïðåäåëåíèÿ (5.1.4).
Çàìåòèì ðàçëè÷èå ìåæäó X è E(X jG): ñëó÷àéíàÿ âåëè÷èíà
X , âîîáùå ãîâîðÿ, íå èçìåðèìà îòíîñèòåëüíî G (îíà èçìå-
ðèìà îòíîñèòåëüíî áîëåå "áîãàòîé" �-àëãåáðû A, G � A).
� EE(X jG) = EX: (5.1.6)
Äëÿ äîêàçàòåëüñòâà íàäî ïîëîæèòü A = â (5.1.5). Òîãäà:
E[E(X jG)℄ =
Z
E(X jG) dP =
Z
X dP = EX;
÷òî è òðåáîâàëîñü.
� E(aX + bY jG) = aE(X jG) + bE(Y jG) (5.1.7)
äëÿ ïðîèçâîëüíûõ ñëó÷àéíûõ âåëè÷èí X , Y è ïîñòîÿííûõ
a, b. Ïðè ýòîì ëåâàÿ ÷àñòü ñóùåñòâóåò, åñëè ñóùåñòâóåò ïðà-
âàÿ ÷àñòü. Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íî ïîêàçàòü, ÷òî äëÿ
ëþáîãî A 2 G
Z
A
E(aX + bY jG) dP =
Z
A
[aE(X jG) + bE(Y jG)℄ dP (5:1:8)
è ÷òî aE(X jG)+ bE(Y jG) èçìåðèìî îòíîñèòåëüíî G. Ïîñëåä-
íåå, âïðî÷åì, î÷åâèäíî. Ïðåîáðàçóåì ëåâóþ ÷àñòü (5.1.8):
Z
A
E(aX + bY jG) dP =
Z
A
(aX + bY ) dP =
82
a
Z
A
E(X jG)dP + b
Z
A
E(Y jG) dP =
Z
A
[aE(X jG) + bE(Y jG)℄ dP;
÷òî è òðåáîâàëîñü.
� Åñëè X èçìåðèìà îòíîñèòåëüíî G, òî E(X jG) = X .
 ÷àñòíîñòè,
E(X jA
X
) = X: (5:1:9)
� Åñëè X è Y íåçàâèñèìû, òî
E(X jY ) = EX: (5:1:10)
Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íî ïðîâåðèòü, ÷òî äëÿ ëþáîãî
A 2 A
Y
:
Z
A
E(X jY ) dP =
Z
A
(EX) dP: (5:1:11)
Îáîçíà÷èì ÷åðåç I
A
= I
A
(!) èíäèêàòîðíóþ �óíêöèþ ìíî-
æåñòâà A. Êàê ñëó÷àéíàÿ âåëè÷èíà, I
A
èçìåðèìà îòíîñè-
òåëüíî A
Y
. Ïðè ýòîì ñëó÷àéíûå âåëè÷èíû X è I
A
íåçàâèñè-
ìû, èáî íåçàâèñèìû äâå �-àëãåáðû A
X
è A
Y
. Ïðåîáðàçóåì
ëåâóþ ÷àñòü (5.1.11), çàìåòèâ ïðåäâàðèòåëüíî, ÷òî ïðàâàÿ
÷àñòü (5.1.11) ðàâíà (EX)PfAg. Èìååì:
Z
A
E(X jY ) dP =
Z
A
X dP =E(XI
A
) =(EX)(EI
A
) =(EX)PfAg
(â ñèëó íåçàâèñèìîñòè X è I
A
), ÷òî è òðåáîâàëîñü.
� Ó ñ ë î â í û å â å ð î ÿ ò í î ñ ò è.
Êàê ìû òîëüêî ÷òî âñïîìíèëè,
PfAg = EI
A
:
Ïî àíàëîãèè ñ ýòèì ðàâåíñòâîì, óñëîâíóþ âåðîÿòíîñòü ñîáû-
òèÿ A îòíîñèòåëüíî �-àëãåáðû G îïðåäåëèì êàê
PfAjGg = E(I
A
jG): (5:1:12)
Ñîîòâåòñòâåííî ýòîìó, óñëîâíàÿ âåðîÿòíîñòü ñîáûòèÿ A îò-
íîñèòåëüíî ñëó÷àéíîé âåëè÷èíû Y (ïðè äàííîì Y ) åñòü
PfAjY g := PfAjA
Y
g: (5:1:13):
83
� Ó ñ ë î â í û å ð à ñ ï ð å ä å ë å í è ÿ.
Íàïîìíèì, ÷òî ðàñïðåäåëåíèåì ñëó÷àéíîé âåëè÷èíû X ìû
íàçûâàåì ñîâîêóïíîñòü âåðîÿòíîñòåé âèäà
P
X
fBg := PfX 2 Bg; B 2 B;
êîãäàB ïðîáåãàåò �-àëãåáðó áîðåëåâñêèõ ìíîæåñòâ ÷èñëîâîé
ïðÿìîé. Ïðè ýòîì P
X
fBg, êàê �óíêöèÿ B 2 B îáðàçóåò íà B
âåðîÿòíîñòíóþ ìåðó. Ïî àíàëîãèè ñ ýòèì, óñëîâíûì ðàñïðå-
äåëåíèåì ñëó÷àéíîé âåëè÷èíû X îòíîñèòåëüíî �-àëãåáðû G
åñòåñòâåííî íàçûâàòü ñîâîêóïíîñòü óñëîâíûõ âåðîÿòíîñòåé
P
X
fBjGg := PfX 2 BjGg(!); B 2 B: (5:1:14)
Íå ñëåäóåò çàáûâàòü, ÷òî (5.1.14) � ýòî ñëó÷àéíàÿ âåëè÷èíà,
îïðåäåëåííàÿ ñ òî÷íîñòüþ äî ìíîæåñòâà ìåðû íóëü. Ìîæíî
ïîêàçàòü, ÷òî ñóùåñòâóåò òàêîé âàðèàíò å¼ îïðåäåëåíèÿ, ÷òî
(5.1.14), êàê �óíêöèÿ B, B 2 B ñ âåðîÿòíîñòüþ 1 îáðàçóåò
íà B (ñëó÷àéíóþ) âåðîÿòíîñòíóþ ìåðó.  ýòîì ñëó÷àå
E(X jG)(!) =
Z
X(!
0
)P
X
(d!
0
jG)(!) ï. í. (5:1:15)
Âïðî÷åì, â ïðîñòîé ñèòóàöèè, êîòîðóþ ìû ðàññìîòðèì â ñëå-
äóþùåì ïàðàãðà�å, ìû îïðåäåëèì óñëîâíîå ìàòåìàòè÷åñêîå
îæèäàíèå, îòïðàâëÿÿñü îò óñëîâíîãî ðàñïðåäåëåíèÿ. (Ïîäîá-
íî òîìó, êàê ìàòåìàòè÷åñêîå îæèäàíèå ñëó÷àéíîé âåëè÷èíû
ìû îáû÷íî ââîäèì, îòïðàâëÿÿñü îò ðàñïðåäåëåíèÿ).
� 2. Ïðîñòûå ñëó÷àéíûå âåëè÷èíû
 ýòîì ïàðàãðà�å ìû ðàññìîòðèì E(X jY ) äëÿ ïðîñòûõ ñëó-
÷àéíûõ âåëè÷èí X è Y .  ýòîì ñëó÷àå óñëîâíîå ìàòåìàòè÷åñêîå
îæèäàíèå ìîæíî ââåñòè ýëåìåíòàðíûìè ñðåäñòâàìè.
Ñëó÷àéíàÿ âåëè÷èíà Y íàçûâàåòñÿ ïðîñòîé, åñëè Y ìîæíî
ïðåäñòàâèòü â âèäå
Y =
X
j
y
j
I(D
j
); (5:2:1)
ãäå I(D) = I
D
(!) � èíäèêàòîðíàÿ �óíêöèÿ ìíîæåñòâà D. (Ïî
óäîáñòâàì îáîçíà÷åíèÿ I(D) ïðåäïî÷òèòåëüíåå, ÷åì I
D
= I
D
(!)).
Ìîæíî ñ÷èòàòü, ÷òî ÷èñëà y
1
; y
2
; : : : ðàçëè÷íû è ÷òî ñîâîêóïíîñòü
84
ìíîæåñòâ D
j
, j = 1; 2; : : : â (5.2.1) îáðàçóåò ðàçáèåíèå ïðîñòðàí-
ñòâà : D
j
T
D
i
= �, åñëè j 6= i;
S
j
D
j
= . Êîãäà ñëó÷àéíàÿ âåëè-
÷èíà Y ïðîñòàÿ, òî ïîðîæäåííàÿ åþ �-àëãåáðà A
Y
ïîðîæäàåòñÿ
ðàçáèåíèåì D
1
; D
2
; : : :. (Çäåñü D
j
, j = 1; 2; : : : � ýòî ìíîæåñòâà
óðîâíÿ �óíêöèè Y = Y (!), D
j
= f! : Y (!) = y
j
g).
Äàëåå ìû áóäåì ðàññìàòðèâàòü �-àëãåáðû, ïîðîæäåííûå êî-
íå÷íûìè (èëè ñ÷åòíûìè) ðàçáèåíèÿìè. Ïóñòü G � òàêàÿ �-àëãåáðà.
Ïîðîæäàþùåå å¼ ðàçáèåíèå îáîçíà÷èì, êàê è âûøå, ÷åðåçD
1
;D
2
;: : :.
ÏóñòüX � ïðîñòàÿ ñëó÷àéíàÿ âåëè÷èíà. Òîãäà äëÿ E(X jG) ìîæíî
äàòü ýëåìåíòàðíîå îïðåäåëåíèå.
Íà÷íåì ñ îïðåäåëåíèÿ óñëîâíîé âåðîÿòíîñòè. Ïîëîæèì ïî
îïðåäåëåíèþ äëÿ âñÿêîãî A 2 A
PfAjGg = PfAjGg(!) =
X
j
PfAjD
j
gI(D
j
): (5:2:2)
ßñíî, ÷òî PfAjGg åñòü èçìåðèìàÿ îòíîñèòåëüíî G ñëó÷àéíàÿ âå-
ëè÷èíà. �ëàâíîå ñâîéñòâî óñëîâíîé âåðîÿòíîñòè (5.2.2):
EPfAjGg = PfAg: (5:2:3)
Äîêàçàòåëüñòâî î÷åâèäíî:
EPfAjGg =
X
j
PfAjD
j
gEI(D
j
) =
X
j
PfAjD
j
gPfD
j
g = PfAg:
Ïóñòü
X =
X
i
x
i
I(A
i
): (5:2:4)
Ïî àíàëîãèè ñ EX =
P
i
x
i
PfA
i
g, îïðåäåëèì E(X jG) �îðìóëîé:
E(X jG) =
X
i
x
i
PfA
i
jGg: (5:2:5)
Îòìåòèì, ÷òî òàê îïðåäåëåííîå E(X jG) � èçìåðèìàÿ îòíîñèòåëü-
íî G ñëó÷àéíàÿ âåëè÷èíà è ÷òî
EE(X jG) = EX: (5:2:6)
Äîêàçàòåëüñòâî (5.2.6) î÷åâèäíî:
EE(X jG) =
X
i
x
i
EPfA
i
jGg =
X
i
x
i
PfA
i
g:
85
Ïîêàæåì, ÷òî îïðåäåëåíèå (5.2.5) ñîâïàäàåò ñ îáùèì îïðåäå-
ëåíèåì ìàòåìàòè÷åñêîãî îæèäàíèÿ èç ïàðàãðà�à 1. Äëÿ ýòîãî äî-
ñòàòî÷íî ïðîâåðèòü, ÷òî äëÿ ëþáîãî B 2 G:
Z
B
E(X jG) dP =
Z
B
X dP: (5:2:7)
Òàê êàê B 2 G, òî B ìîæíî ïðåäñòàâèòü â âèäå îáúåäèíåíèÿ íåêî-
òîðîé ñîâîêóïíîñòè ìíîæåñòâ D
j
:
B =
X
j2K
D
j
;
ãäå K � íåêîòîðîå ìíîæåñòâî èíäåêñîâ. Äàëåå çàìåòèì, ÷òî
Z
B
E(X jG) dP =
X
j2K
Z
D
j
E(X jG) dP;
Z
B
X dP =
X
j2K
Z
D
j
X dP:
Ïîýòîìó (5.2.7) äîñòàòî÷íî äîêàçàòü äëÿ ìíîæåñòâD
k
, k = 1; 2; : : :.
Èòàê, ïîëîæèâ B = D
k
, ïðåîáðàçóåì ëåâóþ ÷àñòü (5.2.7), èñïîëü-
çóÿ (5.2.5) è (5.2.2):
Z
D
k
E(X jG) dP =
X
i
x
i
Z
D
k
PfA
i
jGg dP =
=
X
i
x
i
X
j
PfA
i
jD
j
gEI(D
k
)I(D
j
) =
=
X
i
x
i
PfA
i
jD
k
gPfD
k
g =
X
i
x
i
PfA
i
D
k
g:
Ïðåîáðàçîâàíèå ïðàâîé ÷àñòè (5.2.7) äàåò òîò æå ðåçóëüòàò:
Z
D
k
X dP =EI(D
k
)
X
i
x
i
I(A
i
)=
X
i
x
i
EI(A
i
D
k
)=
X
i
x
i
PfA
i
D
k
g;
÷òî è òðåáîâàëîñü.
Î ï ð å ä å ë å í è å 5.2.1. Óñëîâíîå ìàòåìàòè÷åñêîå îæèäà-
íèå êàê óñðåäíåíèå. Óñðåäíåíèåì íàáîðà ÷èñåë x
1
; : : : ; x
n
ñ âåñàìè
p
1
� 0; : : : ; p
n
� 0,
n
P
i=1
p
i
= 1 íàçûâàþò
n
P
i=1
x
i
p
i
. (Ñ âåðîÿòíîñòíîé
86
òî÷êè çðåíèÿ, óñðåäíåíèå � ýòî ìàòåìàòè÷åñêîå îæèäàíèå ñëó÷àé-
íîé âåëè÷èíû, ïðèíèìàþùåé çíà÷åíèÿ x
1
; : : : ; x
n
ñ âåðîÿòíîñòÿìè
p
1
; : : : ; p
n
).
Ïîêàæåì, ÷òî çíà÷åíèÿ, êîòîðûå ïðèíèìàåò ñëó÷àéíàÿ âåëè-
÷èíà E(X jG), ñóòü óñðåäíåíèÿ çíà÷åíèé X . Äåéñòâèòåëüíî,
E(X jG) =
X
i
x
i
PfA
i
jGg =
X
i
x
i
X
j
PfA
i
jD
j
gI(D
j
) =
=
X
j
h
X
i
x
i
PfA
i
jD
j
g
i
I(D
j
):
Íà ìíîæåñòâå D
j
ñëó÷àéíàÿ âåëè÷èíà E(X jG) ïðèíèìàåò çíà÷å-
íèå
y
j
=
X
i
x
i
PfA
i
jD
j
g:
Îòìåòèì, ÷òî PfA
i
jD
j
g � 0, è ÷òî
P
i
PfA
i
jD
j
g = 1 èáî
A
1
; A
2
; : : : � ýòî ðàçáèåíèå âñåãî ïðîñòðàíñòâà. Òàêèì îáðàçîì,
y
j
� ýòî óñðåäíåíèå íàáîðà x
1
; : : : ; x
n
çíà÷åíèé, ïðèíèìàåìûõ X ,
ñ âåñàìè p
i
= PfA
i
jD
j
g.
� 3. Íåêîòîðûå äàëüíåéøèå ñâîéñòâà óñëîâíûõ
ìàòåìàòè÷åñêèõ îæèäàíèé
Ñëåäóþùåå ñâîéñòâî óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäàíèé �
âîçìîæíîñòü âûíåñòè çà çíàê ìàòåìàòè÷åñêîãî îæèäàíèÿ ñëó÷àé-
íûé ìíîæèòåëü, ïîñòîÿííûé ïðè äàííîì óñëîâèè:
E['(Y )X jY ℄
ï.í.
= '(Y )E(X jY ): (5:3:1)
Ïðåäïî÷òèòåëüíåå ñ�îðìóëèðîâàòü ýòî ñâîéñòâî â áîëåå îáùåì
âèäå: åñëè Y èçìåðèìà îòíîñèòåëüíî G, òî
E(XY jG)
ï.í.
= Y E(X jG) (5:3:2)
ïðè óñëîâèè, ÷òî ýòè ìàòåìàòè÷åñêèå îæèäàíèÿ ñóùåñòâóþò.
Äîêàçàòåëüñòâî ýòîãî ðàâåíñòâà íà÷íåì ñ ïðîñòûõ ñëó÷àéíûõ
âåëè÷èí.
87
3.1. Äîêàçàòåëüñòâî (5.3.2) äëÿ ñëó÷àÿ ïðîñòûõ ñëó÷àé-
íûõ âåëè÷èí
Ïóñòü Y � ïðîñòàÿ ñëó÷àéíàÿ âåëè÷èíà, èçìåðèìàÿ îòíîñè-
òåëüíî �-àëãåáðû G. Òîãäà:
E(XY jG)
ï.í.
= Y E(X jG): (5:3:3)
Ä î ê à ç à ò å ë ü ñ ò â î. Ïî ïðåäïîëîæåíèþ Y =
P
i
y
i
I(B
i
),
ïðè÷åì B
i
2 B, i = 1; 2; : : :. Òåïåðü
E(XY jG) =
X
i
y
i
E
�
I(B
i
)X jG
�
:
×òîáû ïîëó÷èòü (5.3.3), äîñòàòî÷íî ïîêàçàòü, ÷òî
E
�
I(B)X jG
�
= I(B)E(X jG);
åñëè B 2 B. Ïîñêîëüêó I(B)E(X jG) èçìåðèìà îòíîñèòåëüíî G, äëÿ
ýòîãî äîñòàòî÷íî ïîêàçàòü, ÷òî äëÿ ëþáîãî A 2 G
Z
A
I(B)E(X jG) dP =
Z
A
I(B)X dP: (5:3:4)
Ïðåîáðàçóÿ ëåâóþ ÷àñòü, äîêàæåì òåì ñàìûì, (5.3.4):
Z
A
I(B)E(X jG) dP =
Z
A
T
B
E(X jG) dP =
Z
A
T
B
X dP =
Z
A
I(B)X dP;
÷òî è òðåáîâàëîñü. �
3.2. Îáùèé ñëó÷àé
Ïóñòü Y èçìåðèìà îòíîñèòåëüíî G, EjX j < 1, EjY j < 1,
EjXY j <1. Òîãäà
E(XY jG)
ï.í.
= Y E(X jG): (5:3:5)
Ä î ê à ç à ò å ë ü ñ ò â î. Îñíîâûâàåòñÿ íà ïóíêòå 3.1 è îáîá-
ùåííîé òåîðåìå Ëåáåãà î ìàæîðèðîâàííîé ñõîäèìîñòè, êîòîðàÿ
áóäåò äàíà â ïóíêòå 3.3.
88
Âûáèðàåì ïîñëåäîâàòåëüíîñòü ïðîñòûõ ñëó÷àéíûõ âåëè÷èí Y
n
òàê, ÷òîáû Y
n
" Y ï.í. ïðè n!1.  òàêîì ñëó÷àå
E(XY
n
jG)
ï.í.
= Y
n
E(X jG)
â ñèëó (5.3.3). Ïî óïîìÿíóòîé òåîðåìå
E(XY
n
jG)
ï.í.
�! E(XY jG):
Êðîìå òîãî,
Y
n
E(X jG)
ï.í.
�! Y E(X jG):
Ýòî äîêàçûâàåò (5.3.5). �
Ñ ë å ä ñ ò â è å.
E['(Y )X jY ℄
ï.í.
= '(Y )E(X jY ):
3.3. Ëåììà
Ë å ì ì à 5.3.1.Ïóñòü j�
n
j � �, E� <1 è �
n
ï.í
�! � ïðè n!1.
Òîãäà
(a) E(�
n
jG)
ï.í.
�! E(�jG);
(b) E(j�
n
� �j
�
�
G)
ï.í.
�! 0:
Ñðàâíèì ñ ò å î ð å ì î é Ë å á å ã à (î ìàæîðèðîâàííîé
ñõîäèìîñòè): Ïóñòü j�
n
j � �, E� <1 è �
n
ï.í.
�! � ïðè n!1. Òîãäà
(a) E�
n
ï.í.
�! E�; (E� ñóùåñòâóåò);
(b) E(j�
n
� �j)
ï.í.
�! 0:
Ä î ê à ç à ò å ë ü ñ ò â î ë å ì ì û 5.3.1. Ïîëîæèì
�
n
:= sup
m:m�n
j�
m
� �j:
ßñíî, ÷òî �
n
� j�
n
��j. Òàê êàê �
n
ï.í.
�! �, òî �
n
# 0 ï. í. Òåïåðü
jE(�
n
jG)�E(�jG)j= jE[(�
n
��)jG℄j�E(j�
n
��j
�
�
G)�E(�
n
jG): (5:3:6)
89
Äîêàæåì, ÷òî E(�
n
jG)
ï.í.
�! 0:
Çàìåòèì, ÷òî 0 � E(�
n+1
jG) � E(�
n
jG) ï. í. Ïîýòîìó ñóùåñòâóåò
ïðåäåë (ïî÷òè íàâåðíîå):
h := lim
n!1
E(�
n
jG) � 0:
Äàëåå: 0 �
R
hdP �
R
E(�
n
jG) dP =
R
�
n
dP = E�
n
! 0: Ïîñëåäíåå
çàêëþ÷åíèå åñòü ñëåäñòâèå öèòèðîâàííîé òåîðåìû Ëåáåãà, èáî
0 � �
n
� 2�; E� <1; �
n
ï.í.
�! 0:
Ïîëó÷èëè, ÷òî
R
h dP = 0. Ò.ê. h � 0, òî h = 0 ï. í. Ñëåäîâàòåëüíî:
E(�
n
jG)
ï.í.
�! 0:
Ýòî è äîêàçûâàåò ëåììó. �
3.4. �-àääèòèâíîñòü óñëîâíîé âåðîÿòíîñòè P fAjGg
Ïóñòü A =
P
i
A
i
, ïðè÷åì A
i
T
A
j
= �, åñëè i 6= j. Òîãäà
PfAjGg
ï.í.
=
X
i
PfA
i
jGg: (5:3:7)
Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íî ïîëîæèòü â ïðåäûäóùåé ëåììå
�
n
=
n
P
i=1
I(A
i
) , � = I(A) è çàìåòèòü, ÷òî �
n
" � ïðè n ! 1.
Ïðî÷èå óñëîâèÿ ëåììû òîæå ñîáëþäåíû.
3.5. Óñëîâíàÿ äèñïåðñèÿ
Ïî àíàëîãèè ñ îïðåäåëåíèåì äèñïåðñèè DX = E(X � EX)
2
,
ââåäåì óñëîâíóþ äèñïåðñèþ X îòíîñèòåëüíî G, ïîëîæèâ, ïî îïðå-
äåëåíèþ,
D(X jG) = Ef[X �E(X jG)℄
2
jGg: (5:3:8)
Ç à ä à ÷ à. Ïîêàæèòå, ÷òî
DX = ED(X jG) +DE(X jG) (5:3:9)
(ïðè óñëîâèè, ÷òî DX ñóùåñòâóåò).
90
3.6. Íàèëó÷øèé êâàäðàòè÷íûé ïðîãíîç
(Ôîðìóëèðóåòñÿ â âèäå ç à ä à ÷ è).
Ç à ä à ÷ à. Ïóñòü ñëó÷àéíûå âåëè÷èíû � è � çàäàíû íà îäíîì
âåðîÿòíîñòíîì ïðîñòðàíñòâå. Íàäî íàéòè äëÿ � íàèëó÷øèé ïðî-
ãíîç ïî íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíå �. Èíà÷å ãîâîðÿ, íàäî
íàéòè òàêóþ �óíêöèþ f(�), ÷òî äëÿ ëþáîé �óíêöèè g(�):
E
�
� � f(�)
�
2
� E
�
� � g(�)
�
2
:
Î ò â å ò: f(�) = E(�j�):
Ç à ä à ÷ à. Îáîáùèòå ýòîò ðåçóëüòàò äëÿ ñëó÷àéíûõ âåêòîðîâ
� 2 R
p
.
� 4. Ïðèìåð âû÷èñëåíèÿ E(XjY )
�àññìîòðèì ïðèìåð îäíîâðåìåííî òèïè÷íûé è âû÷èñëèòåëüíî
íåñëîæíûé. Ïóñòü âåðîÿòíîñòíàÿ òðîéêà (;A; P ) òàêîâà:
� = f! : ! = (x; y); 0 � x � 1; 0 � y � 1g,
� A � �-àëãåáðà áîðåëåâñêèõ ìíîæåñòâ ,
� P � ìåðà Ëåáåãà íà .
�àññìîòðèì äâå ñëó÷àéíûå âåëè÷èíû � = �(!) è � = �(!):
� = �(x; y) = x; � = �(x; y) = x+ y:
Âû÷èñëèì E(�j�).
Îòìåòèì, ÷òî A
�
(�-àëãåáðà ïîäìíîæåñòâ , ïîðîæäåííàÿ ñëó-
÷àéíîé âåëè÷èíîé �) � ýòî ñîâîêóïíîñòü öèëèíäðè÷åñêèõ ìíî-
æåñòâ èç âèäà B� [0; 1℄, ãäå B � ïðîèçâîëüíîå áîðåëåâñêîå ìíî-
æåñòâî èç [0,1℄. Ñèãìà-àëãåáðà A
�
óñòðîåíà ñõîæèì îáðàçîì. ż
ñîñòàâëÿþò (ïåðåñå÷åííûå ñ ) ïðÿìûå ïðîèçâåäåíèÿ áîðåëåâñêèõ
ìíîæåñòâ, ëåæàùèõ íà ïðÿìîé x = y, è ïðÿìîé f(x; y) : x+y = 0g.
Î÷åâèäíî, ÷òî � íå èçìåðèìà îòíîñèòåëüíî A
�
è � íå èçìåðèìà
îòíîñèòåëüíî A
�
.
Ïî îïðåäåëåíèþ, E(�j�) � òàêàÿ èçìåðèìàÿ îòíîñèòåëüíî A
�
�óíêöèÿ f(x; y), äëÿ êîòîðîé
Z
(x;y)2A
f(x; y) dP =
Z
(x;y)2A
x dP äëÿ ëþáîãî A 2 A
�
: (5:4:1)
91
Òàê êàê f(x; y) èçìåðèìà îòíîñèòåëüíî A
�
, îíà äîëæíà çàâè-
ñåòü îò (x; y) ÷åðåç ïîñðåäñòâî � = x + y. Ýòî îçíà÷àåò, ÷òî â
êà÷åñòâå f(x; y) çäåñü ñëåäóåò âçÿòü, ïîêà ïðîèçâîëüíóþ, �óíê-
öèþ g(x+ y), ãäå g(�) � èçìåðèìàÿ �óíêöèÿ îäíîãî ïåðåìåííîãî.
 (5.4.1) äîñòàòî÷íî ðàññìàòðèâàòü òîëüêî ìíîæåñòâà A âèäà:
A = f(x; y) : x+ y � z; (x; y) 2 g;
ãäå z � ïðîèçâîëüíî.
Ïðè òàêîì âûáîðå f(x; y) è A óñëîâèå (5.4.1) ïðèìåò âèä:
Z
fx+y�z; (x;y)2g
g (x+ y) dP =
Z
fx+y�z; (x;y)2g
x dx dy: (5:4:2)
 èíòåãðàëàõ (5.4.2) ñëåäóåò ñäåëàòü çàìåíó ïåðåìåííûõ (x; y) !
(u; v), ïîëîæèâ u = x + y. Âûáîð âòîðîé ïåðåìåííîé íå î÷åíü âà-
æåí, ïîëîæèì, íàïðèìåð, v = x � y. Ïîñëå ýòîé çàìåíû äâîéíûå
èíòåãðàëû â (5.4.2) ïðåäñòàâèì â âèäå ïîâòîðíûõ. Äëÿ ïðîñòîòû
âîçüìåì z 2 [0; 1℄. (Ñëó÷àé z 2 [1; 2℄ ëåãêî ñâîäèòñÿ ê ðàññìàòðè-
âàåìîìó). Ïîëó÷èì óðàâíåíèå äëÿ g(�):
1
2
z
Z
0
�
g(u)
u
Z
�u
dv
�
du =
1
2
z
Z
0
�
u
Z
�u
u+ v
2
dv
�
du: (5:4:3)
Îòñþäà
z
Z
0
u g(u) =
z
Z
0
1
2
u
2
du; èëè g(z) =
z
2
:
Òàêèì îáðàçîì, çäåñü E(�j�) = �=2; èëè
E(xjx + y) =
x+ y
2
: (5:4:4)
Çàìåòèì, ÷òî ïðè âû÷èñëåíèè E(X jX+Y ), åñëè X è Y íåçàâè-
ñèìû è îäèíàêîâî ðàñïðåäåëåíû (êàê â ðàññìîòðåííîì âûøå ïðè-
ìåðå), ìîæíî îáîéòèñü ïðàêòè÷åñêè áåç âû÷èñëåíèé, åñëè âñïî-
ìíèòü íåêîòîðûå èç ïåðå÷èñëåííûõ ðàíåå ñâîéñòâ óñëîâíûõ ìàòå-
ìàòè÷åñêèõ îæèäàíèé. Âî-ïåðâûõ, â ñèëó ñèììåòðèè,
E(X jX + Y ) = E(Y jX + Y ):
Çàòåì X + Y = E(X + Y jX + Y ) = E(X jX + Y ) + E(Y jX + Y ):
Îòñþäà E(X jX + Y ) =
1
2
(X + Y ):
92
Ëåêöèÿ 7. Ëèíåéíàÿ ãàóññîâñêàÿ ìîäåëü
 àáñòðàêòíîé �îðìå ýòà ñòàòèñòè÷åñêàÿ ìîäåëü î (âåêòîðíîì)
íàáëþäåíèèX ,X2R
n
,X � âåêòîð-ñòîëáåö,X=(X
1
; X
2
; : : : ; X
n
)
T
:
Ïðåäïîëîæèì, ÷òî X � ñëó÷àéíûé âåêòîð, ðàñïðåäåëåííûé ïî
íîðìàëüíîìó çàêîíó, ïðè÷åì ìàòåìàòè÷åñêîå îæèäàíèå X , ò. å.
âåêòîð EX , ïðèíàäëåæèò çàäàííîìó ëèíåéíîìó ïîäïðîñòðàíñòâó
L; L � R
n
; ìàòðèöà êîâàðèàöèé âåêòîðà X ðàâíà �
2
I (ñêàëÿðíàÿ
ìàòðèöà). Âåêòîð l := EX è ñêàëÿð �
2
, �
2
> 0 íåèçâåñòíû. Êî-
ðîòêàÿ çàïèñü: íàáëþäàåìûé âåêòîð X ñëó÷àåí è X � N(l; �
2
I),
ïðè÷åì l 2 L, ãäå L � çàäàííîå ëèíåéíîå ïîäïðîñòðàíñòâî.
Ñòàòèñòè÷åñêèå çàäà÷è â ýòîé ìîäåëè � âûâîäû î íåèçâåñòíûõ
ïàðàìåòðàõ l è �
2
.
� 1. Íåñìåùåííîå îöåíèâàíèå ïàðàìåòðîâ
 ëåêöèÿõ î äîñòàòî÷íûõ ñòàòèñòèêàõ áûëî ñêàçàíî, ÷òî äëÿ
ïàðàìåòðà � := (l; �
2
) â ýòîé ìîäåëè åñòü äîñòàòî÷íàÿ ñòàòèñòèêà.
Ýòî ïàðà T = (proj
L
X; jproj
L
?
X j
2
). Ïðèìåì áåç äîêàçàòåëüñòâà
òîò �àêò, ÷òî ýòà ñòàòèñòèêà T � ïîëíàÿ. Ïîýòîìó íàèëó÷øàÿ
(èìåþùàÿ íàèìåíüøóþ ìàòðèöó êîâàðèàöèé) íåñìåùåííàÿ îöåí-
êà ïàðàìåòðà � äîëæíà áûòü �óíêöèåé äîñòàòî÷íîé ñòàòèñòèêè
(òàêàÿ îöåíêà åäèíñòâåííà).
Çàìåòèì, ÷òî Eproj
L
X = proj
L
EX = proj
L
l = l, èáî:
� Îïåðàöèþ óñðåäíåíèÿ (âû÷èñëåíèÿ ìàòåìàòè÷åñêîãî îæèäà-
íèÿ) è ïðîåêòèðîâàíèÿ X ìîæíî ïîìåíÿòü ìåñòàìè (ïðî-
åêòèðîâàíèå X íà ïîäïðîñòðàíñòâî � ëèíåéíàÿ îïåðàöèÿ;
óñðåäíåíèå îáëàäàåò ñâîéñòâàìè ëèíåéíîñòè).
� Òàê êàê l 2 L, òî proj
L
l = l.
Ñëåäîâàòåëüíî, íàèëó÷øàÿ íåñìåùåííàÿ îöåíêà l óæå íàéäå-
íà � ýòî proj
L
X . ×òîáû íàéòè íàèëó÷øóþ íåñìåùåííóþ îöåí-
êó �
2
, íàäî ïîäðîáíåå èçó÷èòü ñòàòèñòè÷åñêèå ñâîéñòâà proj
L
X è
proj
L
?
X .
1.1. Íåñêîëüêî âñïîìîãàòåëüíûõ îïðåäåëåíèé
Î ï ð å ä å ë å í è å 7.1.1. �àñïðåäåëåíèå õè-êâàäðàò. Ïóñòü
�
1
; �
2
; : : : ; �
r
ñóòü íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, ðàñïðåäåëåí-
93
íûå êàæäàÿ ïî ñòàíäàðòíîìó íîðìàëüíîìó çàêîíó N(0; 1). Ñëó-
÷àéíîé âåëè÷èíîé õè-êâàäðàò ñ r ñòåïåíÿìè ñâîáîäû íàçûâàþò
�
2
(r) := �
2
1
+ �
2
2
+ � � �+ �
2
r
:
�àñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû �
2
(r) äëÿ ëþáîãî r (r �
íàòóðàëüíîå) ìîæåò áûòü âû÷èñëåíî âî âñåõ ïîäðîáíîñòÿõ (ïëîò-
íîñòü, �óíêöèÿ ðàñïðåäåëåíèÿ, êâàíòèëè, è ò. ä.). ßâíûé åãî âèä
íàì íå ïîíàäîáèòñÿ. Äîñòàòî÷íî ñêàçàòü, ÷òî òàáëèöû ðàñïðåäåëå-
íèé è êâàíòèëåé åñòü â ñáîðíèêàõ ñòàòèñòè÷åñêèõ òàáëèö. Ñëó÷àé-
íóþ âåëè÷èíó �
2
(r) ìîæíî òîëêîâàòü êàê êâàäðàò äëèíû ñëó÷àé-
íîãî r-ìåðíîãî âåêòîðà ~� = (�
1
; �
2
; : : : ; �
r
) � N
r
(0; I), ñîñòàâëåííî-
ãî èç íåçàâèñèìûõ îäíîìåðíûõ ñòàíäàðòíûõ ãàóññîâñêèõ âåëè÷èí
�
i
� N(0; 1); i = 1; r.
�àñïðåäåëåíèå N
r
(0; I) ÷àñòî íàçûâàþò ñòàíäàðòíûì r-ìåð-
íûì ãàóññîâñêèì ðàñïðåäåëåíèåì, à âåêòîð ~� � r-ìåðíûì ñòàí-
äàðòíûì ãàóññîâñêèì âåêòîðîì.
Î ï ð å ä å ë å í è å 7.1.2. Íåöåíòðàëüíîå ðàñïðåäåëåíèå õè-
êâàäðàò. Ïóñòü ~a = (a
1
; a
2
; : : : ; a
r
) � çàäàííûé âåêòîð. �àññìîò-
ðèì ñëó÷àéíóþ âåëè÷èíó
�
2
(r;�) := (�
1
+ a
1
)
2
+ (�
2
+ a
2
)
2
+ � � �+ (�
r
+ a
r
)
2
:
Çäåñü � = a
2
1
+ a
2
2
+ � � �+ a
2
r
. Èç ñëåäñòâèÿ ëåììû 7.1.1 (êîòî-
ðóþ ìû äîêàæåì â ñëåäóþùåì ðàçäåëå) ñëåäóåò, ÷òî ðàñïðåäåëå-
íèå ñëó÷àéíîé âåëè÷èíû
r
P
i=1
(�
i
+a
i
)
2
çàâèñèò îò � := j~aj
2
, íî íå îò
~a. Ýòî îáñòîÿòåëüñòâî îòðàæåíî â îáîçíà÷åíèè �
2
(r;�). Âåëè÷èíó
� =
r
P
i=1
a
2
i
íàçûâàþò ïàðàìåòðîì íåöåíòðàëüíîñòè ðàñïðåäåëå-
íèÿ õè-êâàäðàò. Åñëè � = 0, ðàñïðåäåëåíèå õè-êâàäðàò íàçûâàþò
öåíòðàëüíûì.
Íåöåíòðàëüíî ðàñïðåäåëåííóþ ñëó÷àéíóþ âåëè÷èíó �
2
(r;�)
ìîæíî òîëêîâàòü êàê êâàäðàò äëèíû r-ìåðíîãî ãàóññîâñêîãî âåê-
òîðà ~� + ~a, ïðè÷åì � = jaj
2
.
Íåòðóäíî ïîêàçàòü, ÷òî ñåìåéñòâî ñëó÷àéíûõ âåëè÷èí �
2
(r;�)
ñòîõàñòè÷åñêè óïîðÿäî÷åíî ïî ïàðàìåòðó �; � > 0 , åñëè r �èê-
ñèðîâàíî. Èíûìè ñëîâàìè, åñëè 0 � �
1
� �
2
, òî äëÿ ëþáîãî x > 0
Pf�
2
(r;�
1
) > xg � Pf�
2
(r;�
2
) > xg:
94
(Î äîêàçàòåëüñòâå ñêàæåì ïîçæå).
�ðà�èêè �óíêöèé ðàñïðåäåëåíèÿ F (x) = Pf�
2
(r;�) � xg ïðè
ðàçíûõ � > 0 âûãëÿäÿò òàê:
0 20 40 60 80 100 120 140 160 180 2000.0
0.2
0.4
0.6
0.8
1.0
x
F(x)
=56.25
=100
=25
�èñ. 7.1.1. �ðà�èêè �óíêöèé ðàñïðåäåëåíèÿ
y = Pf�
2
(10;�) � xg ïðè ðàçíûõ �
1.2. Äâå ëåììû î êðóãîâûõ íîðìàëüíûõ ðàñïðåäåëåíèÿõ
Ë å ì ì à 7.1.1. Ïóñòü X � N(l; �
2
I), C � îðòîãîíàëüíàÿ
ìàòðèöà. Òîãäà
Y := CX � N(Cl; �
2
I):
(Cëîâåñíàÿ �îðìà: ïðè îðòîãîíàëüíûõ ïðåîáðàçîâàíèÿõ êðóãîâîå
íîðìàëüíîå ðàñïðåäåëåíèå îñòàåòñÿ êðóãîâûì).
Ä î ê à ç à ò å ë ü ñ ò â î. Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íî
âû÷èñëèòü ìàòðèöó êîâàðèàöèè âåêòîðà Y = CX . Ïîñêîëüêó äëÿ
ëþáîé ìàòðèöû A ìàòðèöà êîâàðèàöèé âåêòîðà AX åñòü
D(AX) = A(DX)A
T
;
(ãäå D� îáîçíà÷àåò ìàòðèöó êîâàðèàöèé âåêòîðà �), òî
DY = C(DX)C
T
= C(�
2
I)C
T
= �
2
I;
95
÷òî è òðåáîâàëîñü. �
Ñ ë å ä ñ ò â è å. Ïóñòü �
1
; �
2
; : : : ; �
r
ñóòü íåçàâèñèìûå N(0; 1).
Òîãäà:
(�
1
+ a
1
)
2
+ (�
2
+ a
2
)
2
+ � � �+ (�
r
+ a
r
)
2
d
= (�
1
+
p
�)
2
+�
2
2
+� � �+�
2
r
;
ãäå � = a
2
1
+ a
2
2
+ � � �+ a
2
r
:
Ýòî óòâåðæäåíèå äîêàçûâàåò ïðàâèëüíîñòü óïîòðåáëåíèÿ âû-
ðàæåíèÿ �
2
(r;�) äëÿ ðàñïðåäåëåíèÿ êâàäðàòà äëèíû âåêòîðà ~�+~a.
Çäåñü ~� = (�
1
; �
2
; : : : ; �
r
).
Ä î ê à ç à ò å ë ü ñ ò â î. Äîêàçàòåëüñòâî îñíîâûâàåòñÿ íà òîì,
÷òî âåêòîð ~�+~a ìîæíî îðòîãîíàëüíûì ïðåîáðàçîâàíèåì (ñêàæåì,
C) ïåðåâåñòè â âåêòîð ñ êîîðäèíàòàìè:
(~�
1
+
p
�; ~�
2
; : : : ; ~�
r
)
T
;
ãäå ~� = C�. Ïðè îðòîãîíàëüíûõ ïðåîáðàçîâàíèÿõ äëèíà âåêòîðà
íå ìåíÿåòñÿ; ðàñïðåäåëåíèå C�, òàê æå êàê è ðàñïðåäåëåíèå �, åñòü
N(0; I).
Ë å ì ì à 7.1.2. Ïóñòü L
1
; L
2
; : : : � ïîïàðíî îðòîãîíàëüíûå
ïîäïðîñòðàíñòâà, ïðÿìàÿ ñóììà êîòîðûõ ñîñòàâëÿåò âñ¼ ïðî-
ñòðàíñòâî R
n
:
L
1
� L
1
� : : : = R
n
:
Ïóñòü proj
L
X îáîçíà÷àåò ïðîåêöèþ âåêòîðà X íà ïîäïðîñòðàí-
ñòâî L (â åâêëèäîâîé ìåòðèêå). Ïóñòü, ñêàæåì, X � N(l; �
2
I).
Òîãäà:
(a) Ñëó÷àéíûå âåêòîðû proj
L
1
X; proj
L
2
X; : : : íåçàâèñèìû
(â ñîâîêóïíîñòè) è ðàñïðåäåëåíû íîðìàëüíî, ïðè÷åì
E proj
L
i
X = proj
L
i
l; i = 1; 2; : : : ;
(b) jproj
L
i
X j
2
= �
2
�
2
(r
i
;�
i
); ãäå r
i
= dimL
i
; �
i
=
�
�
�
1
�
proj
L
i
l
�
�
�
2
.
Ä î ê à ç à ò å ë ü ñ ò â î. �àññìîòðèì â R
n
íîâûé îðòîíîðìè-
ðîâàííûé áàçèñ, êîòîðûé ñòðîèì, îáúåäèíÿÿ îðòîíîðìèðîâàííûå
áàçèñû ïîäïðîñòðàíñòâ L
1
; L
2
; : : :.
�àäè îïðåäåëåííîñòè ââåäåì ñîîòâåòñòâóþùèå îáîçíà÷åíèÿ:
f
1
; f
2
; : : : ; f
r
1
� áàçèñ L
1
;
96
f
r
1
+1
; f
r
1
+2
; : : : ; f
r
1
+r
2
� áàçèñ L
2
; è ò.ä.
� � � � � � � � � � � � � � �
�àññìîòðèì êîîðäèíàòû âåêòîðà X = (X
1
; : : : ; X
n
) â áàçèñå
ffg. Îáîçíà÷èì èõ ÷åðåç Y
1
; Y
2
; : : : ; Y
n
.
Êàê èçâåñòíî, ñ ïîìîùüþ ìàòðèöû ïåðåõîäà îò îäíîãî áàçèñà
ê äðóãîìó � îáîçíà÷èì ýòó ìàòðèöó ÷åðåç C � âåêòîðû-ñòîëáöû
Y = (Y
1
; Y
2
; : : : ; Y
n
) èX ñâÿçàíû ñîîòíîøåíèåì Y = CX . Çàìåòèì,
÷òî C � îðòîãîíàëüíàÿ ìàòðèöà, è ïîýòîìó Y � N(Cl; �
2
I). Ñëå-
äîâàòåëüíî, ñëó÷àéíûå âåëè÷èíû Y
1
; Y
2
; : : : ; Y
n
íåçàâèñèìû, ðàñ-
ïðåäåëåíû íîðìàëüíî è èìåþò îäíó è òó æå äèñïåðñèþ �
2
. Çàìå-
òèì, ÷òî
proj
L
1
X = Y
1
f
1
+ : : :+ Y
r
1
f
r
1
;
proj
L
2
X = Y
r
1
+1
f
r
1
+1
+ : : :+ Y
r
1
+r
2
f
r
1
+r
2
; è ò. ä.
Èç ýòèõ ïðåäñòàâëåíèé äëÿ proj
L
i
X; i = 1; 2; : : : è îòìå÷åííûõ
ñâîéñòâ ñëó÷àéíûõ âåëè÷èí Y
1
; Y
2
; : : : ñëåäóåò óòâåðæäåíèå (a).
Äëÿ äîêàçàòåëüñòâà (b) çàìåòèì, ÷òî
jproj
L
1
X j
2
= Y
2
1
+ : : :+ Y
2
r
1
=
�
2
h�
1
�
Y
1
�
2
+
�
1
�
Y
2
�
2
+ � � �+
�
1
�
Y
r
1
�
2
i
= �
2
�
2
(r
1
;�
1
);
èáî
�
1
�
Y
1
�
2
; : : : ;
�
1
�
Y
r
1
�
2
� ñóòü íåçàâèñèìûå ñëó÷àéíûå âåëè÷è-
íû ñ îáùåé äèñïåðñèåé.
Ïàðàìåòð íåöåíòðàëüíîñòè � ýòî êâàäðàò äëèíû ìàòåìàòè÷å-
ñêîãî îæèäàíèÿ âåêòîðà
1
�
(Y
1
; Y
2
; : : : ; Y
r
1
)
T
:Ïî ñêàçàííîìó âûøå,
E
h
1
�
(Y
1
; Y
2
; : : : ; Y
r
1
)
T
i
=
1
�
proj
L
1
EX:
Ëåììà 7.1.2 äîêàçàíà. �
1.3. Ëèíåéíàÿ ìîäåëü
Âåðíåìñÿ ê ëèíåéíîé ìîäåëè X �N(l; �
2
I); ïðè÷åì l 2 L;
ãäå L � çàäàíî. Äëÿ îöåíèâàíèÿ �
2
ðàññìîòðèì âòîðóþ ñîñòàâëÿ-
þùóþ äîñòàòî÷íîé ñòàòèñòèêè: ñëó÷àéíóþ âåëè÷èíó jproj
L
?
X j
2
.
Ñîãëàñíî ëåììå 7.1.2,
jproj
L
?
X j
2
= �
2
�
2
(n� r;�); ãäå n� r = dimL
?
= n� dimL:
97
Ïàðàìåòð íåöåíòðàëüíîñòè � çäåñü ðàâåí
� =
1
�
2
jproj
L
?
EX j
2
= 0;
èáî EX 2 L ïî óñëîâèÿì ìîäåëè, òàê ÷òî proj
L
?
EX = 0.
Ïîñêîëüêó E�
2
(m) = m, íàèëó÷øåé íåñìåùåííîé îöåíêîé ïà-
ðàìåòðà �
2
ñëóæèò
1
n� r
jproj
L
?
X j
2
=
1
n� r
jX � proj
L
X j
2
:
Ïîñëåäíåå âûðàæåíèå äëÿ proj
L
?
X çà÷àñòóþ áûâàåò óäîáíåå
(îñîáåííî êîãäà ïîäïðîñòðàíñòâî L çàäàíî ñâîèì áàçèñîì).
Îòìåòèì òàêæå, ÷òî â ñèëó ëåììû 7.1.2, proj
L
X è proj
L
?
X
ñòàòèñòè÷åñêè íåçàâèñèìû (êàê ñëó÷àéíûå âåêòîðû).
Ç à ì å ÷ à í è å î âû÷èñëåíèè proj
L
X è proj
L
?
X . Ïî îïðå-
äåëåíèþ, ïðîåêöèåé òî÷êè (âåêòîðà) X íà ìíîæåñòâî L íàçûâàþò
òàêóþ òî÷êó ìíîæåñòâà L, íà êîòîðîé äîñòèãàåòñÿ ìèíèìóì ðàñ-
ñòîÿíèÿ:
proj
L
X := argmin
Z2L
jX � Zj = argmin
Z2L
jX � Zj
2
;
proj
L
X := argmin
Z2L
n
X
i=1
(X
i
� Z
i
)
2
:
Ïîñëåäíåå ðàâåíñòâî îáúÿñíÿåò íàçâàíèå îöåíîê â ýòîé çàäà÷å:
îöåíêè íàèìåíüøèõ êâàäðàòîâ (êàê è âñåãî ìåòîäà: ìåòîä íàè-
ìåíüøèõ êâàäðàòîâ). Îòìåòèì òàêæå, ÷òî
min
Z2L
n
X
i=1
(X
i
� Z
i
)
2
= jproj
L
?
X j
2
= jX � proj
L
X j
2
:
1.4. Ïðîñòîé ïðèìåð ëèíåéíîé ãàóññîâñêîé ìîäåëè
Ïðîñòîé ïðèìåð ãàóññîâñêîé ìîäåëè � âûáîðêà èç íîðìàëüíîãî
çàêîíà N(a; �
2
):
X = (X
1
; X
2
; : : : ; X
n
)
T
; ãäå X
i
� N(a; �
2
):
Ïðè ýòîì X � N(l; �
2
I), ãäå l = a(1; 1; : : : ; 1)
T
. Òàêèì îáðà-
çîì, ïîäïðîñòðàíñòâî L çäåñü îäíîìåðíîå; îöåíèâàÿ l, ìû, òåì
98
ñàìûì, îöåíèâàåì a. Íàèëó÷øèå íåñìåùåííûå îöåíêè a è �
2
ñóòü
�
X =
1
n
n
X
i=1
X
i
è s
2
=
1
n� 1
n
X
i=1
(X
i
�
�
X)
2
. Ýòà æå ïàðà (
�
X; s
2
) è
ñëóæèò äîñòàòî÷íîé ñòàòèñòèêîé äëÿ (a; �
2
). Ñòàòèñòèêè
�
X è s
2
íåçàâèñèìû,
�
X � N(a;
1
n
�
2
), (n� 1)s
2
� �
2
�
2
(n� 1):
� 2. Ôàêòîðíûå ìîäåëè (�àêòîðíûå ýêñïåðèìåí-
òû)
 ýòèõ ýêñïåðèìåíòàõ îòêëèê (ðåãèñòðèðóåìûé ðåçóëüòàò îïû-
òà), òî÷íåå � åãî íåñëó÷àéíàÿ, çàêîíîìåðíàÿ ÷àñòü, åñòü ðåçóëüòàò
äåéñòâèÿ îäíîãî èëè íåñêîëüêèõ èçâåñòíûõ �àêòîðîâ. �åãèñòðè-
ðóåìûé ðåçóëüòàò îïûòà ìîæåò îòëè÷àòüñÿ îò îæèäàåìîãî áëàãî-
äàðÿ ïðèñóòñòâèþ ñëó÷àéíîé îøèáêè.
2.1. Îäíî�àêòîðíàÿ ãàóññîâñêàÿ ìîäåëü
Íåêèé �àêòîð ìîæåò ïðèíèìàòü íåñêîëüêî ðàçëè÷íûõ çíà÷å-
íèé, íàçûâàåìûõ óðîâíÿìè: A
1
; A
2
; : : : ; A
r
. Ïðè êàæäîì çíà÷åíèè
A
j
; j = 1; r ïðîèçâîäèòñÿ íåñêîëüêî (ñêàæåì n
j
) íåçàâèñèìûõ
îïûòîâ. Èõ ðåçóëüòàòû îáîçíà÷èì ÷åðåç x
ij
; i = 1; n
j
� ýòî íîìåð
îïûòà â ñåðèè j, j = 1; r. Ñåðèÿ j ñîîòâåòñòâóåò óðîâíþ A
j
.
Ñ ò à ò è ñ ò è ÷ å ñ ê à ÿ ì î ä å ë ü:
x
ij
= a
j
+ "
ij
; j = 1; r;
ãäå a
1
; a
2
; : : : ; a
r
� íåêèå ÷èñëà (îáû÷íî íåèçâåñòíûå ýêñïåðèìåí-
òàòîðó), "
ij
� ñóòü íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû ("îøèáêè").
 ãàóññîâñêîé ìîäåëè äîïîëíèòåëüíî ïðåäïîëàãàåòñÿ, ÷òî "
ij
�
N(0; �
2
); ïàðàìåòð � (ìàñøòàá ñëó÷àéíûõ îòêëîíåíèé) îáû÷íî
íåèçâåñòåí.
Ïðåäñòàâëåíèå îäíî�àêòîðíîé ìîäåëè â êàíîíè÷åñêîì âèäå
X � N(l; �
2
I) î÷åâèäíî.  êà÷åñòâå X ìîæíî âçÿòü ñòîëáåö (ðàç-
ìåðíîñòè n
1
+n
2
+ � � �+n
r
), â êîòîðîì ïîñëåäîâàòåëüíî çàïèñàíû
ýëåìåíòû âñåõ r âûáîðîê:
X = (x
11
; x
21
; : : : ; x
n
1
1
; x
12
; x
22
; : : : ; x
n
2
2
; : : :)
T
:
Ëèíåéíîå ïîäïðîñòðàíñòâî L (êîòîðîìó ïðèíàäëåæèò EX),
99
ïîðîæäåíî r âåêòîðàìè âèäà:
(1; : : : ; 1
| {z }
n
1
; 0; : : : ; 0; 0; : : : ; 0)
T
; (0; : : : ; 0
| {z }
n
1
; 1; : : : ; 1
| {z }
n
2
; 0; : : : ; 0)
T
è ò. ä.
Îöåíêè ïàðàìåòðîâ a
1
; a
2
; : : : ; a
r
è �
2
ìû ïîëó÷èì â ýòîé ìîäåëè,
ïðèìåíÿÿ îáùèå ðåçóëüòàòû. Çäåñü a
�
j
=
1
n
j
n
j
X
i=1
x
ij
äëÿ j = 1; r;
s
2
=
1
r
P
j=1
(n
j
� 1)
r
X
j=1
n
j
X
i=1
(x
ij
� a
�
j
)
2
: Ñòàòèñòèêè a
�
1
; a
�
2
; : : : ; a
�
r
; s
2
íåçàâèñèìû.
2.2. Àääèòèâíàÿ äâóõ�àêòîðíàÿ ìîäåëü
Ê äâóõ (è áîëåå) �àêòîðíîé ìîäåëè ïðèõîäèòñÿ ïðèáåãàòü,
êîãäà êðîìå ãëàâíîãî �àêòîðà A ïðèõîäèòñÿ ó÷èòûâàòü äåé-
ñòâèå åùå îäíîãî (èëè íåñêîëüêèõ) �àêòîðîâ. Ïóñòü, êàê âûøå,
A
1
; A
2
; : : : ; A
r
� óðîâíè �àêòîðà A. Ôàêòîð B ïðèíèìàåò óðîâíè
B
1
; B
2
; : : : ; B
s
.
Ïëàíû ýêñïåðèìåíòà â ýòîé ñõåìå ìîãóò áûòü áîëåå ðàçíîîá-
ðàçíû, ÷åì â îäíî�àêòîðíîé ìîäåëè.  äàííîì ñëó÷àå ïëàí îïû-
òà óêàçûâàåò, êàêîå êîëè÷åñòâî íåçàâèñèìûõ ïîâòîðåíèé n
ij
íàäî
ïðîèçâåñòè äëÿ êîìáèíàöèè A
i
è B
j
óðîâíåé �àêòîðîâ A è B,
i = 1; r; j = 1; s. Íàèáîëåå ïðîñòîé è ïîïóëÿðíûé ïëàí: n
ij
= 1.
(Ñïåöèàëüíîå âûðàæåíèå: "îäíî íàáëþäåíèå â êëåòêå"). �åçóëü-
òàòû îïûòà ìîæíî çàïèñàòü òàáëèöåé
A nB B
1
. . . B
j
. . . B
s
A
1
x
11
. . . x
1j
. . . x
1s
. . . . . . . . . . . . . . . . . .
A
i
x
i1
. . . x
ij
. . . x
is
. . . . . . . . . . . . . . . . . .
A
r
x
r1
. . . x
rj
. . . x
rs
Ñ ò à ò è ñ ò è ÷ å ñ ê à ÿ ì î ä å ë ü (àääèòèâíàÿ):
x
ij
= a
i
+ b
j
+ "
ij
; i = 1; r; j = 1; s:
Çäåñü a
i
, b
j
èñòîëêîâûâàþòñÿ êàê ðåçóëüòàòû äåéñòâèÿ �àêòîðîâ
A è B, íàõîäÿùèõñÿ íà óðîâíÿõ A
i
è B
j
. Ìîäåëü îòðàæàåò ïðåä-
100
ñòàâëåíèå î òîì, ÷òî �àêòîðû äåéñòâóþò íà îòêëèê, íå âçàèìî-
äåéñòâóÿ äðóã ñ äðóãîì, è ÷òî èõ âîçäåéñòâèÿ ñóììèðóþòñÿ. Âå-
ëè÷èíû "
ij
èñòîëêîâûâàþòñÿ êàê íåçàâèñèìûå ñëó÷àéíûå îøèáêè.
Åñëè ìû ïðåäïîëàãàåì, ÷òî "
ij
� N(0; �
2
), ìîäåëü íàçûâàþò
ãàóññîâñêîé (õîòÿ àâòîð ýòîãî ñòàòèñòè÷åñêîãî íàïðàâëåíèÿ îò-
íþäü íå Ê.Ô. �àóññ, à �. Ôèøåð).
 ïðèâåäåííîì âûøå ïðåäñòàâëåíèè àääèòèâíîé äâóõ�àêòîð-
íîé ìîäåëè ïàðàìåòðû (a
i
; b
j
) íå èäåíòè�èöèðóåìû: äàæå åñëè
îøèáêè îòñóòñòâóþò ("
ij
� 0), ïî ðåçóëüòàòàì îïûòà (â äàííîì
ñëó÷àå ïî ñóììàì a
i
+ b
j
) íåëüçÿ îäíîçíà÷íî âîññòàíîâèòü âåëè-
÷èíû a
i
, b
j
. Åñòü äâå âîçìîæíîñòè ïðåîäîëåòü ýòî çàòðóäíåíèå:
� Ñòàâèòü âîïðîñû è äåëàòü âûâîäû òîëüêî î òàêèõ �óíêöè-
ÿõ ïàðàìåòðîâ, êîòîðûå îïðåäåëÿþòñÿ îäíîçíà÷íî. Ê òàêèì
îòíîñÿòñÿ, íàïðèìåð, ïîïàðíûå ðàçíîñòè a
i
� a
i
0
, b
j
� b
j
0
è
èõ êîìáèíàöèè.
� Íî, ïî ìîåìó ìíåíèþ, ïðåäïî÷òèòåëüíåé âòîðîé ïóòü: èíàÿ
ïàðàìåòðèçàöèÿ ìîäåëè. Ïðåäñòàâèì îæèäàåìîå çíà÷åíèå
îòêëèêà (ðàíåå ýòî áûëî a
i
+ b
j
) â âèäå:
Ex
ij
= �+ �
i
+ �
j
; i = 1; r; j = 1; s;
äîïîëíèòåëüíî íàëîæèâ íà ïàðàìåòðû (�
i
; �
j
) ñâÿçè:
r
X
i=1
�
i
= 0;
s
X
j=1
�
j
= 0:
Ñ ó÷åòîì ñâÿçåé, ïàðàìåòðû �; �
1
; : : : ; �
r
; �
1
; : : : ; �
s
îäíî-
çíà÷íî âîññòàíàâëèâàþòñÿ ïî ìàòðèöå k�+ �
i
+ �
j
k.
 äâóõ�àêòîðíîé àääèòèâíîé ìîäåëè (êàê è â îäíî�àêòîð-
íîé) ðåçóëüòàòû íàáëþäåíèé ìîæíî ïðåäñòàâèòü â âèäå âåêòîðà-
ñòîëáöà. Óäîáíåå, âïðî÷åì, ñîõðàíèòü äëÿ ýòèõ äàííûõ åñòåñòâåí-
íóþ ñòðóêòóðó ìàòðèöû (ïðÿìîóãîëüíîé, ðàçìåðà r � s) è ïîëî-
æèòü X = kx
ij
; i = 1; r; j = 1; sk:
Ìàòðèöû äàííîãî ðàçìåðà îáðàçóþò ëèíåéíîå ïðîñòðàíñòâî
ðàçìåðíîñòè rs. Ïîäïðîñòðàíñòâî L, êîòîðîìó ïðèíàäëåæèò EX ,
èìååò ðàçìåðíîñòü r+s�1. Îíî ïîðîæäåíî r+s ìàòðèöàìè îñîáî-
ãî âèäà. Êàæäàÿ èç òàêèõ ìàòðèö èìååò ëèáî ñòðîêó, ëèáî ñòîëáåö
èç åäèíèö; ïðî÷èå èõ ýëåìåíòû ðàâíû íóëþ. Ñèììåòðèè ðàäè (è
101
íå èçìåíÿÿ L), ê ïåðå÷èñëåííûì ìàòðèöàì ìîæíî ïðèñîåäèíèòü
ìàòðèöó, ñïëîøü ñîñòîÿùóþ èç åäèíèö.
Îöåíêè ïàðàìåòðîâ �, ~�,
~
� ïîëó÷àþò, ïðîåöèðóÿ ñëó÷àéíûé
âåêòîð X íà ïîäïðîñòðàíñòâî L, ò. å. äåéñòâóÿ ïî ìåòîäó íàè-
ìåíüøèõ êâàäðàòîâ. Èíà÷å ãîâîðÿ, ðåøàÿ ýêñòðåìàëüíóþ çàäà÷ó:
r
X
i=1
s
X
j=1
(x
ij
� �� �
i
� �
j
)
2
�! min
�;~�;
~
�
ïðè óñëîâèÿõ
r
X
i=1
�
i
= 0;
s
X
j=1
�
j
= 0:
Îòâåò ìîæíî çàïèñàòü â êîìïàêòíîé �îðìå, åñëè óïîòðåáèòü
(øèðîêî ïðèíÿòóþ) ñèìâîëèêó:
x
�j
=
1
r
r
X
i=1
x
ij
; x
i�
=
1
s
s
X
j=1
x
ij
; x
��
=
1
rs
r
X
i=1
s
X
j=1
x
ij
:
(Òî÷êà çàìåùàåò èíäåêñ, ïî êîòîðîìó ïðîèçâåäåíî îñðåäíåíèå îò-
êëèêà).  ýòèõ îáîçíà÷åíèÿõ íàèëó÷øèå íåñìåùåííûå îöåíêè ïà-
ðàìåòðîâ ñóòü:
�
�
= x
��
; �
�
i
= x
i�
� x
��
; �
�
j
= x
�j
� x
��
;
s
2
=
r
X
i=1
s
X
j=1
(x
ij
� x
i�
� x
�j
+ x
��
)
2
=[(r � 1)(s� 1)℄:
Ïðè ýòîì (r� 1)(s� 1)s
2
� �
2
�
2
�
(r� 1)(s� 1)
�
: Óêàçàííûå âûøå
îöåíêè ìîæíî ïîëó÷èòü êàê ïðÿìûì ðåøåíèåì ïðèâåäåííîé âûøå
ýêñòðåìàëüíîé çàäà÷è, òàê è íà îñíîâå òîæäåñòâà:
r
X
i=1
s
X
j=1
(x
ij
� �� �
i
� �
j
)
2
=
r
X
i=1
s
X
j=1
h
(x
ij
� x
i�
� x
�j
+ x
��
)
2
+ (x
i�
� x
��
� �
i
)
2
+
+(x
�j
� x
��
� �
j
)
2
+ (x
��
� �)
2
i
;
êîòîðîå âåðíî, åñëè
r
P
i=1
�
i
= 0;
s
P
j=1
�
j
= 0:
102
� 3. Ëèíåéíàÿ ðåãðåññèÿ
 ëèíåéíîé ìîäåëè âû÷èñëåíèå íàèëó÷øèõ íåñìåùåííûõ îöå-
íîê ñâîäèòñÿ ê âû÷èñëåíèþ ïðîåêöèè âåêòîðà X íà çàäàííîå ëè-
íåéíîå ïîäïðîñòðàíñòâî L. Õîä âû÷èñëåíèé çàâèñèò îò òîãî, êà-
êèì îáðàçîì çàäàíî (îïèñàíî) ïîäïðîñòðàíñòâî L. Ñåé÷àñ ìû ðàñ-
ñìîòðèì ÷àñòûé íà ïðàêòèêå ñëó÷àé, êîãäà L ïîðîæäåíî çàäàí-
íûì íàáîðîì âåêòîðîâ. �àäè îïðåäåëåííîñòè, áóäåì ãîâîðèòü î
ëèíåéíîé ìîäåëè â å¼ êàíîíè÷åñêîé �îðìå, êîãäà âåêòîð íàáëþäå-
íèé X è åãî îæèäàåìîå çíà÷åíèå l = EX � ýòî n-ìåðíûå âåêòîðû-
ñòîëáöû.
Ïóñòü âåêòîðû (ñòîëáöû) F
1
; F
2
; : : : ; F
r
ïîðîæäàþò ïîäïðî-
ñòðàíñòâî L. Ýòà ñîâîêóïíîñòü âåêòîðîâ ìîæåò áûòü êàê ëèíåéíî-
íåçàâèñèìîé (áàçèñ L), òàê è íåò.
Òàê êàê l 2 L, òî l = �
1
F
1
+ �
2
F
2
+ � � � + �
r
F
r
ïðè íåêîòîðûõ
êîý��èöèåíòàõ �
1
; �
2
; : : : ; �
r
2 R
1
. Ýòî ïðåäñòàâëåíèå l ìîæíî çà-
ïèñàòü â ìàòðè÷íîé �îðìå. Äëÿ ýòîãî ââåäåì ìàòðèöó F (ðàçìåðà
n� r), ñòîëáöàìè êîòîðîé ñëóæàò âåêòîðû F
1
; F
2
; : : : ; F
r
:
F := kF
1
; F
2
; � � � ; F
r
k:
Îïðåäåëèì r-ìåðíûé âåêòîð-ñòîëáåö �, ïîëîæèâ �=(�
1
; �
2
; : : : ; �
r
)
T
:
Òåïåðü âåêòîð l ìîæíî ïðåäñòàâèòü êîðî÷å:
l = F�:
Èñõîäíàÿ ëèíåéíàÿ ìîäåëü ïðåäñòàâèìà â âèäå
X = F� + ";
ãäå " = ("
1
; "
2
; : : : ; "
n
)
T
� N(0; �
2
I), � 2 R
r
, ìàòðèöà F çàäàíà.
Ëèíåéíóþ ìîäåëü â òàêîé �îðìå ÷àñòî íàçûâàþò ðåãðåññèîííîé
ìîäåëüþ (çàäà÷åé ëèíåéíîé ðåãðåññèè).
 ðåãðåññèîííîé ìîäåëè äîñòàòî÷íî îöåíèòü âåêòîð ïàðàìåò-
ðîâ �. Ïðîåêöèþ X íà ïîäïðîñòðàíñòâî L òåïåðü ìîæíî íàéòè,
ðåøèâ ýêñòðåìàëüíóþ çàäà÷ó:
jX � F�j
2
�! min
�2R
r
:
Äëÿ ýòîãî äîñòàòî÷íî ñíà÷àëà íàéòè ãðàäèåíò �óíêöèè
Q(�) := jX � F�j
2
= (X � F�)
T
(X � F�);
103
à çàòåì, ïðèðàâíÿâ åãî ê íóëþ, íàéòè òî÷êó ìèíèìóìà �óíêöèè
Q(�). Óñëîâèìñÿ ñ÷èòàòü îïåðàòîð ÷àñòíîãî äè��åðåíöèðîâàíèÿ
�
��
ñòðîêîé:
�
��
=
�
�
��
1
;
�
��
2
; : : : ;
�
��
r
�
:
Ïðè òàêîì ñîãëàøåíèè Q(�+ d�) = Q(�) +
�Q
��
d�+ o(d�): Äàëåå,
Q(� + d�) = [X � F (� + d�)℄
T
[X � F (� + d�)℄ =
= Q(�)� (X � F�)
T
Fd� + (Fd�)
T
(X � F�) + o(d�):
Îòñþäà ñëåäóåò, ÷òî
�Q
��
= �2(X � F�)
T
F:
Ïî îòíîøåíèþ ê íåèçâåñòíîìó âåêòîðó � ýòî äàåò óðàâíåíèå
F
T
X = (F
T
F )�:
Ýòî óðàâíåíèå âñåãäà èìååò ðåøåíèå (ïî ñìûñëó èñõîäíîé çàäà-
÷è). Ýòî ðåøåíèå åäèíñòâåííî òîãäà è òîëüêî òîãäà, êîãäà ñèñòåìà
F
1
; F
2
; : : : ; F
r
� ëèíåéíî íåçàâèñèìàÿ. Â ýòîì (è òîëüêî â ýòîì)
ñëó÷àå ìàòðèöà F
T
F íåâûðîæäåíà.  ýòîì ñëó÷àå
^
� = (F
T
F )
�1
F
T
X:
Ïðè ýòîì
proj
L
X = F
^
� = F (F
T
F )
�1
F
T
X:
Ìîæíî óêàçàòü è ñâîéñòâà
^
� êàê îöåíêè �:
^
� � N
�
�; �
2
(F
T
F )
�1
�
:
Îöåíêîé (íåñìåùåííîé, íàèëó÷øåé) äëÿ �
2
ñëóæèò
s
2
=
1
n� r
jX � F
^
�j
2
:
Ñòàòèñòèêè
^
� è s
2
íåçàâèñèìû.
Îòìåòèì, ÷òî âû÷èñëåíèå
^
� çíà÷èòåëüíî óïðîùàåòñÿ, åñëè áà-
çèñ ïîäïðîñòðàíñòâà L âûáðàí îðòîãîíàëüíûì.  ýòîì ñëó÷àå ìàò-
ðèöà F
T
F � äèàãîíàëüíàÿ. Âàæíûì äîñòîèíñòâîì îðòîãîíàëü-
íîãî áàçèñà ñëóæèò òàêæå ñòàòèñòè÷åñêàÿ íåçàâèñèìîñòü îöåíîê
^
�
1
;
^
�
2
: : : ;
^
�
r
. Ýòî îáëåã÷àåò èíòåðïðåòàöèþ ðåçóëüòàòîâ.
104
Ëåêöèÿ 8. Äîâåðèòåëüíîå (èíòåðâàëüíîå)
îöåíèâàíèå
Çíàêîìñòâî ñ îöåíèâàíèåì çàâåðøèì ðàññêàçîì î äîâåðèòåëü-
íûõ ãðàíèöàõ, äîâåðèòåëüíûõ èíòåðâàëàõ è äîâåðèòåëüíûõ îáëà-
ñòÿõ äëÿ îöåíèâàåìûõ ïàðàìåòðîâ. Ñ ïðèêëàäíîé òî÷êè çðåíèÿ,
ñòàòèñòè÷åñêàÿ îöåíêà � ýòî ñòàòèñòè÷åñêîå ïðèáëèæåíèå ê íåèç-
âåñòíîìó ïàðàìåòðó èëè åãî �óíêöèè, ýòî åãî ïðèáëèæåííîå çíà-
÷åíèå, ïîëó÷åííîå èç îïûòà. Äî ñèõ ïîð ìû ñòðåìèëèñü ê òîìó,
÷òîáû ïóòåì ñòàòèñòè÷åñêîé îáðàáîòêè ïîëó÷èòü êàê ìîæíî áî-
ëåå òî÷íîå ïðèáëèæåíèå. Îäíàêî ñïîñîáà èçìåðèòü ñàìîå òî÷íîñòü
ïðèáëèæåíèÿ ó íàñ íå áûëî.
Ìåæäó òåì, òî÷íîñòü ïðèáëèæåíèÿ � ýòî îáùåíàó÷íîå ïîíÿ-
òèå, òàê æå êàê è ñïîñîá å¼ êîëè÷åñòâåííîãî âûðàæåíèÿ. Âñÿêèé
ðàç, êîãäà òî÷íîå çíà÷åíèå êàêîé-ëèáî âåëè÷èíû ìû çàìåùàåì
ïðèáëèæåííûì çíà÷åíèåì, íàì ñëåäóåò ñîïðîâîæäàòü òàêóþ çà-
ìåíó òàêæå è ñîîáùåíèåì î òî÷íîñòè ýòîãî ïðèáëèæåíèÿ.
Ê ïðèìåðó, 288 ïðèáëèçèòåëüíî ðàâíî 300; íî òàêæå 288 ïðè-
áëèçèòåëüíî ðàâíî 290. Îäíàêî òî÷íîñòü ýòèõ ïðèáëèæåíèé ðàç-
ëè÷íà. Òàê, â ïåðâîì ñëó÷àå, òî÷íîñòü ïðèáëèæåíèÿ íå íèæå 15,
à âî âòîðîì � ìåíüøå 5: j288� 300j < 15 è j288� 290j < 5.
 ýòèõ ïðèìåðàõ äëÿ íåèçâåñòíîé âåëè÷èíû a ìû óêàçûâàåì
å¼ ïðèáëèæåííîå çíà÷åíèå x, ïðè÷åì jx � aj < " äëÿ íåêîòîðîãî
îïðåäåëåííîãî " > 0. Çäåñü " � ãàðàíòèðîâàííàÿ òî÷íîñòü ïðè-
áëèæåíèÿ x � a.
 çàäà÷àõ ñòàòèñòè÷åñêîãî îöåíèâàíèÿ ìû ïîëó÷àåì àíàëîãè÷-
íîå ïðèáëèæåííîå ðàâåíñòâî
^
�(X) � �. (Ëèáî
^
�(X) � �(�), åñëè
ìû îöåíèâàåì �óíêöèþ îò ïàðàìåòðà). Çäåñü � � íåèçâåñòíîå èñ-
òèííîå çíà÷åíèå ïàðàìåòðà,
^
�(X) � åãî îöåíêà ïî íàáëþäåíèþ
X . Äëÿ ñòàòèñòè÷åñêîãî ïðèáëèæåíèÿ, êàê ïðàâèëî, íå ñóùåñòâó-
åò ãàðàíòèðîâàííîé òî÷íîñòè: íåò òàêîãî " > 0, äëÿ êîòîðîãî áû
äîñòîâåðíî âûïîëíÿëîñü ñîîòíîøåíèå j
^
�(X) � �j < ". Ìû ìîæåì
ãîâîðèòü ëèøü î âåðîÿòíîñòè, ñ êîòîðîé âûïîëíÿåòñÿ ýòî íåðà-
âåíñòâî. Åñëè ýòà âåðîÿòíîñòü áëèçêà ê 1, ìîæíî ãîâîðèòü, ÷òî
ñòàòèñòè÷åñêàÿ ïîãðåøíîñòü â îïðåäåëåíèè � íå ïðåâîñõîäèò " ñ
áîëüøîé âåðîÿòíîñòüþ. �àññìîòðèì íà ïðèìåðå íîðìàëüíîé âû-
áîðêè, êàê ðåàëèçóþòñÿ ýòè ñîîáðàæåíèÿ.
105
� 1. Íîðìàëüíîå ðàñïðåäåëåíèå N(a; �
2
): äîâåðè-
òåëüíûé èíòåðâàë äëÿ a
Ïóñòü x
1
; : : : ; x
n
ñóòü íåçàâèñèìûå èçìåðåíèÿ íåêîòîðîé âåëè-
÷èíû a, ïðè÷åì x
i
� N(a; �
2
) äëÿ i = 1; n. Îöåíêîé äëÿ a ìîæåò
ñëóæèòü �x =
1
n
n
X
i=1
x
i
, òàê ÷òî �x � a. Êàê ìîæíî ñóäèòü î òî÷íîñòè
ýòîãî ïðèáëèæåíèÿ, òî åñòü î j�x � aj? Ñ êàêîé âåðîÿòíîñòüþ äëÿ
äàííîãî " > 0 âûïîëíÿåòñÿ íåðàâåíñòâî j�x � aj < "? Êàêèì íàäî
âçÿòü ", ÷òîáû âåðîÿòíîñòü ýòîãî íåðàâåíñòâà áûëà áû 0.95? Èëè
0.99? È ò. ä.
Ïóñòü, äëÿ íà÷àëà, �
2
èçâåñòíî. �àññìîòðèì ñëó÷àéíóþ âåëè-
÷èíó
p
n
�x� a
�
� N(0; 1). Çàäàäèìñÿ êàêîé-ëèáî (îáû÷íî áëèç-
êîé ê 1) âåðîÿòíîñòüþ, äëÿ óäîáñòâà îáîçíà÷èâ åå ÷åðåç 1 � 2�.
Çäåñü � çàäàíî, 0 < � <
1
2
. Ïóñòü z
1��
îáîçíà÷àåò (1 � �)-
êâàíòèëü ñòàíäàðòíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ. Èíûìè ñëî-
âàìè, �(z
1��
) = 1 � �, ãäå �(�) � �óíêöèÿ ñòàíäàðòíîãî íîð-
ìàëüíîãî ðàñïðåäåëåíèÿ, èëè �óíêöèÿ Ëàïëàñà. Ââèäó ñèììåò-
ðèè (îòíîñèòåëüíî íóëÿ) z
1��
= �z
�
, ãäå �(z
�
) = �. Ïîýòîìó äëÿ
p
n
�x� a
�
ñïðàâåäëèâî óòâåðæäåíèå
P
�
�
�
p
n
�x� a
�
�
�
< z
1��
= 1� 2�; (8:1:1)
èëè
P
�
j�x� aj <
�
p
n
z
1��
= 1� 2�: (8:1:2)
Ìû ìîæåì ñêàçàòü, ÷òî ñ âåðîÿòíîñòüþ 1 � 2� òî÷íîñòü ïðèáëè-
æåíèÿ �x � a íå õóæå, ÷åì
�
p
n
z
1��
.
Ñîîòíîøåíèå (8.1.1) ìîæíî ïðåîáðàçîâàòü äàëåå, è íàïèñàòü,
÷òî
P
�
�x�
�
p
n
z
1��
< a < �x+
�
p
n
z
1��
= 1� 2�: (8:1:3)
Îòñþäà ñëåäóåò, ÷òî èíòåðâàë (ñëó÷àéíûé)
�
�x�
�
p
n
z
1��
; �x+
�
p
n
z
1��
�
(8:1:4)
106
ñîäåðæèò íåèçâåñòíîå a (÷àñòî ãîâîðÿò � "íàêðûâàåò" íåèçâåñò-
íîå a) ñ âåðîÿòíîñòüþ 1� 2�.
Ýòó âåðîÿòíîñòü 1 � 2� íàçûâàþò äîâåðèòåëüíîé âåðîÿòíî-
ñòüþ (èíîãäà � êîý��èöèåíòîì äîâåðèÿ), à óïîìÿíóòûé ñëó÷àé-
íûé èíòåðâàë � äîâåðèòåëüíûì èíòåðâàëîì.
Íà ïðàêòèêå íå ñëåäóåò îãðàíè÷èâàòüñÿ îäíîé êàêîé-ëèáî äî-
âåðèòåëüíîé âåðîÿòíîñòüþ è îäíèì äîâåðèòåëüíûì èíòåðâàëîì.
×òîáû ëó÷øå ïåðåäàòü, êàê ñâÿçàíû �x è a, ñëåäóåò âû÷èñëèòü
äîâåðèòåëüíûå èíòåðâàëû äëÿ íåñêîëüêèõ äîâåðèòåëüíûõ âåðî-
ÿòíîñòåé, ñêàæåì, äëÿ 0.50, 0.90, 0.95 è 0.99. �èñ. 8.1.1, íà êîòî-
ðîì âûäåëåíû ýòè äîâåðèòåëüíûå èíòåðâàëû, äàåò íàì íàãëÿäíîå
ïðåäñòàâëåíèå î òî÷íîñòè ñòàòèñòè÷åñêîãî ïðèáëèæåíèÿ �x � a.
-2 -1 0 1 2
n = 100
99%95%90%75%
50%
-2 -1 0 1 2
n = 50
99%95%
95%
90%75%
50%
-2 -1 0 1 2
n = 25
99%
99%
95%90%
90%
75%50%
50%
-2 -1 0 1 2
n = 1075%
�èñ. 8.1.1. Äîâåðèòåëüíûå èíòåðâàëû äëÿ a ïî ìîäåëüíûì
âûáîðêàì èç N(0; 1) îáúåìîâ n = 10; 25; 50; 100 äëÿ
äîâåðèòåëüíûõ âåðîÿòíîñòåé 0:50; 0:75; 0:90; 0:95; 0:99
Îòìåòèì íåêîòîðûå î÷åâèäíûå, íî âàæíûå ñâîéñòâà ïîëó÷åí-
íûõ äîâåðèòåëüíûõ èíòåðâàëîâ.
� Ýòè èíòåðâàëû òåì øèðå, ÷åì áîëüøå �.  íàøåì ïðèìåðå �
2
� äèñïåðñèÿ îøèáêè ïðè èçìåðåíèè a. ßñíî, ÷òî ÷åì áîëüøå
ýòà äèñïåðñèÿ, òåì íèæå òî÷íîñòü ñòàòèñòè÷åñêîãî âûâîäà.
107
� Èíòåðâàëû òåì øèðå, ÷åì áîëüøå êâàíòèëü z
1��
, êîòîðàÿ, â
ñâîþ î÷åðåäü, âîçðàñòàåò ïðè ïðèáëèæåíèè 1 � � ê 1. (Ýòà
ñêîðîñòü ðîñòà òåì âûøå, ÷åì áëèæå � ê íóëþ). Ýòî ñâîéñòâî
òîæå ëåãêî îáúÿñíèìî: ÷åì âûøå òðåáîâàíèÿ ê äîñòîâåðíî-
ñòè ñóæäåíèÿ, òåì ìåíåå ñîäåðæàòåëüíî è èí�îðìàòèâíî ìî-
æåò áûòü ñàìîå ýòî ñóæäåíèå.
� Íàêîíåö, íà òî÷íîñòü ïðèáëèæåíèÿ �x � a âëèÿåò ÷èñëî íà-
áëþäåíèé n: ÷åì áîëüøå n, òåì �óæå äîâåðèòåëüíûé èíòåð-
âàë, ò. å. òåì âûøå òî÷íîñòü.
Çàìåòèì, îäíàêî, ÷òî äëèíà äîâåðèòåëüíîãî èíòåðâàëà ïðî-
ïîðöèîíàëüíà 1=
p
n. Òàê ÷òî åñëè ìû õîòèì ïîâûñèòü ñòàòè-
ñòè÷åñêóþ òî÷íîñòü âäâîå, íàì ïðèäåòñÿ óâåëè÷èòü êîëè÷å-
ñòâî íåçàâèñèìûõ èçìåðåíèé â÷åòâåðî. (À åñëè â 10 ðàç, òî â
100). Ïðèòîì âñå ýòè èçìåðåíèÿ íàäî ïðîâîäèòü â íåèçìåí-
íûõ óñëîâèÿõ. Äîñòè÷ü ýòîãî òðóäíî. Ïîýòîìó íà ïðàêòèêå
áîëüøèå âûáîðêè âñòðå÷àþòñÿ íå ÷àñòî.
� 2. �àñïðåäåëåíèå Ñòüþäåíòà
Ïðåäûäóùèå ðåçóëüòàòû âåðíû, íî áåñïîëåçíû, êîãäà � íå èç-
âåñòíî, ÷òî ÷àùå âñåãî íà ïðàêòèêå è áûâàåò. Åñòåñòâåííàÿ ìûñëü:
çàìåíèòü íåèçâåñòíîå � åãî îöåíêîé s, ãäå s
2
=
1
n� 1
n
X
i=1
(x
i
� �x)
2
,
è ðàññìîòðåòü ñëó÷àéíóþ âåëè÷èíó
t =
p
n
�x� a
s
: (8:2:1)
ż íàçûâàþò îòíîøåíèåì Ñòüþäåíòà (Student's ratio � ñòüþ-
äåíòîâñêàÿ äðîáü, ñòüþäåíòîâñêîå îòíîøåíèå). Ëåãêî âèäåòü, ÷òî
ðàñïðåäåëåíèå (8.2.1) íå çàâèñèò îò íåèçâåñòíûõ ïàðàìåòðîâ íîð-
ìàëüíîé âûáîðêè (a; �
2
) è ñîâïàäàåò ñ ðàñïðåäåëåíèåì îòíîøåíèÿ
ñòàíäàðòíîé íîðìàëüíîé âåëè÷èíû N(0; 1) ê ñëó÷àéíîé âåëè÷èíå
r
1
n� 1
�
2
(n� 1), ïðè÷åì ýòè ñëó÷àéíûå âåëè÷èíû íåçàâèñèìû
(ñì. ëåêöèþ î ðàñïðåäåëåíèè �x; s
2
).
�àñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû (8.2.1) íàçûâàþò ðàñïðåäå-
ëåíèåì Ñòüþäåíòà ñ (n� 1) ñòåïåíÿìè ñâîáîäû.
Ïðèâåäåì îáùåå îïðåäåëåíèå.
108
Î ï ð å ä å ë å í è å 8.2.1. Ïóñòü �
0
; �
1
; : : : ; �
m
(m � íàòóðàëü-
íîå) ñóòü íåçàâèñèìûå ñòàíäàðòíûå ãàóññîâñêèå ñëó÷àéíûå âåëè-
÷èíû (ò. å. �
0
; �
1
; : : : ; �
m
� N(0; 1)). Ñòüþäåíòîâñêèì îòíîøåíè-
åì (ñòüþäåíòîâñêîé äðîáüþ) íàçûâàþò ñëó÷àéíóþ âåëè÷èíó
t = t(m;�) =
�
0
+ �
q
1
m
(�
2
1
+ � � �+ �
2
m
)
; (8:2:2)
ãäå � 2 R
1
� ïðîèçâîëüíîå ÷èñëî.
�àñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû t(m;�) íàçûâàþò ðàñïðå-
äåëåíèåì Ñòüþäåíòà; ÷èñëî m íàçûâàþò ÷èñëîì ñòåïåíåé ñâî-
áîäû, à ÷èñëî � � ïàðàìåòðîì íåöåíòðàëüíîñòè ðàñïðåäåëå-
íèÿ Ñòüþäåíòà. Åñëè � = 0, ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷è-
íû t(m) = t(m; 0) íàçûâàþò öåíòðàëüíûì ðàñïðåäåëåíèåì Ñòüþ-
äåíòà. Ýïèòåò "öåíòðàëüíîå" îáû÷íî îïóñêàþò, è ðàñïðåäåëåíèå
t(m) íàçûâàþò ïðîñòî ðàñïðåäåëåíèåì Ñòüþäåíòà (ñ m ñòåïåíÿìè
ñâîáîäû).
�àñïðåäåëåíèå Ñòüþäåíòà (öåíòðàëüíîå) ñíàáæåíî ðàçíîîá-
ðàçíûìè è ïîäðîáíûìè òàáëèöàìè. Åñòü, â ÷àñòíîñòè, òàáëèöû
êâàíòèëåé. Ïàêåòû ñòàòèñòè÷åñêèõ ïðîãðàìì ñîäåðæàò êîìàíäû,
ïîçâîëÿþùèå ïîëó÷èòü âñþ íåîáõîäèìóþ èí�îðìàöèþ î ðàñïðå-
äåëåíèè t(m).
Ôóíêöèè ïëîòíîñòè âåðîÿòíîñòè äëÿ t(m) è t(m;�) èçâåñòíû
(èõ ìîæíî íàéòè â ñïðàâî÷íèêàõ). Èõ àíàëèòè÷åñêèìè âûðàæåíè-
ÿìè ìû ïîëüçîâàòüñÿ íå áóäåì. Äëÿ èí�îðìàöèè ïðèâåäåì �îð-
ìóëó ïëîòíîñòè äëÿ t(m):
1
p
m B
�
1
2
;
m
2
�
�
1 +
x
2
m
�
�
m+1
2
: (8:2:3)
Èç (8.2.3), à òàêæå è èç (8.2.2) ñëåäóåò, ÷òî ðàñïðåäåëåíèå
Ñòüþäåíòà ñ îäíîé ñòåïåíüþ ñâîáîäû (ïðè m = 1) ñîâïàäàåò ñ
ðàñïðåäåëåíèåì Êîøè.
Îòìåòèì âàæíîå äëÿ äàëüíåéøåãî ñ â î é ñ ò â î ðàñïðåäåëåíèé
Ñòüþäåíòà: ïðè êàæäîì m ñåìåéñòâî t(m;�) ñòîõàñòè÷åñêè óïî-
ðÿäî÷åíî (ñòîõàñòè÷åñêè ìîíîòîííî âîçðàñòàåò) îòíîñèòåëüíî
�. Ýòî îçíà÷àåò, ÷òî äëÿ ëþáîãî x 2 R
1
Pft(m;�
1
) > xg < Pft(m;�
2
) > xg; åñëè �
1
< �
2
: (8:2:4)
109
Ä î ê à ç à ò å ë ü ñ ò â î ïî÷òè î÷åâèäíî: èç (8.2.2) ñëåäóåò,
÷òî
P
�
t(m;�
1
) > x
= P
�
�
0
+ �
1
> x
r
1
m
�
2
(m)
=
= EP
�
�
0
+ �
1
> x
r
1
m
�
2
(m)
�
�
�
�
2
(m)
:
Äëÿ çàâåðøåíèÿ äîêàçàòåëüñòâà îñòàåòñÿ çàìåòèòü, ÷òî äëÿ
ëþáîãî z 2 R
1
Pf�
0
+ �
1
> zg < Pf�
0
+ �
2
> zg;
åñëè �
1
< �
2
, �
0
� N(0; 1). �
Âåðíåìñÿ ê ïîñòàâëåííîé çàäà÷å: ïîñòðîåíèþ äîâåðèòåëüíûõ
èíòåðâàëîâ äëÿ a (äëÿ ñðåäíåãî) ïî íîðìàëüíîé âûáîðêå (ïî âû-
áîðêå èç N(a; �
2
)). ż ðåøåíèå òåïåðü ïî÷òè íå îòëè÷àåòñÿ îò ðàñ-
ñìîòðåííîãî â ïåðâîì ïàðàãðà�å. Åäèíñòâåííîå, ÷òî íàäî èçìå-
íèòü: âìåñòî íîðìàëüíûõ êâàíòèëåé ââåñòè êâàíòèëè ðàñïðåäåëå-
íèÿ Ñòüþäåíòà.
Âñå æå ïîâòîðèì íåîáõîäèìûå øàãè. Âûáèðàåì äîâåðèòåëü-
íóþ âåðîÿòíîñòü 1 � 2�. Ïî òàáëèöàì íàõîäèì (1 � �)-êâàíòèëü
ðàñïðåäåëåíèÿ Ñòüþäåíòà ñ (n � 1) ñòåïåíÿìè ñâîáîäû, êîòîðóþ
îáîçíà÷èì ÷åðåç t
1��
(n� 1), ò. å. ðåøåíèå óðàâíåíèÿ
Pft(n� 1) < t
1��
g = 1� �: (8:2:5)
Ââèäó ñèììåòðèè ðàñïðåäåëåíèÿ Ñòüþäåíòà
P
n
�
�
�
p
n
�x� a
s
�
�
�
< t
1��
o
= 1� 2�: (8:2:6)
Ïðåîáðàçóÿ (8.2.6), ïîëó÷àåì îöåíêó òî÷íîñòè äëÿ ïðèáëèæåíèÿ
�x � a:
P
�
j�x� aj <
s
p
n
t
1��
= 1� 2� (8:2:7)
è äîâåðèòåëüíûé èíòåðâàë äëÿ a (ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ
1� 2�)
P
�
�x�
s
p
n
t
1��
< a < �x+
s
p
n
t
1��
= 1� 2�: (8:2:8)
Âñå ñäåëàííûå â � 1 çàìå÷àíèÿ î ñâîéñòâàõ äîâåðèòåëüíîãî èí-
òåðâàëà (8.1.4), îñòàþòñÿ âåðíûìè è äëÿ (8.2.8). �àâíî êàê è ðå-
êîìåíäàöèè íå îãðàíè÷èâàòüñÿ êàêèì-ëèáî îäíèì äîâåðèòåëüíûì
110
èíòåðâàëîì (è êàêîé-ëèáî îäíîé äîâåðèòåëüíîé âåðîÿòíîñòüþ), à
âû÷èñëÿòü íåñêîëüêî òàêèõ èíòåðâàëîâ � äëÿ íåñêîëüêèõ êîý�-
�èöèåíòîâ äîâåðèÿ.
Òåì æå ïðèåìîì ìîæíî âûâîäèòü äëÿ a è äðóãèå äîâåðèòåëü-
íûå óòâåðæäåíèÿ. Íàïðèìåð, äîâåðèòåëüíûå ïðåäåëû (ãðàíèöû
ñâåðõó èëè ñíèçó).
Âûáèðàåì äîâåðèòåëüíóþ âåðîÿòíîñòü 1 � �. Åñëè ìû õîòèì
ïîëó÷èòü äëÿ a ãðàíèöó ñíèçó, áåðåì �-êâàíòèëü t
�
= t
�
(n � 1);
äëÿ ãðàíèöû ñâåðõó áåðåì (1 � �)-êâàíòèëü t
1��
. (Çàìåòèì, ÷òî
èç-çà ñèììåòðèè t
�
= �t
1��
). Äàëåå çàìåòèì, ÷òî äëÿ (8.2.1) âû-
ïîëíÿåòñÿ ñîîòíîøåíèå
P
�
t
�
<
p
n
�x� a
s
= 1� �:
Îòñþäà, ïîñêîëüêó t
�
= �t
1��
, ñëåäóåò, ÷òî
P
�
a < �x+
s
p
n
t
1��
= 1� �; (8:2:9)
òàê ÷òî �x+
s
p
n
t
1��
� ýòî âåðõíÿÿ äîâåðèòåëüíàÿ ãðàíèöà äëÿ a,
ñ êîý��èöèåíòîì äîâåðèÿ 1 � �. Íèæíÿÿ (1 � �)-äîâåðèòåëüíàÿ
ãðàíèöà äëÿ a, ðàâíàÿ �x�
s
p
n
t
1��
, ïîëó÷àåòñÿ àíàëîãè÷íî.
Ïåðåñå÷åíèå äâóõ ïîëó÷åííûõ äîâåðèòåëüíûõ îáëàñòåé äàåò
äëÿ a óæå èçâåñòíûé äîâåðèòåëüíûé èíòåðâàë (8.2.8), ñ äîâåðè-
òåëüíîé âåðîÿòíîñòüþ 1� 2�.
� 3. Öåíòðàëüíûå âåëè÷èíû
Îáñóäèì â îáùåì âèäå òîò ïðèåì, êîòîðûé ìû ïðèìåíÿëè â ïà-
ðàãðà�àõ 1 è 2. Ïóñòü ðàñïðåäåëåíèå íàáëþäåíèÿ X îïðåäåëÿåòñÿ
íåèçâåñòíûì ïàðàìåòðîì �; � 2 �. Ïðåäïîëîæèì, ÷òî ñóùåñòâóåò
ñëó÷àéíàÿ ïåðåìåííàÿ G(X; �) (G(�; �) � èçâåñòíàÿ �óíêöèÿ îò X
è �), ðàñïðåäåëåíèå êîòîðîé íàì èçâåñòíî è íå çàâèñèò îò �, êî-
ãäà � 2 �. (Â ïðåäûäóùåì ïðèìåðå ýòî áûëî
p
n
�x� a
s
). G(X; �)
íàçûâàþò öåíòðàëüíîé ñëó÷àéíîé âåëè÷èíîé, à ÷àùå (õîòü è íå
ñîâñåì ïðàâèëüíî) � öåíòðàëüíîé ñòàòèñòèêîé.
Ïðåäïîëîæèì äëÿ ïðîñòîòû, ÷òî ðàñïðåäåëåíèå G(X; �) íåïðå-
ðûâíî, è ïóñòü g
�
, � 2 (0; 1) îáîçíà÷àåò �-êâàíòèëü G(X; �). Òå-
ïåðü äëÿ âñÿêîãî � 2 � è � 2 (0; 1) ñïðàâåäëèâî ñîîòíîøåíèå:
Pfg
�
< G(X; �)g = 1� �: (8:3:1)
111
(Òî÷íåå áûëî áû â ýòîì ðàâåíñòâå óïîòðåáèòü ñèìâîë P
�
äëÿ ðàñ-
ïðåäåëåíèÿ âåðîÿòíîñòåé, çàâèñÿùèõ îò �; � 2 �. Íî ïîñêîëüêó
(8.3.1) âûïîëíÿåòñÿ äëÿ âñåõ òàêèõ �, èíäåêñ �, êîòîðûì ìû îáû÷-
íî ñîïðîâîæäàåì ñèìâîë âåðîÿòíîñòè P , çäåñü è äàëåå ìîæíî îïó-
ñòèòü, íå îïàñàÿñü íåäîðàçóìåíèé).
�åøàåì íåðàâåíñòâî g
�
< G(X; �) îòíîñèòåëüíî �. Ïîëó÷èì
çàâèñÿùåå îò X ìíîæåñòâî
S
1��
(X) := f� : g
�
< G(X; �); � 2 �g: (8:3:2)
ßñíî, ÷òî äëÿ âñÿêîãî � 2 �
Pf� 2 S
1��
(X)g = 1� �;
òàê ÷òî S
1��
(X) � ýòî äîâåðèòåëüíàÿ îáëàñòü äëÿ �, ñ äîâåðè-
òåëüíîé âåðîÿòíîñòüþ 1� �.
Åñëè ìû íå ñîáèðàåìñÿ îãðàíè÷èâàòü ñåáÿ êàêîé-ëèáî îäíîé
äîâåðèòåëüíîé îáëàñòüþ (8.3.2), íî èñïîëüçîâàòü âñ¼ ñåìåéñòâî
S
1��
(�), � 2 (0; 1), òîãäà ðàçóìíî ïîòðåáîâàòü îò öåíòðàëüíîé âå-
ëè÷èíû G(X; �), ÷òîáû ñåìåéñòâî fS
1��
(X); � 2 (0; 1)g áûëî áû
ìîíîòîííûì ïî âëîæåíèþ:
åñëè 0 < �
1
< �
2
< 1; òî S
1��
1
(X) � S
1��
2
(X): (8:3:3)
Êîãäà � � îäíîìåðíûé ïàðàìåòð, äîñòàòî÷íûì óñëîâèåì äëÿ
(8.3.3) ñëóæèò ìîíîòîííîñòü G(X; �) ïî ïåðåìåííîé � (ïðè êàæ-
äîì �èêñèðîâàííîì X). Òî÷íåå: äëÿ (8.3.3) íóæíî, ÷òîáû G(X; �)
ìîíîòîííî óáûâàëà ïî �.  ýòîì ñëó÷àå S
1��
(X) � ïîëóïðÿìàÿ
(òî÷íåå, ýòî ïåðåñå÷åíèå � ñ ïîëóïðÿìîé); åãî ïðàâûé êîíåö �
ýòî âåðõíÿÿ (1� �)-äîâåðèòåëüíàÿ ãðàíèöà äëÿ �; � 2 �.
Äðóãàÿ ñèñòåìà äîâåðèòåëüíûõ îáëàñòåé âîçíèêàåò èç àíàëî-
ãè÷íîãî (8.3.1) ñîîòíîøåíèÿ
PfG(X; �) < g
1��
g = 1� �: (8:3:4)
Äåéñòâóÿ êàê âûøå, ò. å. ðåøàÿ íåðàâåíñòâî îòíîñèòåëüíî �, ïî-
ëó÷èì äëÿ � äîâåðèòåëüíóþ îáëàñòü
T
1��
(X) = f� : G(X; �) < g
1��
; � 2 �g:
 îãîâîðåííîì âûøå îäíîìåðíîì ìîíîòîííîì ñëó÷àå ìíîæåñòâî
T
1��
(X) � ýòî ïîëóïðÿìàÿ (ïåðåñå÷åííàÿ ñ �). ż ëåâûé êîíåö
äëÿ � äàåò (1� �)-äîâåðèòåëüíóþ ãðàíèöó ñíèçó. Ïåðåñå÷åíèå îá-
ëàñòåé S
1��
(X)
T
T
1��
(X) äàåò äëÿ � äîâåðèòåëüíóþ îáëàñòü (êàê
ïðàâèëî, îãðàíè÷åííóþ) ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ 1� 2�.
112
� 4. Ïðèáëèæåííûå äîâåðèòåëüíûå ãðàíèöû äëÿ
âåðîÿòíîñòè óñïåõà â èñïûòàíèÿõ Áåðíóëëè
 ýòîé çàäà÷å íåò òî÷íîé öåíòðàëüíîé âåëè÷èíû, íî åñòü ñëó-
÷àéíàÿ âåëè÷èíà, ðàñïðåäåëåííàÿ àñèìïòîòè÷åñêè ñâîáîäíî (èìå-
åòñÿ â âèäó, ÷òî ðàñïðåäåëåíèå íå çàâèñèò îò íåèçâåñòíûõ ïàðà-
ìåòðîâ, ñâîáîäíî îò èõ âëèÿíèÿ).
Ïóñòü � � íåèçâåñòíàÿ âåðîÿòíîñòü óñïåõà, � 2 (0; 1); ïóñòü
S
n
� ÷èñëî óñïåõîâ, ñëó÷èâøååñÿ â n ïðîâåäåííûõ èñïûòàíèÿõ
Áåðíóëëè. Ïî òåîðåìå Ìóàâðà-Ëàïëàñà, ñëó÷àéíàÿ âåëè÷èíà
S
n
� n �
p
n �(1� �)
d
�! N(0; 1) ïðè n!1:
Êàê îáû÷íî, ìû çàêëþ÷àåì èç ýòîé òåîðåìû, ÷òî "äëÿ äîñòàòî÷íî
áîëüøèõ n" è z 2 R
1
P
n
�
�
�
S
n
� n �
p
n �(1� �)
�
�
�
< z
o
� �(z)� �(�z):
Ïóñòü 1� 2� � âûáðàííàÿ íàìè äîâåðèòåëüíàÿ âåðîÿòíîñòü, z
1��
îçíà÷àåò (1� �)-êâàíòèëü ñòàíäàðòíîãî íîðìàëüíîãî ðàñïðåäåëå-
íèÿ, òàê ÷òî �(z
1��
) = 1� �. Òîãäà
P
n
�
�
�
S
n
� n �
p
n �(1� �)
�
�
�
< z
1��
o
� 1� 2�: (8:4:1)
Íåðàâåíñòâî â (8.4.1) íàäî ðàçðåøèòü îòíîñèòåëüíî �, � 2 (0; 1).
Ïîñëå òîæäåñòâåííûõ ïðåîáðàçîâàíèé ïîëó÷èì äëÿ ýòîãî íåðà-
âåíñòâà ýêâèâàëåíòíóþ �îðìó
(S
n
� n �)
2
� n �(1� �)z
2
1��
< 0: (8:4:2)
Ëåâàÿ ÷àñòü � êâàäðàòíûé òðåõ÷ëåí îòíîñèòåëüíî �, ïðè÷åì êî-
ý��èöèåíò ïðè �
2
ïîëîæèòåëåí. Ïîýòîìó ðåøåíèå (8.4.2) èìååò
âèä
�(S
n
) < � < � (S
n
); (8:4:3)
ãäå �(S
n
); � (S
n
) � ñóòü êîðíè êâàäðàòíîãî òðåõ÷ëåíà â (8.4.2).
Çäåñü
�(S
n
); � (S
n
) =
S
n
+
z
2
1��
2
� z
1��
s
S
n
(n� S
n
)
n
+
z
2
1��
4
n+ z
2
1��
:
113
Âûðàæåíèå (8.4.3) äàåò äëÿ � äîâåðèòåëüíûé èíòåðâàë, äîâåðè-
òåëüíàÿ âåðîÿòíîñòü êîòîðîãî ïðèáëèæåííî ðàâíà 1� 2�.
� 5. �åãðåññèîííàÿ ìîäåëü
Ìåòîä öåíòðàëüíîé âåëè÷èíû ïðèãîäåí äëÿ òîãî ÷òîáû ñòðî-
èòü äîâåðèòåëüíûå îáëàñòè äëÿ ïàðàìåòðîâ ãàóññîâñêèõ ëèíåéíûõ
ìîäåëåé. �àññìîòðèì ðåãðåññèîííóþ ìîäåëü
X = F� + "; (8:5:1)
ãäå X � íàáëþäàåìûé n-ìåðíûé âåêòîð (ñòîëáåö); �=(�
1
;: : : ;�
m
)
T
� íåèçâåñòíûé ïàðàìåòð, � 2 R
m
; F � çàäàííàÿ n�m ìàòðèöà,
F = kF
1
; : : : ; F
m
k; âñå å¼ ñòîëáöû F
1
; : : : ; F
m
áóäåì ïðåäïîëàãàòü
ëèíåéíî-íåçàâèñèìûìè; " � N(0; �
2
I) � âåêòîð ñëó÷àéíûõ îøè-
áîê.
Êàê íàì óæå èçâåñòíî, â ýòîé ìîäåëè íàèëó÷øàÿ íåñìåùåííàÿ
îöåíêà
^
� ïîëó÷àåòñÿ ïî ìåòîäó íàèìåíüøèõ êâàäðàòîâ è ðàâíà
^
� = (F
T
F )
�1
F
T
X: (8:5:2)
Èç òåîðèè ãàóññîâñêèõ ëèíåéíûõ ìîäåëåé (òî÷íåå, èç ëåììû îá
îðòîãîíàëüíûõ ðàçëîæåíèÿõ) âûòåêàåò, ÷òî jX � F
^
�j
2
è
^
� ñòàòè-
ñòè÷åñêè íåçàâèñèìû, ïðè÷åì
jX � F
^
�j
2
= �
2
�
2
(n�m); (8:5:3)
^
� � N(�; �
2
(F
T
F )
�1
):
Äëÿ ïîñòðîåíèÿ öåíòðàëüíîé âåëè÷èíû íàì ïîíàäîáèòñÿ èçëî-
æåííàÿ íèæå ëåììà, à òàêæå åùå îäíî ñåìåéñòâî ðàñïðåäåëåíèé.
Ë å ì ì à 8.5.1. Ïóñòü � � N
p
(a;A), ïðè÷åì A
�1
ñóùåñòâóåò.
Òîãäà
�
T
A
�1
� = �
2
(p;�);
ãäå ïàðàìåòð íåöåíòðàëüíîñòè � = a
T
A
�1
a.
Ä î ê à ç à ò å ë ü ñ ò â î. Èç ëèíåéíîé àëãåáðû èçâåñòíî,
÷òî êâàäðàòè÷íóþ �îðìó ñ ìàòðèöåé A ëèíåéíûì íåâûðîæäåí-
íûì ïðåîáðàçîâàíèåì ìîæíî ïðèâåñòè ê êàíîíè÷åñêîìó âèäó. Â
äàííîì ñëó÷àå, ïðåîáðàçîâàííàÿ ìàòðèöà êâàäðàòè÷íîé �îðìû �
114
åäèíè÷íàÿ (èáî A � 0 è A � íåâûðîæäåííàÿ). Èíà÷å ãîâîðÿ, ñó-
ùåñòâóåò íåâûðîæäåííàÿ êâàäðàòíàÿ ìàòðèöà, ñêàæåì B, òàêàÿ
÷òî
BAB
T
= I:
Çàìåòèì, ÷òî
A
�1
= B
T
B:
�àññìîòðèì ñëó÷àéíûé âåêòîð � = B�. ßñíî, ÷òî
� � N
p
(Ba;BAB
T
) = N
p
(Ba; I):
Ïîýòîìó
j�j
2
= �
2
(p;�); ãäå � = jBaj
2
= (Ba)
T
Ba = a
T
A
�1
a:
Ñ äðóãîé ñòîðîíû:
j�j
2
= �
T
� = (B�)
T
B� = �
T
A
�1
�:
Ëåììà äîêàçàíà. �
Ïðèìåíèì ýòó ëåììó ê ãàóññîâñêîìó âåêòîðó (8.5.2). Ïîëó÷èì,
÷òî
(
^
� � �)
T
(F
T
F )(
^
� � �) = �
2
�
2
(m): (8:5:4)
Ý � - ð à ñ ï ð å ä å ë å í è å. Íàçûâàåìîå òàêæå ðàñïðåäåëåíèåì
Ñíåäåêîðà, ðàñïðåäåëåíèåì Ôèøåðà, ðàñïðåäåëåíèåì äèñïåðñèîí-
íîãî îòíîøåíèÿ Ôèøåðà è ò. ä.
Î ï ð å ä å ë å í è å 8.5.1. Ïóñòü ñëó÷àéíûå âåëè÷èíû X
1
è X
2
íåçàâèñèìû è ðàñïðåäåëåíû ïî çàêîíàì õè-êâàäðàò:
X
1
= �
2
(m
1
;�); X
2
= �
2
(m
2
; 0):
Ñëó÷àéíàÿ âåëè÷èíà
F = F (m
1
;m
2
;�) =
1
m
1
X
1
1
m
2
X
2
(8:5:5)
íàçûâàåòñÿ F -îòíîøåíèåì (ý�-îòíîøåíèåì, äèñïåðñèîííûì îò-
íîøåíèåì Ôèøåðà). �àñïðåäåëåíèå (8.5.5) íàçûâàþò íåöåíòðàëü-
íûì ý�-ðàñïðåäåëåíèåì ñ m
1
è m
2
ñòåïåíÿìè ñâîáîäû è ïàðàìåò-
ðîì íåöåíòðàëüíîñòè �. Åñëè � = 0, ðàñïðåäåëåíèå íàçûâàþò
115
öåíòðàëüíûì. Ýïèòåò "öåíòðàëüíîå" ÷àñòî îïóñêàþò è ãîâîðÿò
ïðîñòî îá ý�-ðàñïðåäåëåíèè ñ m
1
è m
2
ñòåïåíÿìè ñâîáîäû è î
ñëó÷àéíîé âåëè÷èíå F (m
1
;m
2
).
Ïëîòíîñòü ý�-ðàñïðåäåëåíèÿ ìîæåì âûâåñòè èç îïðåäåëåíèÿ
(8.5.5) è âèäà ïëîòíîñòè õè-êâàäðàò. Ìû íå áóäåì ê íåé îá-
ðàùàòüñÿ, ïîëàãàÿñü íà òî, ÷òî íåîáõîäèìûå ñâåäåíèÿ îá ý�-
ðàñïðåäåëåíèè (íàïðèìåð, êâàíòèëè) ìîæíî íàéòè â òàáëèöàõ.
Âñå æå ïðèâåäåì ïëîòíîñòü F (m
1
;m
2
; 0):
�
m
1
m
2
�
m
1
2
x
m
1
2
� 1
B
�
m
1
2
;
m
2
2
�
�
1 +
m
1
m
2
x
�
m
1
+m
2
2
äëÿ x � 0:
Ëåãêî âèäåòü, ÷òî ñåìåéñòâî ðàñïðåäåëåíèé F (m
1
;m
2
;�) ñòîõà-
ñòè÷åñêè óïîðÿäî÷åíî ïî � ïðè ëþáûõ m
1
èm
2
. Äîêàçûâàþò ýòîò
�àêò òåì æå ñïîñîáîì, êîòîðûì áûëà äîêàçàíà óïîðÿäî÷åííîñòü
ñåìåéñòâà �
2
(m;�) ïî � (m � ëþáîå).
Âåðíåìñÿ ê äîâåðèòåëüíîìó îöåíèâàíèþ � â ìîäåëè (8.5.1). Èç
äâóõ íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí (8.5.3) è (8.5.4) ñîñòàâèì
ý�-îòíîøåíèå
F (m;n�m) =
1
m
(
^
� � �)
T
(F
T
F )(
^
� � �)
1
n�m
jX � F
^
�j
2
: (8:5:6)
Âûáðàâ äîâåðèòåëüíóþ âåðîÿòíîñòü 1 � �, ñ ïîìîùüþ òàáëèöû
êâàíòèëåé äëÿ F (m;n�m) íàéäåì (1��)-êâàíòèëü, êîòîðóþ îáî-
çíà÷èì êàê F
1��
(m;n�m). Òåïåðü
P
8
>
<
>
:
1
m
(
^
� � �)
T
(F
T
F )(
^
� � �)
1
n�m
jX � F
^
�j
2
< F
1��
(m;n�m)
9
>
=
>
;
= 1� �:
Çàìåòèì, ÷òî
s
2
:=
1
n�m
jX � F
^
�j
2
� ýòî íåñìåùåííàÿ îöåíêà äëÿ �
2
.
116
Òåïåðü âèäíî, ÷òî (1� �)-äîâåðèòåëüíîå ìíîæåñòâî äëÿ �, çà-
äàííîå íåðàâåíñòâîì
f� : (
^
� � �)
T
(F
T
F )(
^
� � �) < ms
2
F
1��
(m;n�m)g; (8:5:7)
ïðåäñòàâëÿåò ñîáîé âíóòðåííþþ ÷àñòü (ñëó÷àéíîãî) ýëëèïñîèäà ñ
öåíòðîì â òî÷êå
^
�. Ýòà îáëàñòü (âíóòðåííîñòü ýëëèïñîèäà) íàêðû-
âàåò íåèçâåñòíîå � (òî÷êó � 2 R
m
) ñ âåðîÿòíîñòüþ 1� �.
Ìîæíî óêàçàòü äîâåðèòåëüíûå èíòåðâàëû è äëÿ îòäåëüíûõ ïà-
ðàìåòðîâ �
i
, � = (�
1
; : : : ; �
m
)
T
. Èç (8.5.2) ñëåäóåò, ÷òî êàæäàÿ êî-
îðäèíàòà
^
�
i
âåêòîðà
^
� = (
^
�
1
; : : : ;
^
�
m
)
T
ðàñïðåäåëåíà ïî íîðìàëüíî-
ìó çàêîíó N(�
i
; �
2
a
ii
), åñëè ïîëîæèòü (F
T
F )
�1
= ka
ij
k. Ñ ó÷åòîì
(8.2.2) (è íåçàâèñèìîñòè
^
�
i
è s
2
) ìîæíî óòâåðæäàòü, ÷òî ñëó÷àéíàÿ
âåëè÷èíà
t :=
^
�
i
� �
s
p
a
ii
(8:5:8)
ðàñïðåäåëåíà ïî Ñòüþäåíòó ñ (n�m) ñòåïåíÿìè ñâîáîäû. Èñõîäÿ
èç ýòîãî, ìîæíî ñòðîèòü äëÿ �
i
äîâåðèòåëüíûå èíòåðâàëû òàê æå,
êàê ìû äåëàëè ýòî â ïàðàãðà�å 2.
Îòìåòèì, ÷òî åñëè ìàòðèöà F
T
F íå îðòîãîíàëüíà, òî êîîð-
äèíàòû âåêòîðà îöåíîê
^
� íå íåçàâèñèìû. Ïîýòîìó íå ÿâëÿþò-
ñÿ íåçàâèñèìûìè è äîâåðèòåëüíûå óòâåðæäåíèÿ äëÿ îòäåëüíûõ
�
1
; : : : ; �
m
, êîãäà ýòè óòâåðæäåíèÿ îñíîâûâàþòñÿ íà öåíòðàëüíûõ
âåëè÷èíàõ (8.5.8).  ýòîì ñëó÷àå âåðîÿòíîñòü òîãî, ÷òî íåñêîëüêî
äîâåðèòåëüíûõ óòâåðæäåíèé âûïîëíÿþòñÿ îäíîâðåìåííî, íåëüçÿ
ïîëó÷èòü, ïåðåìíîæàÿ èõ èíäèâèäóàëüíûå äîâåðèòåëüíûå âåðî-
ÿòíîñòè. Îäíîâðåìåííûå äîâåðèòåëüíûå âûâîäû î �
1
; : : : ; �
m
íàäî
ïîëó÷àòü èíà÷å. Íàïðèìåð, ïî ìåòîäó Øå��å (èëè Òüþêè).
117
Ëåêöèÿ 9. Ïðîâåðêà ñòàòèñòè÷åñêèõ ãèïî-
òåç
� 1. Ïîñòàíîâêà çàäà÷è, îñíîâíûå ïîíÿòèÿ
Íàáëþäåíèå X ïîëó÷åíî ñëó÷àéíûì âûáîðîì èç ãåíåðàëüíîé
ñîâîêóïíîñòè X ïî íåêîòîðîìó âåðîÿòíîñòíîìó çàêîíó P , êîòî-
ðûé íàì íå èçâåñòåí. Îòíîñèòåëüíî ðàñïðåäåëåíèÿ P èçâåñòíî
ëèøü, ÷òî îíî ÿâëÿåòñÿ ýëåìåíòîì íåêîòîðîãî çàäàííîãî ìíîæå-
ñòâà P âåðîÿòíîñòíûõ ðàñïðåäåëåíèé íà èçìåðèìîì ïðîñòðàíñòâå
X . Îòíîñèòåëüíî èñòèííîãî ðàñïðåäåëåíèÿ P âûñêàçàíî ïðåäïîëî-
æåíèå, êîòîðîå ìû õîòèì ïðîâåðèòü, îïèðàÿñü íà íàáëþäåíèå X :
P îáëàäàåò íåêîòîðûìè îïðåäåëåííûìè ñâîéñòâàìè. Ýòè ñâîéñòâà
âûäåëÿþò â ìíîæåñòâå P íåêîòîðîå ïîäìíîæåñòâî P
0
. Ïîýòîìó
óïîìÿíóòîå ïîäëåæàùåå ïðîâåðêå ïðåäïîëîæåíèå H
0
(â äàëüíåé-
øåì � ãèïîòåçà H
0
) çâó÷èò òàê: P 2 P
0
, ãäå P
0
� P .
Êîãäà ìíîæåñòâî ðàñïðåäåëåíèé P ïàðàìåòðèçîâàíî ñ ïîìî-
ùüþ êàêîãî-ëèáî ïàðàìåòðà �, ïðè÷åì P = fP
�
: � 2 �g, òîãäà
ãèïîòåçà H
0
òîæå ïðèîáðåòàåò ïàðàìåòðè÷åñêóþ �îðìó
H
0
: � 2 �
0
;
ãäå P
0
= fP
�
: � 2 �
0
g, �
0
çàäàíî è �
0
� �.
�èïîòåçà H
0
ëèáî âåðíà, ëèáî íåò.  ïîñëåäíåì ñëó÷àå âûïîë-
íåíî àëüòåðíàòèâíîå ïðåäïîëîæåíèå î ðàñïðåäåëåíèè (àëüòåðíà-
òèâà): P 2 P
1
. Ïðè ýòîì P
0
T
P
1
= �, P
1
S
P
0
= P . (Ïîñëåäíåå,
âïðî÷åì, íå îáÿçàòåëüíî: ãèïîòåòè÷åñêîå è àëüòåðíàòèâíîå ìíî-
æåñòâî ðàñïðåäåëåíèé íå âñåãäà â ñâîåì îáúåäèíåíèè ñîñòàâëÿþò
âñå âîçìîæíûå âåðîÿòíîñòíûå ðàñïðåäåëåíèÿ).
 ïàðàìåòðè÷åñêîé �îðìå àëüòåðíàòèâà H
1
èìååò âèä
H
1
: � 2 �
1
;
ãäå P
1
= fP
�
: � 2 �
1
g, �
1
çàäàíî, �
1
� � è �
0
T
�
1
= �.
Ïî íàáëþäåíèþ X ìû äîëæíû ëèáî ïðèíÿòü H
0
, ëèáî H
0
îò-
âåðãíóòü (èíîãäà â ýòîì ñëó÷àå ãîâîðÿò: ïðèíÿòü H
1
). Ìû ðàñ-
øèðÿåì ýòó çàäà÷ó òàê: íà ìíîæåñòâå X ìû äîëæíû îïðåäåëèòü
�óíêöèþ îò x, x 2 X , çíà÷åíèÿìè êîòîðîé ìîãóò áûòü "îòâåðã-
íóòü H
0
" èëè "íå îòâåðãàòü H
0
". Çàòåì ìû ïðèìåíèì ýòó �óíê-
öèþ ê íàáëþäåííîìó çíà÷åíèþ X è â ðåçóëüòàòå ïðèìåì êîíêðåò-
íîå ðåøåíèå.
118
Ïóñòü S = fx : x 2 X ; ïî íàáëþäàåìîìó x îòâåðãàåì H
0
g:
Ìíîæåñòâî S, S � X , íàçûâàþò êðèòè÷åñêèì ìíîæåñòâîì äëÿ
ãèïîòåçû H
0
, èëè êðèòåðèåì.
Ïîñêîëüêó ãèïîòåçû, î êîòîðûõ ìû ãîâîðèëè, êàñàþòñÿ ðàñïðå-
äåëåíèÿ âåðîÿòíîñòåé, òàêèå ãèïîòåçû íàçûâàþòñÿ ñòàòèñòè÷å-
ñêèìè, à êðèòåðèè äëÿ èõ ïðîâåðêè � ñòàòèñòè÷åñêèìè êðèòå-
ðèÿìè.
Ñ ëþáûìè ñòàòèñòè÷åñêèìè êðèòåðèÿìè íåðàçðûâíî ñâÿçàíû
âîçìîæíûå îøèáêè:
� îøèáêà ðîäà I: îòâåðãàåì H
0
, êîãäà H
0
âåðíà;
� îøèáêà ðîäà II: íå îòâåðãàåì H
0
, êîãäà H
0
íåâåðíà.
Ïî ñâîèì ïîñëåäñòâèÿì ýòè îøèáêè îáû÷íî íå ðàâíîçíà÷íû:
îøèáêà I ðîäà îïàñíåå, ò. ê. îíà çàñòàâëÿåò íàñ îòêàçàòüñÿ îò ïðà-
âèëüíîãî ïðåäïîëîæåíèÿ. Â òî æå âðåìÿ îøèáêà II ðîäà (íå îò-
âåðãíóòü ãèïîòåçó, êîãäà îíà íå âåðíà) íå çàêðûâàåò âîçìîæíîñòè
âñå æå îòâåðãíóòü ëîæíóþ ãèïîòåçó H
0
â ðåçóëüòàòå äàëüíåéøèõ
å¼ ïðîâåðîê. Ïîýòîìó ïðè ïðîâåðêå ñòàòèñòè÷åñêèõ ãèïîòåç âîç-
ìîæíîñòü îøèáêè ïåðâîãî ðîäà ñòàðàþòñÿ óìåíüøèòü. Æåëàòåëü-
íî, âïðî÷åì, èìåòü òàêèå ñòàòèñòè÷åñêèå êðèòåðèè, äëÿ êîòîðûõ
ìàëû (áëèçêè ê 0) âåðîÿòíîñòè îáåèõ îøèáîê. Íî ïîñêîëüêó ýòî
îáû÷íî íåâîçìîæíî, ê âûáîðó êðèòåðèÿ S âûäâèãàþò òàêèå òðå-
áîâàíèÿ:
� Âåðîÿòíîñòü îøèáêè I ðîäà íå äîëæíà ïðåâîñõîäèòü âû-
áðàííîé (ìàëîé) âåëè÷èíû, íàçûâàåìîé óðîâíåì çíà÷èìî-
ñòè êðèòåðèÿ S.
� Ïðè ýòîì óñëîâèè âåðîÿòíîñòü îøèáêè II ðîäà íàäî ñäåëàòü
êàê ìîæíî ìåíüøå.
Ñ áîëüøåé îïðåäåëåííîñòüþ ãîâîðèòü î ñâîéñòâàõ ñòàòèñòè-
÷åñêîãî êðèòåðèÿ ïîìîãàåò åãî �óíêöèÿ ìîùíîñòè. Àðãóìåíòîì
ñëóæèò ðàñïðåäåëåíèå âåðîÿòíîñòåé P íà X , P 2 P .
Î ï ð å ä å ë å í è å 9.1.1. Ìîùíîñòüþ �(P ) êðèòåðèÿ S
íàçûâàþò
�(P; S) = �(P ) = PfX 2 Sg;
ò.å. âåðîÿòíîñòü ñîáûòèÿ fX2Sg, êîãäà ñëó÷àéíûé âûáîðX; X2X ,
ïðîèñõîäèò ñîãëàñíî ðàñïðåäåëåíèþ âåðîÿòíîñòåé P . (Íàïîìíèì,
119
÷òî ãèïîòåçó H
0
ìû îòâåðãàåì ñ ïîìîùüþ êðèòåðèÿ S, åñëè ïðî-
èñõîäèò ñîáûòèå X 2 S). Ôóíêöèþ �(�), çàäàííóþ íà ìíîæåñòâå
ðàñïðåäåëåíèé P , íàçûâàþò �óíêöèåé ìîùíîñòè (êðèòåðèÿ S).
Ñîãëàñíî ñêàçàííîìó ðàíåå, ñòàòèñòè÷åñêèé êðèòåðèé èìååò óðî-
âåíü çíà÷èìîñòè �, åñëè �(P ) � � äëÿ âñåõ P 2 P
0
. Ïîñêîëüêó
êàæäûé êðèòåðèé óðîâíÿ � åñòü îäíîâðåìåííî è êðèòåðèé óðîâ-
íÿ �
0
, åñëè � < �
0
òî ïîëåçíî îïðåäåëèòü äëÿ êðèòåðèÿ åãî ìèíè-
ìàëüíûé óðîâåíü çíà÷èìîñòè
sup
P2P
0
�(P ):
Ýòó âåëè÷èíó íàçûâàþò ðàçìåðîì êðèòåðèÿ.
Êîãäà ìíîæåñòâî P ïàðàìåòðèçîâàíî, ò. å. êîãäà P = fP
�
: � 2 �g,
ìîùíîñòü ìîæíî ñ÷èòàòü �óíêöèåé ïàðàìåòðà �:
�(�; S) = �(�) = P
�
fX 2 Sg:
 ýòîì ñëó÷àå ðàçìåð êðèòåðèÿ S åñòü sup
�2�
0
P
�
fX 2 Sg:
Ïåðå÷èñëèì åùå ðàç æåëàòåëüíûå ñâîéñòâà ëþáîãî ñòàòèñòè-
÷åñêîãî êðèòåðèÿ, ïðåäíàçíà÷åííîãî äëÿ ïðîâåðêè ñòàòèñòè÷åñêîé
ãèïîòåçû P 2 P
0
:
� ìàëûé ðàçìåð;
� áûñòðîå âîçðàñòàíèå �óíêöèè ìîùíîñòè (ïðè óäàëåíèè ðàñ-
ïðåäåëåíèÿ P îò ãèïîòåòè÷åñêîãî ìíîæåñòâà ðàñïðåäåëåíèé
P
0
).
� 2. Ïðèìåð ðåàëüíîé ïðîâåðêè ñòàòèñòè÷åñêîé
ãèïîòåçû
2.1. Ìàòåìàòè÷åñêàÿ (ñòàòèñòè÷åñêàÿ) ìîäåëü çàêîíà Ìåíäåëÿ
ïðîñòà. �èáðèäû ïåðâîãî ïîêîëåíèÿ èìåþò ãåíîòèï Aa (è �åíîòèï
A). Îíè ïðîèçâîäÿò ãàìåòû (çàðîäûøåâûå êëåòêè) A è a â ðàâíûõ
êîëè÷åñòâàõ. Ïðè ñëèÿíèè ãàìåò âîçíèêàþò ñîìàòè÷åñêèå êëåòêè
÷åòûðåõ ãåíîòèïîâ: AA;Aa; aA è aa (çäåñü ïåðâûì óêàçàí ãåíîòèï
ìàòåðèíñêîé êëåòêè, âòîðûì � îòöîâñêîé, äëÿ îïðåäåëåííîñòè).
Åñëè â îïëîäîòâîðåíèè íåò ñåëåêòèâíîñòè, åñëè æèçíåñïîñîáíîñòü
ãàìåò îäèíàêîâà, åñëè îäèíàêîâàæèçíåñïîñîáíîñòü ïîòîìñòâà (íà-
ïðèìåð, âñõîæåñòü ñåìÿí) è ò. ä., òî íàóäà÷ó âçÿòîå ðàñòåíèå âòî-
ðîãî ïîêîëåíèÿ èìååò îäèí èç òðåõ ãåíîòèïîâ AA;Aa; aa ñ âåðîÿò-
íîñòÿìè
1
4
;
1
2
;
1
4
ñîîòâåòñòâåííî. Îòñþäà ñëåäóåò, ÷òî âåðîÿòíîñòè
120
�åíîòèïîâ A è a ñóòü
3
4
è
1
4
. Ïîýòîìó â îïûòå ÷àñòîòû �åíîòè-
ïîâ A è a ñðåäè ãèáðèäîâ âòîðîãî ïîêîëåíèÿ äîëæíû îòíîñèòüñÿ
(ïðèáëèçèòåëüíî) êàê 3:1.
Øêîëà Ò.Ä. Ëûñåíêî â ÑÑÑ� â òðèäöàòûå ãîäû ïûòàëàñü áî-
ðîòüñÿ ñ ìåíäåëåâñêèìè çàêîíàìè íàñëåäñòâåííîñòè íàó÷íûìè ìå-
òîäàìè. Äàëüíåéøèé ðàññêàç � îá îäíîì èç ýïèçîäîâ ýòîé áîðü-
áû � ïðåäñòàâëÿåò ñîáîé èçâëå÷åíèå èç ñòàòüè À.Í. Êîëìîãîðîâà
(1940) "Îá îäíîì íîâîì ïîäòâåðæäåíèè çàêîíîâ Ìåíäåëÿ"; ÄÀÍ
ÑÑÑ�, òîì 27, � 1, ñòð.38�42. (Ñì. òàêæå: À.Í. Êîëìîãîðîâ, Òå-
îðèÿ âåðîÿòíîñòåé è ìàòåìàòè÷åñêàÿ ñòàòèñòèêà. � Ì.: "Íàóêà",
1986 � 535ñ. è Â.Í. Òóòóáàëèí (1992), Òåîðèÿ âåðîÿòíîñòåé è ñëó-
÷àéíûõ ïðîöåññîâ. � Ì.: èçä-âî Ì�Ó, 1992 � 400 ñ., ÷àñòü 2, ãëàâà
3, � 1).
�àáîòà Êîëìîãîðîâà îñíîâûâàåòñÿ íà ýêñïåðèìåíòàëüíûõ äàí-
íûõ Í.È. Åðìîëàåâîé: "Åùå ðàç î ãîðîõîâûõ çàêîíàõ"; ßðîâè-
çàöèÿ (1939), � 2 (23). Í.È. Åðìîëàåâà ýêñïåðèìåíòèðîâàëà ñ òî-
ìàòàìè. Â å¼ îïûòàõ ðåçóëüòàòû ðàçäåëÿëèñü ïî ñåìåéñòâàì. Íà-
ïðèìåð, ñåìåéñòâî ñîñòàâëÿëè âñå ðàñòåíèÿ, âûðîñøèå â îäíîì
ÿùèêå. Ñåìåéñòâà ìû çàíóìåðóåì èíäåêñîì i, i = 1 : : :N ; N �
èõ îáùåå ÷èñëî. ×èñòûå ëèíèè, êîòîðûå ïîäâåðãàëèñü ñêðåùèâà-
íèþ (ãèáðèäèçàöèè), îòëè÷àëèñü âíåøíå: îäíè èìåëè ãëàäêèå, à
äðóãèå � ìîðùèíèñòûå ëèñòüÿ.
Ïóñòü �
i
, i = 1 : : :N , îáîçíà÷àþò ÷àñòîòû �åíîòèïà a â êàæ-
äîé èç N ñåðèé, à n
i
îáîçíà÷àåò ÷èñëî ðàñòåíèé â ñåðèè. Ñ âåðîÿò-
íîñòíîé òî÷êè çðåíèÿ �
i
� ýòî ÷èñëî "óñïåõîâ" â n
i
èñïûòàíèÿõ
Áåðíóëëè, åñëè íàçâàòü óñïåõîì ïîÿâëåíèå �åíîòèïà a. Ïðè ãèïî-
òåçå (ò. å. åñëè çàêîí Ìåíäåëÿ âåðåí) p =
1
4
; â ïðîòèâíîì ñëó÷àå
p 6=
1
4
.
Åñëè ÷èñëåííîñòè n
i
íå ñëèøêîì ìàëû (ïîðÿäêà íåñêîëüêèõ
äåñÿòêîâ), òî ïî òåîðåìå Ìóàâðà Ëàïëàñà è ïðè ñïðàâåäëèâîñòè
çàêîíîâ Ìåíäåëÿ íîðìèðîâàííûå ÷àñòîòû (ãäå p =
1
4
)
�
i
=
�
i
� n
i
p
p
n
i
p (1� p)
; à òî÷íåå; �
i
=
�
i
�
1
4
n
i
q
3
16
n
i
èìåþò (ïðèáëèæåííî) ðàñïðåäåëåíèåN(0; 1). Ïîýòîìó íà ñîâîêóï-
íîñòü �
1
; �
2
; : : : ; �
n
ìîæíî ñìîòðåòü êàê íà âûáîðêó (îáúåìà N) èç
N(0; 1). Âñå ýòî � åñëè âåðåí çàêîí Ìåíäåëÿ.
121
2.2. Åñòåñòâåííàÿ ìûñëü � ñîïîñòàâèòü âûáîðî÷íóþ �óíêöèþ
F
N
(x), ïîñòðîåííóþ ïî âûáîðêå �
1
; : : : ; �
N
è �óíêöèþ ñòàíäàðò-
íîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ (�óíêöèþ Ëàïëàñà)
�(x) =
1
p
2�
Z
x
�1
e
�u
2
=2
du:
Ñîãëàñíî èçâåñòíîé íàì òåîðåìå �ëèâåíêî, ñëó÷àéíàÿ âåëè÷èíà
D
N
= sup
x
jF
N
(x) � �(x)j (9:2:1)
ïðè áîëüøèõ N äîëæíà áûòü ìàëîé, åñëè âåðíû çàêîíû Ìåíäåëÿ,
èáî â ýòîì ñëó÷àå D
N
P
�! 0 ïðè N !1.
Åñëè æå çàêîí Ìåíäåëÿ â îáñóæäàåìûõ îïûòàõ íå äåéñòâóåò,
òî âåðîÿòíîñòü ïîÿâëåíèÿ �åíîòèïà a îòëè÷àåòñÿ îò
1
4
. Â ýòîì
ñëó÷àå âûáîðî÷íàÿ �óíêöèÿ F
N
(�) ñõîäèòñÿ íå ê �(�), à ê äðóãîìó
ïðåäåëó. Â ðåçóëüòàòå D
N
P
�! > 0; åñëè çàêîí Ìåíäåëÿ íåâåðåí.
Ýòèõ ñîîáðàæåíèé, îäíàêî, íåäîñòàòî÷íî äëÿ òî÷íûõ ñòàòèñòè-
÷åñêèõ âûâîäîâ. Íàäî ïðèâëå÷ü ñëåäóþùóþ òåîðåìó.
Ò å î ð å ì à Ê î ë ì î ã î ð î â à (1933). Ïóñòü F
n
(x) �
�óíêöèÿ ðàñïðåäåëåíèÿ âûáîðêè îáúåìà n, èçâëå÷åííîé èç ðàñïðå-
äåëåíèÿ ñ íåïðåðûâíîé �óíêöèåé F (x). Ïóñòü
D
n
= sup
�1<x<1
jF
n
(x)� F (x)j:
Òîãäà ïðè n!1 ðàâíîìåðíî ïî z > 0
Pf
p
nD
n
< zg ! K(z); ãäå K(z) =
+1
X
k=�1
(�1)
k
e
�2k
2
z
2
:
Ôóíêöèþ K(z) ÷àñòî íàçûâàþò �óíêöèåé Êîëìîãîðîâà.
Èç ýòîé òåîðåìû ñëåäóåò, ÷òî ïðè ñïðàâåäëèâîñòè çàêîíà Ìåí-
äåëÿ ñòàòèñòèêà
p
N D
N
= sup
x
p
N jF
N
(x) � �(x)j ïðè áîëüøèõ
N ïîä÷èíÿåòñÿ ðàñïðåäåëåíèþ Êîëìîãîðîâà.  ñëó÷àå æå åãî íà-
ðóøåíèÿ
p
N D
N
P
�! 1 ïðè N !1:
Ýòî çíà÷èò, ÷òî äëÿ êîíå÷íûõ çíà÷åíèé N ñòàòèñòèêà
p
ND
N
äîëæíà ïðèíèìàòü áîëüøèå çíà÷åíèÿ, åñëè ãèïîòåçà íåâåðíà.
Òàêèì îáðàçîì, ñòàòèñòèêà
p
ND
N
ðàçëè÷íî âåäåò ñåáÿ ïðè
ãèïîòåçå è ïðè åå íàðóøåíèè (ïðè àëüòåðíàòèâå). Èìåííî ýòî ïîç-
âîëÿåò ïî íàáëþäàåìîé âåëè÷èíå
p
ND
N
ñäåëàòü âûâîä î òîì, ÷òî
æå äåéñòâóåò íà ñàìîì äåëå: ãèïîòåçà èëè àëüòåðíàòèâà.
122
2.3.  äàííîì ñëó÷àå åñòåñòâåííî ñëåäóþùåå ðåøàþùåå ïðàâè-
ëî: îòâåðãàòü ãèïîòåçó î òîì, ÷òî âûáîðêà èçâëå÷åíà èç ðàñïðåäå-
ëåíèÿ ñ �óíêöèåé F (�), åñëè ñòàòèñòèêà
p
ND
N
ïðèíÿëà (â îïûòå)
ñëèøêîì áîëüøîå çíà÷åíèå. Ò.å. ñòîëü áîëüøîå çíà÷åíèå, êîòîðîå
ìàëîâåðîÿòíî, åñëè ãèïîòåçà âåðíà.
Äàòü òî÷íûé ñìûñë ýòîìó ïðåäëîæåíèþ ìîæíî òàê.
� Âûáèðàåì óðîâåíü çíà÷èìîñòè ", " > 0 � ýòî âåðîÿòíîñòü
îòâåðãíóòü ãèïîòåçó, êîãäà îíà âåðíà.
� Ïî ýòîìó çíà÷åíèþ " âû÷èñëÿåì êðèòè÷åñêîå çíà÷åíèå, ñêà-
æåì C
"
, òàêîå, ÷òî K(C
"
) = 1� ":
� Åñëè íàáëþäàåìîå çíà÷åíèå
p
ND
N
ïðåâîñõîäèò C
"
, ìû ïðî-
âåðÿåìóþ ãèïîòåçó îòâåðãàåì (êàê ãîâîðÿò � íà óðîâíå "). Â
äàííîì ñëó÷àå � ýòî ãèïîòåçà (çàêîí) Ìåíäåëÿ.
2.4. Ñóäèòü î òîì, ñîâìåñòèìî ëè íàáëþäåííîå â îïûòå çíà÷åíèå
ñòàòèñòèêè
p
ND
N
ñ ïðîâåðÿåìîé ãèïîòåçîé ìîæíî è èíà÷å. Êàê
áûëî ñêàçàíî, ïðîòèâ ãèïîòåçû (çàêîíà Ìåíäåëÿ) ãîâîðÿò áîëü-
øèå çíà÷åíèÿ
p
ND
N
, è òåì ñèëüíåå, ÷åì íàáëþäåííîå çíà÷åíèå
áîëüøå.
�àññìîòðèì âåðîÿòíîñòü òîãî, ÷òî â íåçàâèñèìîì ïîâòîðåíèè
ïðîâåäåííîãî îïûòà ìû ïîëó÷èì òàêîå æå èëè äàæå áîëüøåå çíà-
÷åíèå ñòàòèñòèêè
p
ND
N
, ÷åì íàáëþäåííîå. (Âåðîÿòíîñòü ýòó âû-
÷èñëÿåì â ïðåäïîëîæåíèè, ÷òî ãèïîòåçà âåðíà). Íàáëþäåííîå çíà-
÷åíèå íàäî ïðèçíàòü áîëüøèì, åñëè åãî òðóäíî ïðåâçîéòè çà ñ÷åò
ñëó÷àéíîñòè. Òî åñòü, åñëè óïîìÿíóòàÿ âåðîÿòíîñòü � ìàëàÿ. È
îáðàòíî: åñëè ýòà âåðîÿòíîñòü íå ìàëà, òî è íàáëþäåííîå çíà÷å-
íèå ñ÷èòàòü áîëüøèì íå ñëåäóåò; îíî ñîâìåñòèìî ñ ïðîâåðÿåìîé
ãèïîòåçîé.
Îáñóæäàåìóþ âåðîÿòíîñòü íàçûâàþò P -çíà÷åíèåì (ïî-àíãëèé-
ñêè � P -value). Ïðèìåíÿòü P -çíà÷åíèÿ äëÿ ïðîâåðêè ãèïîòåç
ïðåäëîæèë Ôèøåð (R. Fisher).  äàííîé çàäà÷å P -çíà÷åíèå ðàâíî
1�K(
p
ND
N
).
Âåðíåìñÿ ê îïûòàì Åðìîëàåâîé. Âñåãî áûëî äâå âûáîðêè: N =
98 è N = 123.  îáåèõ âûáîðêàõ íàáëþäåííûå çíà÷åíèÿ D
N
áûëè
äàëåêè îò êðèòè÷åñêèõ: èõ P -çíà÷åíèÿ áûëè ðàâíû 0.51 è 0.63
ñîîòâåòñòâåííî. Òàêèì îáðàçîì, íàó÷íàÿ àòàêà Ò.Ä. Ëûñåíêî íà
çàêîíû Ìåíäåëÿ íå óäàëàñü.
123
Ëåêöèÿ 10. Ñòàòèñòè÷åñêèå êðèòåðèè
� 1. Îïòèìàëüíûé êðèòåðèé Íåéìàíà-Ïèðñîíà
(J. Neyman, S. Pearson, 1933)
Ââîäíûå î ï ð å ä å ë å í è ÿ. Ñòàòèñòè÷åñêèé êðèòåðèé S äëÿ
ïðîâåðêè ãèïîòåçû H
0
: P 2 �
0
ïðîòèâ àëüòåðíàòèâû H
1
: P 2 �
1
åñòåñòâåííî íàçûâàòü îïòèìàëüíûì, åñëè ñðåäè âñåõ êðèòåðèåâ
çàäàííîãî óðîâíÿ çíà÷èìîñòè êðèòåðèé S èìååò íàèáîëüøóþ ìîù-
íîñòü.
×óòü ïîäðîáíåå. Èç äâóõ êðèòåðèåâ R è S äàííîãî óðîâíÿ çíà-
÷èìîñòè êðèòåðèé S íàçûâàþò áîëåå ìîùíûì, åñëè
�(P;R) � �(P; S) äëÿ âñåõ P 2 P
1
: (10:1:1)
Êðèòåðèé S íàçûâàþò îïòèìàëüíûì êðèòåðèåì óðîâíÿ �, åñ-
ëè äëÿ ëþáîãî äðóãîãî êðèòåðèÿ R óðîâíÿ � âûïîëíÿåòñÿ ñîîòíî-
øåíèå (10.1.1). Êðèòåðèé S â ýòîì ñëó÷àå íàçûâàþò òàêæå ðàâíî-
ìåðíî íàèáîëåå ìîùíûì êðèòåðèåì óðîâíÿ �.
Îïòèìàëüíûé âûáîð êðèòåðèÿ äëÿ ïðîâåðêè ãèïîòåçû H
0
:
P 2 P
0
ïðîòèâ àëüòåðíàòèâû H
1
: P 2 P
1
âîçìîæåí ëèøü â
íåìíîãèõ ñëó÷àÿõ. (Âïðî÷åì, íåêîòîðûå èç íèõ âàæíû äëÿ ñòàòè-
ñòè÷åñêîé ïðàêòèêè). È òàì, ãäå îí óäàåòñÿ, âñ¼ îñíîâàíî íà òàê
íàçûâàåìîé ëåììå Íåéìàíà-Ïèðñîíà. Îíà îòíîñèòñÿ ê ïðîñòåé-
øåé ñèòóàöèè: è ãèïîòåçà H
0
, è àëüòåðíàòèâà H
1
� ïðîñòûå, òî
åñòü îáà ìíîæåñòâà P
0
è P
1
� îäíîòî÷å÷íûå; êàæäîå èç íèõ ñîñòî-
èò èç îäíîãî ðàñïðåäåëåíèÿ âåðîÿòíîñòåé P
0
è P
1
ñîîòâåòñòâåííî.
(Åñëè ìíîæåñòâà P
0
è P
1
ñîñòîÿò êàæäîå áîëåå ÷åì èç îäíîãî ðàñ-
ïðåäåëåíèÿ, ãèïîòåçó H
0
: P 2 P
0
è àëüòåðíàòèâó H
1
: P 2 P
1
íàçûâàþò ñëîæíûìè).
Îïòèìàëüíûé êðèòåðèé äëÿ ïðîâåðêè ïðîñòîé ãèïîòåçû ïðî-
òèâ ïðîñòîé àëüòåðíàòèâû ìû ïîñòðîèì â ýëåìåíòàðíîé ñèòóàöèè,
êîãäà ðàñïðåäåëåíèÿ P
0
è P
1
ëèáî îáà äèñêðåòíû, ëèáî îáà èìåþò
ïëîòíîñòè (îòíîñèòåëüíî íåêîòîðîé ìåðû íà X ).
Ïóñòü f
0
(x) è f
1
(x), x 2 X , ñóòü äâå ïëîòíîñòè ðàñïðåäåëåíèé
íà X (èëè äâà äèñêðåòíûõ ðàñïðåäåëåíèÿ íà X ). Ïóñòü íàáëþäå-
íèå X ïîëó÷åíî âûáîðîì ýëåìåíòà èç X ñîãëàñíî ëèáî f
0
, ëèáî f
1
.
�àññìîòðèì ãèïîòåçó H
0
: X èìååò ïëîòíîñòü (ðàñïðåäåëåíèå) f
0
è àëüòåðíàòèâó H
1
: X èìååò ïëîòíîñòü (ðàñïðåäåëåíèå) f
1
.
�àññìîòðèì ìíîæåñòâà âèäà
S
�
= fx : f
1
(x)� �f
0
(x) � 0g äëÿ � > 0 (10:1:2)
124
êàê êðèòåðèè äëÿ H
0
ïðîòèâ H
1
. (Òî÷íåå, ìû ðàññìîòðèì âñ¼ ñå-
ìåéñòâî ìíîæåñòâ óêàçàííîãî âèäà, ïàðàìåòðèçîâàííîå ïåðåìåí-
íîé � > 0, êàê ñåìåéñòâî êðèòè÷åñêèõ ìíîæåñòâ. Ýòè êðèòè÷åñêèå
ìíîæåñòâà ðàçëè÷àþòñÿ óðîâíÿìè çíà÷èìîñòè). Ïóñòü R � êàêîé
ëèáî ñòàòèñòè÷åñêèé êðèòåðèé äëÿ ïîâåðêè H
0
ïðîòèâ H
1
ïî íà-
áëþäåíèþ X 2 X . Ïðåäïîëîæèì, ÷òî äëÿ íåêîòîðîãî � > 0
P
0
fX 2 Rg � P
0
fX 2 S
�
g: (10:1:3)
Òî åñòü âåðîÿòíîñòü îøèáêè I ðîäà äëÿ R íå âûøå, ÷åì äëÿ S
�
.
( òèïè÷íîì ñëó÷àå äëÿ äàííîãî R ìîæíî ïîäîáðàòü êðèòåðèé S
�
âèäà (10.1.2) ñ òåì æå óðîâíåì çíà÷èìîñòè. Òîãäà â (10.1.3) ñòîèò
ðàâåíñòâî). Òîãäà
(a) P
1
fX 2 Rg � P
1
fX 2 S
�
g; (10:1:4)
(b) P
0
fX 2 S
�
g � P
1
fX 2 S
�
g:
Ïóíêò (a) îçíà÷àåò, ÷òî êðèòåðèé S
�
èìååò íàèáîëüøóþ ìîù-
íîñòü ñðåäè âñåõ êðèòåðèåâ, óðîâåíü çíà÷èìîñòè êîòîðûõ íå ïðå-
âîñõîäèò óðîâíÿ çíà÷èìîñòè S
�
.
Ïóíêò (b) êàñàåòñÿ ñâîéñòâ ñàìîãî êðèòåðèÿ S
�
è óòâåðæäàåò,
÷òî ìîùíîñòü êðèòåðèÿ S
�
âîçðàñòàåò ïðè ïåðåõîäå îò ãèïîòåòè-
÷åñêîãî ðàñïðåäåëåíèÿ P
0
ê àëüòåðíàòèâíîìó P
1
. (Òàêîå ñâîéñòâî
êðèòåðèÿ íàçûâàþò íåñìåùåííîñòüþ. Îíî îçíà÷àåò, ÷òî áîëåå âå-
ðîÿòíî (ñ ïîìîùüþ ýòîãî êðèòåðèÿ) îòâåðãíóòü ïðîâåðÿåìóþ ãè-
ïîòåçó, êîãäà îíà íåâåðíà, ÷åì êîãäà îíà âåðíà � âåñüìà åñòåñòâåí-
íîå êà÷åñòâî äëÿ êðèòåðèÿ).
Êðèòåðèè âèäà (10.1.2) íàçûâàþò êðèòåðèÿìè Íåéìàíà-Ïèð-
ñîíà, à ñ�îðìóëèðîâàííîå âûøå óòâåðæäåíèå îá îïòèìàëüíîñòè
êðèòåðèåâ (10.1.2) � ëåììîé (òåîðåìîé) Íåéìàíà-Ïèðñîíà.
Äîêàçàòåëüñòâà äëÿ ðàñïðåäåëåíèé, èìåþùèõ ïëîòíîñòè, è äëÿ
äèñêðåòíûõ ðàñïðåäåëåíèé ïðîõîäÿò îäèíàêîâî � ñ òîé ðàçíèöåé,
÷òî èíòåãðàëû çàìåíÿþòñÿ ñóììàìè. Ïîýòîìó äîñòàòî÷íî ðàñ-
ñìîòðåòü ÷òî-ëèáî îäíî, äëÿ îïðåäåëåííîñòè � ïëîòíîñòè. Äëÿ
ïðîñòîòû ïðåäïîëîæèì, ÷òî X � ýòî êîíå÷íîìåðíîå àðè�ìåòè÷å-
ñêîå ïðîñòðàíñòâî, f
0
è f
1
� ïëîòíîñòè îòíîñèòåëüíî ìåðû Ëåáåãà.
Çàïèñè áóäóò êîìïàêòíûìè, åñëè âìåñòå ñ êðèòåðèÿìè R è S
�
ðàññìîòðåòü èõ èíäèêàòîðíûå �óíêöèè I
R
(x) è I
S
�
(x):
I
R
(x) =
(
1; äëÿ x 2 R;
0; äëÿ x =2 R;
I
S
�
(x) =
(
1; äëÿ x 2 S
�
;
0; äëÿ x =2 S
�
:
125
Ñ ïîìîùüþ I
R
, I
S
�
âåðîÿòíîñòè ñîáûòèé fX 2 Rg, fX 2 S
�
g ìîæ-
íî çàïèñàòü â âèäå ìàòåìàòè÷åñêèõ îæèäàíèé. Óñðåäíåíèå (ìàòå-
ìàòè÷åñêîå îæèäàíèå) ïî P
0
îáîçíà÷èì ÷åðåç E
0
, óñðåäíåíèå ïî
P
1
� ÷åðåç E
1
. Íàïðèìåð, P
0
fX 2 Rg = E
0
I
R
(X), à ïðåäëîæåíèå
(10.1.3) èìååò âèä
E
0
I
R
(X) � E
0
I
S
�
(X): (10:1:5)
Ä î ê à ç à ò å ë ü ñ ò â î óòâåðæäåíèÿ (a). Ëåãêî ïðîâåðèòü,
÷òî ñïðàâåäëèâî íåðàâåíñòâî
I
R
(x)[f
1
(x) � �f
0
(x)℄ � I
S
�
(x)[f
1
(x) � �f
0
(x)℄: (10:1:6)
Äåéñòâèòåëüíî, åñëè f
1
(x) � �f
0
(x) > 0; òî I
S
�
(x) = 1 è
(10.1.6) ïðåâðàùàåòñÿ â î÷åâèäíîå óòâåðæäåíèå I
R
(x) � 1. Åñëè
æå f
1
(x)��f
0
(x) < 0, òî I
S
�
(x) = 0, è ïîòîìó ïðàâàÿ ÷àñòü (10.1.6)
îáðàùàåòñÿ â íóëü, à ëåâàÿ ÷àñòü (10.1.6) ïðè ýòîì íå ïîëîæèòåëü-
íà, òàê ÷òî (10.1.6) âåðíî è â ýòîì ñëó÷àå.
Èíòåãðèðóåì (10.1.6) ïî âñåìó ïðîñòðàíñòâó. �åçóëüòàò çàïè-
øåì â âèäå ìàòåìàòè÷åñêèõ îæèäàíèé.
E
1
I
R
(X)� �E
0
I
R
(X) � E
1
I
S
�
(X)� �E
0
I
S
�
(X);
èëè
E
1
I
S
�
(X)�E
1
I
R
(X) � �[E
0
I
S
�
(X)�E
0
I
R
(X)℄: (10:1:7)
 ñèëó (10.1.5) è � > 0, ïðàâàÿ ÷àñòü (10.1.7) íåîòðèöàòåëüíà,
÷òî è äîêàçûâàåò (a). �
Ä î ê à ç à ò å ë ü ñ ò â î óòâåðæäåíèÿ (b). Äëÿ äîêàçàòåëüñòâà
óòâåðæäåíèÿ (b) íàäî ïîðîçíü ðàññìîòðåòü äëÿ �, îïðåäåëÿþùåãî
S
�
â (10.1.2), äâå âîçìîæíîñòè: � � 1 è � < 1.
� Äîïóñòèì, ÷òî � � 1: Òîãäà èç (10.1.2) ñëåäóåò, ÷òî
f
1
(x) � f
0
(x) äëÿ x 2 S
�
. Ïîýòîìó
P
0
fX2 S
�
g =
Z
I
S
�
(x)f
0
(x)dx �
Z
I
S
�
(x)f
1
(x)dx=P
1
fX2 S
�
g;
÷òî è òðåáóåòñÿ.
� Äîïóñòèì, ÷òî � < 1. �àññìîòðèì ìíîæåñòâî
S
�
= fx : f
1
(x) � �f
0
(x)g:
126
Åãî èíäèêàòîð åñòü 1 � I
S
�
(x). Ïðè � < 1 ïîëó÷àåì, ÷òî
f
1
(x) � f
0
(x) äëÿ x 2 S
�
. Ïîýòîìó
P
1
fX2S
�
g=
Z
[1�I
S
�
(x)℄f
1
(x)dx�
Z
[1�I
S
�
(x)℄f
0
(x)dx=P
0
fX2S
�
g:
Îòñþäà ñëåäóåò, ÷òî ïðè � < 1
1� P
1
fX 2 S
�
g � 1� P
0
fX 2 S
�
g:
Ýòî äîêàçûâàåò (b) è â ýòîì ñëó÷àå. �
Äîêàçàííàÿ òåîðåìà îïðåäåëÿåò âèä íàèëó÷øåãî êðèòåðèÿ. Åñ-
ëè ìû õîòèì îñòàíîâèòüñÿ íà îïòèìàëüíîì êðèòåðèè óðîâíÿ ", ãäå
" çàäàíî, ìû äîëæíû ïîäîáðàòü � > 0 òàê, ÷òîáû
P
0
fX 2 S
�
g = ": (10:1:8)
 ñëó÷àå ïëîòíîñòè ýòî îçíà÷àåò, ÷òî ìû äîëæíû ðåøèòü îòíîñè-
òåëüíî � óðàâíåíèå
Z
fx:f
1
(x)��f
0
(x)g
f
0
(x) dx = ":
 òèïè÷íîì ñëó÷àå ðåøåíèå ñóùåñòâóåò (è åäèíñòâåííî). Äëÿ äèñ-
êðåòíî ðàñïðåäåëåííûõ íàáëþäåíèé X óðàâíåíèå (10.1.8) ðàçðå-
øèìî íå äëÿ âñåõ " > 0.  òàêîì ñëó÷àå � â ïîèñêàõ îïòèìàëüíî-
ãî êðèòåðèÿ óðîâíÿ " � ëèáî îñòàíàâëèâàþòñÿ íà êðèòåðèè âèäà
(10.1.2) ñ ìåíüøèì óðîâíåì, ÷åì íàçíà÷åííûé " (ñ ìåíüøåé âå-
ðîÿòíîñòüþ îøèáêè I ðîäà, óâåëè÷èâàÿ òåì ñàìûì âåðîÿòíîñòü
îøèáêè II ðîäà), ëèáî èçìåíÿþò âûáîð óðîâíÿ çíà÷èìîñòè òàê,
÷òîáû (10.1.8) ñòàëî ðàçðåøèìî. Ïîñëåäíåå ïðàâèëüíåå, èáî íà-
çíà÷åíèå óðîâíÿ çíà÷èìîñòè � ðåøåíèå â íåìàëîé ñòåïåíè ïðîèç-
âîëüíîå.
� 2. �àâíîìåðíî íàèáîëåå ìîùíûå êðèòåðèè
Îïðåäåëåíèå ðàâíîìåðíî íàèáîëåå ìîùíûõ êðèòåðèåâ äàíî â
íà÷àëå � 1. Êàê ïðàâèëî, äëÿ ñëîæíûõ ãèïîòåç è/èëè ñëîæíûõ
àëüòåðíàòèâ ðàâíîìåðíî íàèáîëåå ìîùíûõ êðèòåðèåâ íå ñóùå-
ñòâóåò. Òèïè÷íî òàêîå ïîëîæåíèå, êîãäà äëÿ êàæäîé ïàðû ðàñ-
ïðåäåëåíèé P
0
2 P
0
, P
1
2 P
1
åñòü "ñâîé" (îïðåäåëÿåìûé ëåììîé
127
Íåéìàíà-Ïèðñîíà) îïòèìàëüíûé êðèòåðèé, íî íåò åäèíîãî îïòè-
ìàëüíîãî êðèòåðèÿ. Íî åñòü âàæíûå (äëÿ ïðàêòèêè) èñêëþ÷åíèÿ
èç ñêàçàííîãî, êîãäà ðàâíîìåðíî íàèáîëåå ìîùíûå êðèòåðèè ñó-
ùåñòâóþò.
Ï ð è ì å ð. Ïðîâåðêà îäíîñòîðîííèõ ãèïîòåç ïðîòèâ îäíîñòî-
ðîííèõ àëüòåðíàòèâ â ñõåìå Áåðíóëëè.
Ïóñòü ïðîâåäåíî n (n çàäàíî) èñïûòàíèé Áåðíóëëè. Ïóñòü �,
� 2 (0; 1) � íåèçâåñòíàÿ âåðîÿòíîñòü óñïåõà. Îáîçíà÷èì ðåçóëüòàò
èñïûòàíèé ÷åðåç X = (X
1
; : : : ; X
n
), ãäå X
i
= 1, åñëè â i-îì èñïû-
òàíèè áûë óñïåõ, è X
i
= 0 â ïðîòèâíîì ñëó÷àå. Ïî íàáëþäåííîìó
X íàäî ïðîâåðèòü ãèïîòåçó
H
0
: � � �
0
ïðîòèâ àëüòåðíàòèâû
H
1
: � > �
0
;
ãäå �
0
� çàäàíî, �
0
2 (0; 1).
Äàëåå ìû íàéäåì ð. í. ì. êðèòåðèé äëÿ ïðîâåðêè H
0
ïðîòèâ
H
1
. Ýòîò êðèòåðèé áóäåò íàéäåí ñ ïîìîùüþ ïðàâèëà Íåéìàíà-
Ïèðñîíà.
Ïðîèçâîëüíî âûáåðåì äâà çíà÷åíèÿ a è b ïàðàìåòðà �: a èç ãè-
ïîòåòè÷åñêîãî ìíîæåñòâà (0; �
0
℄, b èç àëüòåðíàòèâíîãî ìíîæåñòâà
(�
0
; 1). Ñëåäîâàòåëüíî,
0 < a � �
0
< b < 1: (10:2:1)
Äëÿ ïðîâåðêè ïðîñòîé ãèïîòåçû � = a ïðîòèâ ïðîñòîé àëüòåð-
íàòèâû � = b ïðèìåíèì ïðàâèëî Íåéìàíà-Ïèðñîíà. Çäåñü:
f
1
(x) = b
T
n
(x)
(1� b)
n�T
n
(x)
;
f
0
(x) = a
T
n
(x)
(1� a)
n�T
n
(x)
;
ãäå x = (x
1
; : : : ; x
n
) � òî÷êà âûáîðî÷íîãî ïðîñòðàíñòâà X , x �
ïðîèçâîëüíàÿ ïîñëåäîâàòåëüíîñòü èç íóëåé è åäèíèö, T
n
(x) =
n
P
i=1
x
i
. (Çàìåòèì, ÷òî T
n
(X) � çíàêîìàÿ íàì äîñòàòî÷íàÿ ñòàòè-
ñòèêà, îáùåå ÷èñëî óñïåõîâ).
Êðèòè÷åñêèå ìíîæåñòâà Íåéìàíà-Ïèðñîíà äëÿ ïàðû a, b ñóòü
S
�
=
n
x :
f
1
(x)
f
0
(x)
� �
o
; � > 0
128
èëè
S
�
=
n
x :
�
b
a
�
1� a
1� b
�
T
n
(x)
�
�
1� b
1� a
�
n
� �
o
; � > 0: (10:2:2)
Ìû óæå îòìå÷àëè, ÷òî êðèòåðèè Íåéìàíà-Ïèðñîíà îáðàçóþò
ñåìåéñòâî îïòèìàëüíûõ êðèòåðèåâ. Èç ýòîãî ñåìåéñòâà ïîòîì âû-
áèðàþò êðèòåðèé çàäàííîãî óðîâíÿ çíà÷èìîñòè. Ñåé÷àñ ñåìåéñòâî
(10.2.2) ïàðàìåòðèçîâàíî ïàðàìåòðîì �, � > 0. Ëþáàÿ äðóãàÿ ïà-
ðàìåòðèçàöèÿ ýòîãî ñåìåéñòâà íå áóäåò õóæå.
 ÷àñòíîñòè, ñåìåéñòâó (10.2.2) ìîæíî äàòü �îðìó
n
x :
�
b
1� b
�
1� a
a
�
T
n
(x)
� �
0
o
; �
0
> 0;
ãäå �
0
= �
�
1� a
1� b
�
n
. Âïðî÷åì, ñâÿçü ìåæäó íîâûì ïàðàìåòðîì �
0
è ñòàðûì ïàðàìåòðîì � íå âàæíà. Ïðè äàëüíåéøèõ èçìåíåíèÿõ
ïàðàìåòðèçàöèè ìû òàêèå ñâÿçè îòìå÷àòü íå áóäåì. Ââèäó (10.2.1)
b
1� b
�
1� a
a
> 1:
Ïîýòîìó (10.2.2) ìîæíî åùå óïðîñòèòü:
fx : T
n
(x) � tg; t > 0: (10:2:3)
Îòìåòèì ãëàâíóþ îñîáåííîñòü (10.2.3) êàê ñòàòèñòè÷åñêîãî
êðèòåðèÿ: åãî âèä íå çàâèñèò îò êîíêðåòíûõ a � �
0
, b > �
0
.
Ýòîò êðèòåðèé � îáùèé äëÿ âñåõ a 2 (0; �
0
℄, b 2 (�
0
; 1). Ýòî îçíà-
÷àåò, ÷òî êðèòåðèé (10.2.3) â ðàññìàòðèâàåìîé çàäà÷å ÿâëÿåòñÿ
ðàâíîìåðíî íàèáîëåå ìîùíûì. �
Ñòàòèñòè÷åñêîå ïðàâèëî òåïåðü òàêîâî. Îòâåðãàòü ãèïîòåçó
H
0
: � � �
0
ïðîòèâ àëüòåðíàòèâû H
1
: � > �
0
, åñëè ïðîèçîøëî
ñîáûòèå
T
n
(X) � t; (10:2:4)
ãäå t � íåêîòîðîå êðèòè÷åñêîå çíà÷åíèå. (Ýòî çíà÷åíèå t åùå
ïðåäñòîèò óòî÷íèòü). Çàìåòèì, ÷òî ðåøåíèå îñíîâûâàåòñÿ íà äî-
ñòàòî÷íîé ñòàòèñòèêå T
n
(X) =
n
P
i=1
X
i
(ñóììàðíîì ÷èñëå óñïåõîâ),
à íå íà ñàìîì íàáëþäåíèè X . Ýòî õàðàêòåðíî äëÿ âñÿêîãî ðà-
çóìíîãî êðèòåðèÿ â òåõ ñòàòèñòè÷åñêèõ ìîäåëÿõ, ãäå ñóùåñòâóþò
äîñòàòî÷íûå ñòàòèñòèêè.
129
Îñòàåòñÿ îïðåäåëèòü êðèòè÷åñêîå çíà÷åíèå t â (10.2.4). Äëÿ
ýòîãî çàäàäèìñÿ íåêîòîðûì óðîâíåì çíà÷èìîñòè ". Äëÿ t äîëæíî
âûïîëíÿòüñÿ óñëîâèå
P
�
fT
n
(X) � tg � " äëÿ âñåõ � � �
0
:
Èç óòâåðæäåíèÿ (b) ëåììû Íåéìàíà-Ïèðñîíà ñëåäóåò, ÷òî
sup
���
0
P
�
fT
n
(X) � tg = P
�
0
fT
n
(X) � tg:
Ïîýòîìó óñëîâèå äëÿ âûáîðà t óïðîùàåòñÿ:
P
�
0
fT
n
(X) � tg � ": (10:2:5)
�àäè äîñòèæåíèÿ íàèáîëüøåé ìîùíîñòè ïðîòèâ àëüòåðíàòè-
âû � > �
0
â êà÷åñòâå êðèòè÷åñêîãî çíà÷åíèÿ ñëåäóåò âçÿòü íàè-
áîëüøåå t, óäîâëåòâîðÿþùåå (10.2.5). Âûáîð t ïðè çàäàííûõ � è n
ïîìîãàþò îñóùåñòâèòü òàáëèöû äëÿ âåðîÿòíîñòè
P
�
fT
n
(X) � tg =
n
X
k=t
C
k
n
�
k
(1� �)
n�k
êàê �óíêöèè îò � è t; � 2 (0; 1); t = 1; n.
Ìîæíî íå ñâÿçûâàòü ñåáÿ çàðàíåå âûáðàííûì óðîâíåì çíà÷è-
ìîñòè è ïðèíèìàòü ðåøåíèÿ íà îñíîâå P -çíà÷åíèÿ (P -value) êðè-
òè÷åñêîé ñòàòèñòèêè.  íàøåì ñëó÷àå ïðîòèâ ïðîâåðÿåìîé ãèïî-
òåçû ãîâîðÿò áîëüøèå çíà÷åíèÿ êðèòè÷åñêîé ñòàòèñòèêè T
n
. P -
çíà÷åíèå îïðåäåëÿåòñÿ êàê âåðîÿòíîñòü ïîëó÷èòü (ïðè íåçàâèñè-
ìîì ïîâòîðåíèè îïûòà) íå ìåíüøåå, ÷åì ïîëó÷åíî, çíà÷åíèå êðè-
òè÷åñêîé ñòàòèñòèêè (íå ìåíåå ñèëüíîå, ÷åì ïîëó÷åíî, ñâèäåòåëü-
ñòâî ïðîòèâ ïðîâåðÿåìîé ãèïîòåçû).
Åñëè íàáëþäåííîå çíà÷åíèå ñòàòèñòèêè T
n
îáîçíà÷èòü êàê
T
n
(íàáë.), ñîõðàíèâ çà T
n
ñìûñë ñëó÷àéíîé ïåðåìåííîé, òî P -
çíà÷åíèåì T
n
(íàáë.) ñëóæèò
P
�
0
fT
n
� T
n
(íàáë.)g: (10:2:6)
Ñîïîñòàâëÿÿ ýòî âûðàæåíèå ñ (10.2.5), âèäèì, ÷òî P -çíà÷åíèå
� ýòî íàèìåíüøèé óðîâåíü çíà÷èìîñòè, íà êîòîðîì åùå ìîæíî
îïðîâåðãíóòü ãèïîòåçó H
0
ïî ïðàâèëó (10.2.5).
130
Èñïûòàíèÿ Áåðíóëëè ñëóæàò ñòàòèñòè÷åñêîé ìîäåëüþ äëÿ
ìíîãèõ ðåàëüíûõ ïðîöåññîâ.  ÷àñòíîñòè, ïðè (ìàññîâîì) ïðî-
èçâîäñòâå èçäåëèå ìîæåò îêàçàòüñÿ íåãîäíûì (áðàê). Åñëè ïðåä-
ïîëîæèòü, ÷òî ïîÿâëåíèå áðàêà � äåëî ñëó÷àÿ, ÷òî áðàêîâàííûìè
ðàçëè÷íûå èçäåëèÿ ìîãóò îêàçàòüñÿ íåçàâèñèìî äðóã îò äðóãà è,
÷òî, íàêîíåö, âåðîÿòíîñòü ïîÿâëåíèÿ áðàêîâàííîãî èçäåëèÿ ïî-
ñòîÿííà, òî äëÿ îïèñàíèÿ ïðîöåññà ìû ìîæåì ïðèìåíèòü ñõåìó
Áåðíóëëè. Ïðèñóòñòâèå ñðåäè èçäåëèé íåêîòîðîé äîëè � áðàêî-
âàííûõ íåèçáåæíî äëÿ ëþáîãî ïðîèçâîäñòâà. Âåëè÷èíà �
0
ìîæåò
ñëóæèòü ãðàíèöåé äëÿ âñå åùå äîïóñòèìîé äîëè áðàêà; åñëè ýòà
äîëÿ âûøå, â ïðîèçâîäñòâî òðåáóåòñÿ âìåøàòåëüñòâî (íàëàäêà
ñòàíêîâ, íàïðèìåð).
Äëÿ êîíòðîëÿ çà äîëåé òåêóùåãî áðàêà íóæíî ïðîèçâîäèòü ðå-
ãóëÿðíûå ïðîâåðêè: íóæíî ïðîâåðÿòü ãèïîòåçóH
0
: � � �
0
ïðîòèâ
H
1
: � > �
0
. Âûøå ìû óñòàíîâèëè, êàê ýòî ñëåäóåò äåëàòü íàè-
ëó÷øèì îáðàçîì ïðè ïðîñòåéøåì ïëàíå ýêñïåðèìåíòà � âûáîðêå.
Êàê îáúåì âûáîðêè n, òàê è ÷àñòîòà îïèñàííûõ ïðîâåðîê â íàøåé
ïîñòàíîâêå íå îïðåäåëÿþòñÿ. Èõ óñòàíàâëèâàþò, èñõîäÿ èç ðàñõî-
äîâ íà îðãàíèçàöèþ è ïðîâåäåíèå êîíòðîëÿ, ïîòåðü îò óâåëè÷åíèÿ
äîëè áðàêà, ñêîðîñòè èçìåíåíèÿ � â òå÷åíèå ðàáîòû è ò. ä.
Ïëàíû âûáîðî÷íîãî êîíòðîëÿ, ðåàëüíî ïðèìåíÿåìûå íà ìàññî-
âûõ ïðîèçâîäñòâàõ, ìîãóò áûòü çíà÷èòåëüíî ñëîæíåå, ÷åì èçó÷åí-
íàÿ íàìè ïðîñòàÿ âûáîðêà è êîíòðîëü ïî êà÷åñòâåííîìó ïðèçíàêó
(êîãäà èçäåëèå ëèáî ãîäíî, ëèáî � íåò). Íàó÷íàÿ è òåõíè÷åñêàÿ
ëèòåðàòóðà, ïîñâÿùåííàÿ êîíòðîëþ êà÷åñòâà ïðîäóêöèè, î÷åíü âå-
ëèêà.
Ñóùåñòâîâàíèå ðàâíîìåðíî íàèáîëåå ìîùíûõ êðèòåðèåâ (äëÿ
ïðîâåðêè îäíîñòîðîííèõ ãèïîòåç ïðîòèâ îäíîñòîðîííèõ àëüòåð-
íàòèâ) òèïè÷íî äëÿ îäíîïàðàìåòðè÷åñêèõ ýêñïîíåíöèàëüíûõ ñå-
ìåéñòâ ðàñïðåäåëåíèé. Îá ýòèõ ñåìåéñòâàõ ìû óïîìèíàëè â ñâÿçè
ñ íåðàâåíñòâîì Êðàìåðà-�àî è ý��åêòèâíûìè îöåíêàìè. Ïëîò-
íîñòü (âåðîÿòíîñòü) íàáëþäåíèÿ X ïðè ýòîì ðàâíà
p (x; �) = exp f (�)T (x) + d(�) + S(x)g I
A
(x):
Áèíîìèíàëüíûå ðàñïðåäåëåíèÿ, êîòîðûå ìû èññëåäîâàëè âû-
øå, ïðèíàäëåæàò ýòîìó êëàññó. Åñëè �óíêöèÿ (�) ìîíîòîííî çà-
âèñèò îò �, âñå ïðîâåäåííûå âûøå âûêëàäêè ïîâòîðÿþòñÿ ïðàêòè-
÷åñêè áåç èçìåíåíèé è ïðèâîäÿò ê ðåøàþùèì ïðàâèëàì âèäà
� T
n
� t; ëèáî T
n
� t:
131
Ëåêöèÿ 11. Ïðîâåðêà ëèíåéíûõ ãèïîòåç
(â ëèíåéíûõ ãàóññîâñêèõ ìîäåëÿõ)
� 1. Ïðèìåðû ëèíåéíûõ ãèïîòåç
1.1. Âûáîð ñòåïåíè ìíîãî÷ëåíà
 çàäà÷àõ ðåãðåññèè y ïî x �óíêöèîíàëüíûé âèä çàâèñèìî-
ñòè îæèäàåìîãî çíà÷åíèÿ îòêëèêà E(yjx), êàê �óíêöèè x, áûâàåò
èçâåñòåí äàëåêî íå âñåãäà.  òàêèõ ñëó÷àÿõ àïïðîêñèìèðóþùåå
âûðàæåíèå äëÿ E(yjx) ïîäáèðàþò ýìïèðè÷åñêè. ×àñòî äëÿ ïðè-
áëèæåíèÿ E(yjx) èñïîëüçóþò ìíîãî÷ëåíû îò x.
Ïóñòü, äëÿ ïðîñòîòû, x � ñêàëÿðíàÿ ïåðåìåííàÿ. Ïðåäïîëî-
æèì, ÷òî:
E(yjx) = a
0
+ a
1
x+ � � �+ a
p
x
p
(11:1:1)
äëÿ íåêîòîðîé ñòåïåíè p � 0 è íåêîòîðûõ êîý��èöèåíòîâ a
0
,
a
1
,. . . , a
p
. Äàëåå ïðåäïîëîæèì, ÷òî ïðè íåêîòîðûõ çàäàííûõ çíà-
÷åíèÿõ x
1
; x
2
; : : : ; x
n
�àêòîðà x ïðîâåäåíû íåçàâèñèìûå èçìåðå-
íèÿ y
1
; y
2
; : : : ; y
n
îòêëèêà y, òàê ÷òî
y
i
= a
0
+ a
1
x
i
+ � � �+ a
p
x
p
i
+ "
i
; i = 1; n; (11:1:2)
ãäå "
1
; "
2
; : : : ; "
n
ñóòü íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû (ñëó÷àé-
íûå îøèáêè). Ìû ïðåäïîëîæèì, ÷òî "
i
� N(0; �
2
); i = 1; n, ïðè-
÷åì äèñïåðñèÿ îøèáêè �
2
íå èçâåñòíà.
Âûáîð ñòåïåíè p àïïðîêñèìèðóþùåãî ìíîãî÷ëåíà â �îðìóëå
(11.1.1) âñåãäà ïðåäñòàâëÿåò îïðåäåëåííóþ ïðîáëåìó. Ýòó ñòåïåíü
íàäî âûáðàòü òàê, ÷òîáû ïîãðåøíîñòü â (11.1.1) (îíà æå � ñèñòå-
ìàòè÷åñêàÿ îøèáêà â (11.1.2)) íå âëèÿëà íà ñòàòèñòè÷åñêèå âûâî-
äû î E(yjx), êîòîðûå ìû ñóìååì ñäåëàòü ïî íàáëþäåíèÿì (x
i
; y
i
),
1; n. Ïîíÿòíî, ÷òî ÷åì íèæå ýòà ñòåïåíü, òåì ëåã÷å èíòåðïðåòèðî-
âàòü ðåçóëüòàòû îïûòîâ. Íà ïðàêòèêå ýòà ñòåïåíü ðåäêî ïðåâûøà-
åò òðè.
Îñîáåííî ÷àñòî ïðèõîäèòñÿ îòâå÷àòü íà âîïðîñ: ìîæíî ëè äëÿ
àïïðîêñèìàöèè E(yjx) îáîéòèñü ìíîãî÷ëåíîì ïåðâîé ñòåïåíè, ò. å.
ïðîñòîé ëèíåéíîé ðåãðåññèåé, èëè æå íàäî îáðàòèòüñÿ ê ïàðàáî-
ëè÷åñêîé ðåãðåññèè, ò. å. ê ìíîãî÷ëåíó ñòåïåíè äâà?
Ñòàòèñòè÷åñêè ïðîáëåìà âûãëÿäèò òàê.
132
Ïðåäïîëîæèì, ÷òî íàáëþäåíèÿ y óäîâëåòâîðÿþò ñòàòèñòè÷å-
ñêîé ìîäåëè
y
i
= a
0
+ a
1
x
i
+ a
2
x
2
i
+ "
i
; i = 1; n; (11:1:3)
ãäå "
1
; "
2
; : : : ; "
n
ñóòü íåçàâèñèìûå N(0; �
2
), a
0
; a
1
; a
2
� íåèçâåñò-
íûå êîý��èöèåíòû. Ïî íàáëþäåíèÿì (11.1.3) íàäî ïðîâåðèòü ãè-
ïîòåçó
H
0
: a
2
= 0 (11:1:4)
ïðîòèâ àëüòåðíàòèâû
H
1
: a
2
6= 0:
�èïîòåçà H
0
(11.1.4) ñîñòîèò â òîì, ÷òî çàâèñèìîñòü îòêëèêà îò
�àêòîðà ìîæíî ïåðåäàòü ìîäåëüþ
y
i
= a
0
+ a
1
x
i
+ "
i
; i = 1; n; (11:1:5)
ïðè òåõ æå, ÷òî è âûøå, ïðåäïîëîæåíèÿõ îá îøèáêàõ "
1
; "
2
; : : : ; "
n
.
1.2. Îäíî�àêòîðíûé äèñïåðñèîííûé àíàëèç
Ïóñòü íàáëþäàþòñÿ k � 2 íåçàâèñèìûõ âûáîðîê, îáúåìû êîòî-
ðûõ îáîçíà÷èì ÷åðåç n
1
; n
2
; : : : ; n
k
. Ýëåìåíòû âûáîðêè ñ íîìåðîì
j, j = 1; k, îáîçíà÷èì ÷åðåç x
ij
, i ìåíÿåòñÿ îò 1 äî n
j
. Ïðåäïîëî-
æèì, ÷òî
x
ij
= a
j
+ "
ij
; (11:1:6)
ãäå "
ij
(j = 1; k; i = 1; n
j
) ñóòü íåçàâèñèìûå îäèíàêîâî ðàñïðåäå-
ëåííûå ñëó÷àéíûå âåëè÷èíû. Âñþäó â äàëüíåéøåì "
ij
� N(0; �
2
).
Òàêàÿ ìîäåëü âîçíèêàåò, íàïðèìåð, ïðè ñðàâíåíèè íåñêîëü-
êèõ ñïîñîáîâ îáðàáîòêè, íåñêîëüêèõ óñëîâèé õðàíåíèÿ, íåñêîëü-
êèõ ìåñò ðàçìåùåíèÿ è ò. ä. Ìîäåëü (11.1.6) âîçíèêàåò òàêæå ïðè
ëþáîé êëàññè�èêàöèè îáúåêòîâ ïî îäíîìó ïðèçíàêó (îäíî�àê-
òîðíàÿ êëàññè�èêàöèÿ).
Ïðè ñðàâíåíèè ñïîñîáîâ îáðàáîòêè ÷àñòî áûâàåò íóæíî âûäå-
ëèòü ëó÷øèé (èëè ãðóïïó ëó÷øèõ, èëè ãðóïïó õóäøèõ è ò. ï.)
ñïîñîáîâ îáðàáîòêè. Öåëåñîîáðàçíî, îäíàêî, ïðåæäå çàäàòüñÿ âî-
ïðîñîì: äàþò ëè íàøè äàííûå îñíîâàíèÿ äëÿ òàêîãî âûáîðà? Ïî-
âèäèìîìó, íåò, åñëè ñ íàáëþäåíèÿìè (11.1.6) ñîâìåñòèìà ãèïîòåçà
H
0
: a
1
= a
2
= � � � = a
k
: (11:1:7)
133
Ëåãêî âèäåòü, ÷òî ãèïîòåçà (11.1.4) â ìîäåëè (11.1.3) è ãèïîòå-
çà (11.1.7) â ìîäåëè (11.1.6) ÿâëÿþòñÿ ÷àñòíûìè �îðìàìè îáùåé
ëèíåéíîé ãèïîòåçû â ëèíåéíîé ìîäåëè, êàê îíà �îðìóëèðóåòñÿ â
ñëåäóþùåì ïàðàãðà�å.
� 2. Îáùàÿ ëèíåéíàÿ ãèïîòåçà
Ìû ãîâîðèì, ÷òî â îòíîøåíèè íàáëþäåíèÿX (X� ýëåìåíò ëè-
íåéíîãî ïðîñòðàíñòâà, â íàøèõ ðàññìîòðåíèÿõ X2R
n
) äåéñòâóåò
ëèíåéíàÿ ìîäåëü, åñëè íàáëþäåíèå X èìååò ñòðóêòóðóX= l+�, ãäå
� l� íåñëó÷àéíûé íåèçâåñòíûé âåêòîð, êîòîðûé çàâåäîìî ïðè-
íàäëåæèò íåêîòîðîìó çàäàííîìó ëèíåéíîìó ïîäïðîñòðàí-
ñòâó L;
� � � ñëó÷àéíûé âåêòîð (âåêòîð îøèáîê).
Ìîäåëü íàçûâàþò ãàóññîâñêîé, åñëè � èìååò ãàóññîâñêîå ðàñïðå-
äåëåíèå. Â áîëüøèíñòâå ïðèëîæåíèé E� = 0, D� = �
2
I , ïðè÷åì
�
2
íåèçâåñòíî. (Òàêàÿ �îðìà ìàòðèöû êîâàðèàöèé � îçíà÷àåò, ÷òî
êîìïîíåíòû âåêòîðà X íåçàâèñèìû è èìåþò îäèíàêîâûå äèñïåð-
ñèè).
� Ëèíåéíàÿ ãèïîòåçà H
0
: l 2 L
0
, ãäå L
0
� çàäàííîå ëèíåé-
íîå ïîäïðîñòðàíñòâî, ïðè÷åì L
0
� L. Àëüòåðíàòèâîé ê H
0
âûñòóïàåò îòðèöàíèå H
0
â ðàìêàõ ëèíåéíîé ìîäåëè:
� Àëüòåðíàòèâà H
1
: l =2 L
0
, íî ïðè ýòîì l 2 L.
Ëèíåéíóþ ãèïîòåçó ìîæíî ðàññìàòðèâàòü êàê ÷àñòíûé ñëó÷àé
îáùåé ïàðàìåòðè÷åñêîé ãèïîòåçû î ðàñïðåäåëåíèè íàáëþäåíèÿX .
Ïðåäïîëîæèì, ÷òî ñëó÷àéíàÿ âåëè÷èíàX èìååò ïëîòíîñòü f(x; �),
ãäå � � íåèçâåñòíûé ïàðàìåòð, � 2 �. (Ïëîòíîñòü îòíîñèòåëüíî
íåêîòîðîé ìåðû.  íàøåì ñëó÷àå � îòíîñèòåëüíî ìåðû Ëåáåãà
â R
n
). �èïîòåçà H
0
ñîñòîèò â òîì, ÷òî ïàðàìåòð � ïðèíàäëåæèò
çàäàííîìó ìíîæåñòâó �
0
, áîëåå óçêîìó, ÷åì �: �
0
� �. Êðèòåðèé,
ïðåäëàãàåìûé äëÿ ïðîâåðêè H
0
: � 2 �
0
ïðîòèâ H
1
: � 2 � n�
0
,
ñòðîèòñÿ ïî îáðàçöó êðèòåðèÿ Íåéìàíà-Ïèðñîíà.
� Ïóñòü
^
� îáîçíà÷àåò îöåíêó ïàðàìåòðà �, âû÷èñëåííóþ ïî íà-
áëþäåíèþ X â ïðåäïîëîæåíèè, ÷òî � 2 �.
134
� Ïóñòü
~
� îáîçíà÷àåò àíàëîãè÷íóþ îöåíêó, íî âû÷èñëåííóþ â
ïðåäïîëîæåíèè, ÷òî � 2 �
0
.
� Êðèòè÷åñêèå ñîáûòèÿ òåïåðü èìåþò âèä
S
�
=
n
X :
f(X;
^
�)
f(X;
~
�)
� �
o
: (11:2:1)
Ïàðàìåòð �, êàê îáû÷íî, âûáèðàþò ïî çàäàííîìó óðîâíþ
çíà÷èìîñòè " èç óñëîâèÿ PfS
�
jH
0
g � ":
Êðèòåðèé (11.2.1) íàçûâàþò êðèòåðèåì îòíîøåíèÿ ïðàâäîïî-
äîáèé. Â ðàññìàòðèâàåìîé íàìè ëèíåéíîé ìîäåëè îöåíêè
^
�,
~
� (äëÿ
ïàðû (l; �
2
)) íàì èçâåñòíû, è âñêîðå ìû ê íèì îáðàòèìñÿ. Â îáùåé
çàäà÷å â êà÷åñòâå f(x;
^
�) è f(x;
~
�) îáû÷íî áåðóò
f(X;
^
�) = max
�2�
f(X; �); f(X;
~
�) = max
�2�
0
f(X; �):
Ïîëó÷àåìûå ïî òàêîìó ïðàâèëó îöåíêè �
^
� = argmax
�2�
f(X; �) è
~
� = argmax
�2�
0
f(X; �)
íàçûâàþò îöåíêàìè íàèáîëüøåãî ïðàâäîïîäîáèÿ (ïðè óñëîâèÿõ
� 2 � è � 2 �
0
). Ýòè îöåíêè ìû áóäåì èçó÷àòü â ëåêöèè 14.
Êðèòåðèé îòíîøåíèÿ ïðàâäîïîäîáèé â ýòîì ñëó÷àå èìååò òàêèå
êðèòè÷åñêèå ñîáûòèÿ
S
�
=
n
X :
max
�2�
f(X; �)
max
�2�
0
f(X; �)
> �
o
:
Ñàìî âûðàæåíèå f(X; �), ðàññìàòðèâàåìîå êàê �óíêöèÿ �, íà-
çûâàþò ïðàâäîïîäîáèåì �. Îòñþäà è íàçâàíèÿ: îöåíêè íàèáîëüøå-
ãî ïðàâäîïîäîáèÿ, êðèòåðèé îòíîøåíèÿ ïðàâäîïîäîáèé. Ñâîéñòâà
îöåíîê íàèáîëüøåãî ïðàâäîïîäîáèÿ ìû åùå áóäåì èçó÷àòü ïîçæå.
� 3. Ïðèìåíåíèå êðèòåðèÿ îòíîøåíèÿ ïðàâäîïî-
äîáèé ê ïðîâåðêå ëèíåéíûõ ãèïîòåç
Ïðèìåíèì êðèòåðèé îòíîøåíèÿ ïðàâäîïîäîáèé ê ïðîâåðêå ëè-
íåéíûõ ãèïîòåç. Â ðàññìàòðèâàåìîé ãàóññîâñêîé ìîäåëè ïðàâäî-
ïîäîáèå åñòü
f(X; �) =
�
1
p
2�
�
n
(�
2
)
�n=2
exp
n
�
1
2�
2
jX � lj
2
o
: (11:3:1)
135
Ïðè óñëîâèè, ÷òî l 2 L îöåíêè
^
l,
^
�
2
ñóòü
^
l=proj
L
X;
^
�
2
=
1
n�m
jproj
L
?
X j
2
=
1
n�m
jX�proj
L
X j
2
; (11:3:2)
ãäå m = dimL.
Ïðè óñëîâèè, ÷òî l 2 L
0
îöåíêè
~
l;
~
�
2
ñóòü
~
l=proj
L
0
X;
~
�
2
=
1
n�m
0
jproj
L
?
0
X j
2
=
1
n�m
0
jX�proj
L
0
X j
2
; (11:3:3)
ãäå m
0
= dimL
0
 îáîèõ ñëó÷àÿõ ïîêàçàòåëü ýêñïîíåíòû �
jX � lj
2
2�
2
ïðè ïîä-
ñòàíîâêå âìåñòî l, �
2
èõ îöåíîê ïðåâðàùàåòñÿ â ïîñòîÿííóþ, íå
çàâèñÿùóþ îò X âåëè÷èíó: â ïåðâîì ñëó÷àå ýòî �(n � m)=2, âî
âòîðîì ýòî �(n�m
0
)=2.
Ïîýòîìó ñåìåéñòâî êðèòè÷åñêèõ ñîáûòèé (11.2.1) äëÿ ïðîâåðêè
ãèïîòåçû H
0
èìååò âèä
�
X :
jX � proj
L
0
X j
2
jX � proj
L
X j
2
> �
�
: (11:3:4)
(Ïàðàìåòð � â (11.3.4) íå òîæäåñòâåíåí ïàðàìåòðó � â (11.2.1);
íåñìîòðÿ íà ýòî ìû óïîòðåáèëè äëÿ íèõ îäèí è òîò æå ñèìâîë.
Êàê óæå îòìå÷àëîñü, íàì âàæíî, ÷òîáû ìíîæåñòâî êðèòè÷åñêèõ
ñîáûòèé áûëî êàê-ëèáî ïàðàìåòðèçîâàíî, íî ñâÿçü ìåæäó ðàçëè÷-
íûìè âîçìîæíûìè ïàðàìåòðèçàöèÿìè íå âàæíà. Ïîýòîìó ñîîòíî-
øåíèå ìåæäó ïàðàìåòðàìè â (11.2.1) è (11.3.4) ìû ìîæåì îñòàâèòü
áåç âíèìàíèÿ).
�àäè äàëüíåéøåãî óïðîùåíèÿ (11.3.4), ââåäåì â ðàññìîòðåíèå
åùå îäíî ëèíåéíîå ïîäïðîñòðàíñòâî: îðòîãîíàëüíîå äîïîëíåíèå
L
0
äî L. Îáîçíà÷èì åãî ÷åðåç L
1
. Èòàê, L
1
? L
0
, L
0
+ L
1
= L.
Òåïåðü R
n
ïðåäñòàâèìî â âèäå ñóììû òðåõ ïîïàðíî îðòîãîíàëüíû
ïîäïðîñòðàíñòâ L
0
; L
1
è L
?
. (Êàê îáû÷íî, L
?
îáîçíà÷àåò îðòîãî-
íàëüíîå äîïîëíåíèå L äî âñåãî ïðîñòðàíñòâà R
n
):
R
n
= L
0
+ L
1
+ L
?
:
 ñâÿçè ñ ýòèì äëÿ X äåéñòâóåò ðàçëîæåíèå
X = proj
L
0
X + proj
L
1
X + proj
L
?
X;
136
ïðè÷åì
jX � proj
L
0
X j
2
= jproj
L
1
X j
2
+ jproj
L
?
X j
2
: (11:3:5)
 ñèëó (11.3.5) êðèòåðèþ îòíîøåíèÿ ïðàâäîïîäîáèé (11.3.4)
ìîæíî äàòü âèä:
F :=
1
m
1
jproj
L
1
X j
2
1
n�m
jproj
L
?
X j
2
� �; (11:3:6)
ñ ó÷åòîì çàìå÷àíèé ê (11.3.4).
Âñïîìíèì, ÷òî îöåíêîé äëÿ �
2
ïðè óñëîâèè, ÷òî l 2 L, ñëóæèò
1
n�m
jproj
L
?
X j
2
: (11:3:7)
Ýòî íåñìåùåííàÿ îöåíêà äëÿ �
2
, âíå çàâèñèìîñòè îò òîãî, âåð-
íà èëè íåò ãèïîòåçà H
0
: l 2 L
0
. Åñëè æå H
0
âåðíà, òî äëÿ �
2
ìîæíî ïðåäëîæèòü åùå îäíó íåñìåùåííóþ îöåíêó, ïðèòîì ñòàòè-
ñòè÷åñêè íåçàâèñèìóþ îò ïåðâîé: ýòî
1
m
1
jproj
L
1
X j
2
: (11:3:8)
Åñëè ãèïîòåçà H
0
íåâåðíà, îöåíêà �
2
(11.3.8) ïðèîáðåòàåò ñìåùå-
íèå � òåì áîëüøåå, ÷åì áîëüøå jproj
L
1
lj
2
. (Íî î ñìåùåíèè � ÷óòü
ïîçæå, êîãäà áóäåì ãîâîðèòü î ðàñïðåäåëåíèÿõ (11.3.7) è (11.3.8)).
Ïîýòîìó êðèòåðèàëüíàÿ ñòàòèñòèêà â (11.3.6) � ýòî îòíîøåíèå
äâóõ íåçàâèñèìûõ îöåíîê äèñïåðñèè. Åñëè ãèïîòåçà H
0
âåðíà,
ýòî îòíîøåíèå îòëè÷àåòñÿ îò 1 òîëüêî çà ñ÷åò ñëó÷àéíûõ êîëåáà-
íèé. Ïðåäñòàâëåíèå îá èõ ðàçìåðå äàåò ðàñïðåäåëåíèå ñòàòèñòèêè
(11.3.6) ïðè ãèïîòåçå.
Îáñóäèì ðàñïðåäåëåíèå ñòàòèñòèêè èç (11.3.6) ïðè ãèïîòåçå è
ïðè àëüòåðíàòèâå. Ëåììà îá îðòîãîíàëüíîì ðàçëîæåíèè èç ëåê-
öèè 6 ãîâîðèò, ÷òî
jproj
L
?
X j
2
d
= �
2
�
2
(n�m);
jproj
L
1
X j
2
d
= �
2
�
2
(m
1
;�);
ãäå ïàðàìåòð íåöåíòðàëüíîñòè � =
1
�
2
jproj
L
1
EX j
2
.
137
Åñëè âåðíà ãèïîòåçà H
0
, òî � = 0. Ñëåäîâàòåëüíî, êðèòåðè-
àëüíàÿ ñòàòèñòèêà èç (11.3.6) ðàñïðåäåëåíà êàê F (m
1
; n�m;�):
1
m
1
jproj
L
1
X j
2
1
n�m
jproj
L
?
X j
2
d
= F (m
1
; n�m;�): (11:3:9)
(Ñîîòíîøåíèå (11.3.9) îáúÿñíÿåò, ìåæäó ïðî÷èì, è ïðèíÿòîå äëÿ
ý�-îòíîøåíèÿ íàçâàíèå äèñïåðñèîííîãî îòíîøåíèÿ Ôèøåðà).
Ïðèìå÷àòåëüíî, ÷òî ïðè ãèïîòåçå H
0
ñòàòèñòèêà (11.3.9) ðàñ-
ïðåäåëåíà ñâîáîäíî (îò âëèÿíèÿ íåèçâåñòíûõ ïàðàìåòðîâ l 2 L
0
è
�
2
). (Ýòî ñâîéñòâî ïîëó÷åíî íàìè ñâåðõ îæèäàíèé. Íè÷òî â íàøèõ
âûêëàäêàõ òîãî íå îáåùàëî). Ïîýòîìó âûáîð êðèòè÷åñêîãî çíà÷å-
íèÿ � â (11.3.6) î÷åíü óïðîùàåòñÿ: äëÿ ýòîãî íàäî (ñ ïîìîùüþ
òàáëèö ðàñïðåäåëåíèÿ, íàïðèìåð) ðåøèòü óðàâíåíèå
PfF (m
1
; n�m) � �g = ":
 êà÷åñòâå êðèòè÷åñêîãî çíà÷åíèÿ (äëÿ ïðîâåðêè H
0
íà óðîâíå
") â (11.3.6) íàäî âçÿòü (1 � ")-êâàíòèëü ý�-ðàñïðåäåëåíèÿ ñ m
1
,
n �m ñòåïåíÿìè ñâîáîäû (êîòîðóþ ìû óæå êîãäà-òî îáîçíà÷èëè
F
1�"
(m
1
; n�m)).
Ñ âû÷èñëèòåëüíîé òî÷êè çðåíèÿ áîëåå óäîáíîé �îðìîé äëÿ
ñòàòèñòèêè (11.3.9) ìîæåò áûòü âûðàæåíèå
1
m�m
0
jproj
L
X � proj
L
0
X j
2
1
n�m
jX � proj
L
X j
2
: (11:3:10)
Èòàê, ïîëó÷èëè ñòàòèñòè÷åñêîå ïðàâèëî:
� Îòâåðãàåì ãèïîòåçó H
0
íà óðîâíå ", åñëè ñòàòèñòèêà (11.3.9)
èëè (11.3.10) ïðåâîñõîäèò F
1�"
(m
1
; n�m).
Èç ñâîéñòâ ý�-îòíîøåíèÿ ñëåäóåò, ÷òî ìîùíîñòü ýòîãî êðèòå-
ðèÿ ìîíîòîííî âîçðàñòàåò âìåñòå ñ ðîñòîì ïàðàìåòðà íåöåíòðàëü-
íîñòè � =
1
�
2
jproj
L
1
EX j
2
.
138
� 4. Ïðèìåð: äâå íîðìàëüíûå âûáîðêè
�àññìîòðèì äâå íåçàâèñèìûå íîðìàëüíûå âûáîðêè x
1
, x
2
, . . . ,
x
m
, ãäå x
i
� N(a; �
2
), è y
1
; y
2
; : : : ; y
n
, ãäå y
i
� N(b; �
2
), ïàðàìåòðû
a, b è �
2
íåèçâåñòíû. Ïîäëåæàùàÿ ïðîâåðêå ãèïîòåçà
H
0
: a = b: (11:4:1)
Àëüòåðíàòèâà ê íåé H
1
: a 6= b:
 (n+m)-ìåðíîì ïðîñòðàíñòâå ðàññìîòðèì âåêòîðû
e
1
= (1; : : : ; 1
| {z }
m
; 0; : : : ; 0
| {z }
n
)
T
; e
2
= (0; : : : ; 0
| {z }
m
; 1; : : : ; 1
| {z }
n
)
T
;
Z=(x
1
; x
2
; : : : ; x
m
; y
1
; y
2
; : : : ; y
n
)
T
; "=("
1
; : : : ; "
m
; "
m+1
; : : : ; "
m+n
)
T
;
ãäå "
1
; "
2
; : : : ñóòü íåçàâèñèìûå N(0; �
2
).
Âåêòîð Z ìîæíî ïðåäñòàâèòü â âèäå Z= a e
1
+ b e
2
+":ßñíî, ÷òî
Z ñëåäóåò ëèíåéíîé ãàóññîâñêîé ìîäåëè, ïðè÷åì EZ 2 L(e
1
; e
2
),
ãäå L(e
1
; e
2
) îáîçíà÷àåò (äâóìåðíîå) ëèíåéíîå ïîäïðîñòðàíñòâî ñ
áàçèñîì e
1
; e
2
. Ïðè ãèïîòåçå H
0
âåêòîð EZ ëåæèò â îäíîìåðíîì
ëèíåéíîì ïîäïðîñòðàíñòâå L
0
, ïîðîæäåííîì åäèíñòâåííûì âåê-
òîðîì e
1
+ e
2
. Äëÿ ïðîâåðêè H
0
ïðîòèâ H
1
ñ ïîìîùüþ ñòàòèñòèêè
(11.3.10) íàäî âû÷èñëèòü jproj
L
Z � proj
L
0
Zj
2
è jZ � proj
L
Zj
2
: Áó-
äåì èñïîëüçîâàòü îáîçíà÷åíèÿ
�x =
1
m
m
P
i=1
x
i
; s
2
x
=
1
m�1
m
P
i=1
(x
i
� �x)
2
;
�y =
1
n
n
P
j=1
y
j
; s
2
y
=
1
n�1
n
P
j=1
(y
j
� �y)
2
:
Ëåãêî âèäåòü, ÷òî
proj
L
Z = �xe
1
+ �ye
2
; proj
L
0
Z =
�
m
m+n
�x+
n
m+n
�y
�
(e
1
+ e
2
):
Îòñþäà
jZ�proj
L
Zj
2
=(m�1)s
2
x
+(n�1)s
2
y
; jproj
L
Z�proj
L
0
Zj
2
=
mn
m+n
(�x� �y)
2
:
 ýòèõ îáîçíà÷åíèÿõ ñòàòèñòèêà (11.3.10) è ïîñëåäóþùåå ñòà-
òèñòè÷åñêîå ïðàâèëî òàêîâû:
� Îòâåðãàòü H
0
: a = b íà óðîâíå ", åñëè
139
mn(m+n�2)
m+ n
�
(�x� �y)
2
m
P
i=1
(x
i
��x)
2
+
n
P
j=1
(y
j
��y)
2
>F
1�"
(1;m+n�2): (11:4:2)
Îáû÷íî âìåñòî ý�-ñòàòèñòèêè (11.4.2) ðàññìàòðèâàþò ñòàòè-
ñòèêó Ñòüþäåíòà t, ïðè÷åì t
2
= F :
t =
q
mn
m+n
(�x� �y)
q
1
m+n�2
[(m� 1)s
2
x
+ (n� 1)s
2
y
℄
: (11:4:3)
Ïðè ãèïîòåçå H
0
ñòàòèñòèêà (11.4.3) ðàñïðåäåëåíà ïî Ñòüþäåíòó,
ñ m + n � 2 ñòåïåíÿìè ñâîáîäû. Ñ ïîìîùüþ (11.4.3) ìîæíî îò-
äåëüíî ïðîâåðÿòü H
0
ïðîòèâ îäíîñòîðîííèõ àëüòåðíàòèâ: ïðîòèâ
ïðàâîñòîðîííåé H
+
: a > b èëè ëåâîñòîðîííåé H
�
: a < b:
� 5. Çàêëþ÷åíèå
Òåîðèÿ ãàóññîâñêèõ ëèíåéíûõ ìîäåëåé ñîñòàâëÿåò êëàññè÷å-
ñêóþ ãëàâó ìàòåìàòè÷åñêîé ñòàòèñòèêè, å¼ áîëüøîå äîñòèæåíèå
è äîñòîÿíèå. Âìåñòå ñ òåì, ñ ïðèêëàäíîé òî÷êè çðåíèÿ, ãàóññîâ-
ñêèå ìåòîäû íå ñâîáîäíû îò íåäîñòàòêîâ è îãðàíè÷åíèé.
Ýòè ìåòîäû íå ñëåäóåò ïðèìåíÿòü, åñëè ðàñïðåäåëåíèÿ íàáëþ-
äåíèé (èëè îøèáîê) îïðåäåëåííî íå ãàóññîâñêèå.  ñòàòèñòè÷åñêèõ
çàäà÷àõ çà ïðåäåëàìè ãåîäåçèè, àñòðîíîìèè è ò. ï. íåãàóññîâñêèå
îøèáêè � ýòî ñêîðåå ïðàâèëî, ÷åì èñêëþ÷åíèå.
�àóññîâñêèå ìåòîäû (ê êîòîðûì ÿ çäåñü îòíîøó è ìåòîä íàè-
ìåíüøèõ êâàäðàòîâ) ïðèìåíÿòü îïàñíî, åñëè ðàñïðåäåëåíèÿ áëèç-
êè ê ãàóññîâñêèì, íî íå èñêëþ÷àþò ïîÿâëåíèÿ äàëåêî îòñòîÿùèõ
îò öåíòðà íàáëþäåíèé. (Èõ íàçûâàþò ãðóáûìè îøèáêàìè, èëè
"âûáðîñàìè"). Ñòàòèñòè÷åñêèå îöåíêè (è äðóãèå ïðàâèëà), îïòè-
ìàëüíûå äëÿ ãàóññîâñêèõ ðàñïðåäåëåíèé, îêàçûâàþòñÿ ÷óâñòâè-
òåëüíûìè ê âûáðîñàì. Äàæå íåáîëüøàÿ äîëÿ òàêèõ "çàñîðÿþùèõ"
çíà÷åíèé â îáùåì ìàññèâå äàííûõ ìîæåò ðàäèêàëüíî èçìåíèòü
ðåçóëüòàòû ñòàòèñòè÷åñêîãî àíàëèçà. (Î âëèÿíèè âûáðîñîâ áóäåì
ãîâîðèòü ïîçæå, â ëåêöèè 15).
Ïîýòîìó äëÿ ïðèëîæåíèé íóæíû è äðóãèå ñòàòèñòè÷åñêèå ìå-
òîäû. Îá îäíîì èç íèõ, íå îïèðàþùåìñÿ íà êàêóþ-ëèáî ïàðàìåò-
ðè÷åñêóþ �îðìó ðàñïðåäåëåíèé (è ïîýòîìó íàçûâàåìîì íåïàðà-
ìåòðè÷åñêèì), ïðîñòîì ìàòåìàòè÷åñêè è äîñòàòî÷íî óíèâåðñàëü-
íîì, áóäåì ðàññêàçûâàòü äàëåå.
140
Ëåêöèÿ 12. �àíãîâûå ìåòîäû: êðèòåðèé
ðàíãîâûõ ñóìì (Wil oxon)
� 1. Îáùåå îïðåäåëåíèå ðàíãîâ
Îò ëþáîé ÷èñëîâîé ïîñëåäîâàòåëüíîñòè (â êîòîðîé íåò ïîâòî-
ðÿþùèõñÿ ÷èñåë) ìîæíî ïåðåéòè ê ïîñëåäîâàòåëüíîñòè èõ íîìå-
ðîâ, åñëè óêàçàí ïðèíöèï èõ ëèíåéíîãî óïîðÿäî÷åíèÿ (íóìåðà-
öèè). Îáû÷íî ÷èñëîâûå ñîâîêóïíîñòè óïîðÿäî÷èâàþò îò ìåíüøå-
ãî ê áîëüøåìó, ò. å. â âîçðàñòàþùåì ïîðÿäêå. (Íî áûâàåò è ïî-
äðóãîìó).
Íîìåðà, êîòîðûå ïîëó÷èëè ýëåìåíòû ÷èñëîâîé ïîñëåäîâàòåëü-
íîñòè ïðè óïîðÿäî÷åíèè, íàçûâàþò èõ ðàíãàìè.
(Ïîíÿòíî òðåáîâàíèå, ÷òîáû â ñîâîêóïíîñòè íå áûëî îäèíàêî-
âûõ ÷èñåë: íåÿñíî, êàê óïîðÿäî÷èòü îäèíàêîâûå ÷èñëà. Èì íàäî
áû äàòü îäèíàêîâûå íîìåðà). Êàê áû íè ïðîâîäèëîñü óïîðÿäî÷å-
íèå ÷èñëîâîé ñîâîêóïíîñòè, ñîâîêóïíîñòü èõ ðàíãîâ � ýòî îäíà èç
ïåðåñòàíîâîê íàòóðàëüíûõ ÷èñåë 1; 2; : : : ; n, åñëè n � ÷èñëåííîñòü
èñõîäíîé ñîâîêóïíîñòè.
Ïóñòü òåïåðü èñõîäíàÿ ñîâîêóïíîñòü X = (x
1
; x
2
; : : : ; x
n
) �
âûáîðêà èç íåêîòîðîãî íåïðåðûâíîãî ðàñïðåäåëåíèÿ. Ñ âåðîÿò-
íîñòüþ 1 ýòà âûáîðêà íå èìååò îäèíàêîâûõ ýëåìåíòîâ. �àññìîò-
ðèì ðàíãè âåëè÷èí x
1
; x
2
; : : : ; x
n
. Äëÿ îïðåäåëåííîñòè, ïðè óïî-
ðÿäî÷åíèè â ïîðÿäêå âîçðàñòàíèÿ. Îáîçíà÷èì èõ ÷åðåç R(x
1
),
R(x
2
),: : :,R(x
n
). Ïóñòü (r
1
; r
2
; : : : ; r
n
) � ïðîèçâîëüíàÿ ïåðåñòàíîâ-
êà ÷èñåë (1; 2; : : : ; n). Îñíîâíîå ñâîéñòâî ñëó÷àéíûõ ðàíãîâ:
Pf
~
R(X) = ~rg := PfR(x
1
) = r
1
; : : : ; R(x
n
) = r
n
g =
1
n!
:
Ýòî çíà÷èò, ÷òî äëÿ íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ
íåïðåðûâíûõ ñëó÷àéíûõ âåëè÷èí ðàñïðåäåëåíèå èõ ðàíãîâ � ðàâ-
íîìåðíîå è íå çàâèñèò îò èñõîäíîãî ðàñïðåäåëåíèÿ. Ïîýòîìó ñ ïî-
ìîùüþ ðàíãîâ åãî èçó÷àòü íåëüçÿ. Íî äëÿ áîëåå ñëîæíûõ ñòà-
òèñòè÷åñêèõ ìîäåëåé ðàíãîâûå ìåòîäû ìîãóò áûòü î÷åíü ïîëåç-
íû, òàê êàê îíè ïðèâîäÿò ê âûâîäàì, íå çàâèñÿùèì îò èñõîäíûõ
ðàñïðåäåëåíèé (è îò òîãî, èçâåñòíû ëè ýòè ðàñïðåäåëåíèÿ). Ýòî
ñâîéñòâî � íåçàâèñèìîñòü âûâîäîâ îò ðàñïðåäåëåíèÿ � ÷àñòî íà-
çûâàþò ñâîáîäîé îò ðàñïðåäåëåíèÿ. �àíãîâûå ìåòîäû � îäèí èç
ïðèìåðîâ ñâîáîäíûõ îò ðàñïðåäåëåíèÿ ìåòîäîâ. Äðóãîå íàçâàíèå
äëÿ òàêèõ ìåòîäîâ � íåïàðàìåòðè÷åñêèå. Íàçâàíèå äàíî, ÷òîáû
141
ïðîòèâîïîñòàâèòü èõ ñòàòèñòè÷åñêèì ìåòîäàì, ðàçðàáàòûâàåìûì
ñïåöèàëüíî äëÿ òîãî èëè èíîãî ïàðàìåòðè÷åñêîãî ñåìåéñòâà ðàñ-
ïðåäåëåíèé � íîðìàëüíîãî, íàïðèìåð. Îáñóæäàÿ ãàóññîâñêèå ëè-
íåéíûå ìîäåëè, ìû çàíèìàëèñü èìåííî ïàðàìåòðè÷åñêèì èññëå-
äîâàíèåì.
Íà ïðîøëîé ëåêöèè ìû îáñóäèëè çàäà÷ó î äâóõ âûáîðêàõ, êî-
òîðûå ìîãóò îòëè÷àòüñÿ ñäâèãîì, êîãäà ýòè âûáîðêè ãàóññîâñêèå.
Òåïåðü ïîêàæåì, êàê òó æå çàäà÷ó äëÿ âûáîðîê èç ïðîèçâîëüíîãî
íåïðåðûâíîãî ðàñïðåäåëåíèÿ ìîæíî ðåøàòü ñ ïîìîùüþ ðàíãîâûõ
ìåòîäîâ.
� 2. Ñðàâíåíèå äâóõ âûáîðîê, ìîãóùèõ îòëè÷àòü-
ñÿ ñäâèãîì
� Ïóñòü X = (x
1
; x
2
; : : : ; x
m
) � âûáîðêà èç ðàñïðåäåëåíèÿ ñ
�óíêöèåé ðàñïðåäåëåíèÿ F (u) = Pfx
i
� ug.
� Ïóñòü Y = (y
1
; : : : ; y
n
) � íåçàâèñèìàÿ îò X âûáîðêà èç ðàñ-
ïðåäåëåíèÿ ñ �óíêöèåé ðàñïðåäåëåíèÿ F (u� �).
� Çäåñü � 2 R
1
� ïàðàìåòð ñäâèãà, F (�) � íåêîòîðàÿ íåïðå-
ðûâíàÿ �óíêöèÿ, íåèçâåñòíàÿ íàáëþäàòåëþ.
 ýòîé îáñòàíîâêå íàäî
� Ïðîâåðèòü ãèïîòåçó H : � = 0 ïðîòèâ ëåâî- ëèáî ïðàâîñòî-
ðîííèõ àëüòåðíàòèâ H
�
: � < 0, H
+
: � > 0;
� Ïîñòðîèòü äîâåðèòåëüíûå èíòåðâàëû è äîâåðèòåëüíûå ïðå-
äåëû äëÿ �;
� Óêàçàòü òî÷å÷íóþ îöåíêó �.
Âñ¼ ýòî âîçìîæíî ñ ïîìîùüþ ðàíãîâûõ ñðåäñòâ.
� à í ã î â û é ì å ò î ä (ïðîâåðêè ãèïîòåçû H). �àññìîòðèì
îáúåäèíåííóþ ñîâîêóïíîñòü (X;Y ): x
1
; x
2
; : : : ; x
m
; y
1
; y
2
; : : : ; y
n
:
Îò ÷èñåë fxg, fyg ïåðåéäåì ê èõ ðàíãàì â îáúåäèíåííîé ñîâî-
êóïíîñòè (X;Y ). Îáîçíà÷èì ðàíãè èãðåêîâ ÷åðåç
~
S : R(y
j
) = S
j
.
ßñíî, ÷òî ïðè ãèïîòåçå H â êà÷åñòâå (S
1
; S
2
; : : : ; S
n
) ñ îäèíàêî-
âûìè âåðîÿòíîñòÿìè ìîæåò ïîÿâèòüñÿ ëþáàÿ ñîâîêóïíîñòü n ÷è-
ñåë, âçÿòûõ èç îòðåçêà íàòóðàëüíîé ïîñëåäîâàòåëüíîñòè 1; 2; : : : ; N ,
142
ãäå N = m+n. Ýòà âåðîÿòíîñòü ðàâíà 1=[N(N �1) : : : (N �n+1)℄.
 ÷àñòíîñòè, PfR(y
j
) = sg =
1
N
äëÿ ëþáîãî s = 1; 2; : : : ; N .
×òîáû ïîíÿòü, êàêîâî ðàñïðåäåëåíèå ðàíãîâ èãðåêîâ (S
1
, S
2
,
. . . , S
n
) ïðè àëüòåðíàòèâàõ H
�
èëè H
+
, ïðåäñòàâèì âûáîðêó èç
Y êàê ïðîäîëæåíèå âûáîðêè èç X , íî "ñî ñäâèãîì":
y
1
= � + x
m+1
; : : : ; y
n
= � + x
m+n
:
Çäåñü x
m+1
; x
2
; : : : ; x
m+n
� íåçàâèñèìûå (â ñîâîêóïíîñòè) è íåçà-
âèñÿùèå îò x
1
; x
2
; : : : ; x
n
ñëó÷àéíûå âåëè÷èíû, èìåþùèå òó æå
(÷òî x
1
; x
2
; : : : ; x
n
) �óíêöèþ ðàñïðåäåëåíèÿ F (�).
Òåïåðü ÿñíî, ÷òî:
� Åñëè H
+
: � > 0 (àëüòåðíàòèâà H
+
), òî Pfy
j
> x
i
g >
1
2
.
� Åñëè æå H
�
: � < 0, òî âåðíî ïðîòèâîïîëîæíîå íåðàâåíñòâî
Pfx
i
> y
j
g >
1
2
.
Ïîýòîìó ïðè H
+
: � > 0 äëÿ ðàíãîâ èãðåêîâ, ò. å. äëÿ ñëó÷àé-
íûõ âåëè÷èí (S
1
; S
2
; : : : ; S
n
), áîëåå âåðîÿòíû çíà÷åíèÿ èç ïðàâîé
÷àñòè ðÿäà 1; 2; : : : ; N , ÷åì èç ëåâîé.
Ïðè H
�
: � < 0 � íàîáîðîò, äëÿ (S
1
; S
2
; : : : ; S
n
) áîëåå âåðîÿò-
íû ìàëûå ÷èñëà èç 1; 2; : : : ; N .
Âûÿâëåííîå ðàçëè÷èå â ðàñïðåäåëåíèÿõ
~
S ïðè ãèïîòåçå è ïðè
àëüòåðíàòèâàõ ìîæíî óñèëèòü, åñëè â êà÷åñòâå êðèòåðèàëüíîé ñòà-
òèñòèêè âçÿòü èõ ñóììó. Ýòî � òàê íàçûâàåìàÿ ñòàòèñòèêà Óèë-
êîêñîíà, èëè, ÷óòü ïðîñòðàííåå, ñòàòèñòèêà ðàíãîâûõ ñóìì Óèë-
êîêñîíà (Wil oxon):
W
m;n
:=
n
X
j=1
S
j
:
Êàê ñëåäóåò èç ñêàçàííîãî ðàíåå, ïðè ãèïîòåçå H (ò. å. â ñëó-
÷àå îäíîðîäíîñòè âûáîðîê X è Y ) ñòàòèñòèêà W
m;n
ðàñïðåäåëåíà
ñâîáîäíî: åå ðàñïðåäåëåíèå íå çàâèñèò îò òîãî, êàêîâà (íåïðåðûâ-
íàÿ) �óíêöèÿ F ; ðàñïðåäåëåíèå W
m;n
îäèíàêîâî äëÿ âñåõ íèõ.
Ïîýòîìó ðàñïðåäåëåíèå W
m;n
ïðè ãèïîòåçå H ìîæíî âû÷èñëèòü
(äëÿ ëþáîé ïàðû íàòóðàëüíûõ ÷èñåë m è n). Ýòè ðàñïðåäåëåíèÿ
âû÷èñëåíû è ñâåäåíû â òàáëèöû (òàáóëèðîâàíû).
143
Ïðè àëüòåðíàòèâå H
+
äëÿ W
m;n
ñòàíîâÿòñÿ áîëåå âåðîÿòíûìè
áîëüøèå çíà÷åíèÿ: äëÿ z > 0
PfW
m;n
� z jH
+
g > PfW
m;n
� z jHg:
Ïðè H
�
ñïðàâåäëèâî ïðîòèâîïîëîæíîå íåðàâåíñòâî:
PfW
m;n
� z jH
�
g > PfW
m;n
� z jHg:
Âçÿâ âî âíèìàíèå ýòè ðàçëè÷èÿ â ñòàòèñòè÷åñêîì ïîâåäåíèè
W
m;n
ïðè ãèïîòåçå è àëüòåðíàòèâàõ, ìîæíî ïðåäëîæèòü ïðàâèëà
ïðîâåðêè H ïðîòèâ H
�
ëèáî H
+
.
Ï ð à â è ë î ïðîâåðêè H ïðîòèâ H
+
� Âûáèðàåì óðîâåíü çíà÷èìîñòè " > 0.
� Ïî çàäàííîìó " > 0 (ñ ïîìîùüþ òàáëèöû ðàñïðåäåëåíèÿ
W
m;n
ïðè ãèïîòåçå) íàõîäèì (1 � ")-êâàíòèëü W
m;n
� ò. å.
òàêîå ÷èñëî w(";m; n), ÷òî:
PfW
m;n
� w(";m; n)jHg = ":
(Ëó÷øå âûáðàòü " òàê, ÷òîáû ýòî óðàâíåíèå èìåëî ðåøå-
íèå � èç-çà äèñêðåòíîñòè ðàñïðåäåëåíèÿW
m;n
ýòî âîçìîæíî
òîëüêî äëÿ íåêîòîðûõ çíà÷åíèé ").
� Îòâåðãàåì H â ïîëüçó H
+
íà óðîâíå ", åñëè íàáëþäåííîå
çíà÷åíèå W
m;n
ðàâíî èëè ïðåâîñõîäèò w(";m; n), ò. å. åñëè
íàáë. W
m;n
� w(";m; n):
Ïðàâèëî ïðîâåðêè H ïðîòèâ H
�
âûãëÿäèò àíàëîãè÷íî, ñ åñòå-
ñòâåííûìè èçìåíåíèÿìè. Åñëè æå ñ ãèïîòåçîéH êîíêóðèðóåò äâó-
ñòîðîííÿÿ àëüòåðíàòèâà H : � 6= 0, òî ïðàâèëî âûãëÿäèò òàê:
� îòâåðãàòü H â ïîëüçó H , åñëè íàáëþäåííîå çíà÷åíèå W
m;n
äàëåêî (ëåãêî óòî÷íèòü, ÷òî ýòî çíà÷èò) îòêëîíÿåòñÿ îò öåí-
òðà ðàñïðåäåëåíèÿ W
m;n
ïðè H .
Òàê êàê ýòî ðàñïðåäåëåíèå ñèììåòðè÷íîå (ïðîâåðüòå!), òî óïî-
ìÿíóòûé öåíòð ðàâåí E
0
W
m;n
. (Èíäåêñîì íîëü îòìå÷àåì ðàñïðå-
äåëåíèÿ, ñîîòâåòñòâóþùèå � = 0). Ëåãêî âèäåòü, ÷òî
E
0
W
m;n
=
n(m+ n+ 1)
2
:
144
Ìîæíî ïîêàçàòü, ÷òî �óíêöèè ìîùíîñòè ïðèâåäåííûõ âûøå
êðèòåðèåâ âîçðàñòàþò ïî ìåðå óäàëåíèÿ çíà÷åíèÿ � îò � = 0 â
íóæíîì íàïðàâëåíèè.
� 3. Ñâÿçü äîâåðèòåëüíîãî îöåíèâàíèÿ è ïðîâåð-
êè ãèïîòåç
Ïóñòü X � íàáëþäåíèå, P
�
� ðàñïðåäåëåíèå X , � � íåèçâåñò-
íûé ïàðàìåòð, � 2 �. Ïðåäïîëîæèì, ÷òî äëÿ ïðîâåðêè ãèïîòåçû
H
t
: � = t ìû ðàñïîëàãàåì ñòàòèñòè÷åñêèì êðèòåðèåì, óðîâåíü
êîòîðîãî � ". Ïóñòü Æ(X; t) � èíäèêàòîðíàÿ �óíêöèÿ êðèòåðèÿ.
(Îòâåðãàåì H
t
: � = t, åñëè Æ(X; t) = 1).
Òå çíà÷åíèÿ ïàðàìåòðà t 2 �, äëÿ êîòîðûõ ãèïîòåçà H
t
: � = t
íå îòâåðãàåòñÿ ïî íàáëþäåíèþ X íà âûáðàííîì óðîâíå, îáðàçóþò
ìíîæåñòâî C(X) = ft : Æ(X; t) = 0; t 2 �g; êîòîðîå ÿâëÿåòñÿ
äîâåðèòåëüíûì äëÿ íåèçâåñòíîãî çíà÷åíèÿ � ñ äîâåðèòåëüíîé âå-
ðîÿòíîñòüþ � 1 � ". Ò. å. äîâåðèòåëüíîå ìíîæåñòâî îáðàçóþò òå
çíà÷åíèÿ ïàðàìåòðà, êîòîðûå ñîâìåñòèìû ñ íàáëþäåíèåì X (òî÷-
íåå, ñ X ñîâìåñòèìû ðàñïðåäåëåíèÿ âåðîÿòíîñòåé). Ëåãêî âèäåòü,
÷òî
P
�
f� 2 C(X)g � 1� ";
èáî ñîáûòèå f� 2 C(X)g îçíà÷àåò, ÷òî Æ(X; t) = 0, ò. å. ãèïîòåçà,
÷òî èñòèííîå çíà÷åíèå ïàðàìåòðà åñòü �, íå îòâåðãíóòà � à ïðè
ïàðàìåòðå � ýòà âåðîÿòíîñòü � 1� ".
Ï ð è ì å ð. Îöåíêà (äîâåðèòåëüíàÿ) ñäâèãà îäíîé ãàóññîâ-
ñêîé âûáîðêè îòíîñèòåëüíî äðóãîé. Ïóñòü X = (x
1
; x
2
; : : : ; x
m
) �
âûáîðêà èç N(a; �
2
), Y = (y
1
; y
2
; : : : ; y
n
) � âûáîðêà èç N(b; �
2
).
Çäåñü � = (b � a) � ñäâèã âûáîðêè Y îòíîñèòåëüíî X . Äëÿ ïðî-
âåðêè ãèïîòåçû H
0
: a = b, ò. å. H
0
: � = 0, ìû ðàñïîëàãàåì
ñòàòèñòèêîé
F =
mn
m+ n
�
(�x� �y)
2
s
2
;
êîòîðàÿ ïðè ãèïîòåçå H
0
: a = b ñëåäóåò ý�-ðàñïðåäåëåíèþ ñ
(1;m+ n� 2) ñòåïåíÿìè ñâîáîäû. Çäåñü
s
2
=
1
m+ n� 2
h
m
X
i=1
(x
i
� �x)
2
+
n
X
j=1
(y
j
� �y)
2
i
:
�àññìîòðèì ãèïîòåçó H
t
: � = t, t � çàäàíî. Ìû ñâåäåì çàäà÷ó
ê ïðåäûäóùåé, åñëè âûáîðêó Y ïðåîáðàçóåì â Z = (z
1
; z
2
; : : : ; z
n
),
145
ãäå z
j
= y
j
� t, j = 1; n. Êðèòåðèàëüíàÿ ñòàòèñòèêà äëÿ ïðîâåðêè
H
t
: � = t òåïåðü ðàâíà:
mn
m+ n
�
(�x� �y � t)
2
s
2
:
(Çàìåòèì, ÷òî ïðè òàêîì ïðåîáðàçîâàíèè Y â Z îöåíêà äèñïåðñèè
s
2
íå èçìåíÿåòñÿ). �åøàþùåå ïðàâèëî äëÿ ïðîâåðêè H
t
: � = t íà
óðîâíå çíà÷èìîñòè ":
� íå îòâåðãàòü H
t
, åñëè
r
mn
m+ n
�
j�x� �y � tj
s
< t
1�"=2
;
ãäå t
1�"=2
� ýòî (1 � "=2)- êâàíòèëü ðàñïðåäåëåíèÿ Ñòüþäåíòà ñ
(m+n�2) ñòåïåíÿìè ñâîáîäû. �åøàÿ ýòî íåðàâåíñòâî îòíîñèòåëü-
íî t, ïîëó÷èì äëÿ � äîâåðèòåëüíûé èíòåðâàë
n
�y � �x� s
r
mn
m+ n
t
1�"=2
< � < �y � �x+ s
r
mn
m+ n
t
1�"=2
o
:
� 4. Äîâåðèòåëüíîå îöåíèâàíèå ñäâèãà
Äîâåðèòåëüíóþ îöåíêó ïàðàìåòðà ñäâèãà îäíîé âûáîðêè îòíî-
ñèòåëüíî äðóãîé ìîæíî ïîëó÷èòü è äëÿ âûáîðîê, ðàñïðåäåëåííûõ
íå ïî íîðìàëüíîìó, íî ïî ïðîèçâîëüíîìó çàêîíó (ëèøü áû íåïðå-
ðûâíîìó). Äëÿ ýòîãî íàäî âîñïîëüçîâàòüñÿ ñòàòèñòè÷åñêèì êðè-
òåðèåì, äåéñòâåííûì â ýòèõ óñëîâèÿõ. Ñêàæåì, êðèòåðèåì Óèë-
êîêñîíà. Êðèòåðèé Óèëêîêñîíà íàäî ïðèìåíÿòü äëÿ ïðîâåðêè ãè-
ïîòåçû îá îäíîðîäíîñòè âûáîðîê
x
1
; x
2
; : : : ; x
m
è y
1
� t; y
2
� t; : : : ; y
n
� t; (12:4:1)
äëÿ ïðîèçâîëüíûõ t 2 R
1
.
Îáîçíà÷èì ñòàòèñòèêó Óèëêîêñîíà äëÿ (12.4.1) ÷åðåç W
m;n
(t):
W
m;n
(t) =
n
X
j=1
R(y
j
� t);
ãäå R(y
1
�t); : : : ; R(y
n
�t)� ðàíãè ñëó÷àéíûõ âåëè÷èí y
1
�t; : : : ; y
n
�t
â îáúåäèíåííîé ñîâîêóïíîñòè x
1
; : : : ; x
m
; y
1
� t; : : : ; y
n
� t. Òåïåðü
äîâåðèòåëüíîå ìíîæåñòâî äëÿ íåèçâåñòíîãî èñòèííîãî çíà÷åíèÿ
146
ïàðàìåòðà ñäâèãà � (äîâåðèòåëüíàÿ âåðîÿòíîñòü êîòîðîãî ðàâíà
1� 2�) åñòü
ft : nN � w(�;m; n) < W
m;n
(t) < w(�;m; n)g: (12:4:2)
Îñòàåòñÿ ðåøèòü ýòî íåðàâåíñòâî îòíîñèòåëüíî t, ò. å. äàòü ÿâíûé
âèä ýòîìó äîâåðèòåëüíîìó ìíîæåñòâó.
min Wm,n
n N - w ( ,m,n)
max Wm,n
w ( ,m,n)...
�èñ. 12.4.1. �ðà�èê �óíêöèè y =W
m;n
(t), t 2 R
1
�àññìîòðèì ñòàòèñòèêó W
m;n
(t) êàê �óíêöèþ ïåðåìåííîãî
t 2 R
1
. Ïðè t ! �1 (ò. å. äëÿ çíà÷åíèé t, áîëüøèõ ïî ìîäóëþ
è îòðèöàòåëüíûõ) êàæäîå çíà÷åíèå y
j
� t, j = 1; n ïðåâîñõîäèò
ëþáîå çíà÷åíèå x
i
, i = 1;m. Ïîýòîìó çäåñü
W
m;n
(t) = N + (N � 1) + : : :+ (N � (n� 1));
ò. å. ðàâíîmaxW
m;n
= nN�
n(n� 1)
2
=
1
2
n(n+2m+1). Ïðè t!1
ïî ïðîòèâîïîëîæíûì ñîîòíîøåíèÿì ìåæäó y
j
� t è x
i
íàõîäèì
W
m;n
(t) = 1 + 2 + : : :+ n =
n(n+ 1)
2
= minW
m;n
:
Äàëåå îòìåòèì, ÷òîW
m;n
(t) ìîíîòîííî íå âîçðàñòàåò (óáûâàåò)
êîãäà t ðàñòåò, è ÷òî êàæäîå óìåíüøåíèå âåëè÷èíûW
m;n
ïðîèñõî-
äèò ñêà÷êîì íà åäèíèöó, êîãäà t ïåðåõîäèò ÷åðåç îäíî èçmn ÷èñåë
147
y
j
�x
i
(i = 1;m; j = 1; n). (Äëÿ êîíòðîëÿ: maxW
m;n
+minW
m;n
=
2E
0
W
m;n
, maxW
m;n
� minW
m;n
= mn, ò. å. ðàçíèöà ìåæäó íàè-
áîëüøèì è íàèìåíüøèì çíà÷åíèÿìè W
m;n
(t) ðàâíà êîëè÷åñòâó
åäèíè÷íûõ ñêà÷êîâ).
�àäè íåêîòîðûõ äàëüíåéøèõ óäîáñòâ ïðè t = y
j
� x
i
ïîëîæèì
W
m;n
(t) ðàâíûì ïîëóñóììå ïðåäåëîâ ñïðàâà è ñëåâà. Ýòî ðàâíî-
ñèëüíî ñîãëàøåíèþ, ÷òî ïðè ðàíæèðîâàíèè ñîâïàäàþùèõ çíà÷å-
íèé ìû ïðèïèñûâàåì âñåì èì îäèíàêîâûå (ñðåäíèå) ðàíãè.
Èç ñâîéñòâ �óíêöèè W
m;n
(t) è å¼ ãðà�èêà ñëåäóåò, ÷òî äîâå-
ðèòåëüíîå ìíîæåñòâî (12.4.2) åñòü èíòåðâàë; åãî êîíöàìè ñëóæàò
íåêîòîðûå ýëåìåíòû èç ìíîæåñòâà fy
j
� x
i
; i = 1;m; j = 1; ng,
êîòîðûå íåòðóäíî óêàçàòü òî÷íî. Äëÿ ýòîãî ñêàçàííîå ìíîæåñòâî
íóæíî óïîðÿäî÷èòü, è çàòåì âûáðàòü ïîðÿäêîâûå ñòàòèñòèêè ñ
íóæíûìè íîìåðàìè. (Èç ðèñóíêà 12.4.1 âèäíî, êàêèå ýòî íîìåðà).
� 5. Òî÷å÷íàÿ îöåíêà ñäâèãà
ÑòàòèñòèêàW
m;n
(t) êîëè÷åñòâåííî âûðàæàåò ñòåïåíü ñîãëàñèÿ
(îäíîðîäíîñòè) äâóõ âûáîðîê: x
1
; x
2
; : : : ; x
n
è y
1
�t; y
2
�t; : : : ; y
n
�t.
×åì áîëåå îòêëîíÿåòñÿ W
m;n
(t) îò E
0
W
m;n
(îò îæèäàåìîãî çíà÷å-
íèÿ W
m;n
ïðè ïîëíîé îäíîðîäíîñòè), òåì áîëüøå (ñèëüíåå) ðàç-
ëè÷àþòñÿ âûáîðêè. Îáðàòíî: äâå âûáîðêè òåì áëèæå ê îäíîðîä-
íûì (åñëè ìåðèòü ñ ïîìîùüþ ñòàòèñòèêè Óèëêîêñîíà), ÷åì áëè-
æå W
m;n
(t) ê E
0
W
m;n
. Îòñþäà âûòåêàåò ïðåäëîæåíèå: âûáðàòü â
êà÷åñòâå òî÷å÷íîé îöåíêè íåèçâåñòíîãî ñäâèãà � âåëè÷èíó
^
� òà-
êóþ, ÷òî W
m;n
(
^
�) = E
0
W
m;n
; ò. å. â êà÷åñòâå îöåíêè � âçÿòü
ðåøåíèå óðàâíåíèÿ W
m;n
(t) =
n(m+ n+ 1)
2
: Ïîíÿòíî, ÷òî
^
� = med(x
i
�y
j
; i = 1;m; j = 1; n); ò. å. ìåäèàíà ñîâîêóïíîñòè, ñî-
ñòîÿùåé èçmn ðàçíîñòåé âèäà y
j
�x
i
äëÿ i = 1; : : : ;m; j = 1; : : : ; n.
Ýòó îöåíêó íàçûâàþò ìåäèàíîé Õîäæåñà-Ëåìàíà.
� 6. Ñîâïàäåíèÿ
Åñëè íàáëþäàåìûå ñëó÷àéíûå âåëè÷èíû ðàñïðåäåëåíû íåïðå-
ðûâíî, òî ñðåäè èõ ðåàëèçàöèé íå ìîæåò áûòü îäèíàêîâûõ (âå-
ðîÿòíîñòü ñîâïàäåíèé ðàâíà íóëþ). Íà ïðàêòèêå, îäíàêî, ñîâïà-
äåíèÿ âñòðå÷àþòñÿ íåðåäêî õîòÿ áû èç-çà îêðóãëåíèé ïðè çàïè-
ñè ðåçóëüòàòîâ. Ïåðâàÿ òðóäíîñòü, êîòîðàÿ ïðè ýòîì âîçíèêàåò �
148
êàê íàçíà÷èòü ðàíãè? Ïðèíÿòûé ñïîñîá � òàê íàçûâàåìûå ñðåä-
íèå ðàíãè. Åãî ïðîùå ïîÿñíèòü íà ïðèìåðå. Ïóñòü x
1
= 3, x
2
= 1,
x
3
= 2, x
4
= 2, x
5
= 4. Óïîðÿäî÷åííûå ïî âîçðàñòàíèþ, ýòè ÷èñëà
äàþò âàðèàöèîííûé ðÿä 1; 2; 2; 3; 4. ×èñëî 2 â íåì âñòðå÷àåòñÿ äâà-
æäû, çàíèìàÿ âòîðîå è òðåòüå ìåñòà. Áóäü x
3
è x
4
ðàçëè÷íû, îíè
ïîëó÷èëè áû ðàíãè 2 è 3. Ñåé÷àñ êàæäîìó èç íèõ äàþò ñðåäíèé
ðàíã
2+3
2
= 2:5. Ïîëó÷àþò R
1
=4; R
2
=1; R
3
=2:5; R
4
=2:5; R
5
=5.
Íàçíà÷èâ ðàíãè (åñëè íàäî � ñðåäíèå), äåéñòâóþò ïî îïèñàí-
íûì ïðàâèëàì. Ñëåäóåò ïîìíèòü, ÷òî ïðè íàëè÷èè ñîâïàäåíèé
ñòàòèñòè÷åñêèå õàðàêòåðèñòèêè (óðîâíè çíà÷èìîñòè, äîâåðèòåëü-
íûå âåðîÿòíîñòè è ò. ä.) íå ÿâëÿþòñÿ òî÷íûìè: ñîâïàäåíèÿ óêàçû-
âàþò, ÷òî áàçîâîå ïðåäïîëîæåíèå î íåïðåðûâíîñòè îñíîâíîãî ðàñ-
ïðåäåëåíèÿ íå âûïîëíÿåòñÿ. Âñå ðàíãîâûå âûâîäû ñòàíîâÿòñÿ ïðè-
áëèæåííûìè, è ÷åì âûøå äîëÿ ñîâïàäåíèé, òåì ìåíåå íàäåæíû
ýòè âûâîäû. Âïðî÷åì, åñëè äîëÿ ñîâïàäåíèé íåâåëèêà, òî íåâåëèêè
è âîçìîæíûå îøèáêè, è ðàíãîâûìè ìåòîäàìè ìîæíî ïîëüçîâàòüñÿ
áåç îïàñåíèé. Ê ñîæàëåíèþ, ãðàíèöó çäåñü ïðîâåñòè òðóäíî.
� 7. Äðóãèå ðàíãîâûå ïðàâèëà
�àíãîâûå (øèðå: íåïàðàìåòðè÷åñêèå) ìåòîäû ìîæíî ïðèëà-
ãàòü ê ðåøåíèþ ìíîãèõ çàäà÷.  ÷àñòíîñòè, òàê ìîæíî èññëå-
äîâàòü íå òîëüêî çàäà÷ó î äâóõ âûáîðêàõ, êàê ìû ñäåëàëè ýòî
âûøå, íî è äðóãèå ëèíåéíûå ìîäåëè. Áîëüøîå äîñòîèíñòâî, ÷òî
ñëó÷àéíûå îøèáêè ïðè ýòîì ìîãóò èìåòü ïðîèçâîëüíîå ðàñïðå-
äåëåíèå (íåïðåðûâíîå). Êàê ïðèìåð, îáðàòèìñÿ ê óæå óïîìèíàâ-
øåéñÿ (ëåêöèÿ 11) îäíî�àêòîðíîé ìîäåëè, ãäå x
ij
= a
j
+ "
ij
;
j = 1; k; i = 1; n
j
. Çäåñü x
ij
� íàáëþäåíèÿ, a
1
; : : : ; a
k
� íåèç-
âåñòíûå ïîñòîÿííûå, "
ij
� íåçàâèñèìûå îäèíàêîâî ðàñïðåäåëåí-
íûå ñëó÷àéíûå îøèáêè. Äëÿ ýòîé ìîäåëè ïðèâåäåì è ãàóññîâñêîå,
è íåïàðàìåòðè÷åñêîå ïðàâèëà äëÿ ïðîâåðêè ãèïîòåçû
H
0
: a
1
= : : : = a
k
:
�àóññîâñêàÿ ïîñòàíîâêà: ñëó÷àéíûå îøèáêè "
ij
íåçàâèñèìû è
ðàñïðåäåëåíû íîðìàëüíîN(0; �
2
), ïðè÷åì äèñïåðñèÿ �
2
íå èçâåñò-
íà. Óïîìÿíóòóþ ãèïîòåçó ìîæíî ïðîâåðèòü, ñðàâíèâàÿ äâå îöåíêè
äëÿ �
2
, îáùóþ è ïðè ãèïîòåçå. Îïèñàííûé â ëåêöèè 11 îáùèé ìå-
149
òîä ïðèâîäèò ê êðèòåðèàëüíîé ñòàòèñòèêå
F =
1
k � 1
k
P
j=1
n
j
(x
:j
� �x)
2
1
N � k
k
P
j=1
n
j
P
i=1
(x
ij
� x
:j
)
2
:
Çäåñü N =
k
P
j=1
n
j
� îáùåå ÷èñëî íàáëþäåíèé, x
:j
=
1
n
j
n
j
P
i=1
x
ij
�
ñðåäíåå ïî ñòîëáöó j, �x =
k
P
j=1
n
j
P
i=1
x
ij
=N � ãåíåðàëüíîå ñðåäíåå.
Ïðè ãèïîòåçå H
0
ýòà ñòàòèñòèêà ñëåäóåò ý�-ðàñïðåäåëåíèþ ñ
(k�1; N�k) ñòåïåíÿìè ñâîáîäû. �èïîòåçó H
0
îòâåðãàþò íà óðîâíå
çíà÷èìîñòè �, åñëè F ïðåâîñõîäèò (1��)-êâàíòèëü ñêàçàííîãî ý�-
ðàñïðåäåëåíèÿ. (Ïðîùå ãîâîðÿ, åñëè âû÷èñëåííîå F îêàçûâàåòñÿ
íåïðàâäîïîäîáíî áîëüøèì).
Íåïàðàìåòðè÷åñêàÿ ïîñòàíîâêà: ñëó÷àéíûå îøèáêè "
ij
íåçàâè-
ñèìû è îäèíàêîâî ðàñïðåäåëåíû, ïðè÷åì ýòî ðàñïðåäåëåíèå íåïðå-
ðûâíîå. �àíãîâûé ìåòîä íà÷èíàåòñÿ ñ ïåðåõîäà îò íàáëþäåíèé x
ij
ê èõ ðàíãàì r
ij
(â îáúåäèíåííîé ñîâîêóïíîñòè). �àíãîâàÿ êðè-
òåðèàëüíàÿ ñòàòèñòèêà (îäíà èç âîçìîæíûõ) äëÿ ïðîâåðêè òîé
æå ãèïîòåçû H
0
âûãëÿäèò ñõîäíî ñ ÷èñëèòåëåì ý�-îòíîøåíèÿ:
îíà ðàâíà G =
12
N(N+1)
k
P
j=1
n
j
(r
:j
� �r)
2
; ãäå r
:j
=
1
n
j
n
j
P
i=1
r
ij
,
�r =
1
N
k
P
j=1
n
j
P
i=1
r
ij
.  äàííîì ñëó÷àå �r =
N+1
2
. Ìíîæèòåëü
12
N(N+1)
ïîñòàâëåí ðàäè óäîáíîãî ïåðåõîäà ê ïðåäåëó: ïðè ãèïîòåçå H
0
:
G
d
�! �
2
(k � 1), êîãäà n
1
; : : : ; n
k
!1.
Ïðè ãèïîòåçå H
0
, êîãäà âñå âîçìîæíûå ðàçìåùåíèÿ ðàíãîâ
èìåþò îäèíàêîâûå âåðîÿòíîñòè, ñòàòèñòèêà G ðàñïðåäåëåíà ñâî-
áîäíî. Ïîýòîìó å¼ ðàñïðåäåëåíèå äëÿ êàæäîãî íàáîðà (n
1
; : : : ; n
k
)
è k ìîæåò áûòü âû÷èñëåíî. �åàëüíî òàáëèöû ðàñïðåäåëåíèé äëÿ
G ñîñòàâëåíû ëèøü äëÿ íåìíîãèõ òàêèõ íàáîðîâ. Ïî ñ÷àñòüþ, óïî-
ìÿíóòàÿ àïïðîêñèìàöèÿ ðàñïðåäåëåíèåì õè-êâàäðàò íåïëîõî äåé-
ñòâóåò äàæå äëÿ îòíîñèòåëüíî íåáîëüøèõ ÷èñëåííîñòåé n
1
; : : : ; n
k
.
Áîëåå äåòàëüíûé ðàññêàç çäåñü íåóìåñòåí. Äëÿ ïðàêòè÷åñêîãî
ïðèìåíåíèÿ ðàíãîâûõ ìåòîäîâ ðåêîìåíäóþ îáðàòèòüñÿ ê Ì. Õîë-
ëåíäåð, Ä. Âóë�, "Íåïàðàìåòðè÷åñêèå ìåòîäû ñòàòèñòèêè". � Ì.:
Ôèíàíñû è ñòàòèñòèêà, 1983. � 518 ñ.
150
Ëåêöèÿ 13. Àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü
ñòàòèñòèêè ðàíãîâûõ ñóìì Óèëêîêñîíà
� 1. Ôîðìóëèðîâêè òåîðåì
Ìû ïðîäîëæàåì îáñóæäåíèå ñòàòèñòèêè ðàíãîâûõ ñóìì W
m;n
.
Íàì óæå èçâåñòíî ãëàâíîå: äëÿ îäíîðîäíûõ íåçàâèñèìûõ âûáîðîê
ðàñïðåäåëåíèå ñòàòèñòèêè W
m;n
îäíî è òî æå äëÿ âñåõ íåïðåðûâ-
íûõ ãåíåðàëüíûõ ñîâîêóïíîñòåé (ò. å. äëÿ ëþáîãî íåïðåðûâíîãî
ðàñïðåäåëåíèÿ ñëó÷àéíûõ íàáëþäåíèé). Ïîýòîìó äëÿ ïðîâåðêè ñ
ïîìîùüþ W
m;n
ãèïîòåçû îá îäíîðîäíîñòè äâóõ âûáîðîê ìîæíî
äëÿ âñåõ íèõ èñïîëüçîâàòü îäíè è òå æå òàáëèöû ðàñïðåäåëåíèÿ
ýòîé ñòàòèñòèêè.
 ðàçíûõ ñáîðíèêàõ òàáëèö (è ïàêåòàõ ñòàòèñòè÷åñêèõ ïðî-
ãðàìì) ñâåäåíèÿ î ðàñïðåäåëåíèè W
m;n
ìîãóò áûòü äàíû ïî-
ðàçíîìó. Óäîáíî äëÿ ïðèëîæåíèé, åñëè óêàçàíà, íàïðèìåð,
P
0
fW
m;n
� xg (13:1:1)
äëÿ ïåðâûõ íàòóðàëüíûõ m; n è ðàçëè÷íûõ x. Òàê ñäåëàíî â êíè-
ãå Ì. Õîëëåíäåð, Ä. Âóë� "Íåïàðàìåòðè÷åñêèå ìåòîäû ñòàòèñòè-
êè". � Ì.: Ôèíàíñû è ñòàòèñòèêà, 1983. � 518 ñ., òàáëèöà À.5. ×åðåç
P
0
f:g çäåñü îáîçíà÷åíà âåðîÿòíîñòü ïðè ãèïîòåçå, ò. å. êîãäà îáå
íåçàâèñèìûå âûáîðêè èçâëå÷åíû èç îáùåãî íåïðåðûâíîãî ðàñïðå-
äåëåíèÿ. Íî êàê áû äàëåêî ïî m;n íè áûëè ðàññ÷èòàíû òàáëèöû,
íåèçáåæåí âîïðîñ î âåðîÿòíîñòÿõ (13.1.1) äëÿ ÷èñëåííîñòåé âûáî-
ðîê m;n çà èõ ïðåäåëàìè. Â ýòîé ëåêöèè áóäåò ïîêàçàíî, ÷òî ïðè
áîëüøèõ m;n ñòàòèñòèêà W
m;n
ðàñïðåäåëåíà ïðèáëèæåííî íîð-
ìàëüíî, è íå òîëüêî ïðè ãèïîòåçå. Ïî ñîâðåìåííîìó îáûêíîâåíèþ
ýòîò ðåçóëüòàò �îðìóëèðóþò â âèäå ïðåäåëüíîé òåîðåìû.
Ò å î ð å ì à 13.1.1. Ïóñòü (x
1
; : : : ; x
m
) è (y
1
; : : : ; y
n
) ñóòü íåçà-
âèñèìûå âûáîðêè èç íåïðåðûâíûõ ðàñïðåäåëåíèé. Ñòàòèñòèêà
W
m;n
ðàíãîâûõ ñóìì Óèëêîêñîíà âû÷èñëåíà ïî ýòèì âûáîðêàì.
Òîãäà, ïðè m;n!1
W
m;n
�EW
m;n
p
DW
m;n
d
�! N(0; 1):
�îâîðÿ òî÷íåå, ìû áóäåì äîêàçûâàòü àñèìïòîòè÷åñêóþ íîð-
ìàëüíîñòü äðóãîé ñòàòèñòèêè � òàê íàçûâàåìîé ñòàòèñòèêè
Ìàííà-Óèòíè (Mann-Whitney)
H
m;n
=
m
X
i=1
n
X
j=1
I(x
i
< y
j
);
151
ãäå I(:) � èíäèêàòîðíàÿ �óíêöèÿ ñîáûòèÿ. Ëåãêî âèäåòü, ÷òî ñòà-
òèñòèêè W
m;n
è H
m;n
ñâÿçàíû ñîîòíîøåíèåì
W
m;n
= H
m;n
+
n(n+ 1)
2
:
Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íî çàìåòèòü, ÷òî
R(y
j
) =
m
X
i=1
I(x
i
< y
j
) +
n
X
k=1
I(y
k
< y
j
) + 1:
Ìû äîêàæåì ñëåäóþùóþ òåîðåìó:
Ò å î ð å ì à 13.1.2. Â óñëîâèÿõ òåîðåìû 13.1.1
H
m;n
�EH
m;n
p
DH
m;n
d
�! N(0; 1):
Î÷åâèäíî, ÷òî òåîðåìà 13.1.1 ñëåäóåò èç òåîðåìû 13.1.2, è
îáðàòíî. Íà ïðàêòèêå òåîðåìû 13.1.1 è 13.1.2 èñïîëüçóþò êàê îñíî-
âàíèÿ äëÿ ïðèáëèæåííûõ âû÷èñëåíèé, ñêàæåì:
P
0
fW
m;n
� xg � �
�
x� E
0
W
m;n
p
D
0
W
m;n
�
:
Äëÿ öåëûõ x, êàê îáû÷íî, áîëåå òî÷íîå ïðèáëèæåíèå îáåñïå÷èâàåò
ïîïðàâêà íà íåïðåðûâíîñòü:
P
0
fW
m;n
� xg � �
�
x+ 0:5�E
0
W
m;n
p
D
0
W
m;n
�
;
P
0
fW
m;n
� xg � 1� �
�
x� 0:5�E
0
W
m;n
p
D
0
W
m;n
�
:
Àíàëîãè÷íûå �îðìóëû âåðíû è äëÿ H
m;n
. Êàê ëåãêî âèäåòü,
E
0
W
m;n
=
n(m+ n+ 1)
2
; E
0
H
m;n
=
mn
2
:
 äàëüíåéøåì áóäåò ïîêàçàíî, ÷òî
D
0
H
m;n
= D
0
W
m;n
=
mn(m+ n+ 1)
12
:
152
21 24 27 30 33 36 39 42 45 48 51 54 57
x
%
0.14
99.86
50.00
6.68
93.32
�èñ. 13.1.1. �ðà�èê �óíêöèè y = PfW
m;n
� xg ïðè m = n = 6 íà
íîðìàëüíîé áóìàãå
Îòìåòèì âàæíîå ñâîéñòâî ýòîé àïïðîêñèìàöèè: îíà äàåò óäî-
âëåòâîðèòåëüíóþ òî÷íîñòü äàæå äëÿ ìàëûõ âûáîðîê. ×òîáû óáå-
äèòüñÿ, äîñòàòî÷íî âçãëÿíóòü íà ðèñ. 13.1.1, ãäå íà íîðìàëüíîé áó-
ìàãå èçîáðàæåíû ãðà�èêè �óíêöèé ðàñïðåäåëåíèÿ W
m;n
è ñîîò-
âåòñòâóþùåãî íîðìàëüíîãî ðàñïðåäåëåíèÿ N(E
0
W
m;n
; D
0
W
m;n
).
Ýòî ñâîéñòâî íîðìàëüíîé àïïðîêñèìàöèè ïîçâîëÿåò ñîñòàâ-
ëÿòü ñáîðíèêè ñòàòèñòè÷åñêèõ òàáëèö òàê, ÷òî äëÿ m;n çà èõ ïðå-
äåëàìè íîðìàëüíàÿ àïïðîêñèìàöèÿ äëÿ W
m;n
äàåò äîñòàòî÷íóþ
äëÿ ïðàêòèêè òî÷íîñòü (êîòîðóþ àâòîðû îáû÷íî óêàçûâàþò).
Âåðíåìñÿ ê òåîðåìå 13.1.2. Òåîðåìà 13.1.2 � ýòî ÷àñòíûé ñëó-
÷àé îáùåé òåîðåìû îá àñèìïòîòè÷åñêîì ïîâåäåíèè òàê íàçûâà-
åìûõ U-ñòàòèñòèê (U-statisti s).  äàííîì ñëó÷àå H
m;n
� ýòî
äâóõâûáîðî÷íàÿ U -ñòàòèñòèêà
U
m;n
:=
m
X
i=1
n
X
j=1
f(x
i
; y
j
)
ñ ÿäðîì f(x; y) = I(x < y). Ìû äîêàæåì ñëåäóþùóþ òåîðåìó:
Ò å î ð å ì à 13.1.3. Ïóñòü (x
1
; : : : ; x
m
) è (y
1
; : : : ; y
n
) � äâå
153
íåçàâèñèìûå âûáîðêè; ïóñòü �óíêöèÿ f(x; y) òàêîâà, ÷òî
Df
2
(x
1
; y
1
) <1; D
�
E[f(x
1
; y
1
)jx
1
℄
�
2
> 0; D
�
E[f(x
1
; y
1
)jy
1
℄
�
2
> 0:
Òîãäà, ïðè m;n!1
U
m;n
�EU
m;n
p
DU
m;n
d
�! N(0; 1):
Ïëàí äåéñòâèé òàêîâ:
� Äîêàçàòü òåîðåìó 13.1.3.
� Çàòåì âûâåñòè èç íåå òåîðåìó 13.1.2, îãðàíè÷èâàÿñü ñëó÷àåì
îäíîðîäíûõ âûáîðîê, ïîñêîëüêó ýòîò ñëó÷àé äëÿ íàñ áîëåå
âàæåí, è, ïîñêîëüêó â ýòîì ñëó÷àå ëåãêî âû÷èñëèòü E
0
H
m;n
è D
0
H
m;n
.
� Òåîðåìà 13.1.1 èç òåîðåìû 13.1.2 âûòåêàåò íåïîñðåäñòâåííî
(ê òîìó æå DW
m;n
= DH
m;n
).
Ïî õîäó äîêàçàòåëüñòâà òåîðåìû 13.1.3 íàì áóäåò íåîáõîäèìà
òàê íàçûâàåìàÿ
Ò å î ð å ì à Ñ ë ó ö ê î ã î. Ïóñòü ñëó÷àéíàÿ ïîñëåäîâà-
òåëüíîñòü f�
n
; n > 1g ïî ðàñïðåäåëåíèþ ñõîäèòñÿ ê ñëó÷àéíîé
âåëè÷èíå �; ïóñòü ñëó÷àéíàÿ ïîñëåäîâàòåëüíîñòü f�
n
; n > 1g
ñõîäèòñÿ ïî âåðîÿòíîñòè ê ïîñòîÿííîé âåëè÷èíå C.
Òîãäà, ïðè n!1
(a) �
n
+ �
n
d
�! � + C;
(b) �
n
�
n
d
�! C�:
� 2. Äîêàçàòåëüñòâî òåîðåìû 13.1.3
Äëÿ ïðîñòîòû ïðåäïîëîæèì, ÷òî Ef(x
i
; y
j
) = 0: Òîãäà
EU
m;n
= 0. Ââåäåì ñëó÷àéíûå âåëè÷èíû �(x
1
) è �(y
1
):
�(x
1
) = E[f(x
1
; y
1
)jx
1
℄; �(y
1
) = E[f(x
1
; y
1
)jy
1
℄:
Ïðåäñòàâèì U
m;n
â âèäå
U
m;n
=
m
X
i=1
n
X
j=1
[f(x
i
; y
j
)� �(x
i
)� �(y
j
)℄ +
m
X
i=1
n
X
j=1
[�(x
i
) + �(y
j
)℄ =
154
= n
m
X
i=1
�(x
i
) +m
n
X
j=1
�(y
j
) + �
m;n
;
ãäå �
m;n
=
m
P
i=1
n
P
j=1
[f(x
i
; y
j
)� �(x
i
)� �(y
j
)℄:
Äàëåå äðîáü U
m;n
=
p
DU
m;n
, ïðåäåëüíîå ïîâåäåíèå êîòîðîé
åñòü ïðåäìåò òåîðåìû 13.1.3, êîãäà EU
m;n
= 0, ïðåäñòàâëÿåì â
âèäå:
U
m;n
p
DU
m;n
=
n
m
P
i=1
�(x
i
) +m
n
P
j=1
�(y
j
)
v
u
u
t
D[n
m
X
i=1
�(x
i
) +m
n
X
j=1
�(y
j
)℄
| {z }
�
m;n
�
�
v
u
u
u
t
D[n
m
P
i=1
�(x
i
) +m
n
P
j=1
�(y
j
)℄
DU
m;n
| {z }
C
m;n
+
�
m;n
p
DU
m;n
| {z }
�
m;n
èëè, êîðîòêî:
U
m;n
p
DU
m;n
= �
m;n
C
m;n
+ �
m;n
:
Äëÿ äîêàçàòåëüñòâà òåîðåìû 13.1.3 äîñòàòî÷íî ïîêàçàòü, ÷òî
(a) C
m;n
! 1,
(b) �
m;n
d
�! N(0; 1),
( ) �
m;n
P
�! 0.
Çàòåì ïðèìåíèòü òåîðåìó Ñëóöêîãî.
� 3. Âû÷èñëåíèå äèñïåðñèè U-ñòàòèñòèê
Êëþ÷åâóþ ðîëü èãðàåò âû÷èñëåíèå äèñïåðñèè U -ñòàòèñòèêè.
Ïîýòîìó ìû âûäåëÿåì ýòî â îòäåëüíûé ïàðàãðà�.
Òàê êàê Ef(x
i
; y
j
) = 0; òî
DU
m;n
= EU
2
m;n
=
m
X
i=1
m
X
i
0
=1
n
X
j=1
n
X
j
0
=1
Ef(x
i
; y
j
)f(x
i
0
; y
j
0
):
155
Ñòîÿùóþ â ïðàâîé ÷àñòè ñóììó ïðåäñòàâèì â âèäå ÷åòûðåõ
ñëàãàåìûõ, êàæäîå èç êîòîðûõ åñòü ñóììà, ãäå èíäåêñû óäîâëå-
òâîðÿþò óñëîâèÿì:
X
1
=
X
: : :
X
(i 6= i
0
; j 6= j
0
);
X
2
=
X
: : :
X
(i = i
0
; j 6= j
0
);
X
3
=
X
: : :
X
(i 6= i
0
; j = j
0
);
X
4
=
X
: : :
X
(i = i
0
; j = j
0
):
1)
P
1
= 0, ò. ê. Ef(x
i
; y
j
) = 0, à ñëó÷àéíûå âåëè÷èíû f(x
i
; y
j
)
è f(x
i
0
; y
j
0
) íåçàâèñèìû, åñëè èíäåêñû ðàçëè÷íû.
2)
P
2
= mn(n� 1)Ef(x
1
; y
1
)f(x
1
; y
2
) = mn(n� 1)D�(x
1
); ò. ê.
Ef(x
1
; y
1
)f(x
1
; y
2
) = EE[f(x
1
; y
1
)f(x
1
; y
2
)jx
1
℄ =
= EfE[f(x
1
; y
1
)jx
1
℄E[f(x
1
; y
2
)jx
1
℄g = E�(x
1
)�(x
1
) = D�(x
1
);
èáî E�(x
1
) = 0.
3)
P
3
= mn(m� 1)D�(y
1
) ïî àíàëîãè÷íîé ïðè÷èíå.
4)
P
4
= mnE[f(x
1
; y
1
)℄
2
= mnDf(x
1
; y
1
).
Ïîýòîìó
DU
m;n
=mn(n�1)D�(x
1
)+nm(m�1)D�(y
1
)+mnDf(x
1
; y
1
): (13:3:1)
� 4. Äîêàçàòåëüñòâî âñïîìîãàòåëüíûõ óòâåðæäå-
íèé èç ïàðàãðà�à 2
� Óòâåðæäåíèå (a) î÷åâèäíî, èáî
D[n
m
X
i=1
�(x
i
) +m
n
X
j=1
�(y
j
)℄ = n
2
mD�(x
1
) +m
2
nD�(y
1
):
� Óòâåðæäåíèå (b) åñòü îäíà èç �îðì öåíòðàëüíîé ïðåäåëü-
íîé òåîðåìû. ż ëåãêî äîêàçàòü ìåòîäîì õàðàêòåðèñòè÷å-
ñêèõ �óíêöèé, ïî àíàëîãèè ñ äîêàçàòåëüñòâîì öåíòðàëüíîé
ïðåäåëüíîé òåîðåìû äëÿ ñóììû íåçàâèñèìûõ îäèíàêîâî ðàñ-
ïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí.
156
� Óòâåðæäåíèå ( ). Çàìåòèì, ÷òî �
m;n
� ýòî U -ñòàòèñòèêà ñ
ÿäðîì
~
f(x; y)=f(x; y)��(x)��(y), ïðè÷åì E
~
f(x
1
; y
1
)=0. Âû-
ðàæåíèå äëÿD�
m;n
äàåò �îðìóëà (13.3.1), â êîòîðîé f; �; �
íàäî çàìåíèòü íà
~
f; ~�;
~
�, ãäå
~�(x
1
) = E[
~
f(x
1
; y
1
)jx
1
℄;
~
�(y
1
) = E[
~
f(x
1
; y
1
)jy
1
℄:
Ëåãêî âèäåòü, ÷òî ~�(x
1
) = 0,
~
�(y
1
) = 0.
Ïîýòîìó D�
m;n
= mnD
~
f . Òåïåðü óòâåðæäåíèå ( ) åñòü ñëåä-
ñòâèå íåðàâåíñòâà ×åáûøåâà äëÿ �
m;n
, èáî
E�
m;n
= 0 è D�
m;n
=
D�
m;n
mn[nD�+mD� +Const℄
! 0:
� 5. Äîêàçàòåëüñòâî òåîðåìû Ñëóöêîãî
Íàïîìíèì î ï ð å ä å ë å í è å: ñëó÷àéíàÿ ïîñëåäîâàòåëüíîñòü
�
n
; n = 1; 2; : : : ñëàáî, èëè ïî ðàñïðåäåëåíèþ ñõîäèòñÿ ê ñëó÷àéíîé
âåëè÷èíå �, åñëè äëÿ ëþáîé íåïðåðûâíîé è îãðàíè÷åííîé �óíêöèè
f(:)
Ef(�
n
)! Ef(�) ïðè n!1: (13:5:1)
Îãðàíè÷èìñÿ äîêàçàòåëüñòâîì óòâåðæäåíèÿ (a), ò. ê. (b) äîêà-
çûâàåòñÿ àíàëîãè÷íî. Íàäî ïîêàçàòü, ÷òî äëÿ ëþáîé íåïðåðûâíîé
îãðàíè÷åííîé �óíêöèè f(�) ïðè n!1
E[f(�
n
+ �
n
)� f(� + C)℄! 0: (13:5:2)
Ä î ê à ç à ò å ë ü ñ ò â î. Çàìåòèì, ÷òî äëÿ ëþáîãî " > 0
ñóùåñòâóåò òàêîå ÷èñëî A > 0, ÷òî Pfj�j > Ag < ". Òàê êàê �
n
d
! �,
òî äëÿ äîñòàòî÷íî áîëüøèõ n
Pfj�
n
j > Ag < 2": (13:5:3)
Òàê êàê �
n
P
! C, òî äëÿ óêàçàííîãî âûøå " è ëþáîãî �èêñèðîâàí-
íîãî Æ > 0 äëÿ äîñòàòî÷íî áîëüøèõ n
Pfj�
n
� Cj > Æg < ": (13:5:4)
Îêîí÷àòåëüíî Æ ìû âûáåðåì íèæå, à ïîêà ïîëîæèì Æ � 1. Ïî-
ñêîëüêó
E[f(�
n
+ �
n
)� f(� + C)℄ =
157
= E[f(�
n
+ �
n
)� f(�
n
+ C)℄ +E[f(�
n
+ C)� f(� + C)℄; (13:5:5)
òî äëÿ (13.5.2) äîñòàòî÷íî ïîêàçàòü, ÷òî êàæäîå èç ñëàãàåìûõ â
(13.5.5) äëÿ äîñòàòî÷íî áîëüøèõ n ñòàíîâèòñÿ ìåíüøå ëþáîãî íà-
ïåðåä çàäàííîãî ÷èñëà.
Ñõîäèìîñòü ê íóëþ âòîðîãî ñëàãàåìîãî î÷åâèäíà: â êà÷åñòâå
f(x) â (13.5.1) íàäî âçÿòü f(x + C), ÷òîáû èç �
n
d
! � çàêëþ÷èòü,
÷òî �
n
+ C
d
! � + C.
Ïåðâîå ñëàãàåìîå ïðåäñòàâèì â âèäå
Ef[f(�
n
+ �
n
)� f(�
n
+ C)℄[I(j�
n
j � A) + I(j�
n
j > A)℄�
�[I(j�
n
� Cj � Æ) + I(j�
n
� Cj > Æ)℄g = (13:5:6)
= E f[f(�
n
+ �
n
)� f(�
n
+ C)℄I(j�
n
j � A)I(j�
n
� Cj � Æ)g+R
n
:
×åðåç R
n
îáîçíà÷åíà ñóììà òðåõ ìàòåìàòè÷åñêèõ îæèäàíèé, êî-
òîðûå ïîëó÷àþòñÿ ïðè ðàñêðûòèè ñêîáîê â ëåâîé ÷àñòè (13.5.6).
 êàæäîì èç ýòèõ ìàòåìàòè÷åñêèõ îæèäàíèé åñòü ëèáî ñîìíîæè-
òåëü I(j�
n
j > A), ëèáî I(j�
n
�Cj > Æ), ëèáî îáà. Ïîýòîìó êàæäîå èç
ýòèõ ìàòåìàòè÷åñêèõ îæèäàíèé ïðè äîñòàòî÷íî áîëüøèõ n ìîæ-
íî îöåíèòü ñâåðõó ÷èñëîì 4"max
x
jf(x)j, à èõ ñóììó R
n
� ÷èñëîì
12"max
x
jf(x)j. Íàïðèìåð,
jEf[f(�
n
+ �
n
)� f(�
n
+ C)℄I(j�
n
j > A)I(j�
n
� Cj � Æ)gj �
� 2max
x
jf(x)jI(j�
n
j > A) � 4"max
x
jf(x)j:
Èòàê, äëÿ äîñòàòî÷íî áîëüøèõ n
jR
n
j � 12"max
x
jf(x)j: (13:5:7)
Îáðàòèìñÿ ê ãëàâíîìó ñëàãàåìîìó â (13.5.5) è çàìåòèì, ÷òî â
íåì j�
n
j � A, j�
n
�Cj � Æ. Ïîýòîìó çíà÷åíèÿ j�
n
+�
n
�Cj � A+Æ �
A + 1. Ñëåäîâàòåëüíî, ñëó÷àéíàÿ âåëè÷èíà �
n
+ �
n
ïðèíàäëåæàò
êîìïàêòóK = [C�A�1; C+A+1℄. Òàê êàê �óíêöèÿ f(�) èç (13.5.2)
íåïðåðûâíà, òî íà êîìïàêòå K îíà ðàâíîìåðíî íåïðåðûâíà. Ýòî
çíà÷èò, ÷òî äëÿ âûáðàííîãî âûøå " > 0 ñóùåñòâóåò ÷èñëî Æ > 0
òàêîå, ÷òî jf(u) � f(v)j < ", åñëè ju � vj < Æ è u; v 2 K. ×èñëî
Æ çàâèñèò îò " è K, è èìåííî òàêèì ìû âûáåðåì Æ â (13.5.4). Â
îáñóæäàåìîì ãëàâíîì ñëàãàåìîì èç (13.5.5)
j(�
n
+ �
n
)� (�
n
+ C)j < Æ; �
n
+ �
n
2 K; �
n
+ C 2 K:
158
Ïîýòîìó jf(�
n
+ �
n
)� f(�
n
+ C)j < ":
 èòîãå ïîëó÷àåì ñ ó÷åòîì (13.5.7), ÷òî äëÿ äîñòàòî÷íî áîëü-
øèõ n
�
�
E
�
f(�
n
+ �
n
)� f(�
n
+ C)
�
�
�
< "+ 12"max
x
f(x):
Çà ñ÷åò âûáîðà " > 0 ýòà îöåíêà ìîæåò áûòü ñäåëàíà ñêîëü óãîäíî
ìàëîé. Òåîðåìà äîêàçàíà. �
� 6. Ïðèìåíåíèå òåîðåìû 13.1.1 äëÿ âû÷èñëåíèé
êðèòè÷åñêèõ çíà÷åíèé
Òåîðåìà 13.1.1 áûâàåò ïîëåçíà äëÿ âû÷èñëåíèÿ êðèòè÷åñêèõ
çíà÷åíèé ñòàòèñòèêè W
m;n
ïðè áîëüøèõ m;n. ×òîáû âîñïîëüçî-
âàòüñÿ òåîðåìîé 13.1.1, íàäî âû÷èñëèòü D
0
W
m;n
(äèñïåðñèþ ïðè
ãèïîòåçå, ò. å. äëÿ îäíîðîäíûõ âûáîðîê (x
1
; : : : ; x
m
) è (y
1
; : : : ; y
n
)).
Ìû âû÷èñëèì D
0
H
m;n
, êîòîðàÿ ðàâíà D
0
W
m;n
.
Âîñïîëüçóåìñÿ ðåçóëüòàòîì � 3, ïîëîæèâ
f(x
1
; y
1
) = I(x
1
< y
1
)�EI(x
1
< y
1
) = I(x
1
< y
1
)� Pfx
1
< y
1
g:
Êàê ñêàçàíî, îãðàíè÷èìñÿ îäíîðîäíûìè âûáîðêàìè. Òîãäà
Pfx
1
< y
1
g = Pfx
1
> y
1
g = 1=2:
Îáùóþ �óíêöèþ ðàñïðåäåëåíèÿ (íåïðåðûâíóþ!) îáîçíà÷èì ÷åðåç
F (u) = Pfx
i
< ug = Pfy
j
< ug: Âû÷èñëÿåì
�(x
i
) = Ef[I(x
i
< y
j
)� 1=2℄jx
i
g = Pfx
i
< y
j
jx
i
g � 1=2 =
= 1� Pfy
j
< x
i
jx
i
g � 1=2 = 1=2� F (x
i
):
Àíàëîãè÷íî: �(y
j
) = F (y
j
)� 1=2.
Çàìåòèì, ÷òî äëÿ ñëó÷àéíîé âåëè÷èíû X , èìåþùåé íåïðåðûâ-
íóþ �óíêöèþ ðàñïðåäåëåíèÿ F (u) = PfX < ug "íîâàÿ" ñëó÷àé-
íàÿ âåëè÷èíà � = F (X) ðàñïðåäåëåíà ðàâíîìåðíî íà [0,1℄. Äîêà-
çàòåëüñòâî ñëåäóåò èç ðèñ. 13.6.1. ßñíî, ÷òî PfF (X) < zg = z äëÿ
z 2 (0; 1).
Ïîëó÷èëè, ÷òî ïðè ãèïîòåçå (îäíîðîäíîñòè) �(x
i
) = 1=2� U
i
,
�(y
j
) = V
j
� 1=2; ãäå U
1
; : : : ; U
m
, V
1
; : : : ; V
n
ñóòü íåçàâèñèìûå ñëó-
÷àéíûå âåëè÷èíû, ðàâíîìåðíî ðàñïðåäåëåííûå íà [0, 1℄. Î÷åâèä-
íî, ÷òî
E[�(x
i
)℄
2
= DU
i
=
1
12
; E[�(y
j
)℄
2
= DV
j
=
1
12
:
159
1
0
z
u
y
y=F(u)
{F(X) < z}
�èñ. 13.6.1.
Ïîýòîìó
D
0
H
m;n
=D
0
W
m;n
=
mn(n� 1)
12
+
m(m� 1)n
12
+
mn
4
=
mn(m+ n+ 1)
12
;
èáî D
0
f(x
1
; y
1
)=D
0
I(x
1
< y
1
)=Pfx
1
< y
1
g
�
1�Pfx
1
< y
1
g
�
=1=4:
Èòàê, äëÿ íåïðåðûâíûõ îäíîðîäíûõ âûáîðîê òåîðåìà 13.1.1
äàåò:
W
�
m;n
=
W
m;n
� n(n+m+ 1)=2
p
mn(m+ n+ 1)=12
d
�! N(0; 1)
ïðè m; n!1.
Ïîëüçîâàòüñÿ ýòèì íîðìàëüíûì ïðèáëèæåíèåì (äëÿ âåðîÿò-
íîñòåé, íå ñëèøêîì áëèçêèõ ê 0 èëè 1) ìîæíî ïðè m; n � 10.
Öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà íå äàåò íàì îöåíîê äëÿ ñêîðî-
ñòè ñõîäèìîñòè. Ñêàçàííîå ïðàâèëî ïîäòâåðæäàåòñÿ ñðàâíåíèåì
òî÷íîãî ðàñïðåäåëåíèÿ W
m;n
äëÿ, ñêàæåì m = 10; n = 10, êîòî-
ðîå ìîæíî íàéòè â òàáëèöàõ, è åãî íîðìàëüíîé àïïðîêñèìàöèè.
(È óáåæäåííîñòüþ â òîì, ÷òî äëÿ á�îëüøèõ m; n àïïðîêñèìàöèÿ
áóäåò åùå ëó÷øå).
160
Ëåêöèÿ 14. Ìåòîä íàèáîëüøåãî ïðàâäîïî-
äîáèÿ
� 1. Îïðåäåëåíèÿ
Ïóñòü X � íàáëþäåííàÿ ñëó÷àéíàÿ âåëè÷èíà, ðàñïðåäåëåíèå
êîòîðîé ïðèíàäëåæèò ïàðàìåòðè÷åñêîìó ñåìåéñòâó P
�
, � 2 � ;
ïóñòü �
0
îáîçíà÷àåò èñòèííîå çíà÷åíèå ïàðàìåòðà. Ïðåäïîëîæèì,
÷òî ðàñïðåäåëåíèÿ P
�
èìåþò ïëîòíîñòü (îáîçíà÷àåìóþ p (x; �)) îò-
íîñèòåëüíî êàêîé-ëèáî ìåðû. Åñëè ýòà ìåðà ñ÷èòàþùàÿ, òî p (x; �)
� ýòî âåðîÿòíîñòü ñîáûòèÿ fX = xg. Äðóãàÿ ÷àñòàÿ âîçìîæíîñòü:
p (x; �) � ýòî ïëîòíîñòü îòíîñèòåëüíî ìåðû Ëåáåãà.
Î ï ð å ä å ë å í è å 14.1.1.Ïðàâäîïîäîáèåì çíà÷åíèÿ ïàðàìåòðà
� íàçûâàþò (ñëó÷àéíóþ âåëè÷èíó) p (X; �).
Î ï ð å ä å ë å í è å 14.1.2. Òî çíà÷åíèå ïàðàìåòðà �, äëÿ êî-
òîðîãî ïðàâäîïîäîáèå ïðèíèìàåò íàèáîëüøåå çíà÷åíèå, íàçûâàþò
îöåíêîé íàèáîëüøåãî ïðàâäîïîäîáèÿ (ïàðàìåòðà �):
^
�
n
= argmax
�2 �
p (X; �): (14:1:1)
Àñèìïòîòè÷åñêèå ñâîéñòâà îöåíîê íàèáîëüøåãî ïðàâäîïîäîáèÿ
ìû èçó÷èì äëÿ âûáîðêè, îáúåì êîòîðîé íåîãðàíè÷åííî âîçðàñòà-
åò.
Èòàê, ïóñòü X = (x
1
; : : : ; x
n
) � âûáîðêà èç ðàñïðåäåëåíèÿ,
îáëàäàþùåãî ïëîòíîñòüþ f(x; �), ãäå � 2 � � íåèçâåñòíûé ïà-
ðàìåòð; åãî èñòèííîå çíà÷åíèå (ïðè êîòîðîì ïîëó÷åíà âûáîðêà
X) åñòü �
0
2 �.  ýòîì ñëó÷àå óïîìÿíóòîå âûøå ïðàâäîïîäîáèå
p (X; �) =
n
Q
i=1
f(x
i
; �).
Îòíîñèòåëüíî îöåíêè (14.1.1) ìû äîêàæåì � ïðè îïðåäåëåí-
íûõ óñëîâèÿõ íà f(�; �), ÷òî
a)
^
�
n
� ñîñòîÿòåëüíàÿ îöåíêà äëÿ �
0
;
b)
^
�
n
ðàñïðåäåëåíà àñèìïòîòè÷åñêè íîðìàëüíî. Ýòîò ðåçóëüòàò
ïîçâîëèò íàì óêàçàòü äëÿ íåèçâåñòíîãî ïàðàìåòðà �
0
àñèì-
ïòîòè÷åñêèå äîâåðèòåëüíûå èíòåðâàëû.
Î ï ð å ä å ë å í è å 14.1.3. Îöåíêà t = t(X) ïàðàìåòðà �
íàçûâàåòñÿ ñîñòîÿòåëüíîé, åñëè t(X)
P
�! �
0
ïðè n!1.
161
Î ï ð å ä å ë å í è å 14.1.4 (ñïîñîá âûðàæåíèÿ). �îâîðÿò, ÷òî
ñëó÷àéíàÿ âåëè÷èíà �
n
(íà ñàìîì äåëå � ïîñëåäîâàòåëüíîñòü ñëó-
÷àéíûõ âåëè÷èí �
n
; n = 1; 2; : : :) ðàñïðåäåëåíà àñèìïòîòè÷åñêè
íîðìàëüíî ñ ïàðàìåòðàìè a
n
, �
2
n
, åñëè
�
n
� a
n
�
n
d
�! N(0; 1) ïðè n!1: (14:1:2)
Ïðè ýòîì a
n
íàçûâàþò àñèìïòîòè÷åñêèì ìàòåìàòè÷åñêèì îæè-
äàíèåì �
n
(àñèìïòîòè÷åñêèì ñðåäíèì), à �
2
n
� àñèìïòîòè÷åñêîé
äèñïåðñèåé �
n
.
Ñëåäóåò îòìåòèòü, ÷òî ìàòåìàòè÷åñêîå îæèäàíèå �
n
íå òîëüêî
ìîæåò íå ñîâïàäàòü ñ a
n
, íî è âîîáùå íå ñóùåñòâîâàòü. Òî æå îò-
íîñèòñÿ è ê äèñïåðñèè �
n
. Íàêîíåö, èç ïðèâåäåííîãî îïðåäåëåíèÿ
âèäíî, ÷òî ïîñëåäîâàòåëüíîñòü (a
n
; �
n
), n = 1; 2; : : : îïðåäåëåíà íå
îäíîçíà÷íî.
Äëÿ (14.1.2) óïîòðåáèòåëüíà è áîëåå âûðàçèòåëüíàÿ çàïèñü
�
n
àñ.
� N(a
n
; �
2
n
):
 ýòîì ðàçäåëå ìû âñòðåòèìñÿ ñ àñèìïòîòè÷åñêè íîðìàëüíûìè
îöåíêàìè
^
�
n
ïàðàìåòðà �, äëÿ êîòîðûõ
p
n(
^
�
n
��)
d
�! N(0; �
2
(�)) ïðè n!1; èëè
^
�
n
àñ.
� N
�
�;
�
2
(�)
n
�
:
� 2. Ñîñòîÿòåëüíîñòü îöåíîê íàèáîëüøåãî ïðàâ-
äîïîäîáèÿ
2.1. Ëåììà (âàðèàíò ò. í. íåðàâåíñòâà òåîðèè èí�îðìà-
öèè)
Ë å ì ì à 14.2.1. Ïóñòü f(�), g(�) � äâå ïëîòíîñòè âåðîÿòíî-
ñòè. Òîãäà
Z
f(x) ln f(x)dx �
Z
f(x) ln g(x)dx; (14:2:1)
ïðè÷åì ðàâåíñòâî âîçìîæíî, òîëüêî åñëè f = g ïî÷òè âñþäó.
Ñ î ã ë à ø å í è ÿ:
� Äëÿ èíòåãðàëîâ äîïóñêàåòñÿ çíà÷åíèå �1.
162
� Áóäåì ñ÷èòàòü, ÷òî
R
A
f(x) ln g(x)dx = 0, åñëè f(x) = 0 äëÿ
x 2 A; âíå çàâèñèìîñòè îò çíà÷åíèé g(�).
Ä î ê à ç à ò å ë ü ñ ò â î. Äîñòàòî÷íî ïîêàçàòü, ÷òî
Z
f(x) ln
g(x)
f(x)
dx � 0:
Çàìåòèì, ÷òî ln(1 + x) � x äëÿ x � �1. (Ñì. íà ðèñ. 14.2.1
ãðà�èêè �óíêöèé y = x è y = ln(1 + x)).
-2 -1 0 1 2-2
-1
0
1
2
y =ln(1+x)
y=x
x
y
�èñ. 14.2.1. �ðà�èêè �óíêöèé y = x è y = ln(1 + x)
�àññìîòðèì ìíîæåñòâî A = fx : f(x) > 0g. Äëÿ x 2 A:
ln
g(x)
f(x)
� ln
�
1 +
�
g(x)
f(x)
� 1
��
�
g(x)
f(x)
� 1:
Óìíîæèâ îáå ÷àñòè íåðàâåíñòâà íà f(�), èíòåãðèðóåì:
Z
f(x) ln
g(x)
f(x)
dx =
Z
A
f(x) ln
g(x)
f(x)
dx �
�
Z
A
[g(x)� f(x)℄dx =
Z
A
g(x)dx�
Z
A
f(x)dx � 0;
ò. ê.
R
A
g(x)dx �
R
g(x)dx = 1. ×. ò. ä. �.
163
2.2. Ïî÷åìó îöåíêà íàèáîëüøåãî ïðàâäîïîäîáèÿ ñîñòîÿ-
òåëüíà � ïðàâäîïîäîáíîå ðàññóæäåíèå
Åñëè X = (x
1
; : : : ; x
n
) � âûáîðêà èç ðàñïðåäåëåíèÿ ñ ïëîòíî-
ñòüþ f(x; �), òî ïðàâäîïîäîáèå X èìååò âèä
n
Q
i=1
f(x
i
; �), à îöåíêà
íàèáîëüøåãî ïðàâäîïîäîáèÿ (14.1.1) åñòü
^
�
n
= argmax
�2 �
n
Y
i=1
f(x
i
; �)
èëè
^
�
n
= argmax
�2 �
"
1
n
n
X
i=1
log f(x
i
; �)
#
: (14:2:2)
(Òî÷êà ýêñòðåìóìà íå èçìåíÿåòñÿ ïðè ïåðåõîäå îò �óíêöèè ê å¼
ëîãàðè�ìó è ïðè óìíîæåíèè íà ïîëîæèòåëüíîå ÷èñëî).
 ñèëó çàêîíà áîëüøèõ ÷èñåë ïðè n!1
1
n
n
X
i=1
log f(x
i
; �)
P
�! E
0
log f(x
1
; �); (14:2:3)
ãäå E
0
îçíà÷àåò óñðåäíåíèå ïî ïëîòíîñòè f(x; �
0
), ãäå �
0
� èñòèí-
íîå çíà÷åíèå �. Ïîýòîìó åñòåñòâåííî îæèäàòü, ÷òî
argmax
�2 �
"
1
n
n
X
i=1
log f(x
i
; �)
#
P
�! argmax
�2 �
E
0
log f(x
1
; �):
Ñîãëàñíî ëåììå 14.2.1, ñïðàâåäëèâî (14.2.1). Ýòî íåðàâåíñòâî
äëÿ g(x) = f(x; �), f(x) = f(x; �
0
) äàåò:
E
0
log f(x
1
; �) =
Z
[log f(x; �)℄f(x; �
0
)dx �
Z
[log f(x; �
0
)℄f(x; �
0
)dx:
Ñëåäîâàòåëüíî, argmax
�2 �
E
0
log f(x
1
; �) = �
0
:
Äîêàçàòåëüñòâî ñõîäèìîñòè
^
�
n
P
�! �
0
íàäî ïðîâîäèòü, ó÷è-
òûâàÿ ñâîéñòâà E
0
log f(x
1
; �) êàê �óíêöèè �, � 2 �. Åñëè ýòà
�óíêöèÿ è f(x; �) íåïðåðûâíû ïî �, îáû÷íî óäàåòñÿ òàêîé ïëàí:
� Ïîêàçàòü, ÷òî ñõîäèìîñòü â (14.2.3) ðàâíîìåðíà ïî � íà êîì-
ïàêòå, ñîäåðæàùåì �
0
.
164
�  ýòîì ñëó÷àå ìîæíî óòâåðæäàòü, ÷òî ñóùåñòâóåò ïîñëåäî-
âàòåëüíîñòü ëîêàëüíûõ ýêñòðåìóìîâ �óíêöèè
^
�
n
èç (14.1.1)
èëè (14.2.2), ïî âåðîÿòíîñòè ñõîäÿùàÿñÿ ê �
0
:
^
�
n
P
�! �
0
ïðè n!1: (14:2:4)
2.3. Äîêàçàòåëüñòâî ñõîäèìîñòè
^
�
n
P
�! �
0
äëÿ îäíîìåðíîãî
ñëó÷àÿ
 îäíîìåðíîì ñëó÷àå äîêàçàòåëüñòâî ïðîùå. Ïðåäïîëîæèì,
÷òî log f(x; �) ïðè âñÿêîì x íåïðåðûâíî çàâèñèò îò � 2 �, ãäå
� � îòêðûòîå ìíîæåñòâî, � � R
1
.
×òîáû äîêàçàòü (14.2.4), ìû ïîêàæåì, ÷òî (ëîêàëüíûé) ýêñòðå-
ìóì �óíêöèè
1
n
n
X
i=1
log f(x
i
; �)
ëåæèò ñî ñêîëü óãîäíî áëèçêîé ê 1 âåðîÿòíîñòüþ � ïðè äîñòà-
òî÷íî áîëüøèõ n � âíóòðè èíòåðâàëà (�
0
� h, �
0
+ h), ãäå h �
ïðîèçâîëüíîå ÷èñëî.
0+ h 0- h 0
�èñ. 14.2.2. �ðà�èê �óíêöèè y = E
0
log f(x
1
; �)
165
Òàê êàê
E
0
log f(x
1
; �
0
) > E
0
log f(x
1
; �
0
� h);
òî ìîæíî ïîäîáðàòü òàêîå " > 0, ÷òî
E
0
log f(x
1
; �
0
)� " > E
0
log f(x
1
; �
0
� h) + ":
Äëÿ ïðîèçâîëüíîãî �èêñèðîâàííîãî Æ > 0, â ñèëó óïîìÿíóòîãî
çàêîíà áîëüøèõ ÷èñåë (14.2.3), äëÿ äîñòàòî÷íî áîëüøèõ n âûïîë-
íÿþòñÿ íåðàâåíñòâà:
P
n
�
�
�
1
n
n
X
i=1
log f(x
i
; �
0
)�E
0
log f(x
1
; �
0
)
�
�
�
< "
o
> 1� Æ;
P
n
�
�
�
1
n
n
X
i=1
log f(x
i
; �
0
� h)�E
0
log f(x
1
; �
0
� h)
�
�
�
< "
o
> 1� Æ:
Ïîýòîìó
P
n
1
n
n
X
i=1
log f(x
i
; �
0
) >
1
n
n
X
i=1
log f(x
i
; �
0
� h)
o
> 1� 3Æ:
Ïîýòîìó (ïðè äîñòàòî÷íî áîëüøèõ n) ýêñòðåìóì (ëîêàëüíûé)
�óíêöèè ïðàâäîïîäîáèÿ èç (14.1.1) ëåæèò â ñêîëü óãîäíî óçêîé
îêðåñòíîñòè òî÷êè �
0
. Ïîýòîìó ïîñëåäîâàòåëüíîñòü ýòèõ ëîêàëü-
íûõ ýêñòðåìóìîâ ñõîäèòñÿ (ïî âåðîÿòíîñòè) ê �
0
, ÷òî è òðåáîâà-
ëîñü äîêàçàòü. �
Ç à ä à ÷ à. Èññëåäóéòå íà ìàêñèìóì �óíêöèþ
1
n
n
X
i=1
log f(x
i
; �)
è ñîïîñòàâüòå å¼ ñE
0
log f(x
1
; �) äëÿ íîðìàëüíîãî ñåìåéñòâàN(a; �
2
)
è äëÿ ñåìåéñòâà ðàâíîìåðíûõ ðàñïðåäåëåíèé íà îòðåçêå [ 0; � ℄, ãäå
� 2 (0;1).
� 3. Àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü îöåíîê íàè-
áîëüøåãî ïðàâäîïîäîáèÿ (ïî âûáîðêå èç ðåãóëÿð-
íîãî ñåìåéñòâà)
3.1. Îäíîìåðíûé ñëó÷àé
Ïóñòü X = (x
1
; : : : ; x
n
) � âûáîðêà èç ðàñïðåäåëåíèÿ ñ ïëîò-
íîñòüþ (âåðîÿòíîñòüþ) p (x; �), � 2 � � R
1
. (Ïîñëå òîãî, êàê ìû
166
çàêîí÷èì èññëåäîâàíèå îäíîìåðíîãî ïàðàìåòðà �, ìû îáñóäèì, êà-
êèå èçìåíåíèÿ íàäî ñäåëàòü, êîãäà � 2 � � R
r
). Ìíîæåñòâî �
áóäåì ñ÷èòàòü îòêðûòûì.
 ðàññìàòðèâàåìîì ñëó÷àå îöåíêà íàèáîëüøåãî ïðàâäîïîäîáèÿ
åñòü ðåøåíèå óðàâíåíèÿ ïðàâäîïîäîáèÿ
�
��
n
X
i=1
log p (x
i
; �) = 0: (14:3:1)
Ñ÷èòàÿ, ÷òî p (x; �) òðèæäû äè��åðåíöèðóåìà ïî �, ïðåäïîëî-
æèì, ÷òî ñóùåñòâóåò �óíêöèÿ M(x) òàêàÿ, ÷òî
� äëÿ ëþáîãî � 2 �:
�
�
�
�
�
3
��
3
log p (x; �)
�
�
�
�
< M(x);
� ïðè÷åì E
�
M(x
1
) <1 äëÿ âñåõ � 2 �.
� 0 < i(�
0
) <1; ãäå i(�
0
) = E
0
�
�
��
log p (x
1
; �
0
)
�
2
:
 äàëüíåéøåì, ðàäè êðàòêîñòè áóäåì ïèñàòü
l(x; �) =
�
��
log p (x; �):
Èññëåäîâàíèå óðàâíåíèÿ ïðàâäîïîäîáèÿ. Ââåäåì íîâóþ ïåðå-
ìåííóþ � , ïîëîæèâ � = �
0
+
�
p
n
: Òåïåðü óðàâíåíèå ïðàâäîïîäîáèÿ
(14.3.1) èìååò âèä
1
p
n
n
X
i=1
l(x
i
; �
0
+
�
p
n
) = 0: (14:3:2)
�àçëàãàåì ëåâóþ ÷àñòü (14.3.2) ïî �îðìóëå Òåéëîðà â òî÷êå
�
0
. Ïîëó÷àåì:
1
p
n
n
X
i=1
l(x
i
; �
0
)+
1
p
n
n
X
i=1
l
0
�
(x
i
; �
0
)
�
p
n
+
1
2
p
n
n
X
i=1
l
00
��
(x
i
;
~
�
n
)
�
�
p
n
�
2
;
(14:3:3)
ãäå
~
�
n
� íåêàÿ ïðîìåæóòî÷íàÿ òî÷êà ìåæäó �
0
è �.
Çàìåòèì, ÷òî åñëè ìû îãðàíè÷èì îáëàñòü èçìåíåíèÿ ïåðåìåí-
íîé � ïðîèçâîëüíûì êîìïàêòîì, ò. å. ïðåäïîëîæèì, ÷òî j� j < C
167
äëÿ íåêîòîðîãî C, òî òðåòüå ñëàãàåìîå îêàæåòñÿ (ïðè n ! 1)
áåñêîíå÷íî ìàëûì. Äåéñòâèòåëüíî:
�
�
�
�
�
1
p
n
n
X
i=1
l
00
��
(x
i
;
~
�
n
)
�
�
p
n
�
2
�
�
�
�
�
<
C
2
p
n
"
1
n
n
X
i=1
M(x
i
)
#
P
�! 0;
ò. ê. ïî çàêîíó áîëüøèõ ÷èñåë
1
n
n
X
i=1
M(x
i
)
P
�! E
�
M(x
1
):
Ñîïîñòàâèì ðåøåíèå óðàâíåíèÿ (14.3.2), ëåâàÿ ÷àñòü êîòîðîãî
ïðåäñòàâëåíà â �îðìå (14.3.3), è ðåøåíèå óðàâíåíèÿ
1
p
n
n
X
i=1
l(x
i
; �
0
) +
1
p
n
n
X
i=1
l
0
�
(x
i
; �
0
)
�
p
n
= 0: (14:3:4)
(Ëåâàÿ ÷àñòü êàê â (14.3.3), íî áåç òðåòüåãî ñëàãàåìîãî).
�åøåíèå (14.3.4) î÷åâèäíî:
�
�
n
=
1
p
n
n
X
i=1
l(x
i
; �
0
)
�
1
n
n
X
i=1
l
0
�
(x
i
; �
0
)
: (14:3:5)
Ïðè ýòîì ëåãêî óâèäåòü, ÷òî ïðè n!1
�
�
n
d
�! N
�
0; [ i(�
0
)℄
�1
�
: (14:3:6)
Çäåñü i(�
0
) � êîëè÷åñòâî èí�îðìàöèè (ïî Ôèøåðó) î �, ñîäåðæà-
ùåéñÿ â îäíîì íàáëþäåíèè x
1
.
Äåéñòâèòåëüíî, ÷èñëèòåëü (14.3.5) åñòü ñóììà íåçàâèñèìûõ
ñëó÷àéíûõ âåëè÷èí
1
p
n
�
��
n
X
i=1
log p (x
i
; �
0
); i = 1; n. Ïðè îáñó-
æäåíèè íåðàâåíñòâ Êðàìåðà-�àî ìû îòìåòèëè, ÷òî
E
�
�
��
n
X
i=1
log p (x
i
; �) = 0 äëÿ � 2 �;
168
è ÷òî
E
�
"
�
��
n
X
i=1
log p (x
i
; �)
#
2
= n i(�):
Ïîýòîìó, ïî öåíòðàëüíîé ïðåäåëüíîé òåîðåìå, ÷èñëèòåëü (14.3.5)
ïî ðàñïðåäåëåíèþ ñõîäèòñÿ ê N(0; i(�
0
)), êîãäà n!1.
Çíàìåíàòåëü (14.3.5) ïî çàêîíó áîëüøèõ ÷èñåë ñõîäèòñÿ (ïî âå-
ðîÿòíîñòè) ê �E
�
l
0
�
(x
1
; �), ãäå �=�
0
. Ìû (ïðè óïîìÿíóòûõ âûøå
îáñóæäåíèÿõ) îòìå÷àëè, ÷òî
E
�
�
�
2
��
2
log p (x
1
; �)
�
= �i(�):
Ïîýòîìó ïî òåîðåìå Ñëóöêîãî âûïîëíåíî (14.3.6).
Îñòàåòñÿ óáåäèòüñÿ, ÷òî ðåøåíèå óðàâíåíèÿ (14.3.2) àñèìïòî-
òè÷åñêè ýêâèâàëåíòíî ðåøåíèþ óðàâíåíèÿ (14.3.4) � ýêâèâàëåíò-
íî â òîì ñìûñëå, ÷òî ïðè n ! 1 ðàçíîñòü ìåæäó ðåøåíèÿìè
ñòðåìèòñÿ ê íóëþ (ïî âåðîÿòíîñòè).
Ìû óæå îòìå÷àëè, ÷òî ëåâûå ÷àñòè (14.3.2) è (14.3.4) îòëè-
÷àþòñÿ áåñêîíå÷íî ìàëî (è ïðèòîì ðàâíîìåðíî ïî �), êîãäà
j� j < Const � ìåíüøå ïðîèçâîëüíîé ïîñòîÿííîé.
�àññìîòðèì ãðà�èê ëåâîé ÷àñòè (14.3.4) êàê �óíêöèþ îò � :
y =
n
(�). Äëÿ äîñòàòî÷íî áîëüøèõ n ãðà�èê ëåâîé ÷àñòè (14.3.2),
ñêàæåì y = '
n
(�), áóäåò ïðè j� j < C ïðîõîäèòü â "-îêðåñòíîñòè
ãðà�èêà y =
n
(�).
Ïîñêîëüêó " > 0 ìîæåò áûòü âûáðàíî ñêîëü óãîäíî ìàëûì, ó
óðàâíåíèÿ ïðàâäîïîäîáèÿ (14.3.2) íàéäåòñÿ ðåøåíèå �
n
, òàêîå, ÷òî
�
n
� �
�
n
P
�! 0 � ïðè òîì äîïîëíèòåëüíîì óñëîâèè, ÷òî óðàâíåíèå
(14.3.4) èìååò ðåøåíèå, ïðèíàäëåæàùåå êîìïàêòó f� : j� j < Cg.
Îñòàåòñÿ ñäåëàòü ïîñëåäíåå çàìå÷àíèå, ÷òîáû çàâåðøèòü èññëå-
äîâàíèå (14.3.2). Òàê êàê �
�
n
(ðåøåíèå (14.3.4)) àñèìïòîòè÷åñêè
íîðìàëüíî, ìîæíî âûáðàòü óïîìÿíóòûé âûøå êîìïàêò
f� : j� j < Cg òàê, ÷òîáû äëÿ ïðîèçâîëüíî âûáðàííîãî Æ > 0
Pfj�
�
n
j < Cg > 1� Æ (14:3:7)
äëÿ äîñòàòî÷íî áîëüøèõ n.
Òàêèì îáðàçîì, ñî ñêîëü óãîäíî áëèçêîé ê 1 âåðîÿòíîñòüþ,
óðàâíåíèå (14.3.2) èìååò êîðåíü íà âûáðàííîì êîìïàêòå (äëÿ äî-
ñòàòî÷íî áîëüøèõ n), è ýòîò êîðåíü ñêîëü óãîäíî áëèçîê ê �
�
n
.
169
0
0
y
^*nn
y= n( )
y= n( )
�èñ. 14.3.1. �ðà�èêè �óíêöèé y = '
n
(�) è y =
n
(�)
Ïîýòîìó êîðåíü �
n
ðàñïðåäåëåí òàê æå, êàê è �
�
n
, ò. å. ïðè n!1
�
n
d
�! N
�
0;
�
i(�
0
)
�
�1
�
: (14:3:8)
Âåðíåìñÿ ê ïåðåìåííîé � = �
0
+
�
p
n
;
^
�
n
= �
0
+
�
p
n
;
�
n
=
p
n(
^
�
n
� �
0
). Óòâåðæäåíèå (14.3.8) îçíà÷àåò, ÷òî ïðè n!1
p
n(
^
�
n
� �
0
)
d
�! N
�
0; [i(�
0
)℄
�1
�
: (14:3:9)
Ñëåäîâàòåëüíî, ìû äîêàçàëè, ÷òî (ïðè íàëîæåííûõ âûøå óñëî-
âèÿõ íà p (x; �)) ñóùåñòâóåò ðåøåíèå (òî÷íåå, ïîñëåäîâàòåëüíîñòü
ðåøåíèé) óðàâíåíèÿ ïðàâäîïîäîáèÿ (14.3.1)
^
�
n
, ñõîäÿùååñÿ ê �
0
è ðàñïðåäåëåííîå àñèìïòîòè÷åñêè íîðìàëüíî ñ ïàðàìåòðàìè �
0
è
�
n i(�
0
)
�
�1
.
3.2. Ìíîãîìåðíûé ñëó÷àé
Äëÿ ìíîãîìåðíîãî ïàðàìåòðà � âñ¼ èññëåäîâàíèå ïðîõîäèò òàê-
æå, êàê è äëÿ îäíîìåðíîãî, ñ î÷åâèäíûìè èçìåíåíèÿìè.
170
� Óðàâíåíèå ïðàâäîïîäîáèÿ (14.1.1) òåïåðü � âåêòîðíîå (ò. å.
(14.1.1) ïðåäñòàâëÿåò ñîáîé ñèñòåìó óðàâíåíèé).
� Óñëîâèå î òðåòüèõ ïðîèçâîäíûõ �îðìóëèðóåòñÿ òàê:
�
�
�
�
�
3
��
i
��
j
��
k
log p (x; �)
�
�
�
�
< M(x);
è ò. ä.
� Ìåñòî êîëè÷åñòâà èí�îðìàöèè i(�) çàíèìàåò ìàòðèöà èí-
�îðìàöèè J (�).
Îêîí÷àòåëüíûé ðåçóëüòàò ïðèíèìàåò âèä
^
�
n
d
�! N(�
0
; n
�1
J
�1
(�
0
)): (14:3:10)
3.3. Àñèìïòîòè÷åñêè ý��åêòèâíûå îöåíêè
Íåñìåùåííûå îöåíêè ïàðàìåòðà, äëÿ êîòîðûõ íåðàâåíñòâî
Êðàìåðà-�àî îáðàùàåòñÿ â ðàâåíñòâî, ðàíåå áûëè íàçâàíû ý��åê-
òèâíûìè. Äëÿ ý��åêòèâíûõ îöåíîê äèñïåðñèÿ (ìàòðèöà êîâàðè-
àöèé â ìíîãîïàðàìåòðè÷åñêîì ñëó÷àå) ðàâíà îáðàòíîìó êîëè÷å-
ñòâó èí�îðìàöèè (îáðàòíîé ìàòðèöå èí�îðìàöèè).
Îáðàòèì âíèìàíèå íà ñõîäñòâî ñ ý��åêòèâíîñòüþ ðåçóëüòà-
òîâ (14.3.9) è (14.3.10): äëÿ îöåíêè íàèáîëüøåãî ïðàâäîïîäîáèÿ (â
óñëîâèÿõ ðåãóëÿðíîñòè) àñèìïòîòè÷åñêîå ìàòåìàòè÷åñêîå îæèäà-
íèå ñîâïàäàåò ñ îöåíèâàåìûì ïàðàìåòðîì, à å¼ àñèìïòîòè÷åñêàÿ
äèñïåðñèÿ � ñ îáðàòíûì êîëè÷åñòâîì èí�îðìàöèè.  ñâÿçè ñ ýòèì
ñõîäñòâîì ïðèíÿòî ñëåäóþùåå îïðåäåëåíèå.
Î ï ð å ä å ë å í è å 14.3.1. Àñèìïòîòè÷åñêè íîðìàëüíóþ îöåí-
êó
^
�
n
(íå îáÿçàòåëüíî îöåíêó íàèáîëüøåãî ïðàâäîïîäîáèÿ) ïàðà-
ìåòðà � íàçûâàþò àñèìïòîòè÷åñêè ý��åêòèâíîé, åñëè å¼ àñèì-
ïòîòè÷åñêèå ïàðàìåòðû ìîæíî âûáðàòü òàê, ÷òîáû âûïîëíÿëîñü
(14.3.9) (èëè (14.3.10) � â ìíîãîïàðàìåòðè÷åñêîì ñëó÷àå).
È õîòÿ íåâåðíî óòâåðæäåíèå, ÷òî àñèìïòîòè÷åñêàÿ äèñïåðñèÿ
íå ìîæåò áûòü ìåíüøå, ÷åì îáðàòíàÿ èí�îðìàöèÿ (àíàëîã íåðà-
âåíñòâà Êðàìåðà-�àî), âñ¼ æå àñèìïòîòè÷åñêè ý��åêòèâíûå îöåí-
êè ìîæíî ñ÷èòàòü íàèëó÷øèìè. (Èññëåäîâàíèé íà ýòó òåìó áûëî
î÷åíü ìíîãî. Îêîí÷àòåëüíûå �îðìóëèðîâêè, íà ìîé âçãëÿä, åùå
íå íàéäåíû. Îá àñèìïòîòè÷åñêîé ý��åêòèâíîñòè ñì., íàïðèìåð,
Ý. Ëåìàí, "Òåîðèÿ òî÷å÷íîãî îöåíèâàíèÿ": Ïåð. ñ àíãë.� Ì.: Íà-
óêà, 1991 � ãë. 6).
171
� 4. Îäíîøàãîâûå îöåíêè
�åçóëüòàòû � 3 ãîâîðÿò î ñóùåñòâîâàíèè àñèìïòîòè÷åñêè ý�-
�åêòèâíûõ îöåíîê íàèáîëüøåãî ïðàâäîïîäîáèÿ
^
�
n
, íî íå ãîâîðÿò,
êàê âûäåëèòü òàêóþ îöåíêó ñðåäè ðåøåíèé óðàâíåíèé ïðàâäîïî-
äîáèÿ, åñëè ðåøåíèå íå åäèíñòâåííî. Ýòî ñåðüåçíûé íåäîñòàòîê.
Çàòåì ñàìî ðåøåíèå óðàâíåíèÿ ïðàâäîïîäîáèÿ ìîæåò îêàçàòüñÿ
òðóäíîé çàäà÷åé. Ïðåäëàãàåìûé íèæå ìåòîä óëó÷øåíèÿ îöåíêè
ïîçâîëÿåò îáîéòè îáà ýòè çàòðóäíåíèÿ. Ñîõðàíèì â ñèëå âñå ñäå-
ëàííûå â � 3 ïðåäïîëîæåíèÿ.
Ïðåäïîëîæèì, ÷òî äëÿ ïàðàìåòðà � (äëÿ ïðîñòîòû, îäíîìåðíî-
ãî) ìû ðàñïîëàãàåì
p
n-ñîñòîÿòåëüíîé îöåíêîé, ñêàæåì, îöåíêîé
�
(1)
n
. (Îöåíêó �
(1)
n
íàçûâàþò
p
n-ñîñòîÿòåëüíîé, åñëè ñëó÷àéíàÿ
âåëè÷èíà
p
n(�
(1)
n
� �) îãðàíè÷åíà ïî âåðîÿòíîñòè). Íàéòè òàêóþ
îöåíêó îáû÷íî íå ñîñòàâëÿåò òðóäà.  ýòîì ñëó÷àå ìû ìîæåì,
íå ðåøàÿ óðàâíåíèÿ ïðàâäîïîäîáèÿ, à èñïîëüçóÿ ìåòîä Íüþòîíà,
ïîëó÷èòü äëÿ ïàðàìåòðà � íîâóþ îöåíêó, ñêàæåì, �
(2)
n
, ýêâèâàëåíò-
íóþ àñèìïòîòè÷åñêè ý��åêòèâíîé îöåíêå
^
�
n
.
�àäè êðàòêîñòè íà âðåìÿ ïîëîæèì '(�) =
1
n
n
X
i=1
l(x
i
; �) è çàïè-
øåì óðàâíåíèå ïðàâäîïîäîáèÿ â �îðìå
'(�) = 0: (14:4:1)
Òàê êàê è �
(1)
n
, è
^
�
n
ñõîäÿòñÿ ê �, òî �
(1)
n
áëèçêî ê
^
�
n
, êîðíþ
óðàâíåíèÿ (14.4.1). Ïðè ýòîì
�
(1)
n
�
^
�
n
= O
P
�
1
p
n
�
: (14:4:2)
Ìû ìîæåì ðàññìàòðèâàòü �
(1)
n
êàê ïðèáëèæåííîå ðåøåíèå óðàâ-
íåíèÿ (14.4.1). Ìåòîä Íüþòîíà ïîçâîëÿåò ïîëó÷èòü íîâîå ïðè-
áëèæåííîå ðåøåíèå �
(2)
n
, ëó÷øåå, ÷åì �
(1)
n
(ñì. ðèñ. 14.4.1). Èäåÿ
ìåòîäà � çàìåùåíèå �óíêöèè y = '(�) åå êàñàòåëüíîé (â òî÷êå
� = �
(1)
n
)
y = '(�
(1)
n
) + '
0
(�
(1)
n
)(� � �
(1)
n
)
è çàòåì ðåøåíèÿ ëèíåéíîãî óðàâíåíèÿ
'(�
(1)
n
) + '
0
(�
(1)
n
)(� � �
(1)
n
) = 0:
172
0
^(2)(1)nnn
yy = ( )
�èñ. 14.4.1. Ôóíêöèÿ y = '(�) è êàñàòåëüíàÿ ê íåé â òî÷êå �
(1)
n
Ýòî äàåò �
(2)
n
= �
(1)
n
�
'(�
(1)
n
)
'
0
(�
(1)
n
)
: Ëåãêî âèäåòü, ÷òî
�
(2)
n
�
^
�
n
=
(�
(1)
n
�
^
�
n
)'
0
(�
(1)
n
)� '(�
(1)
n
)
'
0
(�
(1)
n
)
: (14:4:3)
�àçëàãàÿ ïî �îðìóëå Òåéëîðà ÷èñëèòåëü ýòîãî âûðàæåíèÿ, ïîëó-
÷èì, ÷òî
�
(2)
n
�
^
�
n
= (�
(1)
n
�
^
�
n
)
2
'
00
(
~
�)�
1
2
'
00
(
~
~
�)
'
0
(�
(1)
n
)
; (14:4:4)
ãäå
~
�,
~
~
� � íåêîòîðûå çíà÷åíèÿ, ïðîìåæóòî÷íûå ìåæäó �
(1)
n
è
^
�
n
.
Ïðèíÿòûå â � 3 óñëîâèÿ ðåãóëÿðíîñòè îáåñïå÷èâàþò îãðàíè-
÷åííîñòü ïî âåðîÿòíîñòè âòîðîãî ñîìíîæèòåëÿ â (14.4.4).  ñèëó
(14.4.2) ïîëó÷àåì �
(2)
n
�
^
�
n
= O
P
�
1
n
�
; ÷òî è îçíà÷àåò ýêâèâà-
ëåíòíîñòü îäíîøàãîâîé îöåíêè �
(2)
n
è àñèìïòîòè÷åñêè ý��åêòèâ-
íîé îöåíêè
^
�
n
.
173
Ëåêöèÿ 15. Óñòîé÷èâûå îöåíêè
� 1. Ôóíêöèÿ âëèÿíèÿ
Íà÷íåì ñ ïðèìåðà. Ïóñòü x
1
; : : : ; x
n
� âûáîðêà èç N(a; �
2
). Ïî
ýòîé âûáîðêå ìû õîòèì îöåíèòü a. Êàê èçâåñòíî, â îïðåäåëåí-
íîì ñìûñëå íàèëó÷øåé îöåíêîé a ÿâëÿåòñÿ âûáîðî÷íîå ñðåäíåå
�x =
1
n
n
P
i=1
x
i
: ñðåäè âñåõ íåñìåùåííûõ îöåíîê ïàðàìåòðà a îöåíêà
�x èìååò íàèìåíüøóþ äèñïåðñèþ. Â ýòîì îòíîøåíèè �x ïðåâîñõî-
äèò, íàïðèìåð, âûáîðî÷íóþ ìåäèàíó �
n
= med(x
1
; : : : ; x
n
), òîæå
íåñìåùåííóþ îöåíêó a.
Òåïåðü ïðåäïîëîæèì, ÷òî ê óïîìÿíóòîé âûáîðêå äîáàâèëîñü
íåêîå ïîñòîðîííåå ÷èñëî z. Òàêèå ïîñòîðîííèå, îøèáî÷íûå äàí-
íûå íåðåäêî ïðèñóòñòâóþò â ìàññèâàõ íàáëþäåíèé, çàñîðÿÿ èõ.
Âñïîìíèì õîòÿ áû âûáîðêó èç êíèãè À. Õàëüäà (200 èçìåðåíèé
çàêëåïîê), êîòîðóþ ÿ, êàê ïðèìåð, ïðèâîäèë íà ïåðâîé ëåêöèè:
â ðóññêîì èçäàíèè îäíî èç äâóõñîò ÷èñåë ïðèâåäåíî ñ îïå÷àòêîé.
Èç-çà ýòîãî îíî äàëåêî îòñòóïèëî îò îñíîâíîãî ìàññèâà. Òàêèå
ãðóáî îøèáî÷íûå äàííûå, íå ÿâëÿþùèåñÿ ðåçóëüòàòîì ñëó÷àéíî-
ãî âûáîðà èç èíòåðåñóþùåé íàñ ãåíåðàëüíîé ñîâîêóïíîñòè, ÷àñòî
íàçûâàþò "âûáðîñàìè".
Ïîñìîòðèì íà óïîìÿíóòûõ ïðèìåðàõ, êàê ïðèñóòñòâèå âûáðî-
ñîâ ñêàçûâàåòñÿ íà êà÷åñòâå îöåíêè � â äàííîì ñëó÷àå íà îöå-
íèâàíèè íåèçâåñòíîãî a. Îñíîâîé äëÿ îöåíèâàíèÿ òåïåðü ñëóæèò
ñîâîêóïíîñòü x
1
; : : : ; x
n
; z. ßñíî, ÷òî âûáîðî÷íîå ñðåäíåå â ýòèõ
óñëîâèÿõ ðàâíî:
n
n+ 1
�x+
1
n+ 1
z:
Âèäíî, ÷òî ýòà îöåíêà ìîæåò îêàçàòüñÿ âåñüìà äàëåêîé îò a, åñëè
÷èñëî jzj äîñòàòî÷íî âåëèêî.  ýòîì ïðèìåðå è ïðè ýòîì ñïîñîáå
îöåíèâàíèÿ äàæå åäèíè÷íûé âûáðîñ (åäèíè÷íîå íàáëþäåíèå) ìî-
æåò ñêîëü óãîäíî ñèëüíî ïîâëèÿòü íà ðåçóëüòàò. Â ýòîì ñìûñëå
ñðåäíåå àðè�ìåòè÷åñêîå íå ÿâëÿåòñÿ óñòîé÷èâîé îöåíêîé a (öåí-
òðà ðàñïðåäåëåíèÿ).
Èíûå ñâîéñòâà ó âûáîðî÷íîé ìåäèàíû. Ïóñòü, x
(1)
� x
(2)
�
: : : � x
(n�1)
� x
(n)
� âàðèàöèîííûé ðÿä è, äëÿ îïðåäåëåííîñòè,
n = 2m. Òîãäà �
n
=
x
(m)
+ x
(m+1)
2
. Ïðåäïîëîæèì, ÷òî z > x
(m+1)
.
Òîãäà âûáîðî÷íàÿ ìåäèàíà �
n+1
"çàñîðåííîé" ñîâîêóïíîñòè ðàâ-
íà med(x
1
; : : : ; x
n
; z) = x
(m+1)
: Âèäíî, ÷òî ðàçíèöà ìåæäó �
n+1
174
è �
n
ìàëà, êàê áû íè áûëî âåëèêî z. Ïðè áîëüøèõ n ýòà ðàçíè-
öà ïðåíåáðåæèìî ìàëà, èáî �
n+1
� �
n
= O
P
�
1
n
�
; â òî âðåìÿ
êàê òî÷íîñòü ñòàòèñòè÷åñêîãî îöåíèâàíèÿ ïî ïîðÿäêó âåëè÷èíû
íå âûøå, ÷åì 1=
p
n. Ìû ïîëó÷èëè, ÷òî âûáîðî÷íàÿ ìåäèàíà êàê
îöåíêà öåíòðà ñèììåòðè÷íîãî ðàñïðåäåëåíèÿ óñòîé÷èâà ïî îòíî-
øåíèþ â âûáðîñàì. Ïî-àíãëèéñêè óñòîé÷èâûå îöåíêè íàçûâàþò
robust. Èíîãäà èõ òàê íàçûâàþò è ïî-ðóññêè: ðîáàñòíûå.
�àññìîòðèì òåïåðü âåðîÿòíîñòíîå � â ïðîòèâîïîëîæíîñòü âû-
áîðî÷íîìó � âîïëîùåíèå òîé æå èäåè. Äëÿ ïðîñòîòû áóäåì ðàñ-
ñìàòðèâàòü ðàñïðåäåëåíèÿ íà ïðÿìîé.  ýòîì ñëó÷àå óäîáíûì
ñðåäñòâîì äëÿ îïèñàíèÿ ðàñïðåäåëåíèÿ ñëóæèò åãî �óíêöèÿ ðàñ-
ïðåäåëåíèÿ, ñêàæåì F (:). Ïðåäïîëîæèì, ÷òî íàñ èíòåðåñóåò íåêî-
òîðàÿ õàðàêòåðèñòèêà ýòîãî ðàñïðåäåëåíèÿ, ò. å. íåêîòîðûé �óíê-
öèîíàë T (:). Äëÿ ðàñïðåäåëåíèÿ F ýòî T (F ). Äàëåå ïðåäïîëîæèì,
÷òî ê ðàñïðåäåëåíèþ F â íåêîòîðîé äîëå �; 0 � � � 1 "ïðèìå-
øàíî" ðàñïðåäåëåíèå âåðîÿòíîñòåé, êàê è ðàíåå, ñîñðåäîòî÷åííîå
â íåêîòîðîé òî÷êå z. Ïóñòü �
z
îáîçíà÷àåò �óíêöèþ ýòîãî âûðî-
æäåííîãî ðàñïðåäåëåíèÿ:
�
z
(x) = 0 äëÿ x � z; �
z
(x) = 1 äëÿ x > z:
Ôóíêöèÿ ðàñïðåäåëåíèÿ îïèñàííîé ñìåñè ðàñïðåäåëåíèé ðàâíà
(1� �)F (x) + ��
z
(x): (15:1:1)
Âîïðîñ: êàê ñêàæåòñÿ ïðèñóòñòâèå çàñîðåíèÿ íà �óíêöèîíàëå
T (:)? Íà ðàñïðåäåëåíèè (15.1.1) �óíêöèîíàë T (:) ïðèíèìàåò çíà-
÷åíèå T [(1��)F+��
z
℄. Îòíåñåííîå ê � âëèÿíèå íà T (:) ñêàçàííîãî
çàñîðåíèÿ ðàâíî
�
�1
fT [(1� �)F + ��
z
℄� T (F )g:
Ýòî âëèÿíèå èíòåðåñóåò íàñ, â ïåðâóþ î÷åðåäü, ïðè ìàëûõ �.
Îòñþäà âûòåêàåò ñëåäóþùåå
Î ï ð å ä å ë å í è å 15.1.1. Ôóíêöèåé âëèÿíèÿ (âëèÿíèÿ íà
�óíêöèîíàë T â òî÷êå F çàñîðåíèÿ z) íàçûâàþò ïðåäåë:
h(z) = lim
�!+0
�
�1
fT [(1� �)F + ��
z
℄� T [F ℄g; (15:1:2)
åñëè ýòîò ïðåäåë ñóùåñòâóåò.
175
Äëÿ �óíêöèè âëèÿíèÿ (15.1.2) óïîòðåáëÿþò è áîëåå ñëîæíîå
îáîçíà÷åíèå IF (z;T; F ), ðàñøè�ðîâûâàþùåå ñìûñë ýòîãî ïîíÿòèÿ
(âûøå â îïðåäåëåíèè 15.1.1 ïðèâåäåí â ñêîáêàõ; IF � íà÷àëüíûå
áóêâû Influen e Fun tion).
Âåðíåìñÿ ê íîðìàëüíîìó ðàñïðåäåëåíèþ N(a; �
2
), âûáîðêè èç
êîòîðîãî ìû ðàññìàòðèâàëè âûøå. Ïàðàìåòð a ìîæíî ïðåäñòà-
âèòü ñ ïîìîùüþ �óíêöèîíàëîâ "ìàòåìàòè÷åñêîå îæèäàíèå" è
"ìåäèàíà ðàñïðåäåëåíèÿ". Ïåðâûé � ýòî
T (F ) =
Z
x dF (x);
âòîðîé � ýòî T (F ) = t, ãäå t � ðåøåíèå óðàâíåíèÿ F (t) =
1
2
:
Äëÿ �óíêöèîíàëà
R
x dF (x) âû÷èñëåíèå �óíêöèè âëèÿíèÿ
íåñëîæíî: �îðìóëà (15.1.2) ñðàçó äàåò:
h(z) = z �
Z
x dF (x): (15:1:3)
Ìû âèäèì, ÷òî �óíêöèÿ âëèÿíèÿ íåîãðàíè÷åííî âîçðàñòàåò (óáû-
âàåò) ñ ðîñòîì (óáûâàíèåì) z, ÷òî è îòðàæàåò íåóñòîé÷èâîñòü ýòî-
ãî �óíêöèîíàëà ê çàñîðåíèÿì.
Ôóíêöèÿ âëèÿíèÿ äëÿ ìåäèàíû òðåáóåò íåñêîëüêî á�îëüøèõ
âû÷èñëåíèé. Îáîçíà÷èì ÷åðåç t
�
ìåäèàíó ðàñïðåäåëåíèÿ (15.1.1).
Ïðè ýòîì ìåäèàíà ðàñïðåäåëåíèÿ F ïîëó÷àåò îáîçíà÷åíèå t
0
, à
èñêîìàÿ �óíêöèÿ âëèÿíèÿ
h(z) =
�t
�
��
�
�
�
�=0
:
Òàê êàê t
�
êàê �óíêöèÿ îò � îïðåäåëÿåòñÿ íåÿâíî ñ ïîìîùüþ
óðàâíåíèÿ
t
�
: (1� �)F (t) + ��
z
(t) =
1
2
; (15:1:4)
òî è ïðîèçâîäíóþ å¼ íåîáõîäèìî èñêàòü êàê ïðîèçâîäíóþ íåÿâíîé
�óíêöèè.
Çàìåòèì, ÷òî â òî÷êå z = t
0
�óíêöèÿ âëèÿíèÿ h(z) = 0. Ïîýòî-
ìó äàëåå ðàññìîòðèì ñëó÷àé z 6= t
0
. Îáðàòèì âíèìàíèå, ÷òî äëÿ
�èêñèðîâàííîãî z è äîñòàòî÷íî ìàëûõ �
�
z
(t
�
) =
1
2
[ sign(t
0
� z) + 1 ℄:
176
Ïîäñòàâèì t = t
�
â óðàâíåíèå (15.1.4). Ïîëó÷èì òîæäåñòâî,
êîòîðîå ïðè äîñòàòî÷íî ìàëûõ � > 0 èìååò âèä:
(1� �)F (t
�
) +
�
2
[ sign(t
0
� z) + 1 ℄ =
1
2
:
Âû÷èñëèâ ïðîèçâîäíóþ ïî � è ïîëîæèâ çàòåì � = 0, ïîëó÷èì
�F (t
�
)
�
�
�
�=0
+ (1� �)F
0
(t
�
)
�t
�
��
�
�
�
�=0
+
1
2
sign(t
0
� z) +
1
2
= 0:
Îòñþäà
h(z) =
sign(z � t
0
)
2F
0
(t
0
)
; (15:1:5)
åñëè F
0
(t
0
) > 0. Ôîðìóëà âåðíà è äëÿ z = t
0
.
Ìû âèäèì, ÷òî êàê �óíêöèÿ z �óíêöèÿ âëèÿíèÿ îãðàíè÷åíà.
Ýòî îçíà÷àåò óæå çíàêîìîå íàì ñâîéñòâî ìåäèàíû: ýòîò �óíêöè-
îíàë óñòîé÷èâ ê çàñîðåíèÿì.
� 2. Ì-îöåíêè
Ìû óáåäèëèñü, ÷òî åñëè åñòü îïàñíîñòü çàñîðåíèÿ íàáëþäåíèé,
òî ëó÷øå ïîëüçîâàòüñÿ óñòîé÷èâûìè îöåíêàìè. Êàê òàêèå îöåíêè
ïîëó÷èòü? Äî ñèõ ïîð ìû ìîãëè òîëüêî, óæå èìåÿ íåêîòîðóþ îöåí-
êó, îïðåäåëèòü, óñòîé÷èâà îíà èëè íåò, íî íå ïðåäëîæèòü óñòîé÷è-
âóþ îöåíêó. Äà è âîîáùå, íàì ïîêà ÷òî èçâåñòåí òîëüêî îäèí óíè-
âåðñàëüíûé ìåòîä îöåíèâàíèÿ � ìåòîä íàèáîëüøåãî ïðàâäîïîäî-
áèÿ. (Ê ñëîâó: êàêîâû �óíêöèè âëèÿíèÿ äëÿ îöåíîê íàèáîëüøåãî
ïðàâäîïîäîáèÿ, ìû ñêîðî óçíàåì). Ñåé÷àñ ìû ââåäåì ìåòîä îöå-
íèâàíèÿ, ïðè êîòîðîì �óíêöèþ âëèÿíèÿ îöåíêè ìîæíî óêàçàòü
çàðàíåå (ïî êðàéíåé ìåðå ñ òî÷íîñòüþ äî ïîñòîÿííîãî ìíîæèòå-
ëÿ). Ýòîò ìåòîä íàçûâàåòñÿ Ì-îöåíèâàíèåì; îöåíêè, ïîëó÷åííûå
ïî ýòîìó ìåòîäó � Ì-îöåíêàìè. Äëÿ Ì-îöåíèâàíèÿ óïîìÿíóòûé
ìåòîä íàèáîëüøåãî ïðàâäîïîäîáèÿ ÿâëÿåòñÿ ÷àñòíûì ñëó÷àåì.
�àññìîòðèì ýòîò ìåòîä íà ïðèìåðå âûáîðêè x
1
; : : : ; x
n
èç ðàñ-
ïðåäåëåíèÿ ñ �óíêöèåé F (x; �) è ïëîòíîñòüþ (âåðîÿòíîñòüþ)
f(x; �), ãäå � 2 �, � � çàäàííîå îòêðûòîå ìíîæåñòâî, � � R
1
.
Èñòèííîå çíà÷åíèå ïàðàìåòðà îáîçíà÷èì ÷åðåç �
0
; �
0
2 �.
Ì-îöåíêè ââåäåì ïî àíàëîãèè ñ îöåíêàìè íàèáîëüøåãî ïðàâäî-
ïîäîáèÿ. Âñïîìíèì, ÷òî îöåíêó íàèáîëüøåãî ïðàâäîïîäîáèÿ ìîæ-
íî ðàññìàòðèâàòü êàê ðåøåíèå óðàâíåíèÿ ïðàâäîïîäîáèÿ (òî÷íåå,
177
êàê îäíî èç åãî ðåøåíèé)
1
n
n
X
i=1
l(x
i
; �) = 0; ãäå l(x; �) =
�
��
log f(x; �):
Ýòó îöåíêó ìîæíî ðàññìàòðèâàòü êàê çíà÷åíèå íà âûáîðî÷íîé
�óíêöèè F
n
�óíêöèîíàëà T , ãäå T (F ) = t � ðåøåíèå óðàâíåíèÿ
Z
l(x; t) dF (x) = 0: (15:2:1)
Äëÿ ðàñïðåäåëåíèÿ F (x; �
0
) �óíêöèîíàë T (F ) åñòü ðåøåíèå óðàâ-
íåíèÿ
Z
l(x; t )dF (x; �
0
) = 0:
Ìû óæå çíàåì, ÷òî t = �
0
ÿâëÿåòñÿ åãî ðåøåíèåì, êàêîâî áû íè
áûëî èñòèííîå çíà÷åíèå �
0
2 �. Èíà÷å ýòî ìîæíî ñêàçàòü òàê:
Z
l(x; �) dF (x; �) = 0 äëÿ âñÿêîãî � 2 �: (15:2:2)
Óðàâíåíèå (15.2.1) ñëóæèò îáðàçöîì, ïî êîòîðîìó ââîäÿò Ì-
îöåíêè: ñ ïîìîùüþ íåêîòîðîé �óíêöèè (x; t) îïðåäåëÿþò �óíê-
öèîíàë T (F ) = t êàê ðåøåíèå óðàâíåíèÿ
Z
(x; t) dF (x) = 0: (15:2:3)
Åñëè ìû õîòèì, ÷òîáû Ì-îöåíêà îöåíèâàëà èìåííî ïàðàìåòð �, òî
ïðè âûáîðå �óíêöèè (x; t), ïî ñõîäñòâó ñ (15.2.2), íàäî ïîòðåáî-
âàòü, ÷òîáû
Z
(x; �) dF (x; �) = 0 äëÿ âñåõ � 2 �: (15:2:4)
 òàêîì ñëó÷àå ñðåäè ðåøåíèé óðàâíåíèÿ
Z
(x; t) dF (x; �
0
) = 0
áóäåò è t = �
0
. Èòàê, âûáîð �óíêöèè (x; t) äîëæåí áûòü ñîãëà-
ñîâàí ñ F (x; �).
178
Äëÿ ââåäåííîé âûøå âûáîðêè èç F (x; �
0
) Ì-îöåíêà � ýòî ðå-
øåíèå óðàâíåíèÿ
n
X
i=1
(x
i
; �) = 0:
Ô ó í ê ö è ÿ â ë è ÿ í è ÿ äëÿ Ì-îöåíêè. Ôóíêöèþ çàñîðåííîãî
ðàñïðåäåëåíèÿ (15.1.1) îáîçíà÷èì ÷åðåç F
�
(x),
F
�
(x) = (1� �)F (x; �) + ��
z
(x):
Çíà÷åíèå Ì-�óíêöèîíàëà T (:) íà F
�
, ò. å. T (F
�
) = �
�
, îïðåäåëèì
êàê ðåøåíèå óðàâíåíèÿ
t :
Z
(x; t) dF
�
(x) = 0:
 ýòèõ îáîçíà÷åíèÿõ �óíêöèÿ âëèÿíèÿ h(z) =
��
�
��
�
�
�
�=0
: Êàê
óæå áûëî îäíàæäû, �
�
îïðåäåëåíà êàê íåÿâíàÿ �óíêöèÿ. Óïîìÿ-
íóòóþ ïðîèçâîäíóþ ïî � ïîëó÷èì, äè��åðåíöèðóÿ ïî � òîæäå-
ñòâî
Z
(x; �
�
) dF
�
(x) = 0
è ïåðåõîäÿ çàòåì ê ïðåäåëó ïðè �! 0. Ïðîèçâîäíàÿ ïî �:
Z
�
��
(x; �
�
)
��
�
��
dF
�
(x) +
Z
(x; �
�
)
�
��
[ dF
�
(x); ℄ = 0:
Ïîëîæèâ � = 0 è çàìåòèâ, ÷òî �
�
�
�
�
�=0
= �, F
�
(x)
�
�
�
�=0
= F , ïîëó÷èì
h(z)
Z
0
t
(x; �) dF (x; �)�
Z
(x; �) dF (x; �)+
Z
(x; �) d�
z
(x) = 0:
 ñèëó (15.2.4) ïîëó÷àåì îòñþäà, ÷òî:
h(z) =
(z; �)
�
R
0
t
(x; �) dF (x; �)
: (15:2:5)
Äëÿ îöåíêè íàèáîëüøåãî ïðàâäîïîäîáèÿ (15.2.5) äàåò:
h(z) =
�
��
log f(z; �)
i(�)
; (15:2:6)
179
èáî çäåñü
�
Z
0
t
(x; �) dF (x; �) = �
Z
�
�
2
��
2
log f(x; �)
�
dF (x; �) = i(�):
Âàæíîå ñâîéñòâî Ì-îöåíêè: å¼ �óíêöèÿ âëèÿíèÿ ëèøü ïîñòîÿí-
íûì ìíîæèòåëåì îòëè÷àåòñÿ îò (x; t). Ì-îöåíêà îêàæåòñÿ óñòîé-
÷èâîé, åñëè �óíêöèÿ (x; t) áóäåò îãðàíè÷åííîé ïî x.
� 3. Àñèìïòîòè÷åñêîå ðàñïðåäåëåíèå T (F
n
) � íà-
âîäÿùèå ñîîáðàæåíèÿ
�ëàâíûì äëÿ íàñ â ýòîì ðàçäåëå áóäåò ñâÿçü ìåæäó âûáîðî÷-
íûì �óíêöèîíàëîì T (F
n
) è åãî âåðîÿòíîñòíûì àíàëîãîì T (F ).
ßñíî, ÷òî åñëè T (:) � íåïðåðûâíûé �óíêöèîíàë, òî T (F
n
)
P
�!
T (F ), òàê êàê F
n
P
�! F ïðè n!1. Íàøà öåëü � íàéòè àñèìïòî-
òè÷åñêîå ðàñïðåäåëåíèå T (F
n
)�T (F ). Ñ èñïîëüçîâàíèåì �óíêöèé
âëèÿíèÿ ìû ïðèâåäåì ïðàâäîïîäîáíûå ñîîáðàæåíèÿ â ïîëüçó òî-
ãî, ÷òî ïðè n!1
p
n
�
T (F
n
)� T (F )
�
d
�! N(0; �
2
);
ãäå �
2
= Var IF (x
1
;T; F ).
Íà÷íåì ñî ñâÿçè �óíêöèé âëèÿíèÿ ñ äè��åðåíöèðóåìîñòüþ
�óíêöèîíàëîâ. Ïðåäïîëîæèì, ÷òî çàñîðåíèå ðàñïðåäåëåíèÿ F ñî-
ñðåäîòî÷åíî òåïåðü â íåñêîëüêèõ òî÷êàõ z
1
; z
2
; : : : ; z
p
âåñàìè
k
1
> 0; k
2
> 0; : : : ; k
p
> 0, ïðè÷åì k
1
+ k
2
+ : : :+ k
p
= 1. Èí�èíè-
òåçèìàëüíîå âëèÿíèå íà T (F ) ýòîãî çàñîðåíèÿ ðàâíî:
lim
�!0
�
�1
fT [(1��)F+�
p
X
i=1
k
i
�
z
i
℄�T (F )g=
p
X
i=1
k
i
h(z
i
)=
Z
h(x)dK(x);
åñëè ïîëîæèòü K(x) =
p
P
i=1
k
i
�
z
i
(x), K(:) � �óíêöèÿ ðàñïðåäåëå-
íèÿ çàñîðåíèé. Ïðåäïîëîæèì, ÷òî àíàëîãè÷íàÿ �îðìóëà ñïðàâåä-
ëèâà äëÿ ïðîèçâîëüíîãî ðàñïðåäåëåíèÿ çàñîðåíèé:
lim
�!0
�
�1
fT [(1� �)F + �K℄� T (F )g =
Z
h(x) dK(x): (15:3:1)
180
Ëèíåéíûé �óíêöèîíàë (15.3.1) íàçûâàþò ñëàáûì äè��åðåíöè-
àëîì (äè��åðåíöèàëîì �àòî) �óíêöèîíàëà T (:) â òî÷êå F . Çàìå-
òèì, ÷òî
Z
h(x) dF (x) = 0: (15:3:2)
×òîáû â ýòîì óáåäèòüñÿ, äîñòàòî÷íî â (15.3.1) ïîëîæèòü K = F .
Ïðåäïîëîæèì òåïåðü, ÷òî �óíêöèîíàë T (:) äè��åðåíöèðóåì â
êàêîì-ëèáî ñìûñëå.  òàêîì ñëó÷àå, åñëè G è F � äâå �óíêöèè
ðàñïðåäåëåíèÿ, òî:
T (G) = T
�
F + (G� F )
�
= T (F ) + dT +R;
ãäå dT � äè��åðåíöèàë, R � îñòàòîê, ò. å. ïåðåìåííàÿ âåëè÷è-
íà, ñòðåìÿùàÿñÿ ê íóëþ áûñòðåå, ÷åì (G�F ). Çàìåòèì, ÷òî åñëè
�óíêöèîíàë T (:) äè��åðåíöèðóåì è dT ñóùåñòâóåò, òî dT ñîâïà-
äàåò ñ äè��åðåíöèàëîì �àòî. Òàê ÷òî äëÿ äè��åðåíöèðóåìîãî
�óíêöèîíàëà T (:)
T (G) = T (F ) +
Z
h(x) d(G� F ) +R;
èëè:
T (G) = T (F ) +
Z
h(x) dG(x) +R; (15:3:3)
ïîñêîëüêó
R
h(x) dF (x) = 0, êàê óæå áûëî îòìå÷åíî. Ôîðìóëà
(15.3.3) ïðèîáðåòàåò òî÷íûé ñìûñë, åñëè ñíàáäèòü ïðîñòðàíñòâî
�óíêöèé ðàñïðåäåëåíèÿ êàêîé-ëèáî íîðìîé è ïðåäïîëîæèòü, ÷òî
ïî îòíîøåíèþ ê ýòîé íîðìå �óíêöèîíàë T (:) äè��åðåíöèðóåì (â
ñèëüíîì ñìûñëå, èëè ïî Ôðåøå). Ýòîò ïóòü îêàçûâàåòñÿ ïðîäóê-
òèâíûì ëèøü äëÿ íåìíîãèõ �óíêöèîíàëîâ èç òåõ, êîòîðûå ïðåä-
ñòàâëÿþò èíòåðåñ äëÿ ìàòåìàòè÷åñêîé ñòàòèñòèêè. Ïîýòîìó ñîîò-
íîøåíèå (15.3.3) îáû÷íî èñòîëêîâûâàþò, êàê íàâîäÿùåå, ïðè÷åì
ïðèìåíÿþò åãî ëèøü äëÿ ñîïîñòàâëåíèÿ T (F ) è T (F
n
). Ôîðìàëüíî
ïðèìåíèì (15.3.3), ïîëîæèâ G = F
n
. Ïîëó÷èì, ÷òî
T (F
n
) = T (F ) +
Z
h(x) dF
n
(x) +R
n
:
 äàííîì ñëó÷àå F
n
P
! F ñî ñêîðîñòüþ 1=
p
n ïðè n!1. Ïîýòîìó
ìîæíî îæèäàòü, ÷òî R
n
= o
P
�
1
p
n
�
. Äàëåå çàìåòèì, ÷òî
Z
h(x) dF
n
(x) =
1
n
n
X
i=1
h(x
i
):
181
Ñëó÷àéíûå âåëè÷èíû h(x
1
); h(x
2
); : : : ; h(x
n
) íåçàâèñèìû è îäèíà-
êîâî ðàñïðåäåëåíû, ïðè÷åì Eh(x
i
) = 0 â ñèëó (15.3.2). Ïðåäïîëî-
æèì, ÷òî
0 < Dh(x
1
) = Var IF (x
1
; T; F ) <1
è îáîçíà÷èì ýòó äèñïåðñèþ ÷åðåç �
2
. Òîãäà ïî öåíòðàëüíîé ïðå-
äåëüíîé òåîðåìå
1
p
n
n
X
i=1
h(x
i
)
d
�! N(0; �
2
):
Îòñþäà çàêëþ÷àåì, ÷òî ïðè n!1
p
n
�
T (F
n
)� T (F )
�
d
�! N(0; �
2
): (15:3:4)
Äëÿ äîêàçàòåëüñòâà (15.3.4) äîñòàòî÷íî ïîêàçàòü, ÷òî:
p
n
�
T (F
n
)� T (F )�
1
n
n
X
i=1
h(x
i
)
�
P
�! 0: (15:3:5)
Îáû÷íî äëÿ êîíêðåòíûõ çàäà÷ óòâåðæäåíèå (15.3.5) óäàåòñÿ äî-
êàçàòü áåç îáðàùåíèÿ ê êîíöåïöèè äè��åðåíöèðîâàíèÿ �óíêöè-
îíàëîâ â ñèëüíîì ñìûñëå. Òàê, ìåæäó ïðî÷èì, ìû è äåéñòâîâàëè
ïðèìåíèòåëüíî ê îöåíêàì ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ.
Ñïåöèàëüíî îòìåòèì çàìå÷àòåëüíîå ñâîéñòâî (15.3.4): âî âñåõ
èçâåñòíûõ ñëó÷àÿõ îöåíèâàíèÿ ýòà �îðìóëà äàåò âåðíûé ðåçóëü-
òàò. Äëÿ ïðèìåðà íàéäåì ñ ïîìîùüþ (15.3.4) àñèìïòîòè÷åñêîå âû-
ðàæåíèå äëÿ âûáîðî÷íîé ìåäèàíû �
n
(ïî âûáîðêå îáúåìà n èç
ðàñïðåäåëåíèÿ ñ �óíêöèåé F (:), ïðè÷åì äëÿ ìåäèàíû � ýòîãî ðàñ-
ïðåäåëåíèÿ âûïîëíåíî F
0
(�) > 0). Ôóíêöèÿ âëèÿíèÿ äëÿ ìåäèàíû
èçâåñòíà:
h(z) =
sign(z � �)
2F
0
(�)
:
Ôîðìóëà (15.3.4) óòâåðæäàåò, ÷òî:
p
n(�
n
� �)
d
�! N
�
0;
1
4[F
0
(�)℄
2
�
;
òàê êàê D sign(x
1
��) = 1. Ýòî � ïðàâèëüíûé ðåçóëüòàò. Äîêàçàòü
åãî ìîæíî ðàçíûìè ñïîñîáàìè, íî ìû ýòîãî äåëàòü çäåñü íå áóäåì.
182
Ëåêöèÿ 16. Êðèòåðèè ñîãëàñèÿ òèïà
Ïèðñîíà-Ôèøåðà
� 1. Òåîðåìà Ê. Ïèðñîíà
Óïîìÿíóòûå êðèòåðèè îòíîñÿòñÿ ê íåçàâèñèìûì èñïûòàíèÿì
ñ íåñêîëüêèìè èñõîäàìè è ê ãèïîòåçàì îá èõ âåðîÿòíîñòÿõ. �àñ-
ñìîòðèì íåçàâèñèìûå èñïûòàíèÿ ñ m (m � 2) èñõîäàìè. Îáî-
çíà÷èì èñõîäû ÷åðåç A
1
; A
2
; : : : ; A
m
. Âåðîÿòíîñòè ýòèõ èñõîäîâ
íåèçìåííû âî âñåõ èñïûòàíèÿõ. Îáîçíà÷èì ýòè âåðîÿòíîñòè ÷å-
ðåç p
1
; p
2
; : : : ; p
m
, ïðè÷åì
m
P
i=1
p
i
= 1. Îïèñàííûå èñïûòàíèÿ áóäåì
íàçûâàòü èñïûòàíèÿìè Áåðíóëëè (äàæå â ñëó÷àå m > 2).
Ïðåäïîëîæèì, ÷òî â n èñïûòàíèÿõ Áåðíóëëè áûëè çàðåãèñòðè-
ðîâàíû ÷àñòîòû (êîëè÷åñòâà îñóùåñòâëåíèé) �
1
; �
2
; : : : ; �
m
èñõî-
äîâ A
1
; A
2
; : : : ; A
m
; ïðè ýòîì
m
P
i=1
�
i
= n. Òåîðåìû, êîòîðûå ìû îá-
ñóäèì, êàñàþòñÿ ïðîâåðîê ãèïîòåç î ~p = (p
1
; : : : ; p
m
)
T
ïî ÷àñòîòàì
~� = (�
1
; : : : ; �
m
)
T
.
Íà÷íåì ñ ïåðâîãî êðèòåðèÿ òàêîãî ðîäà, óñòàíîâëåííîãî Ê. Ïèð-
ñîíîì (Karl Pearson) â 1900 ãîäó. (Òåîðåìó Ïèðñîíà, êîòîðàÿ áóäåò
ñ�îðìóëèðîâàíà ÷óòü ïîçæå, ìîæíî ñ÷èòàòü ïåðâîé çíà÷èòåëüíîé
òåîðåìîé ìàòåìàòè÷åñêîé ñòàòèñòèêè). Êðèòåðèé Ïèðñîíà îòíî-
ñèòñÿ ê ïðîâåðêå ïðîñòîé ãèïîòåçû î âåðîÿòíîñòÿõ:
H
0
: ~p = ~p
0
èëè, ïîäðîáíåå, H
0
: p
1
= p
0
1
; p
2
= p
0
2
; : : : ; p
m
= p
0
m
;
ãäå p
0
1
; p
0
2
; : : : ; p
0
m
� çàäàííûå ïîëîæèòåëüíûå âåðîÿòíîñòè,
m
P
i=1
p
0
i
= 1. Àëüòåðíàòèâîé ê H
0
ñëóæèò åå îòðèöàíèå
H
0
: ~p 6= ~p
0
:
Ïðàâèëî Ïèðñîíà èìååò àñèìïòîòè÷åñêèé õàðàêòåð è ìîæåò êîð-
ðåêòíî ïðèìåíÿòüñÿ ïðè ÷èñëåííîñòÿõ èñïûòàíèé n "äîñòàòî÷íî
áîëüøèõ" (÷òî ýòî îçíà÷àåò � îáñóäèì ïîçæå).
Ï ð à â è ë î Ê. Ïèðñîíà. Îòâåðãíóòü H
0
: ~p = ~p
0
íà (ïðè-
áëèæåííîì) óðîâíå " > 0, åñëè
m
X
i=1
(�
i
� np
0
i
)
2
np
0
i
> �
2
1�"
(m� 1):
183
Çäåñü �
2
1�"
(m�1) îáîçíà÷àåò (1-")-êâàíòèëü ðàñïðåäåëåíèÿ õè-
êâàäðàò ñ (m�1) ñòåïåíüþ ñâîáîäû. Âîïðîñ î òîì, êàêèå ÷èñëåííî-
ñòè n äîñòàòî÷íî âåëèêè äëÿ òîãî ÷òîáû ìîæíî áûëî îáðàùàòüñÿ ê
ýòîìó ïðàâèëó, äîâîëüíî òåìåí, íåñìîòðÿ íà äîëãóþ åãî èñòîðèþ.
Îñòîðîæíàÿ (êîíñåðâàòèâíàÿ) ðåêîìåíäàöèÿ: äîëæíû âûïîëíÿòü-
ñÿ ñîîòíîøåíèÿ np
0
i
� 5 äëÿ âñåõ i = 1;m.
Ñêàçàííîå ïðàâèëî îñíîâàíî íà àñèìïòîòè÷åñêèõ ñâîéñòâàõ
ñòàòèñòèêè Ïèðñîíà
X
2
n
:=
m
X
i=1
(�
i
� np
0
i
)
2
np
0
i
ïðè ãèïîòåçå (êîãäà èñòèííûå âåðîÿòíîñòè ~p = ~p
0
) è àëüòåðíàòèâå
(êîãäà ~p 6= ~p
0
). Íà÷íåì ñî ñëó÷àÿ ~p 6= ~p
0
. Ïåðåïèøåì X
2
n
â âèäå
X
2
n
= n
m
X
i=1
�
�
i
n
� p
0
i
�
2
=p
0
i
:
Ïî çàêîíó áîëüøèõ ÷èñåë (â äàííîì ñëó÷àå � ýòî òåîðåìà Áåð-
íóëëè)
1
n
~� �! ~p:
Ïîýòîìó
m
X
i=1
�
�
i
n
� p
0
i
�
2
=p
0
i
P
�!
m
X
i=1
(p
i
� p
0
i
)
2
p
0
i
:
Ýòîò ïðåäåë ïîëîæèòåëåí, åñëè è òîëüêî åñëè ~p 6= ~p
0
. Îòñþäà
ñëåäóåò, ÷òî ïðè àëüòåðíàòèâå ñòàòèñòèêà X
2
n
íåîãðàíè÷åííî âîç-
ðàñòàåò:
X
2
n
P
�!1 ïðè n!1:
Àñèìïòîòè÷åñêîå ïîâåäåíèå X
2
n
ïðè ãèïîòåçå ~p = ~p
0
:
Ò å î ð å ì à 16.1.1. (Karl Pearson, 1900ã. � ïðèìåðíî). Ñëó÷àé-
íàÿ âåëè÷èíà
m
X
i=1
(�
i
� np
0
i
)
2
np
0
i
d
�! �
2
(m� 1) ïðè n!1:
(Ñëó÷àéíàÿ âåëè÷èíà X
2
n
ïðè n!1 ñõîäèòñÿ ïî ðàñïðåäåëåíèþ
ê ñëó÷àéíîé âåëè÷èíå õè-êâàäðàò ñ (m� 1) ñòåïåíÿìè ñâîáîäû).
184
Òàêèì îáðàçîì, áîëüøèå çíà÷åíèÿ X
2
n
, ìàëîâåðîÿòíûå ïðè ãè-
ïîòåçå H
0
, îêàçûâàþòñÿ â îáëàñòè áîëüøèõ âåðîÿòíîñòåé ïðè àëü-
òåðíàòèâå H
0
. Íà ýòîì ñâîéñòâå X
2
n
è îñíîâàíî ïðèâåäåííîå âûøå
ïðàâèëî ïðîâåðêè ãèïîòåçû H
0
: ~p = ~p
0
.
� 2. Äîêàçàòåëüñòâî òåîðåìû Êàðëà Ïèðñîíà
Ò å î ð å ì à 16.2.1. (Ìíîãîìåðíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà).
 îïèñàííîé âûøå ñõåìå èñïûòàíèé Áåðíóëëè ñ m èñõîäàìè
p
n
�
1
n
~�� ~p
�
d
�! N(0;P � ~p~p
T
); ïðè n!1;
ãäå P = diag(p
1
; : : : ; p
m
) �äèàãîíàëüíàÿ ìàòðèöà.
Ä î ê à ç à ò å ë ü ñ ò â î. Äîêàçàòåëüñòâî ýòîé òåîðåìû ìîæíî
ïðîâåñòè ìåòîäîì õàðàêòåðèñòè÷åñêèõ �óíêöèé ïðàêòè÷åñêè òàê
æå, êàê è äîêàçàòåëüñòâî êëàññè÷åñêîé òåîðåìû Ìóàâðà-Ëàïëàñà,
êîãäà m = 2.  ýòîì ïîñëåäíåì ñëó÷àå îáû÷íî ðàññìàòðèâàþò íå
âåñü âåêòîð ÷àñòîò (äâóìåðíûé), íî ëèøü îäíó åãî êîîðäèíàòó,
èáî âòîðàÿ ïðè ýòîì ïîëíîñòüþ îïðåäåëÿåòñÿ ïåðâîé (èõ ñóììà
ðàâíà n).  ìíîãîìåðíîì ñëó÷àå ýòîò ïðèåì íå îïðàâäàí.
Ïðåäñòàâëÿåì âåêòîð ~� = (�
1
; : : : ; �
m
)
T
â âèäå ñóììû n íåçà-
âèñèìûõ è îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåêòîðîâ ~x
j
,
j = 1; n, j � íîìåð èñïûòàíèÿ. Âñå êîîðäèíàòû m-ìåðíîãî âåêòî-
ðà ~x
j
ðàâíû 0, çà èñêëþ÷åíèåì îäíîé, êîòîðàÿ ðàâíà 1. Åäèíèöà
ñòîèò íà òîì ìåñòå, íîìåð êîòîðîãî ñîîòâåòñòâóåò îñóùåñòâèâøå-
ìóñÿ â j-îì èñïûòàíèè èñõîäó èç ðÿäà A
1
; : : : ; A
m
. ßñíî, ÷òî
~� =
n
X
j=1
~x
j
è ÷òî ñëó÷àéíûå âåêòîðû ~x
1
; : : : ; ~x
j
; : : : íåçàâèñèìû è îäèíàêî-
âî ðàñïðåäåëåíû. Ñîãëàñíî öåíòðàëüíîé ïðåäåëüíîé òåîðåìå äëÿ
íåçàâèñèìûõ è îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ ñëàãàåìûõ,
ïðè n!1
1
p
n
n
X
j=1
(~x
j
�E~x
j
)
d
�! N(0;�);
ãäå � = E~x
j
~x
T
j
� (E~x
j
)(E~x
j
)
T
:
185
Î÷åâèäíûé ïîäñ÷åò äàåò E~x
j
= ~p; D~x
j
= P � ~p~p
T
: �
Çàìåòèì, ÷òî ìàòðèöà P � ~p~p
T
âûðîæäåíà. ż ðàíã ðàâåí
(m�1). Åñëè áû íå ýòî îáñòîÿòåëüñòâî, ïðåäåëüíîå ðàñïðåäåëåíèå
õè-êâàäðàò äëÿ íîðìû âåêòîðà
�
n
d
�! N(0; B)
ìû ìîãëè áû ïîëó÷èòü íåìåäëåííî. Èáî î÷åâèäíî, ÷òî
�
T
n
B
�1
�
n
d
�! �
2
(m):
Ä î ê à ç à ò å ë ü ñ ò â î òåîðåìû Êàðëà Ïèðñîíà. Ââåäåì â
ðàññìîòðåíèå âåêòîð
�
n
:=
p
nP
�1=2
�
1
n
~�� ~p
�
:
Ëåãêî âèäåòü, ÷òî ïðè n!1
�
n
d
�! N(0; I � zz
T
);
ãäå I � åäèíè÷íàÿ ìàòðèöà, z = (
p
p
1
;
p
p
2
; : : : ;
p
p
m
)
T
.
Ââåäåì îðòîãîíàëüíóþ ìàòðèöó V , ïåðâàÿ ñòðîêà êîòîðîé åñòü
(
p
p
1
;
p
p
2
; : : : ;
p
p
m
), à ïðî÷èå ñòðîêè ïðîèçâîëüíû. Çàìåòèì, ÷òî
ïðè n!1
V �
n
d
�! N(0; I
1
);
ãäå I
1
� ìàòðèöà (m�m), êîòîðàÿ ïîëó÷åíà èç åäèíè÷íîé çàìåíîé
ëåâîé âåðõíåé åäèíèöû íóëåì:
I
1
=
0
B
B
B
�
0 0 : : : 0
0 1 : : : 0
.
.
.
.
.
.
.
.
.
.
.
.
0 0 : : : 1
1
C
C
C
A
:
Ýòî äîêàçûâàåò ïðîñòàÿ âûêëàäêà:
D(V �
n
) = V (D�
n
)V
T
= V (I � zz
T
)V
T
=
V V
T
� (V z)(V z)
T
= I �
0
B
B
B
�
1 0 : : : 0
0 0 : : : 0
.
.
.
.
.
.
.
.
.
.
.
.
0 0 : : : 0
1
C
C
C
A
;
186
èáî V z = (1; 0; : : : ; 0)
T
. Òåïåðü
j�
n
j
2
=
m
X
i=1
�
1
p
p
i
p
n
�
1
n
�
i
� p
i
�
�
2
=
m
X
i=1
(�
i
� np
i
)
2
np
i
;
à òàêæå
j�
n
j
2
= jV �
n
j
2
d
�! jN(0; I
1
)j
2
= �
2
(m� 1):
Çäåñü ÷åðåç jN(0; I
1
)j
2
ìû îáîçíà÷èëè êâàäðàò äëèíû, ò. å. ñóììó
êâàäðàòîâ êîîðäèíàò ãàóññîâñêîãî âåêòîðà
(0; �
2
; : : : ; �
m
)
T
;
ãäå �
2
; : : : ; �
m
ñóòü íåçàâèñèìûå ñòàíäàðòíûå ãàóññîâñêèå ñëó÷àé-
íûå âåëè÷èíû N(0; 1). Ïî îïðåäåëåíèþ,
�
2
2
+ : : :+ �
2
m
= �
2
(m� 1): �
� 3. Ñëîæíûå ãèïîòåçû
Çäåñü ìû ðàññìîòðèì ãèïîòåçû î ~p âèäà
H : ~p 2 Q;
ãäå Q � íåêîòîðîå çàäàííîå ãëàäêîå ìíîãîîáðàçèå, ïðèíàäëåæà-
ùåå ñèìïëåêñó f~p :
m
P
i=1
p
i
; p
1
� 0; : : : ; p
m
� 0g. "�ëàäêîå" çäåñü
îçíà÷àåò, ÷òî â êàæäîé òî÷êå ~p 2 Q ñóùåñòâóåò êàñàòåëüíîå ëè-
íåéíîå ìíîãîîáðàçèå. �àçìåðíîñòü ~p îáîçíà÷èì ÷åðåç r.
Ò å î ð å ì à 16.3.1. (J. Neyman, E. Pearson, 1928). Ïðè n!1
min
~p2Q
m
X
i=1
(�
i
� np
i
)
2
np
i
d
�! �
2
(m� r � 1): (16:3:1)
Çàìåòèì, ÷òî ïðè âû÷èñëåíèè ñòàòèñòèêè èç (16.3.1) îáû÷íî
íàõîäÿò è òî çíà÷åíèå ~p 2 Q, ïðè êîòîðîì äîñòèãàåòñÿ ìèíèìóì â
(16.3.1). Ýòî ìèíèìèçèðóþùåå çíà÷åíèå ÷àñòî íàçûâàþò îöåíêîé
~p 2 Q, ïîëó÷åííîé ïî "ìåòîäó ìèíèìóìà õè-êâàäðàò".
Äðóãàÿ �îðìóëèðîâêà òîé æå òåîðåìû âîçíèêàåò, êîãäà ìíî-
ãîîáðàçèå Q çàäàíî ïàðàìåòðè÷åñêè, ò.å. êîãäà ãèïîòåçà ~p 2 Q
ïðåäñòàâèìà â âèäå
~p = ~p (�);
187
ãäå � � r-ìåðíûé ïàðàìåòð. Ïóñòü
^
�
n
� îöåíêà íàèáîëüøåãî ïðàâ-
äîïîäîáèÿ äëÿ íåèçâåñòíîãî �, îñíîâàííàÿ íà ÷àñòîòàõ �
1
; : : : ; �
m
.
(Ëèáî èíàÿ îöåíêà, íî ñ òåìè æå àñèìïòîòè÷åñêèìè ñâîéñòâàìè,
÷òî è
^
�
n
). Òîãäà ñïðàâåäëèâà
Ò å î ð å ì à 16.3.2. Ïðè n!1
m
X
i=1
�
�
i
� np
i
(
^
�)
�
2
np
i
(
^
�)
d
�! �
2
(m� r � 1): (16:3:2)
Ýòè òåîðåìû è äðóãèå, ïîäîáíûå, ÷àñòî ñâÿçûâàþò ñ èìåíåì
�. Ôèøåðà (R.A. Fisher). Ôèøåð äåéñòâèòåëüíî áûë ïåðâûì, êòî
çàìåòèë óìåíüøåíèå ÷èñëà ñòåïåíåé ñâîáîäû ïðåäåëüíîãî ðàñïðå-
äåëåíèÿ õè-êâàäðàò, êîãäà ïàðàìåòðû îöåíèâàþòñÿ ïî âûáîðêå, è
ðîâíî íàñòîëüêî, ñêîëüêî íåçàâèñèìûõ ïàðàìåòðîâ ïðèøëîñü îöå-
íèòü. Îí îáíàðóæèë ýòî ïðè ïðîâåðêå ãèïîòåçû î íåçàâèñèìîñòè
ïðèçíàêîâ â òàáëèöàõ ñîïðÿæåííîñòè. Ìû áóäåì ãîâîðèòü îá ýòîì
â x 4.
À ñåé÷àñ, ÷òîáû îêîí÷èòü, ñ�îðìóëèðóåì ïðàâèëî ïðîâåðêè
H : ~p 2 Q, îñíîâàííîå íà ïðèâåäåííûõ âûøå òåîðåìàõ. À òàêæå
íà òîì �àêòå, ÷òî ñòàòèñòèêè (16.3.1) èëè (16.3.2) íåîãðàíè÷åííî
âîçðàñòàþò ïðè n!1, åñëè èñòèííîå çíà÷åíèå ~p =2 Q.
Ïðàâèëî ïðîâåðêè H : ~p 2 Q ïðîòèâ H : ~p =2 Q.
� Îòâåðãàåì H íà (ïðèáëèæåííîì) óðîâíå " > 0, åñëè ñòà-
òèñòèêà (16.3.1) èëè (16.3.2) ïðåâîñõîäèò �
2
1�"
(m � r � 1) �
(1�")-êâàíòèëü ðàñïðåäåëåíèÿ õè-êâàäðàò ñ (m� r � 1) ñòå-
ïåíÿìè ñâîáîäû.
Ýòî ïðàâèëî ïðèìåíèìî äëÿ "äîñòàòî÷íî áîëüøèõ n". Îñòî-
ðîæíàÿ (êîíñåðâàòèâíàÿ) ïðàêòè÷åñêàÿ ðåêîìåíäàöèÿ: �
i
� 5.
(Âïðî÷åì, ðàçíûå àâòîðû ãîâîðÿò íåñêîëüêî ðàçëè÷íîå íà ýòó òå-
ìó).
� 4. Òàáëèöû ñîïðÿæåííîñòè
Ïðåäïîëîæèì, ÷òî êàæäûé îáúåêò íåêîòîðîé (áåñêîíå÷íîé) ñî-
âîêóïíîñòè ìîæåò áûòü êëàññè�èöèðîâàí ïî äâóì ïðèçíàêàì A è
B. Ïðèçíàê A ïðè ýòîì èìååò r çíà÷åíèé, ïðèçíàê B � s çíà÷å-
íèé, ñîîòâåòñòâåííî A
1
; : : : ; A
r
è B
1
; : : : ; B
s
. Êàæäûé îáúåêò îá-
ëàäàåò íåêîòîðîé êîìáèíàöèåé A
i
B
j
çíà÷åíèé ïðèçíàêîâ A è B,
ãäå i = 1; r; j = 1; s.
188
Ïóñòü p
ij
îáîçíà÷àåò âåðîÿòíîñòü òîãî, ÷òî íàóäà÷ó âçÿòûé
îáúåêò îáëàäàåò êîìáèíàöèåé ïðèçíàêîâ A
i
B
j
. Ïóñòü �
ij
� ýòî
÷èñëî êîìáèíàöèé A
i
B
j
, çàðåãèñòðèðîâàííîå ïðè ñëó÷àéíîì âû-
áîðå n îáúåêòîâ èç ãåíåðàëüíîé ñîâîêóïíîñòè (�
ij
� âûáîðî÷íûå
÷àñòîòû). Òàáëèöó ÷àñòîò k�
ij
; i = 1; r; j = 1; sk íàçûâàþò òà-
áëèöåé ñîïðÿæåííîñòè ïðèçíàêîâ A è B. Âàæíàÿ ñòàòèñòè÷åñêàÿ
ãèïîòåçà � ãèïîòåçà î íåçàâèñèìîñòè ïðèçíàêîâ A è B. Â ýòîì
ñëó÷àå äëÿ âñåõ i = 1; r; j = 1; s
p
ij
� P fA
i
B
j
g = P fA
i
gP fB
j
g:
Âåðîÿòíîñòü ïîÿâëåíèÿ A
i
è âåðîÿòíîñòü ïîÿâëåíèÿ B
j
îáîçíà-
÷èì ÷åðåç p
i�
è p
�j
ñîîòâåòñòâåííî. Ïðè ýòîì
p
i�
=
s
X
j=1
p
ij
; p
�j
=
r
X
i=1
p
ij
:
�èïîòåçà î íåçàâèñèìîñòè ïðèçíàêîâ òåïåðü ìîæåò áûòü âûðàæå-
íà òàê:
H : p
ij
= p
i�
p
�j
äëÿ âñåõ i = 1; r; j = 1; s:
Êàæäîå èçâëå÷åíèå îáúåêòà èç ãåíåðàëüíîé ñîâîêóïíîñòè �
ýòî èñïûòàíèå Áåðíóëëè, êîòîðîå îêàí÷èâàåòñÿ îäíèì èç m = rs
èñõîäîâA
i
B
j
. Ïðè ãèïîòåçåH : p
ij
= p
i�
p
�j
âåðîÿòíîñòè ýòèõ èñõî-
äîâ âûðàæàþòñÿ ÷åðåç ïàðàìåòðû p
i�
, p
�j
. Ïîýòîìó âåêòîð âåðîÿò-
íîñòåé (â äàííîì ñëó÷àå � ìàòðèöà ~p = kp
ij
k ðàçìåðà (r�s)) ïðè-
íàäëåæèò (r + s� 2)-ìåðíîìó ìíîãîîáðàçèþ. (�àçìåðíîñòü èìåí-
íî r + s � 2, òàê êàê ïàðàìåòðû ïîä÷èíÿþòñÿ ñâÿçÿì
r
P
j=1
p
i�
= 1,
s
P
i=1
p
�j
= 1).
Ïîñêîëüêó ìû èìååì äåëî ñ èñïûòàíèÿìè Áåðíóëëè è ãèïîòå-
çîé î âåðîÿòíîñòÿõ â ýòèõ èñïûòàíèÿõ, ìû ìîæåì âîñïîëüçîâàòüñÿ
ðåçóëüòàòàìè ïàðàãðà�à 2. Äëÿ ýòîãî íàéäåì îöåíêè íàèáîëüøåãî
ïðàâäîïîäîáèÿ äëÿ p
i�
è p
�j
, è çàòåì ïðèìåíèì òåîðåìó 16.3.2.
Ïðàâäîïîäîáèå kp
ij
k, îñíîâàííîå íà òàáëèöå k�
ij
k, ðàâíî
n!
r
Y
i=1
s
Y
j=1
1
(�
ij
)!
(p
ij
)
�
ij
:
189
Ïðè ãèïîòåçå íåçàâèñèìîñòè ïðàâäîïîäîáèå óïðîùàåòñÿ: ïðàâ-
äîïîäîáèå k p
i�
; p
�j
; i = 1; r; j = 1; s k ðàâíî
Const
r
Y
i=1
(p
i�
)
�
i�
s
Y
j=1
(p
�j
)
�
�j
;
ãäå �
i�
=
s
P
j=1
�
ij
, �
�j
=
r
P
i=1
�
ij
, Const îçíà÷àåò ìíîæèòåëü, íå
ñîäåðæàùèé ïàðàìåòðîâ p
i�
, p
�j
(è ïîýòîìó íå âëèÿþùèé íà îöåíêè
íàèáîëüøåãî ïðàâäîïîäîáèÿ).
Äàëåå ëåãêî íàõîäèì îöåíêè íàèáîëüøåãî ïðàâäîïîäîáèÿ:
p
i�
=
�
i�
n
; p
�j
=
�
�j
n
äëÿ i = 1; r; j = 1; s:
Ñòàòèñòèêà X
2
n
èç òåîðåìû 16.3.2 çäåñü
X
2
n
=
r
X
i=1
s
X
j=1
�
�
ij
� n
�
i�
n
�
�
�j
n
�
2
n
�
i�
n
�
�
�j
n
:
Ïðè ãèïîòåçå î íåçàâèñèìîñòè ïðèçíàêîâ
X
2
n
d
�! �
2
�
(r � 1)(s� 1)
�
;
èáî rs� (r + s� 2)� 1 = (r � 1)(s� 1).
�èïîòåçó î íåçàâèñèìîñòè ïðèçíàêîâ ñëåäóåò îòâåðãàòü, åñëè
íàáëþäåííîå (âû÷èñëåííîå) çíà÷åíèå ñòàòèñòèêè X
2
n
ñëèøêîì âå-
ëèêî. Òî÷íåå: ãèïîòåçó î íåçàâèñèìîñòè ïðèçíàêîâ A è B ñëåäóåò
îòâåðãíóòü íà óðîâíå ", åñëè ñòàòèñòèêà X
2
n
ïðåâîñõîäèò (1 � ")-
êâàíòèëü ðàñïðåäåëåíèÿ õè-êâàäðàò ñ (r�1)(s�1) ñòåïåíÿìè ñâî-
áîäû.
Ç à ä à ÷ à. Ñîãëàñíî ãèïîòåçå Ô. Áåðíøòåéíà, íàëè÷èå ó ëþäåé
÷åòûðåõ ãðóïï êðîâè O (I ãðóïïà), A (II ãðóïïà), B (III ãðóïïà)
è AB (IV ãðóïïà) âûçâàíî òðåìÿ ãåíàìè A, B è O, ïðè÷åì A è B
äîìèíèðóþò íàä O. Åñëè èíäèâèäóóì èìååò ãåííóþ ïàðó OO, åãî
êðîâü îòíîñèòñÿ ê ãðóïïå O; ãåííûå ïàðû AO è AA ïðèâîäÿò ê
ãðóïïå êðîâè A; ïàðû BO è BB � ê ãðóïïå B. Íàêîíåö, ãåííàÿ
ïàðà AB ïðèâîäèò ê ãðóïïå AB. Èç ïîïóëÿöèè ñëó÷àéíî âûáðà-
íà áîëüøàÿ ãðóïïà èñïûòóåìûõ è ó êàæäîãî îïðåäåëåíà ãðóïïà
êðîâè. Òàê ïîëó÷åíû ÷àñòîòû äëÿ ãðóïï êðîâè O, A, B è AB â âû-
áîðêå. Êàê ïî ýòèì ÷àñòîòàì ìîæíî ïðîâåðèòü ãåííóþ ãèïîòåçó
Áåðíøòåéíà?
190
Ñïèñîê ëèòåðàòóðû
[1℄ Áåëÿåâ Þ.Ê., Íîñêî Â.Ï. Îñíîâíûå ïîíÿòèÿ è çàäà÷è ìàòå-
ìàòè÷åñêîé ñòàòèñòèêè. � Ì.: èçä-âî Ì�Ó, 1998.
[2℄ Áèêåë Ï., Äîêñàì Ê. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà. Âûï. 1 è 2:
ïåð. ñ àíãë. � Ì.: Ôèíàíñû è ñòàòèñòèêà, 1983. � 278 ñ. è 254 ñ.
[3℄ Èâ÷åíêî �.Í., Ìåäâåäåâ Þ.È. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà:
Ó÷åáíîå ïîñîáèå äëÿ âòóçîâ. � Ì.: Âûñø. øê., 1992. � 304 ñ.
[4℄ ×èáèñîâ Ä.Ì., Ïàãóðîâà Â.È. Çàäà÷è ïî ìàòåìàòè÷åñêîé ñòà-
òèñòèêå. � Ì.: èçä-âî Ì�Ó, 1990.
[5℄ Øèðÿåâ À.Í. Âåðîÿòíîñòü. � Ì.: Íàóêà, 1989. �576 ñ.
Äîïîëíèòåëüíàÿ ëèòåðàòóðà
[1℄ Áîëüøåâ Ë.Í., Ñìèðíîâ Í.Â. Òàáëèöû ìàòåìàòè÷åñêîé ñòà-
òèñòèêè. � Ì.: Íàóêà, 1983. � 416 ñ.
[2℄ Áîðîâêîâ À.À. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà. � Íîâîñèáèðñê.:
Íàóêà, èçä-âî Èíñòèòóòà ìàòåìàòèêè, 1997. � 772 ñ.
[3℄ Âåðîÿòíîñòü è ìàòåìàòè÷åñêàÿ ñòàòèñòèêà: Ýíöèêëîïåäèÿ.
/�ë. ðåä. Þ.Â. Ïðîõîðîâ � Ì.: Áîëüøàÿ �îññèéñêàÿ ýíöèê-
ëîïåäèÿ, 1999. � 910 ñ.
[4℄ Ëåìàí Ý. Òåîðèÿ òî÷å÷íîãî îöåíèâàíèÿ: Ïåð. ñ àíãë.
Þ.Â. Ïðîõîðîâà. � Ì.: Íàóêà, 1991. � 448 ñ.
[5℄ �àî Ñ.�. Ëèíåéíûå ñòàòèñòè÷åñêèå ìåòîäû è èõ ïðèìåíåíèÿ:
ïåð. ñ àíãë. � Ì.: Íàóêà, 1968. � 548 ñ.
[6℄ Õàìïåëü Ô., �îí÷åòòè Ý., �àóññåó Ï., Øòàýëü Â. �îáàñòíîñòü
â ñòàòèñòèêå. Ïîäõîä íà îñíîâå �óíêöèé âëèÿíèÿ: Ïåð. ñ àíãë.
ïîä ðåä. Â.Ì. Çîëîòàðåâà. � Ì.: Ìèð, 1989. � 512 ñ.
191
Òþðèí Þðèé Íèêîëàåâè÷
Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà.
Çàïèñêè ëåêöèé.
Ì.: Èçä-âî ÖÏÈ ìåõàíèêî-ìàòåìàòè÷åñêîãî
�àêóëüòåòà Ì�Ó, 2003. � 192 ñ.
Ïîäïèñàíî â ïå÷àòü . .2003 ã.
Ôîðìàò 60� 90 Îáúåì 12 ï.ë.
Çàêàç Òèðàæ 600 ýêç.
Èçäàòåëüñòâî Öåíòðà ïðèêëàäíûõ èññëåäîâàíèé ïðè
ìåõàíèêî-ìàòåìàòè÷åñêîì �àêóëüòåòå Ì�Ó.
Ëèöåíçèÿ íà èçäàòåëüñêóþ äåÿòåëüíîñòü ÈÄ Â04059
îò 20.02.2001
Îòïå÷àòàíî ñ îðèãèíàë-ìàêåòà íà òèïîãðà�ñêîì
îáîðóäîâàíèè ìåõàíèêî-ìàòåìàòè÷åñêîãî �àêóëüòåòà
è Ôðàíêî-ðóññêîãî öåíòðà èì. À.Ì. Ëÿïóíîâà.
192