Файл: Лекции (Теория вероятности).pdf

~

~

)

~

~x

µ(X

n

µ

b

, значения b которой для любой выборки

n удовлетворяют условию

L(~x

~

~

;µ) = maxL(~x

;µ);

(15.2)

n

b

µ~2£

n

~

т.е. для выборки функция правдоподобия, как функция аргумента µ, достигает максимума.

~

~

Если функция L(~xn;µ) дифференцируема как функция аргумента µ при любом значении ~xn

из множества

~

и максимум L ~x

~

Xn

значений случайной выборки X

n

;µ достигается во внутрен-

b

n

ней точке из £, то значение точечной оценки максимального правдоподобия в случае скалярного

¡

¢

параметра удовлетворяет уравнению (необходимому условию экстремума)

@L ~xn;µ

= 0; или

@ lnL ~xn;µ

= 0;

(15.3)

¡@µ

¢

@µ

¢

¡

упрощается.

~

;:::;µr), то

Если распределение случайной величины X зависит от вектора параметров µ = (µ1

второе из уравнений (15.3) заменяется системой уравнений

¡k

¢

@ lnL ~xn

;µ

= 0; k =

(15.4)

@µ

1;r:

~

~

;:::;µr.

мейств распределений p x;µ уравнение правдоподобия имеет единственное решение µ = µ1

Во многих случаях

решение системы (15.4), являющейся, как правило, нелинейной, приходится

¡

¢

b b

b

искать численными методами.

~

случайная выборка из N(µ1

2

Пример 15.3 Пусть Xn

;µ2). Методом максимального правдоподо-

~

бия найдем оценку вектора параметров µ = (µ1;µ2).

В этом случае функция правдоподобия

1

1

n

~

2

L X

;µ

;µ

=

exp

³¡

(X

µ

)

´

¡

n

1

2

µ2p2¼

¢

n

2µ22

i=1

i ¡

1

и, как следствие,

¢

¡

X

n

¡

¢

p

1

Xi

2

= ¡nln 2¼ ¡ nlnµ2 ¡ 2µ22

lnL ~xn;µ1;µ2

(xi ¡ µ1) :

=1

состоять из двух уравнений:

@

1

n

n

>

X

>

lnL =

2

(xi

¡

µ1) = 0;

8

@µ1

µ2 i=1

>

@

n

1

Xi

2

>

>

>

@µ2 lnL = ¡µ2

+ µ3

(xi ¡ µ1) = 0:

<

:

2

=1

Решая систему, получаем

1

n

1

n

b

Xi

b

X

= n

µ1

xi;

µ

22 = n

(xi ¡ x)2:

=1

i=1

1

n

X =

Xi

n

Xi

=1

и выборочная дисперсия

1

n

~

Xi

2

2

¾

(Xn) =

n

=1(Xi ¡ X)

: #

b

1

¡(p) = Z0

tp¡1e¡t dt;

а B(x;y) бета-функцию, определяемую формулой

up¡1(1 ¡ u)q¡1 du:

B(p;q) = ¡(p + q)

= Z0

¡(p)¡(q)

1

Определение 16.1 Случайную величину с плотностью

p(x) = 8

1

xm=2¡1e¡x=2; x > 0;

2m=2¡(m=2)

<

0;

x

0;

:

имеющей

распределение

6

2

(хи-квадрат) или

Â

2

-

называют случайной величиной,

Â

распределение с m степенями свободы.

Определение 16.2 Случайную величину с плотностью

p(x) = p

1 ¡((m + 1)=2)

1

;

¡1 < x < 1;

¡(m=2)

(1 + x2=m)m=2

¼m

8

³

n

´

n=2

n

¡1

m

x 2

; x > 0;

n+m

p(x) =

> B

n ; m

nx

2

>

2

2

1 +

>

>

m

>

³

´

<

³

´

>

0;

x < 0;

>

соотношение

1

Fp(n;m) =

:

Справедливы следующие теоремы.

F1¡p(m;n)

Теорема 16.1 Пусть (X ;:::;X ) выборка из распределения

N

(¹;¾2). Тогда выборочное среднее

n

1

n

n

1

2

~

1

2

X =

n

=1 Xi и исправленная выборочная дисперсия S

(Xn) =

n

1

=1(Xi ¡ X)

независимы; при

iP

p

¡

iP

этом случайная величина

n

(X ¡ ¹)

имеет стандартное нормальное распределение, случайная

p

(

¡ ¹)

¾

величина

n

X

распределение Стьюдента с

n

¡

1

степенью свободы, а случайная величина

~

~

S(Xn)

(n ¡ 1)S

2

Â2

n

1

(Xn)

-распределение с

¡

степенью свободы.

¾2

1

n

1

n

2

~

2

X =

n

=1 Xi; S

(Xn) =

n

¡

1

=1(Xi ¡ X)

;

Xi

Xi

1

m

1

m

2

~

2

Y =

m

=1 Yi; S

(Yn) =

m

¡

1

=1

(Yi ¡ Y )

:

2

~

Xi

Xi

Тогда случайная величина

S

(Xn)

имеет распределение Фишера с числом степеней свободы n ¡ 1

2

~

и m ¡ 1.

S

(Yn)

~

случайная выборка объема n из генеральной совокупности X с функцией распре-

Пусть Xn

деления F

x;µ , зависящей от параметра µ, значение которого неизвестно. Предположим, что для

~

~

~

~

µ построен интервал µ(X ); µ(X )

, где µ(X ) и µ(X ) являются функциями случайной

параметра¡

¢

n

n

n

n

выборки

~

, такими, что

выполняется равенство

Xn

¡

¢

~

~

(16.1)

P µ(Xn) < µ < µ(Xn) = °:

В этом случае интервал

~

~

µ(Xn); µ(Xn) называют интервальной оценкой для параметра µ с

коэффициентом

доверия ° (или, сокращенно, °-доверительной интервальной оценкой), а

¡

¢

~

~

µ(Xn) и µ(Xn) соответственно нижней и верхней границами интервальной оценки.

Интервальная оценка

~

~

µ(Xn); µ(Xn) представляет собой интервал со случайными границами,

вероятностью ° накрывает неизвестное истинное значение параметра µ. Таким

который с заданной

¡

¢

~

образом, для различных реализаций случайной выборки Xn, т.е. для различных элементов выбороч-

~

~

ного пространства Xn, статистики µ(Xn) и µ(Xn) могут принимать различные значения. Более

того, согласно (16.1), существует подмножество K ½ Xn, такое, что если ~xn 2 K, то µ 2=

µ(~xn);

µ

(~xn) .

Вероятностной характеристикой точности оценивания параметра

µ

является

случайная величина

¡

¢

~

~

~

l(Xn) = µ(Xn) ¡ µ(Xn);

~

µ(~xn); µ(~xn) .

которая для любой реализации ~xn случайной выборки Xn есть длина интервала

µ(~x );

(~x

)

параметра µ с коэффи-

µ

Интервал

n

n

называют доверительным интервалом для

¡

¢

циентом

доверия ° или °-доверительным интервалом.

¡

¢

½¡ 1¡®

¾

p

1¡®¾

¡

P u

X

¡ ¹

< u

= 1

2®;

<

n

u

уровня 1

® стандартного нормального распределения. Умножая все части

где 1¡® квантиль

¾

¡

двойного неравенства на ¡p

, а затем прибавляя

X

, получим

n

= 1 ¡ 2®;

P½X ¡ pnu1¡® < ¹ < X + pnu1¡®¾

¾

¾

¾

¾

т.е. случайный интервал

X ¡ p

u1¡®;X + p

u1¡®

накрывает неизвестное математическое ожи-

n

n

дание

¹

с необходимой

доверительной вероятностью 1

2®.

³

´

¡

~

~

~

S(Xn)

~

S(Xn)

¹(Xn) = X ¡

p

t1¡®(n ¡ 1); ¹(Xn) = X +

p

t1¡®(n ¡ 1):

n

n

~

~

2

Пусть Xn2= (X1

;:::;Xn) и Yn = (Y1

;:::;Ym) две независимые выборки из распределений N(¹1;¾1)

и N(¹2;¾2) соответственно,

1

n

1

n

=

X

=

Xi

X

Xi;

Y

Yi:

n

n

i=1

=1

Нетрудно показать, что случайная величина

(

¡

) ¡ (¹1 ¡ ¹2)

X

Y

¾2

¾2

r

1

2

+

n

m

имеет распределение N(0;1). Поэтому

8

<

(

¡

) ¡ (¹1 ¡ ¹2)

< u

9

P

u

X

Y

= 1 ®;

>

1

2

>

<

=

>¡

1¡®=2

¾2

¾2

1¡®=2

>

¡

>

r

>

>

>

:

+

;

n

m

¾2

¾2

двойного неравенства на ¡r

1

2

+

, а затем прибавляя X ¡ Y , получим

n

m

P

(X ¡ Y ¡ r

< X ¡ Y + r

u1¡®)

= 1 ¡ 2®;

n

+ m u1¡® < ¹1 ¡ ¹2

n1

+ m

¾2

¾2

¾2

¾2

1

2

2

¾2

¾2

¾2

¾2

т.е. случайный интервал ÃX ¡ Y ¡ r

1

2

1

2

u1¡®! накрывает неизвест-

+

u1¡®;X ¡ Y + r

+

n

m

n

m

~

~

;2:::;Ym) две независимые выборки из распределений N(¹1;¾

2

Пусть Xn2= (X1;:::;Xn) и Yn = (Y1

)

и N(¹2;¾ ) соответственно, ¹2 и ¾

неизвестны. Обозначим

1

n

1

n

X

2

~

Xi

2

¡

X =

n

i=1 Xi; S

(Xn) =

n 1

=1(Xi ¡ X)

;

1

m

1

m

X

2

~

Xi

2

¡

Y =

m

i=1 Yi; S

(Yn) =

m 1

=1(Yi ¡ Y )

:

Можно показать, что случайная величина

r

(

¡

) ¡ (¹1 ¡ ¹2)

mn(m + n

2)

X

Y

¡

m + n

q(n ¡ 1)S

2

~

2

~

(Xn) + (m ¡ 1)S

(Yn)

имеет распределение Стьюдента с m + n ¡ 2 степенями свободы. Поэтому

P8 t1¡®(m + n

(

¡

) ¡ (¹1 ¡ ¹2)

2)9= 1

mn(m + n ¡ 2)

2) <

X

Y

< t1¡®(m + n

2®;

¡

r

m + n

¡

¡

<

¡

(n

2

~

2

~

=

¡

1)S

(Xn) + (m

¡

1)S

(Yn)

:

q

;

2

~

2

~

¡

(m + n)((n ¡ 1)S

(Xn) + (m ¡ 1)S

(Yn))

mn(m + n

¡

2)

~

~

~ ~