Файл: Е.Н. Грибанов Теория вероятностей и математическая статистика. Методические указания для студентов всех специальностей.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 03.06.2024
Просмотров: 268
Скачиваний: 0
63
Основная идея метода наименьших квадратов в приложении к оцениванию параметров сводится к тому, чтобы в качестве оценки неизвестного параметра принимать значение, которое минимизирует сумму квадратов отклонений между оценкой и параметром для всех наблюдений. То есть находится минимум функции
F = n (Θ − Θ)(X i ))2 .
∑
i =1
Если исходная случайная величина имеет нормальный закон распределения, то метод максимального правдоподобия и метод наименьших квадратов дают одинаковые результаты.
Особенно часто метод наименьших квадратов применяется в задачах выравнивания или сглаживания. Пусть в результате наблюдений получен ряд точек с координатами(x1; y1),(x2; y2),K,(xn; yn).
Если заранее известно, что зависимость между переменными имеет вид y = f x;a1;a2 , то необходимо определить числовые парамет-
ры a1 ,a2 , которые наилучшим образом, в смысле наименьших квадратов, описывали бы зависимость, полученную при наблюде-
нии. То есть найти минимум функции n (yi
F = ∑
i =1
∂F∂a
Для этого нужно решить систему уравнений 1
∂F∂a 2
−f (xi ;a1;a2 ))2 .
=0 ;
= 0.
Пример 41. Найти методом наименьших квадратов коэффициенты линейной зависимости y = ax +b по полученным эмпириче-
ским точкам с координатами (x1; y1), (x2 ; y2 ),K,(xn ; yn ). Реше-
ние. Функция F
|
∂F |
= −2 |
n |
(yi |
|
|
∂a |
∑ |
|||
|
|
i =1 |
|
||
|
∂F |
|
n |
|
|
|
|
|
|||
= −2 |
∑(yi |
||||
|
∂b |
||||
|
|
i =1 |
|
n
имеет вид F = ∑(yi −axi −b)2 система уравнений i=1
− ax i − b)xi = 0 ;
или
− ax i − b)= 0.
64
n |
n |
|
|
∑ yi xi − a ∑ |
|
|
|
i =1 |
i =1 |
||
n |
n |
|
|
∑ yi − a ∑xi |
|
i =1 |
i =1 |
xi2 |
n |
|
− b ∑xi |
= 0; |
|
|
i =1 |
|
− nb = 0.
Выражая из второго уравнения
|
1 |
n |
n |
|
|
b имеем b = |
|
|
∑ yi −a ∑ xi , |
||
|
|||||
|
n i=1 |
i=1 |
|
подставляя в первое получим
|
n |
|
n |
n |
|
|
n ∑yi xi |
− ∑xi ∑yi |
|||
Отсюда a = |
i=1 |
|
i=1 |
i=1 |
|
n |
|
|
2 |
||
|
|
|
n |
||
|
n ∑ x2 |
− |
∑x |
||
|
i=1 |
i |
|
|
i |
|
|
i=1 |
|
n |
n |
n |
n |
n |
2 |
=0. |
n∑y x |
−an∑x2 |
−∑x |
∑y |
+a ∑x |
||
i i |
i |
i |
i |
|
i |
|
i=1 |
i=1 |
i=1 i=1 |
i=1 |
|
|
, подставляя полученное в выраже-
ние для b, находим его. Используя понятие средней арифметической результат можно записать гораздо компактней
a = |
|
|
xy |
− x y |
и b = y −ax . |
||
|
|
|
|
|
|||
x2 −(x)2 |
|||||||
|
|
|
43. Распределение средней арифметической для выборок из нормальной совокупности.
Распределение Стьюдента Выборочная средняя, вычисленная по конкретной выборке,
есть определённое число. Так как состав выборки случаен, то средняя арифметическая, вычисленная для элементов другой выборки того же объёма из той же генеральной совокупности, определяется числом, как правило, отличным от первого, то есть средняя меняется от выборки к выборке.
Следовательно, выборочную среднюю можно рассматривать как случайную величину, что позволяет говорить о законе распределения выборочной средней. Приведём без доказательства следующую теорему.
Т. Если случайная величина Х подчиняется нормальному закону распределения с параметрами (µ,σ 2 ), а X1 , X2 ,K, Xn - ряд
65
независимых наблюдений над случайной величиной Х, каждое из которых имеет те же характеристики, что Х, то выборочная сред-
|
|
1 |
n |
|
|
|
|
|
|
няя |
x = |
|
∑ Xi также подчиняется нормальному закону распре- |
||||||
|
|||||||||
|
|
n i=1 |
|
2 |
|
|
|
|
|
|
|
|
|
µ,σ |
|
|
|
||
деления с параметрами |
|
. |
|
|
|
||||
|
|
|
|
|
|
n |
(x − µ) |
|
|
|
Нормированное |
отклонение |
n |
подчиняется |
|||||
|
|
|
|
|
|
|
σ |
|
нормальному закону распределения со средним значением, равным нулю, и дисперсией, равной единице. Действительно, используя свойства математического ожидания, а также тот факт, что x и µ независимы, имеем:
|
|
(x - µ) |
|
|
|
n |
|
|
n |
|
|
|
|
|
|
|
|
n |
= |
(M (x)− µ)= |
|
(µ − µ)= 0 и |
|||||||||
M |
σ |
|
|
σ |
|
σ |
|||||||||
|
|
|
|
|
|
|
|
|
|
2 |
|
||||
|
(x − µ) |
n |
|
|
n |
(D(x)+ D(µ))= |
n |
σ |
|
||||||
|
|
|
|
=1. |
|||||||||||
|
|
|
|
|
|
|
|
|
|
||||||
D |
|
σ |
|
= |
|
σ |
2 |
|
n |
||||||
|
|
|
|
σ 2 |
|
|
|
|
|
Пример 42. Автомат штампует детали. Контролируется длина детали которая подчиняется нормальному закону распределения. Найти вероятность того, что средняя длина x деталей, отобранных случайным образом, отклонится от математического ожидания более чем на 2 мм, если дисперсия случайной величины
Х равна σ 2 = 9 мм2, а количество деталей в выборке п=16. Решение. Случайная величина Х имеет нормальное распре-
деление с математическим ожиданием µ и дисперсией
2 |
|
σ 2 |
|
9 |
или |
σ x = |
3 |
|
. Найдём вероятность того, что при |
||||||||||||
σ x |
= |
|
n |
= |
|
|
|
|
|
||||||||||||
|
16 |
4 |
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
2 |
|
|
8 |
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
p{ |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
x − µ |
< 2 |
|
она равна |
x − µ |
|
= 2Ф |
|
|
|
= 0,9982 , |
||||||||||
|
|
< 2}= 2Ф |
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
σ x |
|
3 |
|
|
следовательно: p{x − µ ≥ 2}=1−0,9982 = 0,078, то есть практиче-
ски можно быть уверенным, что наблюдаемая средняя длина детали отклонится от заданной не более чем 2 мм.
Итак, если случайная величина Х имеет нормальное распре-
деление, то нормированное отклонение (x − µ) n также подчиня-
σ
66
ется нормальному закону распределения. Однако дисперсия гене-
ральной совокупности σ 2 почти всегда оказывается неизвестной, поэтому вызывает большой практический интерес изучение рас-
пределения статистики t = (x −)µ) n , где S)2 - несмещенная и со-
S 2
стоятельная оценка дисперсии, вычисленная по выборочным данным. Распределение статистики t не зависит ни от математиче-
ского ожидания µ случайной величины Х, ни от дисперсии σ 2, а
лишь зависит от объёма выборки п. Закон распределения статистики t называют распределением Стьюдента. Распределение Стьюдента табулировано во всех учебниках по математической статистике.
Из анализа распределения Стьюдента при п>50 видно, что оно мало отличается от нормального.
44. Распределение дисперсии в выборках из нормальной генеральной совокупности.
Распределение 2 Пирсона Рассмотрим закон распределения выборочной дисперсии,
рассчитанной для наблюдений, взятых из нормальной генеральной совокупности. Так как состав выборки подвержен случайности, то выборочную дисперсию, как и x , следует рассматривать как случайную величину и говорить о законе распределения выборочной дисперсии. При анализе распределения выборки следует иметь в виду два случая: 1) математическое ожидание случайной величины известно; 2) математическое ожидание неизвестно.
Случай 1. Предположим, что математическое ожидание случайной величины известно. Условимся считать, что случайная величина Х подчиняется нормальному закону распределения с па-
раметрами µ,σ 2 , а X1 , X2 ,K, Xn - ряд независимых наблюдений, каждое из которых подчиняется нормальному закону распределения с математическим ожиданием µ и дисперсией σ 2. Тогда вы-
|
|
1 |
n |
|
борочная дисперсия вычисляется по формуле Sx2 |
= |
∑(Xi − µ)2 . |
||
|
||||
|
|
n i=1 |
Разделим обе части этого равенства на σ 2 и умножим на п. Имеем
|
|
|
|
|
|
|
|
|
|
|
67 |
|
nS 2 |
|
n |
|
|
X |
i |
− µ 2 |
n |
||
|
x |
= ∑ |
|
|
|
|
|
= ∑ti2 . Статистика t имеет нормальный за- |
|||
|
σ 2 |
|
|
σ |
|||||||
|
|
i=1 |
|
|
|
i=1 |
|||||
кон |
распределения |
с параметрами M (t )= 0 и D(t )=1. Пусть |
|||||||||
|
|
2 |
|
|
|
|
n |
|
|
|
|
2 = |
nS x |
|
|
= ∑ti2 . |
|
||||||
σ 2 |
|
|
|
||||||||
|
|
|
|
|
|
i=1 |
|
|
Случайная величина, представляющая собой сумму квадратов независимых случайных величин, каждая из которых подчиняется нормальному закону распределения с параметрами
(µ = 0,σ 2 =1), называется случайной величиной с распределением
2 и k = n степенями свободы.
Распределение статистики 2 не зависит ни от математиче-
ского ожидания µ случайной величины Х, ни от дисперсии σ 2, а зависит лишь от объёма выборки п. Найдём математическое ожи-
дание распределения 2 :
|
n |
|
n |
n |
X |
i |
− µ |
2 |
1 |
n |
|||
M ( 2 )= M |
∑ti2 |
|
= ∑M (ti2 )= ∑M |
|
|
|
= |
|
|
∑σ 2 = n. |
|||
|
σ |
|
|
||||||||||
i=1 |
|
i=1 |
i=1 |
|
|
|
σ 2 i=1 |
Следовательно, математическое ожидание случайной вели-
чины с распределением 2 и k = n степенями свободы равно числу степеней свободы. В специальной литературе можно найти до-
казательство того, что дисперсия распределения 2 равна удвоенному числу степеней свободы. Дифференциальная функция
распределения 2 сложна, и интегрирование её является весьма трудоёмким процессом, поэтому составлены таблицы распределения 2 .
Случай 2. Рассмотрим закон распределения выборочной дисперсии, когда математическое ожидание случайной величины неизвестно. Как и прежде, случайная величина подчиняется нор-
мальному закону распределения с параметрами |
µ,σ 2 , а |
X1 , X2 ,K, Xn - ряд независимых наблюдений, каждое из которых подчиняется нормальному закону распределения с математическим ожиданием µ и дисперсией σ 2. Тогда дисперсия выборки