Файл: Lab-Reg2-1.doc

12

Министерство общего и профессионального

ОБРАЗОВАНИЯ РОССИЙСКОЙ ФЕДЕРАЦИИ

______________________________

МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ ОТКРЫТЫЙ УНИВЕРСИТЕТ

КОЛОМЕНСКИЙ ИНСТИТУТ

Трушков А. С.

Родионов К.А.

ВЫСШАЯ МАТЕМАТИКА

И Н С Т Р У К Ц И Я

для выполнения лабораторной работы

Множественный линейный регрессионный анализ. Оценка функциональной зависимости параметров энергоустановки.

2003 г.

Содержание

1. Введение

Лабораторная работа выполняется с помощью электронных таблиц Microsoft Excel в операционной среде Windows 9x/ME/XP/NT/2000. В рабочей книге Excel используется программный код, написанный на алгоритмическом языке Visual Basic for Application (VBA), с помощью которого по заданному номеру варианта генерируется выборка со случайным объемом наблюдений на основе розыгрыша четырехмерной случайной величины (P, U, T, M) по заданному уравнению регрессии P = f(U, T, M) и дисперсии ошибки. C помощью программы производится линейный регрессионный анализ.

Целью лабораторной работы является определение функциональной зависимости параметров энергоустановки с помощью множественного регрессионного анализа для различных форм зависимости. Освоение алгоритмов статистических методов обработки наблюдений: вычисление коэффициентов регрессии, построение линейной регрессии, определение значимости коэффициентов регрессии, анализ дисперсий, расчет коэффициента детерминации, определение значимости уравнения регрессии, построение диаграммы наблюдений случайной величины и диаграммы расчетной величины по полученной регрессионной модели.

2. Модель множественной регрессии

Рассматривается следующее уравнение модели:

y = ₁x₁ + ₂x₂ + ... + _kx_k + , (1)

где - вектор коэффициентов модели,

х₁ , х₂ , ... , х_k - регрессоры (независимые переменные),

 - случайная компонента,   N(0, ), где  ² - дисперсия ошибок.

Будем рассматривать модель, где в качестве регрессоров выступают степени аргумента х:

y = ₀ + ₁x + ₂x² + ... + _kx^k + . (2)

По результатам экспериментов (x_i ; y_i ), i = 1, ... , n надо определить значения коэффициентов _i .

Пусть:

. (3)

Здесь Х - матрица размера n(k+1) наблюдаемых значений регрессоров.

Пусть y^* = ₀ + ₁x + ₂x² + ... + _kx^k - уравнение регрессии.

Тогда - прогноз значений объясняемой переменной.

Обозначим:

- вектор прогнозируемых значений. (4)

Тогда - вектор разности между выборочными и прогнозируемыми значениямиy.

Будем находить вектор из условия минимизации длины вектора(или ее квадрата):. Из линейной алгебры известно соотношение:

. (5)

Можно показать, что для оценки коэффициентов множественной регрессии необходимо использовать формулу, совпадающую со случаем парной регрессии:

. (6)

Для оценки дисперсии ошибок ² используется формула:

. (7)

На основании теоремы Гаусса-Маркова можно утверждать, что эти оценки являются несмещенными и эффективными в классе линейных несмещенных оценок.

Коэффициент детерминации определяется так же, как и для парной регрессии:

. (8)

Для определения дисперсий оценок коэффициентов регрессии вычисляется матрица ковариаций:

. (9)

В качестве дисперсий оценок:

(10)

берутся диагональные элементы q_ii матрицы :.

Для построения доверительных интервалов для коэффициентов регрессии _i используют статистику:

, (11)

имеющую распределение Стьюдента с n - (k + 1) степенями свободы. Таким образом, доверительный интервал имеет вид:

, (12)

где t_ - квантиль распределения Стьюдента, соответствующий надежности  и n - (k + 1) степеням свободы.

Для проверки значимости коэффициентов регрессии _i можно использовать эту же статистику. А именно, при проверке гипотезы:

H₀: _i = 0 (13)

H₁: _i  0

двусторонняя критическая область формируется из условия:

, (14)

где t_кр(; n - (k + 1)) - критическая точка распределения Стьюдента, соответствующая уровню значимости  и числу степеней свободы n - (k + 1) .

Для оценки значимости уравнения регрессии, то есть проверки факта улучшения прогноза значения у по сравнению с тривиальным: используется критерий Фишера. Гипотеза:

H₀: ₁ = ₂ = ... = _k = 0 (15)

(свободный член ₀ - не учитывается) проверяется с использованием статистики:

, (16)

имеющей распределение Фишера F(k; n - (k + 1)). Если наблюдаемое значение F_набл больше критического F_кр(; k; n - (k + 1)), то гипотеза Н₀ - отвергается.

3. Преобразование данных при оценке нелинейных соотношений между переменными

При оценке нелинейных соотношений между зависимыми и независимыми переменными уравнения регрессии могут применятся различные преобразования данных. Например:

полулогарифмическое преобразование данных	Y =  + ln X;
логарифмическое преобразование данных	ln Y =  + ln X;
преобразование данных в обратные величины	Y =  +  / X; Y = -/ X;
логарифмирование и преобразование данных в обратные величины	ln Y =  -  / X

В случае, когда объясняющих переменных более одной, формы преобразований могут комбинироваться: например, результаты наблюдений X₂ подвергаются логарифмическому преобразованию, а результаты наблюдений X₃ - обратному. При этом получаются различные формы зависимости объясняемой переменной от объясняющих.

При множественном регрессионном анализе в качестве конкретной функции давления можно, например, взять:

1) P = b₀ + b₁  U + b₂  T

2) P = b₀ + b₁  U + b₂  M

3) P = b₀ + b₁  T + b₂  M

4) P = b₀ + b₁  U + b₂  T + b₃  M

5) P = b₀ + b₁  Log(U) + b₂  T + b₃  M и т.п.

Здесь P – зарегистрированное давление в камере двигателя внутреннего сгорания; U – скорость распространения пламени в газовой среде; T -  температура топлива перед впрыском в камеру двигателя внутреннего сгорания; М – расход топлива, впрыскиваемого в камеру двигателя внутреннего сгорания. В данных примерах количество регрессоров уравнения регрессии равно 2-3_.