Регрессионный анализ


Регрессионный анализ — метод моделирования измеряемых данных и исследования их свойств. Данные состоят из пар значений зависимой переменной (переменной отклика) и независимой переменной (объясняющей переменной). 

Регрессионная модель есть функция независимой переменной и параметров с добавленной случайной переменной. Параметры модели настраиваются таким образом, что модель наилучшим образом приближает данные. Критерием качества приближения (целевой функцией) обычно является среднеквадратичная ошибка: сумма квадратов разности значений модели и зависимой переменной для всех значений независимой переменной в качестве аргумента. Регрессионный анализ — раздел математической статистики и машинного обучения.

Предполагается, что зависимая переменная есть сумма значений некоторой модели и случайной величины. Относительно характера распределения этой величины делаются предположения, называемые гипотезой порождения данных. Для подтверждения или опровержения этой гипотезы выполняются статистические тесты, называемые анализом остатков. При этом предполагается, что независимая переменная не содержит ошибок. Регрессионный анализ используется для прогноза, анализа временных рядов, тестирования гипотез и выявления скрытых взаимосвязей в данных.

Продолжение лекции

Регрессия — зависимость математического ожидания (например, среднего значения) случайной величины от одной или нескольких других случайных величин (свободных переменных), то есть  . Регрессионным анализом называется поиск такой функции  , которая описывает эту зависимость. Регрессия может быть представлена в виде суммы неслучайной и случайной составляющих.

 

где   — функция регрессионной зависимости, а 

---

 — аддитивная случайная величина с нулевым матожиданием. Предположение о характере распределения этой величины называется гипотезой порождения данных. Обычно предполагается, что величина   имеет гауссово распределение с нулевым средним и дисперсией  .

Задача нахождения регрессионной модели нескольких свободных переменных ставится следующим образом. Задана выборка — множество   значений свободных переменных и множество  соответствующих им значений зависимой переменной.  Эти множества обозначаются как  , множество исходных данных  . Задана регрессионная модель — параметрическое семейство функций   зависящая от параметров   и свободных переменных  . Требуется найти наиболее вероятные параметры  :



Функция вероятности   зависит от гипотезы порождения данных и задается Байесовским выводом или методом наибольшего правдоподобия.

Продолжение лекции

Линейная регрессия предполагает, что функция   зависит от параметров 

---

 линейно. При этом линейная зависимость от свободной переменной   необязательна,



В случае, когда функция   линейная регрессия имеет вид



здесь   — компоненты вектора  .

Значения параметров в случае линейной регрессии находят с помощью метода наименьших квадратов. Использование этого метода обосновано предположением о гауссовском распределении случайной переменной.

Разности   между фактическими значениями зависимой переменной и восстановленными называются регрессионными остатками (residuals). В литературе используются также синонимы: невязки и ошибки. Одной из важных оценок критерия качества полученной зависимости является сумма квадратов остатков:



Здесь   — Sum of Squared Errors.

Дисперсия остатков вычисляется по формуле



Здесь   — Mean Square Error, среднеквадратичная ошибка.

На графиках представлены выборки, обозначенные синими точками, и регрессионные зависимости, обозначенные сплошными линиями. По оси абсцисс отложена свободная переменная, а по оси ординат — зависимая. Все три зависимости линейны относительно параметров.

---

Нелинейная регрессия

Нелинейные регрессионные модели — модели вида



которые не могут быть представлены в виде скалярного произведения



где   — параметры регрессионной модели,   — свободная переменная из пространства  ,   — зависимая переменная,   — случайная величина и   — функция из некоторого заданного множества.

Значения параметров в случае нелинейной регрессии находят с помощью одного из методов градиентного спуска, например алгоритма Левенберга-Марквардта.

О терминах

Термин "регрессия" был введён Фрэнсисом Гальтоном в конце 19-го века. Гальтон обнаружил, что дети родителей с высоким или низким ростом обычно не наследуют выдающийся рост и назвал этот феномен "регрессия к посредственности". Сначала этот термин использовался исключительно в биологическом смысле. После работ Карла Пирсона этот термин стали использовать и в статистике.



Аппроксимация функций: непрерывная функция   приближает непрерывную или дискретную функцию 

В статистической литературе различают регрессию с участием одной свободной переменной и с несколькими свободными переменными — 

---

одномерную и многомерную регрессию. Предполагается, что мы используем несколько свободных переменных, то есть, свободная переменная — вектор  . В частных случаях, когда свободная переменная является скаляром, она будет обозначаться  . Различают линейную и нелинейную регрессию. Если регрессионную модель не является линейной комбинацией функций от параметров, то говорят о нелинейной регрессии. При этом модель может быть произвольной суперпозицией функций   из некоторого набора. Нелинейными моделями являются, экспоненциальные, тригонометрические и другие (например, радиальные базисные функции или персептрон Розенблатта), полагающие зависимость между параметрами и зависимой переменной нелинейной.

Различают параметрическую и непараметрическую регрессию. Строгую границу между этими двумя типами регрессий провести сложно. Сейчас не существует общепринятого критерия отличия одного типа моделей от другого. Например, считается, что линейные модели являются параметрическими, а модели, включающие усреднение зависимой переменной по пространству свободной переменной —непараметрическими. Пример параметрической регресионной модели: линейный предиктор, многослойный персептрон. Примеры смешанной регрессионной модели: функции радиального базиса. Непараметрическая модель — скользящее усреднение в окне некоторой ширины. В целом, непараметрическая регрессия отличается от параметрической тем, что зависимая переменная зависит не от одного значения свободной переменной, а от некоторой заданной окрестности этого значения.



Интерполяция: функция   задана значениями узловых точек

Есть различие между терминами: "приближение функций", "аппроксимация", "интерполяция", и "регрессия". Оно заключается в следующем.

---

Смотрите также файлы

• Терапия 1.docx

• Основная образовательная программа должна содержать три раздела целевой, содержательный и организационный. Целевой раздел должен определять общее назначение, цели, задачи, планируемые результаты реализации основной образовательной программы, а также спосо.docx

• Алматы облысы, арасай ауданы Жаатрмыс ауылындаы орта мектебі кмм.docx

• Определения.docx

• Перелом верхней челюсти по ЛеФоріі.docx