Изучение зависимости между признаками X и Y

Введение   3

Цель работы   4

Постановка задачи   4

Практическая часть   6

Исходные данные   6

Линейная регрессия Y на X   7

Линейная регрессия X на Y  8

Расчет числовых характеристик выборок   8

Построение графиков линейной регрессии   9

Уравнение параболической регрессии   10

Построение графика квадратичной (параболической) регрессии   11

Сравнение результатов   11

Заключение   13

Список использованной литературы  14

Введение

Математическая статистика – наука, изучающая методы исследования закономерностей в массовых случайных явлениях и процессах по данным, полученным из конечного числа наблюдений за ними, с целью построения вероятностно-статистических моделей случайных явлений.Применяя к этим моделям методы теории вероятностей, исследователь может решать технико-экономические задачи, например, определять вероятность безотказной работы агрегата в течение заданного отрезка времени. Таким образом, теория вероятностей по вероятностной модели процесса предсказывает его поведение, а математическая статистика по результатам наблюдений за процессом строит его вероятностно-статистическую модель. В этом состоит тесная взаимосвязь между данными науками.Пусть две величины x и y связаны табличной зависимостью, полученной, например, из опытов. Требуется установить функциональную зависимость y=f(x) между переменными x и y по результатам экспериментальных исследований. Необходимо найти такой метод подбора эмпирической формулы, который не только позволяет найти саму формулу, но и оценить погрешность подгонки. Иначе говоря, стоит задача найти аппроксимирующую функцию y=f(x,a,b..) такую, чтобы в точках x=xi она принимала значения по возможности близкие к табличным, то есть график искомой функции должен проходить как можно ближе к экспериментальным точкам.Для отыскания коэффициентов a ,b... функции применяется метод наименьших квадратов. Метод наименьших квадратов (англ. Ordinary Least Squares, OLS) является одним из базовых методов регрессионного анализа в части оценки неизвестных параметров регрессионных моделей по выборочным данным. Данный метод применяется для приближенного представления функциями, зависящими от одной переменной:линейной y=ax+b;квадратичной y=ax2+bx+cлогарифмической y=alnx+bстепенной y=axmэкспоненциальной y=aebx+cПараметры модели выбираются таким образом, чтобы сумма квадратов отклонений (расстояний) эмпирических значений от модельных была минимальной:in(yi-yi)2=in(axi+b-yi)2→minЧем меньше сумма квадратов расстояний, тем соответствующая линия лучше аппроксимирует имеющиеся данные и может быть в дальнейшем использована для прогнозирования значений y от переменной х.Обычно рассматривают несколько видов функций y=fx,a,b.. (линейная, степенная, экспоненциальная, квадратичная) и выбирают ту функцию, для которой суммарная погрешность in(axi+b-yi)2 окажется наименьшей.При сравнении функций используют выражение F(a,b,…)=i=1n(yi-yi)2n,где i=1n(yi-yi)2- сумма квадратов расстояний между исходными значениями yi  и значениями yi, полученными с использованием выбранной модели. Часто обозначается как SSE (Sum of Squared Errors (Residuals), сумма квадратов ошибок (остатков).Среди преимуществ метода наименьших квадратов следует отметить легкость вычислительной процедуры и хорошие по статистическим свойствам оценки. Данные факты объясняют широкое применение данного метода в статистическом анализе. Цель работыЦелью курсовой работы по дисциплине «Теория вероятностей и математическая статистика» является исследование зависимости между значениями (X) и значениями (Y) по имеющейся выборке с помощью метода наименьших квадратов и построение линий регрессий. Постановка задачиДана выборка, состоящая из 100 пар чисел ( Xi ,Yi), i = 1, 2, …, 100, где Xi ,Yi- значения двух признаков исследуемых объектов. Задача состоит в изучении характера зависимости между признаками X и Y. Требуется: Методом наименьших квадратов определить числа a, b такие, что прямая 𝑦 = 𝑎𝑥 + 𝑏 наименее уклоняется от точек ( Xi ,Yi) в среднем квадратичном. Методом наименьших квадратов определить числа c, d такие, что прямая 𝑥 = 𝑐𝑦 + 𝑑 наименее уклоняется от точек ( Xi ,Yi) в среднем квадратичном. Рассчитать средние значения выборок Xi ,Yi . Нанести на плоскость точки Xi ,Yi и построить графики функций 𝑦 = 𝑎𝑥 +𝑏 и 𝑥 = 𝑐𝑦 + 𝑑. Методом наименьших квадратов определить числа p, q, r такие, что парабола 𝑦 = 𝑝𝑥2 + 𝑞𝑥 + 𝑟 наименее уклоняется от точек ( Xi ,Yi) в среднем квадратичном. Нанести на плоскость точки Xi ,Yi и построить график функции 𝑦 = 𝑝𝑥2 +𝑞𝑥 + 𝑟. Сравнить между собой результаты пунктов 1 и 5 (значения величин отклонения) и сделать вывод о предпочтительном способе описания данных. Практическая частьИсходные данныеДана выборка, состоящая из 100 пар чисел состоящая из 100 пар чисел ( Xi ,Yi), i = 1, 2, …, 100. Таблица 1. Исходные данные X Y X Y X Y X Y 8,82-16,29,72-16,612,5-22,412,8-22,75,1-7,5218,9-34,10,6163,165,0-7,5916,1-29,016,9-30,510,0-18,11,490,13210,4-17,613,5-23,814,7-27,46,42-10,811,9-20,29,18-16,416,2-28,712,4-23,414,6-26,15,52-7,917,7-33,515,9-29,79,18-15,11,80,05318,6-33,12,26-3,0312,0-19,515,1-29,616,3-29,913,6-25,418,1-33,412,9-22,310,7-18,41,31,644,5-4,9912,2-22,413,1-23,67,08-9,5810,4-19,11,98-0,2516,26-10,619,7-37,110,7-17,413,6-23,018,6-34,314,3-24,84,0-5,4118,5-35,45,48-8,2613,0-21,49,24-16,30,4662,6214,6-26,215,5-28,72,5-1,27,52-11,715,0-26,33,42-2,719,5-35,88,74-15,07,3-9,764,62-6,895,9-9,9413,8-24,817,2-31,313,4-23,54,78-5,7318,1-33,818,0-33,74,94-7,516,2-8,4815,4-27,914,3-24,818,0-34,22,2-1,948,72-15,316,6-30,915,5-27,43,86-3,9613,9-26,78,8-15,616,7-29,84,64-5,5319,0-35,213,0-23,914,1-23,216,6-31,77,32-10,71,451,127,28-10,916,6-30,415,3-28,73,22-2,712,8-21,45,08-8,543,42-3,317,04-10,217,3-32,1 Линейная регрессия Y на XРассмотрим случайную двумерную величину (X, Y), где X и Y — зависимые случайные величины. Представим одну из величин как линейную функцию другой: Y ≅gx=aX+b, где a и b — параметры, подлежащие определению. Функцию g(x) называют среднеквадратической регрессией Y на X. Составим функцию расчета суммарного квадратичного отклонения: 100Fa,b=i100(yi-(axi+b))2 Подберем a и b так, чтобы сумма квадратов отклонений была минимальной. Для того чтобы найти коэффициенты a и b, при которых F достигает минимального значения, приравняем частные производные к нулю: -2i100yi-axi+bxi=0-2i100yi-axi+b=0Находим a и b. Выполнив элементарные преобразования, получим систему двух линейных уравнений относительно a и b:i=1100xi2∙a+i=1100xi∙b=i=1100xiyii=1100xi∙a+nb=i=1100yiРассчитаем необходимые суммарные значения:i=1100xi=1080,462;i=1100yi=-1865,096;i=1100xi2=14695,634;i=1100yi2=47394,979;i=1100xiyi=-26304,264a=ni=1100xiyi-i=1100xii=1100yini=1100xi2-i=1100xi2=100∙(-26304,264)-1080,462∙(-1865,096)100∙14695,634-1080,4622=-2,0362b=i=1100yi-ai=1100xin=-1865,096-(-2,0362)∙1080,462100=3,3491Следовательно, уравнение примет вид: y =-2,0362 x+3,3491 Линейная регрессия X на YНайдем уравнение регрессии 𝑥 = 𝑐𝑦 + 𝑑. c=ni=1100xiyi-i=1100xii=1100yini=1100yi2-i=1100yi2=100∙(-26304,264)-1080,462∙(-1865,096)100∙47394,979-(-1865,096)2=-0,4879d=i=1100xi-ci=1100yin=1080,462-(-0,4879)∙(-1865,096)100=1,7039Следовательно, уравнение примет вид: x =- 0,4879y+1,7039 Расчет числовых характеристик выборокРассчитаем числовые характеристики выборки, учитывая ее объем n=100.Выборочные средние:x=i=1100xin=1080,462100=10,8046y=i=1100yin=-1865,096100=-18,6510xy=i=1100yin=-26304,264100=-263,0426Выборочные дисперсии:σx2=1ni=1100xi2-x2=14695,634100-10,80462=30,2165σy2=1ni=17yi2-x2=47394,979100--18,65102=126,0915Выборочные среднеквадратические отклонения:σx=30,2165=5,497σy=126,0915=11,229Коэффициент корреляции:r=xy-x∙yσxσy=-263,0426-10,8046∙(-18,6510)5,497∙11,229=-0,997Поскольку коэффициент корреляции отрицательный, то наблюдается обратная связь. Так как коэффициент корреляции по абсолютной величине удовлетворяет соотношению 0,9t0,05;98=1,984) гипотеза H0 об отсутствии линейной корреляционной связи отвергается, принимается альтернативная гипотеза H1: коэффициент корреляции при заданном уровне значимости значимо отличается от нуля.Построение графиков линейной регрессииНаносим на координатную плоскость точки ( Xi ,Yi) и на том же чертеже строим графики уравнений линейной регрессии 𝑦 = 𝑎𝑥 + 𝑏 и 𝑥 = 𝑐𝑦 + 𝑑. Рис.1 Графики линейной регрессииПрямые линейной регрессии пересекаются в точке c координатами x=10,8046;y=-18,6510. Коэффициент корреляции близок к единице, поэтому прямые регрессии на графике практически совпадают.Уравнение параболической регрессииПредставим величину Y в виде криволинейной (параболической) функции величины X: Y= pX2+qX+r, где p, q и r — параметры, подлежащие определению. Функция суммарного квадратичного отклонения имеет вид: Fp,q,r=i=1100Yi-pXi2-r2Для отыскания минимума приравняем к нулю соответствующие частные производные:Fp'=-2∙i=1100xi2yi-pxi2-qxi-r=0Fq'=-2∙i=1100xiyi-pxi2-qxi-r=0Fr'=-2∙i=1100yi-pxi2-qxi-r=0 Находим p, q и r. Выполнив элементарные преобразования, получим систему трех линейных уравнений относительно p, q и r: i=1100xi4∙p+i=1100xi3∙q+i=1100xi2∙r=i=1100xi2yii=1100xi3∙p+i=1100xi2∙q+i=1100xi∙r=i=1100xiyii=1100xi2∙p+i=1100xi∙q+n∙r=i=1100yiРассчитаем необходимые значения сумм:i=1100xi=1080,462;i=1100xi2=14695,634;i=1100xi3=220462,462;i=1100xi4=3486999,459;i=1100yi=-1865,096;i=1100xiyi=-26304,264;i=1100xi2yi=-399464,930Решим систему методом Крамера.D=i=1100xi4i=1100xi3i=1100xi2i=1100xi3i=1100xi2i=1100xii=1100xi2i=1100xin=3486999,459220462,46214695,634220462,46214695,6341080,46214695,6341080,462100=20625460149 Dp=i=1100xi2yii=1100xi3i=1100xi2i=1100xiyii=1100xi2i=1100xii=1100yii=1100xin=-399464,930220462,46214695,634-26304,26414695,6341080,462-1865,0961080,462100=65717288 Dq=i=1100xi4i=1100xi2yii=1100xi2i=1100xi3i=1100xiyii=1100xii=1100xi2i=1100yin=3486999,459-399464,93014695,634220462,462-26304,2641080,46214695,634-1865,096100=-43338534685 Dr=i=1100xi4i=1100xi3i=1100xi2yii=1100xi3i=1100xi2i=1100xiyii=1100xi2i=1100xii=1100yi=3486999,459220462,462-399464,930220462,46214695,634-26304,26414695,6341080,462-1865,096=73914194500 p=DpD=6571728820625460149=0,0032;q=DqD=-4333853468520625460149=-2,1012;r=DrD=7391419450020625460149=3,5836Следовательно, уравнение квадратичной регрессии примет вид: y = 0,0032x2- 2,1012x+3,5836Построение графика квадратичной (параболической) регрессииНанесем на диаграмму рассеивания график уравнения параболической регрессии Рис.2 График параболической регрессииСравнение результатовВычислим показатели качества найденных моделей регрессии, для чего рассчитаем средние квадратические ошибки, подставляя значения найденных параметров (a, b, p, q, r) в функционалы 𝐹(𝑎, 𝑏) и 𝐹(𝑝, 𝑞, 𝑟) : Sεy'=F(a,b)=i=1n(yi-yi)2n=81,36100=0,902Sεy''=F(p,q,r)=i=1n(yi-yi)2n=80,67100=0,898Значения, полученные по каждой из моделей регрессии, различаются незначительно. Используем среднюю ошибку аппроксимации: A=1ni=1n|yi-yiyi| Ay'=1100i=1100|yi-yiyi|=5,53100=0,055Ay''=1100i=1100|yi-yiyi|=2,20100=0,022Средние ошибки составляют 5,5% и 2,2%, что свидетельствует о том, что линейная дает более существенную погрешность по сравнению с параболической.Исходя из полученных значений, делаем вывод, что параболическая регрессия лучше описывает характер зависимости между признаками X и Y. Рис.3 Линейная и параболическая регрессияЗаключениеВ данной работе на базе исходных данных по варианту 19 была рассмотрена зависимость значений X и Y. Методом наименьших квадратов определены коэффициенты линейной зависимости между переменными. Рассчитаны числовые характеристики выборки. Получен коэффициент корреляции и проверена его значимость для уровня значимости 0,05. Графики функций 𝑦 = 𝑎𝑥 +𝑏 и 𝑥 = 𝑐𝑦 + 𝑑 построены на одном чертеже с полем корреляции.Методом наименьших квадратов определены коэффициенты квадратичной (параболической) зависимости между переменными. При решении системы уравнений использован метод Крамера. Построен график функции 𝑦 = 𝑝𝑥2 +𝑞𝑥 + 𝑟. Сопоставлены значения величин отклонения (средние квадратические ошибки), рассчитаны средние ошибки аппроксимации для каждой из моделей. Сделан вывод, что различие в точности моделей незначительное, однако способ описания данных с помощью параболической регрессии предпочтительнее.Список использованной литературыГмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике: Учеб. пособие для студентов вузов/В.Е. Гмурман. – 9-е изд., стер. – М.: Высш. шк., 2008, - 405 с.Гмурман В.Е. Теория вероятностей и математическая статистика: Учеб. пособие для вузов/В.Е. Гмурман. – 10-е изд., стер. – М.: Высш. шк., 2008, - 479 с.Кремер, Н.Ш. Теория вероятностей и математическая статистика: учеб. / Н.Ш. Кремер- 2-е изд., перераб. и доп. - Москва: ЮНИТИ, 2006. - 573 с.Колемаев, В.А. Теория вероятностей и математическая статистика: учеб. / В.А. Колемаев, В.Н. Калинина. - 3-е изд., перераб. и доп. - Москва: Кнорус, 2011. - 384 с.Основы теории вероятностей: Учебник/Г.А.Соколов, 2-е изд. - М.: НИЦ ИНФРА-М, 2015. - 340 с.