Критерии согласия: Колмогорова, Романовского, Пирсона, Мизеса, Шапиро и Уилка

Содержание
ВведениеКритерием согласия называют критерий, который позволяет установить, является ли расхождение эмпирического и теоретического распределений случайным или значимым, т. е. согласуются ли данные наблюдений с выдвинутой статистической гипотезой или не согласуются.
В одних случаях закон распределения может быть установлен теоретически на основании выбранной модели рассматриваемого процесса. В других случаях функцию распределения выбирают априорно. Однако, для получения надежных решений вероятностных задач в каждом отдельном случае необходима проверка соответствия опытных данных используемому закону распределения. Существует большой ряд достаточно строгих аналитических критериев согласия результатов эксперимента выбранному виду гипотетического распределения. Если выбранный критерий согласия не позволяет сделать уверенный вывод относительно соответствия опытных данных гипотетическому распределению, то необходимо провести проверку нулевой гипотезы по другому распределению.
Критерий согласия: характеристика и видыКритерии согласия - это критерии проверки гипотез о соответствии эмпирического распределения теоретическому распределению вероятностей. Такие критерии подразделяются на два класса:
Общие критерии согласия применимы к самой общей формулировке гипотезы, а именно к гипотезе о согласии наблюдаемых результатов с любым априорно предполагаемым распределением вероятностей.
Специальные критерии согласия предполагают специальные нулевые гипотезы, формулирующие согласие с определенной формой распределения вероятностей.
Общие критерии согласияНулевая гипотеза , где  - эмпирическая функция распределения вероятностей;  - гипотетическая функция распределения вероятностей.
Группы общих критериев согласия:
- критерии, основанные на изучении разницы между теоретической плотностью распределения и эмпирической гистограммой;
- критерии, основанные на расстоянии между теоретической и эмпирической функциями распределения вероятностей;
Критерии, основанные на сравнении теоретической плотности распределения и эмпирической гистограммы:
- Критерий согласия хи-квадрат 
- Критерий числа пустых интервалов 
- Квартильный критерий Барнетта-Эйсена 
Критерии, основанные на сравнении теоретической и эмпирической функций распределения вероятностей.
Расстояние между эмпирической и теоретической функциями распределения вероятностей является весьма эффективной статистикой для проверки гипотез о виде закона распределения вероятностей случайной величины.
Критерии согласия, использующие различные варианты анализа расстояния между теоретической и эмпирической функциями распределения:
- Критерий Джини- Критерий Крамера-фон Мизеса- Критерий Колмогорова-Смирнова 
- Критерий Реньи (R-критерий) 
-Критерий Смирнова-Крамера-фон Мизеса (Критерий омега-квадрат) 
- Критерий Андерсона-Дарлинга 
- Критерий Купера 
- Критерий Ватсона 
- Критерий Фроцини Специальные критерии согласияНормальное распределение
Нормальный закон распределения вероятностей получил наибольшее распространение в практических задачах обработки экспериментальных данных. Большинство прикладных методов математической статистики исходит из предположения нормальности распределения вероятностей изучаемых случайных величин. Широкое распространения этого распределения вызвало необходимость разработки специальных критериев согласия эмпирических распределений с нормальным. Существуют как модификации общих критериев согласия, так и критерии, созданные специально для проверки нормальности.
Экспоненциальное распределение
Экспоненциальный закон распределения вероятностей является базовым законом, используемым в теории надежности. Его аналитическая простота делает его привлекательным для инженеров и исследователей.
Существует большое количество специальных критериев согласия для экспоненциального распределения:
- Критерий Шапиро-Уилка для экспоненциального распределения 
- Критерии типа Колмогорова-Смирнова для экспоненциального распределения 
- Критерии типа Смирнова-Крамера-фон Мизеса для цензурированных данных 
- Критерий Фроцини для экспоненциального распределения 
- Корреляционный критерий экспоненциальности 
- Регрессионный критерий Брейна-Шапиро 
- Критерий Кимбера-Мичела 
- Критерий Фишера для экспоненциального распределения 
- Критерий Бартлетта-Морана 
- Критерий Климко-Антла-Радемакера-Рокетта 
- Критерий Холлендера-Прошана 
- Критерий Кочара 
- Критерий Эппса-Палли-Чёрго-Уэлча- Критерий Бергмана 
- Критерий Шермана 
- Критерий наибольшего интервала 
- Критерий Хартли 
- Критерий показательных меток 
- Ранговый критерий независимости интервалов 
- Критерии, основанные на трансформации экспоненциального распределения в равномерное
- Критерии  
- Критерий Гринвуда 
- Критерий Манн-Фертига-Шуера для распределения Вейбулла 
- Критерий Дешпанде 
- Критерий Лоулесса 
Равномерное распределение
Если  - выборка из распределения вероятностей с функцией , то случайная величина  распределена равномерно на интервале [0,1]. Поэтому установление равномерности распределения является по существу критерием согласия наблюдаемых данных с любым теоретическим распределением. Этим и объясняется повышенный интерес к поиску простых в вычислительном отношении и эффективных критериев равномерности распределения.
- Критерий Кимбела 
- Критерий Морана 
- Критерий Шермана 
- Критерий Ченга-Спиринга 
- Критерий Саркади-Косика 
- Энтропийный критерий Дудевича-ван дер Мюлена 
- Критерий равномерности Хегахи-Грина 
- Критерий Янга 
- Критерии типа Колмогорова-Смирнова для равномерного распределения 
- Критерий Фроцини для равномерного распределения 
- Критерий Гринвуда-Кэсенберри-Миллера 
- "Сглаженный" критерий Неймана-Бартона 
Критерии симметрии
Если отсутствуют предпосылки для проверки согласия эмпирического распределения с каким-либо теоретическим, то выявление даже самых общих свойств эмпирического распределения дает некоторую информацию для выбора приемов и методов обработки экспериментального материала.
Одним из таких практически важных свойств распределения является его симметричность относительно центра группирования значений случайной величины. Существует много критериев, проверяющих симметрию:
- Быстрый критерий Кенуя 
- Критерий симметрии Смирнова 
- Критерий знаков 
- Одновыборочный критерий Уилкоксона 
- Критерий Антилла-Керстинга-Цуккини 
- Критерий Бхатачарья-Гаствирта-Райта (модифицированный критерий Уилкоксона) 
- Критерий Финча 
- Критерий Бооса  - Критерий Гупты  - Критерий Фрезера 
2. Виды критериев согласия2.1 Критерий согласия Колмогорова – Смирнова Критерий Колмогорова-Смирнова может быть использован для проверки гипотезы о соответствии эмпирического распределения любому теоретическому непрерывному распределению F(x) с заранее известными параметрами. 
Критерий согласия Колмогорова применяется также для оценки расхождения между двумя рядами распределения, полученными в результате независимых испытаний относительно одной и той же величины х с непрерывной функцией распределения. Если используются числовые характеристики выборки, то этот критерий теряет свою универсальность и может быть использован только для проверки соответствия опытных данных лишь некоторым конкретным функциям распределения (нормальный, логарифмически нормальный, экспоненциальный законы).
Пусть имеется вариационный ряд значений случайной величины. Через Fn(x) обозначается функция накопленных частостей эмпирического распределения по опытным данным, а через F(x) – интегральная функция предполагаемого теоретического распределения, которое сравнивается с теоретическим распределение. Предполагается, что число данных достаточно велико (не менее нескольких десятков) и интегральная функция распределения непрерывна. Требуется выяснить, согласуется ли с этими данными гипотеза, что рассматриваемая случайная величина имеет определенную непрерывную интегральную функцию распределения F(x). Эта функция для нормального распределения приведена в Приложении М.
Сначала находятся значения разностей, а затем наибольшее значение разности по модулю Dn = max |Fn(x) – F(x)|.
Распределение Колмогорова выражает предельную вероятность того, что заданное значение Dn не будет превосходить заданного числа λ:
Lim P(Dn≤ λ) = ∑(-1)ke (-2k2 λ.2) =K(λ) , (n→∞)
При большом объеме выборки на основании предельного соотношения можно написать приближенное равенство:
Р(F(x)- λ/  ≤ Fn(x) ≤ F(x) + λ/ ) = K(λ).
будет не более 0,05, то расхождение признается существенным (случилось маловероятное событие и нулевая гипотеза отвергается). Принимается нулевая гипотеза о том, что расхождение между функциями не значимое. При выводах обычно используется 5%-ный уровень значимости, при котором величина вероятности Р=0,05. Тогда, если значение 1-К(ли больше, то расхождение между наблюденным рядом и выравнивающим распределением признается случайным и нулевая гипотеза не отвергается.
Алгоритм исследования закона распределения с помощью критерия Колмогорова- Смирнова:
1. Пусть имеется функция накопленных частостей Fn(x) и интегральная функция распределения F(x);
2. Определяется наибольшее абсолютное значение разности между ними, вычисляется λ = Dn
3. Для этого значения λ находится значение р(λ) из таблицы Приложения Н.
Вычисление этого критерия следует делать не в интегральном ряде распределения, т.к. размер интервала может повлиять на величину р(λ).
2.2 Критерий согласия ПирсонаКритерий согласия Пирсона () применяется для проверки гипотезы о соответствии эмпирического распределения предполагаемому теоретическому распределению F(x) при большом объеме выборки (n100). 
Критерий применим для любых видов функции F(x), даже при неизвестных значениях их параметров, что часто имеет место при анализе результатов испытаний. 
Использование критерия  предусматривает разбиение размаха варьирования выборки на интервалы и определения числа наблюдений mi для каждого интервала. mi представляет частоту появления события, имеющего в каждом проведенном испытании вероятность Р. Следовательно можно рассматривать mi как случайную величину, подчиняющуюся биномиальному закону распределения с математическим ожиданием npi  и средним квадратическим:
Когда n велико, то считается, что частота распределена асимптотически нормально с теми же параметрами. При правильности этой гипотезы асимптотически нормально будут распределены и величины
 , где pi – вероятность попадания изучаемой случайной величины в интервал;
mi – наблюдаемые данные;
npi – выравнивающие частоты.
Это статистика критерия Пирсона, которая представляет собой сумму отношений квадратов разностей между частотами эмпирического и теоретического распределения к частотам теоретического распределения.Для удобства оценок интервалы выбираются одинаковой длины. Число интервалов (с) зависит от объема выборки. 
Обычно принимается: при n = 100 с = 10-15, при n = 200 с = 15-20, при n = 400 с = 25-30.
Нулевая гипотеза о соответствии выборочного распределения теоретическому закону F(x) проверяется путем сравнения вычисленной величины с критическим значением , найденным по таблице Приложения Е для заданного уровня значимости  и числа степеней свободы k. Если выполняется неравенство: 
 то нулевая гипотеза не отвергается.
Недостатком критерия согласия Пирсона является потеря части первоначальной информации, связанная с необходимостью группировки результатов наблюдений в интервалы.
При употреблении критерия согласия Р(χ2) важное значение имеет правильный подсчет числа степеней свободы. Так при подборе нормального распределения к наблюдаемому ряду распределения число степеней свободы k = c – 1, если теоретическое распределение не зависит от эмпирического, то есть математическое ожидание и стандартное отклонение были бы также теоретическими, а не вычисленными из наблюдаемых значений. Если по данным выборки оцениваются эти параметры, то k = c – 3. При подборе биномиального распределения и распределения Пуассона k = с – 2.
Алгоритм расчета при проверке нормальности распределения с помощью критерия Пирсона:
1. Данные разбиваются на интервалы, и определяется частота в каждом интервале mi . Если в крайних интервалах mi ≤ 10, то соседние интервалы объединяются.
2. Определяются координаты границ в параметрах переменной   U;
3. С помощью таблицы нормированной (стандартизованной) функции нормального распределения Лапласа определяется оценка вероятности pj попадания в интервал.
4. Оценка математического ожидания в интервале определяется как npi.
5. Подсчитывается величина  = ∑( mi -npi ) / npi .
6. Подсчитывается число степеней свободы. Если по данным выборки оцениваются числовые характеристики выборки, то k = c – 3.
7. По таблице значений квантили  в зависимости от уровня вероятности и числа степеней свободы определяется .
8. Если ≤, то нулевая гипотеза не отвергается.
2.3 Критерий согласия Шапиро-Уилка Критерий согласия Шапиро-Уилка предназначается для проверки гипотезы о нормальном или логарифмически нормальном распределении при ограниченном объеме выборки (n< 50) .
Результаты t-испытаний располагаются в вариационный ряд и подсчитывается значение:
,
где S2- квадрат среднего квадратического отклонения;
b2- подсчитывается по формуле:
,
где a n-i+1- табличное значения;
если n-четное число, то 
если n-нечетное, то .
Полученное значение W сравнивается с табличным значением ; если выполняется условие: ,то нулевая гипотеза не отвергается.
2.4 Критерий Крамера – МизесаКрамера - Мизеса критерий - непараметрический критерий для проверки гипотезы Н 0, согласно которой независимые одинаково распределенные случайные величины Х 1, ..., Х n имеют заданную непрерывную функцию распределения F(x). К.- М. к. основан на статистике вида 
где  - функция эмпирического распределения, построенная по выборке  - некоторая неотрицательная функция, определенная на отрезке [0, 1] и такая, что  интегрируемы на [0, 1]. Критерии такого типа, основанные на квадратичной метрике, впервые были рассмотрены Г. Крамером и Р. Мизесом. Н. В. Смирнов предложил выбрать  и показал, что в этом случае при справедливости гипотезы  статистика   имеет в пределе "омега-квадрат" распределение, не зависящее от гипотетической функции распределения F(x). Статистический критерий для проверки гипотезы Н0, основанный на статистике  называется критерием  (критерием Крамера - Мизеса - Смирнова), при этом для нахождения численного значения статистики пользуются следующим ее представлением:
где  - вариационный ряд, построенный по выборке X1..., Х n. Согласно критерию w2 с уровнем значимости а, гипотеза H0 отвергается, коль скоро  - верхняя а-квантиль распределения w2, т. е.Аналогично устроен критерий, предложенный Т. Андерсоном и Д. Дарлингом , основанный на статистике .
2.5 Критерий РомановскогоПри применении критерия Романовского вычисляют математическое ожидание M(t) и среднее квадратичное отклонение (t) без учета сомнительного члена ряда распределения t. 
Если  при объеме выборки N, то с выбранной доверительной вероятностью  данный результат можно исключить из дальнейшего рассмотрения.
Доверительной считается такая вероятность, которую можно признать достаточной для суждения о достоверности характеристик, полученных на основе выборочных наблюдений. В качестве доверительной вероятности принимают значения 0,95; 0,99; 0,999 (последняя обеспечивает более надежные выводы). Для инженерных расчетов приемлемой является доверительная вероятность РД= 0,95.
Когда есть несколько выделяющихся членов ряда распределения, то математическое ожидание M(t) и среднее квадратичное отклонение (t) рассчитывают без них, затем каждую величину проверяют по рассмотренной схеме.
Критерии согласия. Проверка гипотезы о соответствии эмпирических и теоретических законов распределенийКритерии согласия являются объективными оценками близости экспериментальных (опытных) и теоретических распределений показателей надежности. При этом статистические данные показателей по результатам эксплуатации машин также относятся к опытным.
Критерии согласия позволяют ответить на вопрос: вызвано ли расхождение опытного и теоретического распределений случайными причинами, связанными с недостаточным числом наблюдений, или существенными причинами, т.е. тем, что теоретическое распределение плохо воспроизводит фактическое.
Критерий согласия выступает обычно в виде некоторой величины, оцениваемой с определенной вероятностью. Наиболее часто в качестве критериев согласия опытных и теоретических распределений показателей надежности принимаются критерии: Пирсона (), Романовского, Колмогорова .
Критерий Пирсона (хи - квадрат)
где  - эмпирические частоты случайной величины (отказов, например) в заданном временном интервале (определяется по результатам наблюдений - теоретические частоты случайной величины в том же интервале (получается подставкой численных значений в формулу теоретического распределения, принятого для данного случая); 
k - количество равных интервалов наблюдения.
Полученное значение  сравнивают с табличным значением  этого критерия. Величина определяется по специальным математико-статистическим таблицам в зависимости от числа степеней свободы т и доверительной вероятности Рд.
Доверительной считается такая вероятность, которую можно признать достаточной для суждения о достоверности характеристик, полученных на основе выборочных наблюдений. В качестве доверительной вероятности принимают значения 0,95; 0,99; 0,999. Последняя обеспечивает более надежные выводы. Для инженерных расчетов приемлемой является доверительная вероятность Рд= 0,95.
Число степеней свободы:
где s - число параметров теоретического распределения (для нормального распределения s=2; для экспоненциального и распределения Вейбулла s=1).При выполнении условия . расхождения между теоретическими и эмпирическими частотами считают случайными, а теоретическое распределение показателей надежности - не противоречащим опытному. 
При гипотезу отвергают.
При использовании критерия  необходимо, чтобы объем вариационного ряда и число интервалов наблюдения были достаточно велики (что является определенным недостатком данного критерия). Количество отказов обследуемых машин, узлов, агрегатов должно превышать 50, а количество отказов в одном временном интервале должно быть больше 5. При выполнении этих условий критерий Пирсона является состоятельным, т.е. он почти всегда опровергает неверную гипотезу. Если же условия не выполняются, некоторые интервалы приходится объединять, что приводит к определенной погрешности.
Для оценки приближения эмпирического распределения к теоретическому используется критерий согласия Романовского, который определяется по формуле:
где  - критерий Пирсона; 
r - число степеней свободы. 
Если выполняется условие , то это дает основание для утверждения, о возможности принятия теоретического распределения показателей надежности за закон данного распределения.
Критерий Колмогорова позволяет оценить справедливость гипотезы о законе распределения при малых объемах наблюдений случайной величиныгде D - максимальная разность между фактической и теоретической накопленными частотами случайной величины.
На основе специальных таблиц определяют вероятность Р[] того, что если конкретный вариационный признак распределен по рассматриваемому теоретическому распределению, то из-за чисто случайных причин максимальное расхождение между фактическими и теоретическими накопленными частотами будет не меньшим, чем фактически наблюдаемое. 
На основе вычисленной величины Р делают выводы: 
а) если вероятность Р[] достаточно велика, то гипотезу о том, что фактическое распределение близко к теоретическому, можно считать подтвержденной; 
б) если же вероятность Р[] мала, то гипотеза отвергается.
Границы критической области для критерия Колмогорова зависят от объема выборки: чем меньше число результатов наблюдений, тем выше необходимо устанавливать критическое значение вероятности. 
Если число отказов при наблюдении составило 10-15, то , если больше 100, то . Однако необходимо отметить, что при больших объемах наблюдений лучше пользоваться критерием Пирсона .
Критерий Колмогорова значительно проще других критериев согласия, поэтому он находит широкое применение в исследовании надежности машин и элементов.
Заключение
Критерием согласия называют критерий, который позволяет установить, является ли расхождение эмпирического и теоретического распределений случайным или значимым, т. е. согласуются ли данные наблюдений с выдвинутой статистической гипотезой или не согласуются.  Распределение генеральной совокупности, которое она имеет в силу выдвинутой гипотезы, называют теоретическим.
Возникает необходимость установить критерий (правило), которое позволяло бы судить, является ли расхождение между эмпирическим и теоретическим распределениями случайным или значимым. Если расхождение окажется случайным, то считают, что данные наблюдений (выборки) согласуются с выдвинутой гипотезой о законе распределения генеральной совокупности и, следовательно, гипотезу принимают; если же расхождение окажется значимым, то данные наблюдений не согласуются с гипотезой и ее отвергают.
Обычно эмпирические и теоретические частоты различаются в силу того, что:
- расхождение случайно и связано с ограниченным количеством наблюдений;
- расхождение неслучайно и объясняется тем, что статистическая гипотеза о том, что генеральная совокупность распределена нормально - ошибочна.
Таким образом, критерии согласия позволяют отвергнуть или подтвердить правильность выдвинутой при выравнивании ряда  гипотезы о характере распределения в эмпирическом ряду.
Список использованной литературы
Бондарев Б.В. О проверке сложных статистических гипотез // Заводская лаборатория. – 1986.
Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006.
Кремер Н.Ш. Теория вероятностей и математическая статистика. – М.: Юнити, 2000.
Лагутин М. Б. Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003.
Майков Е.В. Математический анализ: Числовые ряды. -- М.: Изд-во МГУ, 1999.
Общая теория статистики/ Под редакцией А. А. Спирина, О. Э. Башиной. 1995.
Тюрин Ю.Н. Исследования по непараметрической статистике (непараметрические методы и линейная модель): Автореф. дисс. … д–ра физ.–мат. наук. – М., 1985.