Р 50.1.033-2001

РЕКОМЕНДАЦИИ ПО СТАНДАРТИЗАЦИИ

Дата введения 2002-07-01

ГОССТАНДАРТ РОССИИ

Москва

Содержание

Предисловие

1 РАЗРАБОТАНЫ Новосибирским государственным техническим университетом, доработаны с участием Технического комитета по стандартизации ТК 125 «Стандартизация статистических методов управления качеством»

ВНЕСЕНЫ Техническим комитетом по стандартизации ТК 125 «Стандартизация статистических методов управления качеством»

2 ПРИНЯТЫ И ВВЕДЕНЫ В ДЕЙСТВИЕ Постановлением Госстандарта России от 14 декабря 2001г. №525-ст

3 ВВЕДЕНЫ ВПЕРВЫЕ

4 ПЕРЕИЗДАНИЕ. Октябрь 2006 г.

Введение

Необходимость разработки настоящих рекомендаций вызвана следующими причинами.

Во-первых, в нормативных документах по стандартизации, устанавливающих правила проверки опытного распределения с теоретическим, нечетко определены правила применения критериев согласия типа χ² при проверке сложных гипотез. Некорректное использование оценок параметров по точечным (негруппированным) наблюдениям зачастую приводит к неоправданному отклонению проверяемой гипотезы.

Во-вторых, способы группирования наблюдений (способы разбиения области определения случайной величины на интервалы) при применении критериев типа χ² и выбор числа интервалов группирования не учитывают асимптотических свойств этих критериев. Неоднозначность процедуры группирования, неоптимальный выбор числа интервалов отражаются на мощности применяемого критерия, его способности различать близкие гипотезы, что, как правило, приводит к неоправданному принятию проверяемой гипотезы.

Настоящие рекомендации, с одной стороны, облегчают практическое применение критериев согласия типа χ², обеспечивают корректность статистических выводов, с другой стороны, содержат новые сведения из рассматриваемого раздела математической статистики.

1 Область применения

Настоящие рекомендации содержат правила проверки согласия опытного распределения с теоретическим законом распределения непрерывной случайной величины и могут быть применены при разработке правил и рекомендаций по стандартизации, метрологии, распространяющихся на методы статистического анализа.

Настоящие рекомендации могут быть также использованы в качестве практического руководства по применению критериев согласия типа χ² при статистической обработке результатов наблюдений, измерений, контроля и испытаний продукции.

2 Теоретические основы рекомендаций

2.1 Общие положения

Число моделей непрерывных законов распределений, используемых в задачах статистического анализа (при контроле качества, исследованиях надежности и т. д.), немногим превышает 100, а для описания наблюдаемых случайных величин в прикладных исследованиях в основном применяют порядка 30 параметрических законов и семейств распределений.

Это не покрывает многообразия случайных величин, встречаемых на практике. Корректное применение критериев согласия часто приводит (и должно приводить) к отклонению гипотез о принадлежности выборки удобному и привычному закону распределения, например нормальному, так как законы реальных случайных величин, являющиеся следствием многочисленных причин, сложнее тех моделей, которые обычно используют для их описания. Следовательно и модели должны быть более сложными.

Целью первичной обработки экспериментальных наблюдений обычно является установление закона распределения, наиболее хорошо описывающего случайную величину, выборку которой наблюдают. Насколько хорошо наблюдаемая выборка описывается теоретическим законом, проверяют с использованием различных критериев согласия. Целью проверки гипотезы о согласии опытного распределения с теоретическим является стремление удостовериться в том, что данная модель теоретического закона не противоречит наблюдаемым данным и использование ее не приведет к существенным ошибкам при вероятностных расчетах. Некорректное использование критериев согласия может приводить к необоснованному принятию (чаще всего) или необоснованному отклонению проверяемой гипотезы.

Различают простые и сложные гипотезы о согласии. Простая проверяемая гипотеза имеет вид: H₀:f(x, θ) = f(x, θ₀), где f(•) - функция плотности; θ₀ - известный скалярный или векторный параметр теоретического распределения, с которым проверяют согласие. Сложная гипотеза имеет вид  где Θ - пространство параметров и оценку  скалярного или векторного параметра вычисляют по той же самой выборке, по которой проверяют гипотезу о согласии.

Схема процедуры проверки гипотезы следующая. В соответствии с применяемым критерием согласия вычисляют значение S^* статистики S как некоторой функции от выборки и теоретического закона распределения с плотностью f(x, θ₀) [или  при сложной гипотезе]. Для используемых на практике критериев асимптотические (предельные) распределения g(s|H₀) соответствующих статистик при условии истинности гипотезы H₀ обычно известны. В общем случае для простых и сложных гипотез эти распределения различаются. Далее в принятой практике статистического анализа обычно полученное значение статистики S^* сравнивают с критическим значением S_α при заданном уровне значимости α. Нулевую гипотезу отвергают, если S^* > S_α (рисунок 1). Критическое значение S_α, определяемое в случае одномерной статистики из уравнения

обычно берут из соответствующей статистической таблицы или вычисляют.

Рисунок 1 - Плотность распределения статистики при истинной гипотезе H₀

Больше информации о степени согласия можно почерпнуть из «достигаемого уровня значимости»: вероятности возможного превышения полученного значения статистики при истинности нулевой гипотезы  Именно эта вероятность позволяет судить о том, насколько хорошо выборка согласуется с теоретическим распределением, так как по существу представляет собой вероятность истинности нулевой гипотезы (рисунок 2). Гипотезу о согласии не отвергают, если P{S > S^*} > α.

Рисунок 2 - Плотность распределения статистики при истинной гипотезе H₀

Задачи оценивания параметров и проверки гипотез опираются на выборки независимых случайных величин. Случайность самой выборки предопределяет, что возможны и ошибки в результатах статистических выводов. С результатами проверки гипотез связывают ошибки двух видов, ошибка 1-го рода состоит в том, что отклоняют гипотезу H₀, когда она верна; ошибка 2-го рода состоит в том, что принимают гипотезу H₀, в то время как справедлива альтернативная (конкурирующая) гипотеза H₁. Величина α задает вероятность ошибки 1-го рода. Обычно в критериях согласия не рассматривают конкретную альтернативу, и тогда конкурирующая гипотеза имеет вид H₁:f(x, θ) ≠ f(x, θ₀). Если гипотеза H₁ задана и имеет, например, вид H₁:f(x, θ) = f₁(x, θ₁), то выбор значения α определяет для используемого критерия проверки гипотез и вероятность ошибки 2-го рода β. На рисунке 3 g(s|H₀) отображает плотность распределения статистики S при истинности гипотезы H₀, a g(s|H₁) - плотность распределения статистики S при справедливости гипотезы H₁.

Рисунок 3 - Плотности распределения статистик при справедливости гипотез H₀ и H₁

Мощность критерия представляет собой значение 1 - β, где β - вероятность ошибки 2-го рода. Очевидно, что чем выше мощность используемого критерия при заданном значении α, тем лучше он различает гипотезы H₀ и H₁. Особенно важно, чтобы используемый критерий хорошо различал близкие альтернативы. Графически требование максимальной мощности критерия означает, что на рисунке 3 плотности g(s|H₀) и g(s|H₁) должны быть максимально «раздвинуты».

2.2 Критерии типа χ² при простых гипотезах

Предполагают, что ζ₁, ζ₂, ... , ζ_N - выборка значений наблюдаемой случайной величины объема N. Процедура проверки гипотез с использованием критериев типа χ² предусматривает группирование наблюдений. Область определения случайной величины разбивают на k непересекающихся интервалов граничными точками

х₀ < х₁ < ... < х_k-1 < х_k,

где х₀ - нижняя грань области определения случайной величины; х_k - верхняя грань. В соответствии с заданным разбиением подсчитывают число n_i выборочных значений, попавших в i-й интервал, и вероятности попадания в интервал  соответствующие теоретическому закону с функцией плотности f(х, θ). При проверке простой гипотезы известны как вид функции плотности, так и все параметры закона (известен скалярный или векторный параметр θ). При этом  В основе статистик, используемых в критериях согласия χ², лежит измерение отклонений n_i/N от P_i(θ).

К критериям такого рода, в частности, относят критерий χ² Пирсона, критерий отношения правдоподобия [1] и критерии типа χ² [2] - [5].

Статистику критерия согласия χ² Пирсона S_χ2 вычисляют по формуле

                                                                     (1)

В случае проверки простой гипотезы в пределе при N → ∞ эта статистика подчиняется  распределению с r = k - 1 степенями свободы, если верна нулевая гипотеза. Плотность  - распределения g(s) описывается формулой

                                                                 (2)

Если верна конкурирующая гипотеза H₁ и выборка соответствует распределению с плотностью f₁(x, θ₁) и параметром θ₁, то эта же статистика в пределе подчиняется нецентральному  - распределению с тем же числом степеней свободы r = k - 1 и параметром нецентральности

                                                                        (3)

где  - вероятность попадания в интервал при справедливой гипотезе H₁. Плотность нецентрального  - распределения g(s, v) имеет вид [1]

                 (4)

где В(α, β) = Г(α)Г(β)/Г(α + β) - бета-функция.

При заданном уровне значимости α нулевая гипотеза о согласии не должна быть отвергнута, если

                                           (5)

где  - вычисленное в соответствии с формулой (1) значение статистики. Статистика критерия отношения правдоподобия S_оп [1]

                                                            (6)

при верной нулевой гипотезе также асимптотически распределена как  с r = k - 1 степенями свободы. Если верна конкурирующая гипотеза H₁ и выборка соответствует распределению с плотностью f₁(x, θ₁) и параметром θ₁ мерой близости сравниваемых законов является величина

                                                                   (7)

2.3 Критерии типа χ² при сложных гипотезах

При справедливости H₀ в случае проверки сложной гипотезы и при условии, что оценки параметров найдены в результате минимизации статистики  по этой же самой выборке, статистика  асимптотически распределена как  с числом степеней свободы r = k - m - 1, где m - число оцененных параметров. Статистика  имеет это же распределение, если в качестве метода оценивания выбирают метод максимального правдоподобия и оценки вычисляют по сгруппированным данным в результате максимизации по θ функции правдоподобия

                                                                                   (8)

где γ - некоторая константа и  - вероятность попадания наблюдения в i-й интервал значений, зависящая от θ.

При вычислении оценок максимального правдоподобия (ОМП) по негруппированным данным эта же статистика распределена как сумма независимых слагаемых  где ζ₁, … , ζ_m - стандартные нормальные случайные величины, независимые одна от другой и от  а λ₁, … , λ_m ^- некоторые числа между 0 и 1 [2], [6], [7], представляющие собой корни уравнения

|(l - λ)J(θ) - J_Г(θ)| = 0.

В данном уравнении J(θ) - информационная матрица Фишера по негруппированным наблюдениям с элементами, определяемыми соотношением

                                                (9)

a J_Г(θ) - информационная матрица по группированным наблюдениям

                                                                       (10)

Функция распределения статистики лежит между  - и  - распределениями. В этом случае, принимая нулевую гипотезу, следует удостовериться, что статистика  не превышает критических значений  и  где α- задаваемый уровень значимости. И если  <  < , то, принимая или отклоняя гипотезу о согласии, можно с одинаковым риском совершить ошибку.

Вышеизложенное относится и к критерию отношения правдоподобия.

Влияние способа группирования на распределения статистик при использовании оценок максимального правдоподобия по негруппированным данным - по 2.7.

2.4 Статистика типа χ² Никулина

В работах [2] - [5] предложено видоизменение стандартной статистики , при котором предельное распределение есть обычное  - распределение (число степеней свободы не зависит от числа оцениваемых параметров). Неизвестные параметры распределения F(x, θ) в этом случае следует оценивать по негруппированным данным методом максимального правдоподобия. При этом вектор Р = (P₁, …, P_k)^T предполагают заданным, и граничные точки интервалов определяют по соотношениям х_i(θ) = F^-l(P₁ + ... + P_i),  Предложенная статистика имеет вид [3]

                                                             (11)

где  вычислена по формуле (1); матрица  элементы и размерность которой определяются оцениваемыми компонентами вектора параметров θ; J(θ_l, θ_j) - элементы информационной матрицы J(θ) по негруппированным данным (9); a_θl = w_θl1n₁/P₁ + … + w_θlkn_k/P_k - элементы вектора а(θ) и

                                        (12)

Для распределений, которые полностью определяются только параметрами сдвига и масштаба, справедливо соотношение

                                                  (13)

и, следовательно,

Λ(θ) = [J(θ) - J_Г(θ)]^-1.                                                                             (14)

Действительно, для законов с параметрами сдвига θ₁ и масштаба θ₂ с функцией распределения F((x - θ₁)/θ₂) и плотностью  элементы информационной матрицы J_Г(θ) имеют вид:

где t_i = (x_i - θ₁)/θ₂. Тогда

Если проверяемая гипотеза H₀ о принадлежности наблюдаемого закона параметрическому семейству f(х, θ) неверна и справедлива конкурирующая гипотеза H₁, которой соответствует распределение с плотностью  статистика  в пределе подчиняется нецентральному  - распределению с параметром нецентральности [3]

                                                           (15)

где  d_θl = w_θl1c₁(θ)/P₁ + … + w_θlkc_k(θ)/P_k - элементы вектора d(θ), соответствующие оцениваемым компонентам вектора θ, а размерность вектора равна числу оцениваемых параметров.

2.5 Связь мощности критериев со способом группирования наблюдений

Очевидно, что группирование наблюдений приводит к потере информации, и эти потери зависят от выбора способа группирования данных. Следуя рекомендациям различных литературных источников, на практике обычно строят интервалы равной длины или, в лучшем случае, интервалы равной вероятности. Потери информации о законе распределения в этих ситуациях различны, различна и способность критериев распознавать близкие гипотезы.

Мерой внутренней близости распределений случайных величин служит фишеровская информация, что связано с мощностью различения между близкими значениями параметра. Так как в любой статистике не больше информации, чем в исходной выборке, то мощность различения с помощью статистики не больше, чем с помощью всей выборки. Следовательно, если нужно выбирать между несколькими статистиками, следует предпочесть ту, для которой потери фишеровской информации минимальны [8].

Предполагают, что конкурирующей гипотезе Н₁ соответствует распределение того же типа, что и H₀, но с параметром θ₁. Можно показать, разлагая P_i(θ₁) в соотношении (3) в ряд Тейлора при малых δθ = θ₁ - θ и пренебрегая членами высшего порядка, что

         (16)

где

- информационная матрица Фишера по группированным данным. Мощность критерия χ² Пирсона представляет собой неубывающую функцию от v. Матрица потерь информации, вызванных группированием, ΔJ = J(θ) - J_Г(θ), где J(θ) - информационная матрица Фишера по негруппированным наблюдениям, является неотрицательно определенной, и, следовательно, δθ^TΔJδθ ≥ 0. Так как δθ^TJ_Г(θ)δθ = δθ^TJ(θ)δθ - δθ^TΔJδθ, то очевидно, что с ростом потерь информации падает и мощность критерия при близких конкурирующих гипотезах.

Аналогично с ростом правой части соотношения (7) увеличивается мощность критерия отношения правдоподобия. Действуя как и в предыдущем случае и пренебрегая членами высшего порядка, можно будет иметь

Далее, раскладывая ln(1 + х) по формуле Тейлора и вновь пренебрегая членами выше 2-го порядка, можно получить

       (17)

Это соотношение аналогично соотношению (16).

Выражение (14) показывает, что свойства критерия, задаваемого статистикой (11), также зависят от потерь информации при группировании.

2.6 Асимптотически оптимальное группирование

На основании соотношений (16), (17) можно утверждать, что чем меньше потери информации, связанные с группированием наблюдений, тем выше мощность соответствующих критериев согласия при близких конкурирующих гипотезах.

Потери от группирования можно уменьшить, решая задачу асимптотически оптимального группирования и подбирая граничные точки так, чтобы J_Г(θ) стремилась к информационной матрице по негруппированным данным J(θ). В случае скалярного параметра эта задача сводится к максимизации количества информации Фишера о параметре по группированной выборке

                                      (18)

А в случае вектора параметров в качестве критериев оптимальности могут быть выбраны различные функционалы от информационной матрицы Фишера. Наиболее естественно максимизировать определитель информационной матрицы, т. е. решать задачу

                                                        (19)

Применяя на практике критерии типа χ², наиболее часто используют интервалы равной длины или, в лучшем случае, интервалы равной вероятности. Выбор равновероятного группирования обоснован определенностью этой процедуры разбиения и ее оптимальностью при отсутствии конкретных альтернатив [9]. Однако при использовании и равновероятного и равномерного группирования мощность как критерия χ² Пирсона, так и критерия отношения правдоподобия обычно много ниже максимально возможной.

В общем случае информационная матрица Фишера зависит не только от граничных точек х_i но и от параметров исследуемого распределения. Однако для достаточно широкого ряда распределений при решении задач асимптотически оптимального группирования граничные точки интервалов удается получить в виде, инвариантном относительно параметров распределений, и на их основе формировать таблицы асимптотически оптимального группирования.

Применение асимптотически оптимального группирования в критериях согласия типа χ² впервые было предложено в работе [10]. Совокупность таблиц асимптотически оптимального группирования, построенная в результате решения задач (18) и (19) в [11] - [16] для распределений экспоненциального, полунормального, Рэлея, Максвелла, модуля многомерного нормального вектора, Парето, Эрланга, Лапласа, нормального, логарифмически нормальных (ln и lg), Коши, Вейбулла, распределений минимального и максимального значения, двойного показательного, гамма распределения, представлена в приложении А. Таблицы А.1 - А.58 могут быть использованы как при проверке гипотез, так и при оценивании. Полученные таблицы используют в программной системе [17] при проверке согласия по критериям χ² Пирсона и отношения правдоподобия, а также при вычислении робастных оценок.

Для многих законов распределений граничные точки интервалов не могут быть выражены в виде, инвариантном относительно параметров распределений, т. е. они остаются функциями этих параметров. Это касается, например, таких законов, как гамма- и бета распределения [11], [15], экспоненциального семейства распределений. В этом случае формирование таблиц асимптотически оптимального группирования теряет смысл. Однако возможно решение задачи асимптотически оптимального группирования при конкретных значениях параметров в процессе проверки гипотез о согласии, как это реализуется в таких ситуациях в программной системе [17].

Положительный эффект применения асимптотически оптимального группирования на результатах статистического анализа проявляется при малых отклонениях выборки от предположений.

При проверке простых гипотез и использовании асимптотически оптимального группирования критерии χ² Пирсона и отношения правдоподобия оказываются мощнее непараметрических критериев Колмогорова, Смирнова, ω² и Ω² Мизеса против близких конкурирующих гипотез, лучше улавливают малые отклонения от предположений в наблюдаемых данных [18], [19].

2.7 Характер влияния способов группирования и метода оценивания на распределения статистик типа χ²

Вычисленные по конкретной выборке значения статистик типа χ² очень сильно зависят от того, как сгруппированы данные. При выборе интервалов группирования одним способом нулевая гипотеза H₀ о согласии может быть отвергнута, другим - принята. При практическом использовании критериев согласия выбирают либо интервалы равной длины, либо интервалы равной вероятности (равной частоты), либо асимптотически оптимальные интервалы [10], [16] - [20]. Использование интервалов равной вероятности было предложено еще в работе [21]. Разбиение области определения случайной величины (размаха выборки) на интервалы равной длины неоднозначно. Более определенными способами являются равновероятное и асимптотически оптимальное группирования. При асимптотически оптимальном группировании мощность этих критериев для близких альтернатив максимальна [10], [18] - [20].

Для статистики χ² Пирсона, вычисляемой в соответствии с формулой (1), при справедливой простой гипотезе H₀ предельное распределение g(S|H₀) есть  - распределение с числом степеней свободы r = k - 1. При сложной гипотезе, если по выборке оценивали m параметров закона, статистика подчиняется  - распределению с r = k - m - 1 степеней свободы. При справедливой альтернативной гипотезе H₁ предельное распределение g(S|H₁) представляет собой нецентральное  - распределение с тем же числом степеней свободы и параметром нецентральности, определяемым соотношением (3).

В случае проверки сложных гипотез и оценивании по выборке параметров распределений использование в качестве предельных  - распределений справедливо лишь при определении оценок параметров по сгруппированным данным [1].

Все вышеизложенное относится и к критерию отношения правдоподобия, статистика которого определяется формулой (6).

Выбор способа группирования, в том числе равновероятного или асимптотически оптимального, отражается на предельных распределениях статистик g(S|H₁) (при верной конкурирующей гипотезе). При использовании асимптотически оптимального группирования распределения g(S|H₀) и g(S|H₁) максимально «сдвинуты» относительно друг друга [18] - [20]. Это справедливо как при проверке простых, так и при проверке сложных гипотез.

В случае проверки простых гипотез распределения g(S|H₀) статистик критериев χ² Пирсона и отношения правдоподобия при любом разумном способе группирования [равновероятном (РВГ), асимптотически оптимальном (АОГ), равной длины] хорошо согласуются с соответствующим  - распределением [22], [23].

При проверке сложных гипотез предельные распределения статистик критериев χ² Пирсона и отношения правдоподобия могут зависеть не только от числа оцененных параметров, но и от способа группирования, вида наблюдаемого закона распределения f(x, θ), метода оценивания и типа оцениваемого параметра.

В частности, при проверке сложных гипотез и использовании ОМП по негруппированным наблюдениям распределения g(S|H₀) статистик данных критериев существенно зависят от способа группирования.

В работах [22], [23] методами статистического моделирования были проведены исследования законов распределения статистик типа χ² при простых и различных сложных гипотезах, при справедливости гипотезы H₀ и справедливости конкурирующей гипотезы H₁ при равновероятном и асимптотически оптимальном группировании.

Например, на рисунках 4 - 7 сопоставлены полученные в результате моделирования эмпирические распределения статистик (при вычислении ОМП по негруппированным наблюдениям) с соответствующими  - распределениями. Цифрой «1» на указанных рисунках отмечено распределение статистики при асимптотически оптимальном группировании, «2» - при равновероятном группировании. На рисунках 4 - 6 в качестве примера представлены распределения статистики  при справедливой гипотезе H₀ для пяти интервалов группирования и оценивании по негруппированным данным параметров закона.

Рисунок 4 - Распределение статистики  при пяти интервалах группирования и оценивании масштабного параметра нормального распределения

Рисунок 5 - Распределение статистики  при пяти интервалах группирования и оценивании параметра сдвига нормального распределения

Рисунок 6 - Распределение статистики  при пяти интервалах группирования и оценивании двух параметров нормального распределения

Рисунок 7 - Распределение статистики S_оп при пяти интервалах группирования и оценивании двух параметров нормального распределения

Для сравнения на рисунке 7 представлены распределения статистики S_оп при пяти интервалах группирования и оценивании обоих параметров нормального распределения при асимптотически оптимальном и равновероятном группировании.

Результаты моделирования и анализа показали [22], [23], что распределения статистик критериев χ² Пирсона и отношения правдоподобия при проверке сложных гипотез и вычислении оценок по не группированным данным существенно различаются при разных способах группирования. При этом эмпирический закон распределения статистики при асимптотически оптимальном группировании ближе к  - распределению, чем при равновероятном группировании. Более того, распределения статистик зависят не только от числа оцененных по выборке параметров, но и от того, какой параметр оценивали. Например, оценивание параметра сдвига приводит к более значительному изменению распределения статистики, чем оценивание масштабного параметра. Распределения статистик зависят и от вида наблюдаемого закона. Но эта зависимость не проявляется так резко, как в случае применения для проверки сложных гипотез непараметрических критериев, например типа Колмогорова.

Эмпирические распределения статистики отношения правдоподобия оказываются ближе к  - распределению, чем соответствующие эмпирические распределения статистики χ² Пирсона.

 - распределение с числом степеней свободы r является частным случаем гамма-распределения с основным параметром, равным r/2, и с масштабным - 0,5. Оценивание одного из параметров учитывается уменьшением числа степеней свободы на 1. Так, если измерять изменение предельного закона «в степенях свободы», то оказывается, что оценивание по негруппированным наблюдениям даже параметра сдвига обычно приводит к изменению «числа степеней» на значение, меньшее 1, еще к меньшему изменению в степенях свободы приводит оценивание масштабного параметра. При оценивании по негруппированным наблюдениям двух параметров закона различие между  -распределением и действительным распределением статистики еще более значимо. Таким образом, при вычислении оценок параметров по негруппированным наблюдениям использование в критериях согласия  - распределения чревато занижением вероятности вида P{S > S^*} и определенным риском отвергнуть верную гипотезу H₀. Занижение P{S > S^*} более существенно при малом числе интервалов группирования. В целом этот риск существенно меньше в случае применения асимптотически оптимального группирования.

Полученные в результате моделирования эмпирические законы распределения статистик рассматриваемых критериев практически всегда с достаточно высокой точностью описываются гамма-распределением.

Использование в критериях согласия  - распределения для вычисления вероятности вида P{S > S^*} связано с риском отвергнуть верную гипотезу H₀. В случае применения асимптотически оптимального группирования этот риск существенно меньше. В качестве примера в таблице 1 приведены значения вероятностей P{S > S^*} для различных значений статистики S, вычисленные по  - распределению в соответствии с «действительными» распределениями статистик при семи интервалах группирования и оценивании двух параметров нормального распределения. Эти данные вместе с другими результатами позволяют судить о том, что в случае применения асимптотически оптимального группирования и использования  - распределения ошибки при вычислении вероятности P{S > S^*} практически незначимы.

Таблица 1 - Значения вероятностей вида P{S > S^*}

Исследование распределений статистик при вычислении ОМП по негруппированным данным и дальнейшем увеличении числа интервалов показало возрастающую близость распределений статистик к  - распределениям. Следовательно, при использовании  - распределения для вычисления вероятностей вида P{S > S^*} с ростом числа интервалов (при достаточном объеме выборки) ошибки будут снижаться.

Как отражается способ группирования на предельных распределениях статистики  при справедливости альтернативной гипотезы H₁ показано на рисунках 8, 9, где приведены полученные в результате моделирования функции распределения G(S|H₁) при использовании асимптотически оптимального (АОГ) и равновероятного (РВГ) группирования, когда гипотеза H₀ соответствует нормальному закону распределения, а гипотеза H₁ - логистическому. Эти два закона достаточно близки и трудноразличимы с помощью критериев согласия. На рисунке 8 приведены эмпирические распределения статистики при простой гипотезе H₀, а на рисунке 9 - при сложной. Число интервалов группирования - 7. Из рисунков 8, 9 видно, насколько выше мощность критерия при асимптотически оптимальном группировании по сравнению равновероятным.

Рисунок 8 - Распределение статистики  при проверке простой гипотезы H₀

Рисунок 9 - Распределение статистики  при проверке сложной гипотезы H₀

Распределения G(S|H₀) и G(S|H₁) статистики , определяемой соотношением (11) при использовании оценок максимального правдоподобия параметров по негруппированным данным, несущественно зависят от способа группирования. Исследование этих распределений методами статистического моделирования показало хорошее согласие G(S|H₀) с  -распределениями и при равновероятном и при асимптотически оптимальном группировании. При выборе различных способов группирования нет большой разницы между соответствующими распределениями статистики G(S|H₁). При этом критерий оказывается несколько мощнее в случае равновероятного группирования.

Таким образом, по поводу распределений статистик критериев типа χ² можно сделать следующие выводы.

Если по наблюдаемой выборке не оценивали параметры закона (простая гипотеза), то распределения статистик типа χ² при справедливой гипотезе H₀ подчиняются  - распределениям как при равновероятном, так и при асимптотически оптимальном группировании. Различия между распределениями статистик при равновероятном и асимптотически оптимальном группировании заметны, но незначимы. Распределения статистик при равновероятном группировании в целом оказываются ближе к  - распределению.

В условиях, когда оценки параметров определяют по негруппированным наблюдениям, распределения этих статистик хорошо описываются гамма-распределениями. При этом:

а) Распределения статистик критериев отношения правдоподобия и χ² Пирсона существенно зависят от способа группирования, особенно при малом числе интервалов.

б) Распределения статистик зависят не только от числа оцененных по выборке параметров, но и от того, какой параметр оценивали. В частности, оценивание параметра сдвига приводит к более значительному изменению распределений статистик, чем оценивание масштабного параметра. Картина аналогична той, что наблюдается для распределений статистик типа Колмогорова, Смирнова и ω² Мизеса при проверке сложных гипотез [24].

в) Эмпирические распределения статистики отношения правдоподобия оказываются ближе к предельному теоретическому  - распределению, чем соответствующие эмпирические распределения статистики χ² Пирсона.

г) В целом, при малом числе интервалов и оценивании m параметров число степеней свободы предельного распределения уменьшается на «число степеней свободы», меньшее m. При этом эмпирический закон распределения статистики при асимптотически оптимальном группировании ближе к теоретическому  - распределению, чем при равновероятном группировании.

д) С ростом числа интервалов k разность между функцией распределения  и действительными функциями распределения статистик отношения правдоподобия и χ² Пирсона в случае асимптотически оптимального группирования убывает существенно быстрее.

е) Анализ показал, что при использовании для вычисления вероятностей P{S > S^*} функции распределения  при асимптотически оптимальном группировании и малом числе интервалов (k < 10) при малых значениях P{S > S^*} (именно при малых вероятностях принимают решение отклонить гипотезу H₀ или нет) погрешность имеет значения, которые несущественны для практических задач. То есть в этом случае, используя  - распределение, не совершают большой ошибки. В то же время ошибка в определении критического значения S_α может быть достаточно большой. Поэтому целесообразно принимать решение по достигнутому уровню значимости - значению вероятности P{S > S^*}.

ж) С ростом числа интервалов (при соответствующем объеме выборки) отличие распределений статистик  и S_оп от распределений  и при асимптотически оптимальном и при равновероятном группировании становится несущественным.

При справедливости конкурирующей гипотезы H₁ распределения статистик χ² и отношения правдоподобия при простых и сложных гипотезах сильно зависят от способа группирования.

Разность G(S|H₀) - G(S|H₁) для этих статистик при близких альтернативах в случае использования асимптотически оптимального группирования максимальна, следовательно, максимальна мощность критерия.

Распределения G(S|H₁) статистики Никулина от выбранного способа группирования зависят несущественно.

2.8 Выбор числа интервалов

Число интервалов группирования, используемое при вычислении оценок параметров, построении гистограмм, вычислении статистик типа отношения правдоподобия или χ² Пирсона, колеблется в очень широких пределах. Большинство рекомендуемых формул для оценки числа интервалов k носит эмпирический характер и обычно дает завышенные значения.

Определение числа интервалов связано с объемом выборки. Целый ряд рекомендаций из различных источников по выбору числа интервалов k дан в [25].

При выборе интервалов равной длины определяющим является требование, чтобы число наблюдений, попавших в интервалы, было не слишком малым и сравнимым. Такое требование выдвигают в связи с опасением, что в противном случае распределение статистики типа χ² не будет являться  - распределением. При этом наиболее часто рекомендуют, чтобы число наблюдений, попавших в интервал, было не менее 10. В [26] отмечено, что на практике допустимо, чтобы число наблюдений в крайних интервалах было менее пяти. В работах [21], [27], посвященных изучению мощности критерия χ² Пирсона, в случае унимодального распределения допускается уменьшение ожидаемых частот попадания наблюдений для одного или двух интервалов до 1 и даже ниже. Статистическое моделирование подтверждает, что и в такой ситуации распределения статистик типа χ² хорошо согласуются с соответствующими  - распределениями.

Во многих источниках, например в [28], можно найти упоминание эвристической формулы Старджесса для определения «оптимального» числа интервалов

k = log₂N + 1 = 3,3lgN + 1.

В [29] для определения «оптимального» числа интервалов рекомендуют формулу Брукса и Каррузера

k = 5lgN.

В [30] рекомендуют соотношение

В [27] для равновероятных интервалов их число устанавливают порядка

где t - квантиль стандартного нормального распределения для заданного уровня значимости. В ряде работ приводят модификации данной формулы. В [31] предлагают значение

k = 4lgN,

а в [32] - дальнейшее развитие этого соотношения

k = 5lgN - 5.

В исследовании [33] получено соотношение

где κ - значение контрэксцесса ( μ₄ - четвертый центральный момент случайной величины; σ - стандартное отклонение).

При больших объемах выборок N разброс значений k, задаваемых различными формулами, достаточно велик. Поэтому на практике при выборе числа интервалов больше руководствуются тем, чтобы в интервалы попадало число наблюдений не менее 5 - 10. Так, например, в рекомендациях ВНИИМ им. Д. И. Менделеева [34] в зависимости от N предлагают следующие значения k:

Все вышеперечисленные рекомендации опирались на предположение, что k следует выбирать таким образом, чтобы вид гистограммы был как можно ближе к плавной кривой плотности распределения генеральной совокупности. В [35] показано, что уклонение гистограммы от плотности распределения в лучшем случае имеет порядок  достигаемый при числе интервалов k порядка .

Очевидно, что «оптимальное» значение k зависит не только от объема выборки, но и от вида закона распределения и от способа группирования.

При асимптотически оптимальном группировании относительно скалярного параметра при 10, 11 интервалах в группированной выборке сохраняется около 98% информации, при оптимальном группировании относительно вектора параметров (два параметра) для 15 интервалов - около 95%. Дальнейшее увеличение числа интервалов существенного значения не имеет.

Конкретное число интервалов при асимптотически оптимальном группировании выбирают, исходя из следующих соображений. При оптимальном группировании вероятности попадания в интервалы в общем случае не равны. Обычно минимальны вероятности попадания в крайние интервалы. Поэтому k желательно выбирать из условия NP_i(θ) ≥ 5 - 10 для любого интервала при оптимальном группировании. По крайней мере, минимальная ожидаемая частота должна быть больше 1. В случае использования равновероятного группирования порядок k должен быть примерно таким же, как и при асимптотически оптимальном группировании.

Большинство рекомендаций по выбору числа интервалов, в частности по выбору числа интервалов в случае асимптотически оптимального группирования, исходят из того, чтобы при данном N как можно лучше приблизить плотность распределения ее непараметрической оценкой (гистограммой). Исключение составляют рекомендации в [21], [27], где к выбору числа интервалов k подходят с позиций мощности критерия согласия.

Известно [36], [37], что при заданном объеме выборки, заданных конкурирующих гипотезах H₀ и H₁ выбранном способе группирования и фиксированном уровне значимости α с ростом числа интервалов к мощность критериев χ² Пирсона и отношения правдоподобия падает. Очевидно, что выбор оптимального числа интервалов должен быть основан на необходимости построения критерия, обладающего наибольшей мощностью при близких конкурирующих гипотезах.

Об изменении мощности критерия χ² Пирсона с ростом числа интервалов при проверке простой гипотезы можно судить по рисунку 10. Через  обозначена статистика, вычисляемая в соответствии с формулой (1). На рисунке 10 представлены полученные экспериментально распределения статистики  при числе интервалов k = 7; 10; 15; 20 и объеме выборки N = 500, когда гипотеза H₀ соответствует нормальному закону, а H₁ - логистическому (два очень близких закона). Для k = 7 на рисунке 10 приведены распределения при равновероятном  и асимптотически оптимальном  группировании. Ордината нижнего конца соответствующей вертикальной черты определяет значение β (вероятность ошибки 2-го рода) при уровне значимости α = 0,1 для соответствующего числа интервалов. Мощность равна 1 - β. Как видно, в полном соответствии с результатами работ [36], [37] при увеличении числа интервалов мощность критерия падает.

Примечание -  - это распределение, соответствующее

Рисунок 10 - Распределения статистики  при проверке простой гипотезы (H₀ - нормальный закон, H₁ - логистический закон, k = 7; 10; 15; 20)

Рисунок 11 - Распределения статистики  при проверке сложной гипотезы (H₀ - нормальный закон, H₁ - логистический закон, k = 7; 10; 15; 20)

Рисунок 12 - Распределения статистики  при проверке сложной гипотезы (H₀ - нормальный закон, H₁ - логистический закон, k = 1; 10; 15; 20)

Аналогичные изменения мощности критерия для статистики  в зависимости от числа интервалов при проверке сложной гипотезы иллюстрирует рисунок 11. Здесь также с ростом k мощность критерия падает.

Мощность критерия Никулина с использованием статистики  с ростом k уменьшается существенно медленней (рисунок 12), и она выше, чем мощность критерия χ² Пирсона.

Таблица 2 - Мощность критериев χ² Пирсона и типа χ² Никулина при уровне значимости α = 0,1 (H₀ - нормальный закон, H₁ - логистический закон)

В таблице 2 представлены значения мощности критериев χ² Пирсона и типа χ² Никулина при рассматриваемой паре альтернатив (H₀ - нормальный закон, H₁ - логистический закон) при различном числе интервалов к в случае простых и сложных гипотез. В колонке 2 приведены значения мощности критерия χ² Пирсона при проверке простой гипотезы, полученные по результатам моделирования (экспериментально). В колонке 3 приведены теоретические значения мощности, вычисленные при условии, что  представляет собой  -распределение, a  - соответствующее нецентральное распределение. Колонка 4 содержит значения мощности критерия χ² Пирсона при проверке сложной гипотезы, полученные по результатам моделирования при использовании ОМП по негруппированным наблюдениям. В колонке 5 приведены теоретические значения мощности критерия χ² Пирсона при проверке сложной гипотезы, вычисленные при условии, что  представляет собой  - распределение (оценки параметров вычисляют при минимизации статистики ), a  - соответствующее нецентральное распределение. В колонке 6 приведены значения мощности критерия Никулина, полученные в результате моделирования распределений статистики , а в колонке 7 - расчетные значения мощности этой статистики при рассматриваемой паре гипотез H₀ и H₁.

В таблице 2 приведены значения мощности критериев для k от 6 до 30. Проследив изменение мощности критериев при k < 6, можно убедиться, что, если мощность критерия χ² Пирсона с уменьшением числа интервалов продолжает возрастать, то мощность критерия Никулина со статистикой  при k ≤ 6 начинает падать. Это свидетельствует о том, что для критерия Никулина существует оптимальное число интервалов, при котором его мощность максимальна.

В [38] мощность критериев типа χ² в зависимости от выбираемого числа интервалов к была исследована при различных проверяемых гипотезах H₀ и различных альтернативах H₁ при различных объемах выборок. Значение мощности для критериев типа χ² может быть вычислено в соответствии с формулой [39]

(20)

где v - параметр не центральности, определяемый формулами (3), (7) или (15);  - представляет собой (1 - α)-процентную точку  -распределения с r степенями свободы (α - заданная вероятность ошибки 1-го рода, β - вероятность ошибки 2-го рода). Максимальную мощность критерии χ² Пирсона и отношения правдоподобия зачастую имеют или при минимально возможном числе интервалов, определяемом условием r = k - m - 1 ≥ 1, или при оптимальном числе интервалов, близком к минимально возможному. Оптимальное число интервалов для критерия Никулина обычно больше, чем для критериев χ² Пирсона и отношения правдоподобия, и не превышает значения .

Таким образом, выбирая число интервалов в критериях типа χ², следует осознавать, что его увеличение не приводит к росту мощности критерия. Рекомендуется выбирать число интервалов k так, чтобы для любого интервала при оптимальном группировании выполнялось условие NP_i(θ) ≥ 5¸10. По крайней мере, минимальная ожидаемая частота должна быть больше 1. При этом следует опираться на соответствующую таблицу асимптотически оптимального группирования из приложения А. Указания на соответствующую таблицу асимптотически оптимального группирования даны в таблице 3. Снизу значение k ограничено условием k ≥ m + 2.

Если заданы конкретная альтернатива и объем выборки N, можно выбрать оптимальное число k так, чтобы максимизировать соотношение (20).

2.9 Рекомендации по использованию асимптотически оптимального группирования в критериях согласия

Применяя критерии согласия типа χ², можно по-разному разбивать область определения случайной величины на интервалы: равной длины, равных вероятностей или асимптотически оптимальные.

Использование асимптотически оптимальных интервалов обеспечивает максимальную мощность используемого критерия, снижает риск принятия неверной нулевой гипотезы H₀.

Если гипотеза H₀ справедлива или, наоборот, совершенно не соответствует характеру выборки, то выводы по критериям согласия при равновероятном, равноотстоящем и асимптотически оптимальном группировании обычно оказываются очень близкими по вычисляемому значению вероятности P{S > S^*} > α. Гипотезу H₀ при любом группировании однозначно принимают или однозначно отвергают.

В случае равновероятного и равноотстоящего группирования наличие в выборке малых отклонений от предположений (от гипотезы H₀) критерий не распознает. В случае асимптотически оптимального группирования эти отклонения будут заметны, что в принципе снижает риск принятия неверной нулевой гипотезы H₀.

Применяя критерии согласия типа χ², необязательно использовать только асимптотически оптимальное группирование наблюдений. Можно использовать и равновероятное группирование, и разбиение на интервалы равной длины. Но тогда следует помнить, что в этом случае критерии типа χ² будут хуже различать близкие гипотезы (близкие альтернативы).

В приложении А приведены таблицы асимптотически оптимального группирования (АОГ) для ряда распределений. Представлены таблицы двух видов. В таблицах 1-го вида содержатся граничные точки, инвариантные относительно параметров распределения, в таблицах 2-го вида - вероятности попадания в соответствующие интервалы.

Порядок использования асимптотически оптимального группирования в связи с конкретным законом распределения определяется таблицей 3. В ней отражены функция плотности закона распределения, количество информации Фишера о соответствующем параметре по группированным и негруппированным данным, указаны номера таблиц в приложении А, в которых содержатся оптимальные для данной ситуации граничные точки в виде t_i = φ(x_i, θ), инвариантном относительно 9, и соответствующие значения вероятностей P_i попадания наблюдений в i-й интервал.

Для тех законов распределения, для которых решение задачи асимптотически оптимального группирования нельзя получить в виде, инвариантном относительно параметров распределений, например для распределений типа Накагами, бета-, и таблицы асимптотически оптимального группирования отсутствуют, в соответствующих колонках таблицы 3 стоят прочерки (тире). В таких случаях для того, чтобы применить асимптотически оптимальное группирование, можно рекомендовать решение задач асимптотически оптимального группирования вида (18), (19) в процессе проверки согласия при определенных значениях параметров, используя содержащиеся в таблице 3 выражения для элементов информационной матрицы Фишера по группированным данным.

Таблица 3 - Функции плотности распределений, элементы информационных матриц Фишера по группированным и негруппированным наблюдениям, соответствующие таблицы асимптотически оптимального группирования

Для законов распределения, определяемых одним параметром (экспоненциального, Парето, Рэлея и т. п.), одну и ту же пару таблиц асимптотически оптимального группирования (t_i и P_i) используют при проверке простых и сложных гипотез.

Для законов распределения, определяемых двумя параметрами, в случае сложной гипотезы и оценивания только одного параметра требуемая пара таблиц асимптотически оптимального группирования указана в строке для этого параметра. В случае сложной гипотезы и оценивания двух параметров или в случае простой гипотезы используют пару таблиц, указанных в строке с двумя параметрами. В колонках для количества информации Фишера по группированным и негруппированным данным в такой строке даны выражения для недиагональных элементов соответствующих информационных матриц J(θ_i, θ_j), а J(θ_i, θ_j) = J(θ_j, θ_i).

Например, при оценивании по выборке только параметра сдвига нормального закона следует использовать пару таблиц А.24 - А.25, при оценивании только параметра масштаба - пару таблиц А.26 - А.27, а при проверке простых гипотез и сложных гипотез, сопровождаемых оцениванием по данной выборке обоих параметров нормального закона, - пару таблиц А.28 - А.29.

2.10 Примеры использования таблиц асимптотически оптимального группирования

Ниже на примерах рассмотрено применение асимптотически оптимального группирования в случае простых и сложных гипотез.

Пример 1 Проверяют простую гипотезу о принадлежности выборки экспоненциальному закону распределения. Упорядоченная выборка объемом 200 наблюдений имеет вид:

Проверяемая гипотеза имеет вид  при θ₀ = 1, θ₁ = 0. Оптимальные граничные точки в виде t_i = θ₀(х_i - θ₁) берут из таблицы А.1. Выбирают число интервалов k = 5, так как Р_kЧn = 0,0189Ч200 > 3, а при большем числе интервалов ожидаемые частоты попадания в крайний интервал будут еще меньше. При k = 5 значения t_i соответственно: 0,6004; 1,3545; 2,3720; 3,9657. При θ₀ = 1, θ₁ = 0 значения x_i совпадают со значениями t_i Соответствующие такому разбиению вероятности попадания наблюдений в интервал берут из таблицы А.2: 0,4514; 0,2905; 0,1648; 0,0744; 0,0189. По выборке находят числа наблюдений n_i, попавших в соответствующие интервалы (95, 55, 37, 10, 3). В соответствии с формулой (1) вычисляют значение статистики . При справедливости H₀ статистика подчиняется  - распределению и при значениях уровня значимости  гипотеза H₀ будет принята. Вычисляемое в соответствии с соотношением (3) значение статистики отношения правдоподобия S_оп = 2,8694; P{S_оп > 2,8694} = 0,5799. Таким образом, в соответствии сданным критерием также нет оснований для отклонения гипотезы H₀. На рисунке 13 представлены плотность, гистограмма и результаты проверки согласия.

Рисунок 13 - Результаты проверки согласия к примеру 1

Пример 2 Проверяют сложную гипотезу о принадлежности выборки экспоненциальному закону распределения. Упорядоченная выборка объемом 300 наблюдений имеет вид:

Проверяемая гипотеза  При этом θ₀ оценивают по выборке. Оценка максимального правдоподобия  Оптимальные граничные точки в виде t_i = θ₀(х_i - θ₁) как и в предыдущем случае берут из таблицы А.1 при k = 5: 0,6004; 1,3545; 2,3720; 3,9657. При θ₀ = 1,066851 и θ₁ = 0 вычисляют значения х_i = t_i/θ₀+ θ₁: 0,5628; 1,2696; 2,2234; 3,7172. Вероятности попадания наблюдений в интервал из таблицы А.2: 0,4514; 0,2905; 0,1648; 0,0744; 0,0189. По выборке находят числа наблюдений n_i, попавших в соответствующие интервалы (118, 99, 62, 20, 1). В соответствии с соотношением (1) вычисляют значение статистики

При справедливости гипотезы H₀ статистика подчиняется  - распределению. Вероятность

Уже при значениях α = 0,05 нет оснований для принятия гипотезы H₀, но есть основание проверить и другие распределения. Результаты проверки гипотезы о согласии иллюстрирует рисунок 14.

Рисунок 14 - Результаты проверки согласия к примеру 2

Пример 3 Проверяют простую гипотезу о принадлежности выборки нормальному закону распределения. Упорядоченная выборка объемом 300 наблюдений имеет вид:

Проверяемая гипотеза имеет вид  Оптимальные граничные точки в виде t_i = (х_i - θ₀)θ₁ берут из таблицы А.28 при k = 7(-2,0600; -1,2647; -0,4918; 0,4918; 1,2647; 2,0600), так как из таблицы А.29 P_kЧn = 0,0197Ч300 > 5. При θ₀ = 1, θ₁, =2 принимают значения: -3,12; -1,5294; 0,0164; 1,9836; 3,5294; 5,12. Вероятности попадания наблюдений в интервал из таблицы А.29: 0,0197; 0,0833; 0,2084; 0,3772; 0,2084; 0,0833; 0,0197. По выборке находят количества наблюдений n_i попавших в соответствующие интервалы (3, 25, 62, 101, 60, 39, 10). В соответствии с соотношением (1) вычисляют значение статистики  При справедливости гипотезы H₀ статистика подчиняется  - распределению. Вероятность  При значениях уровня значимости α > 0,0353 гипотеза H₀ будет отклонена. Результаты проверки гипотезы о согласии показаны на рисунке 15.

Рисунок 15 - Результаты проверки согласия к примеру 3

Пример 4 Проверяют сложную гипотезу о принадлежности выборки нормальному закону распределения. По выборке оценивают параметр сдвига. Параметр масштаба θ₁ = 2. Выборка из примера 3. Вычисленная по ней оценка максимального правдоподобия параметра сдвига θ₀ = 1,2097. Оставляют k = 7, так как из таблицы А.25 P_kЧn = 0,0536Ч300 > 15. Оптимальные граничные точки в виде t_i = (х_i - θ₀)θ₁ берут из таблицы А.24 (-1,6108; -0,8744; -0,2803; 0,2803; 0,8744; 1,6108). При θ₀= 1,2097; θ₁ = 2х_i принимают значения -2,0119; -0,5391; 0,6491; 1,7703; 2,9585; 4,4313. Вероятности попадания наблюдений в интервал из таблицы А.25: 0,0536; 0,1373; 0,1987; 0,2208; 0,1987; 0,1373; 0,0536. По выборке находят числа наблюдений n_i, попавших в соответствующие интервалы (13, 58, 53, 62, 48, 33, 23). В соответствии с соотношением (1) вычисляют значение статистики  При справедливости H₀ статистика приближенно подчиняется  - распределению. Вероятность  При значениях уровня значимости α > 0,0173 гипотеза H₀ будет отклонена. Результаты проверки гипотезы о согласии иллюстрирует рисунок 16.

Рисунок 16 - Результаты проверки согласия к примеру 4

Пример 5 Проверяют сложную гипотезу о принадлежности выборки нормальному закону распределения. По выборке оценивают масштабный параметр (стандартное отклонение). Параметр сдвига θ₀ = 1. Выборка из примера 3. Вычисленная по ней оценка максимального правдоподобия параметра масштаба θ₀ = 2,1101. Выбирают k = 5, так как из таблицы А.27 P_kЧn = 0,023Ч300 > 6 и при большем числе интервалов ожидаемое число попаданий наблюдений в крайние интервалы не превышает 3. Оптимальные граничные точки в виде t_i = (х_i - θ₀)θ₁, берут из таблицы А.26: -1,9956; -1,1401; 1,1401; 1,9958. При θ₀ = 1, θ₁ = 2,1101х_i принимают значения -3,21092; -1,40573; 3,405725; 5,211338. Вероятности попадания наблюдений в интервал из таблицы А.27: 0,0230; 0,1041; 0,7458; 0,1041; 0,0230. По выборке находят числа наблюдений n_i, попавших в соответствующие интервалы (3, 29, 221, 41, 9). В соответствии с соотношением (1) вычисляют значение статистики  При справедливости H₀ статистика приближенно подчиняется  - распределению. Вероятность  При значениях уровня значимости α < 0,1 нет оснований для отклонения гипотезы H₀. Результаты проверки гипотезы о согласии показаны на рисунке 17.

Рисунок 17 - Результаты проверки согласия к примеру 5

Пример 6 Проверяют сложную гипотезу о принадлежности наблюдаемой выборки нормальному закону распределения. Проверяемая гипотеза имеет вид  По выборке из примера 3 оценивают оба параметра нормального распределения. Оценки максимального правдоподобия параметров при θ₀ = 1,2097; θ₁ = 2,1032. Как и в примере 3, оптимальные граничные точки в виде t_i = (х_i - θ₀)θ₁ берут из таблицы А.28 при k = 7 (-2,0600; -1,2647; -0,4918; 0,4918; 1,2647; 2,0600), так как из таблицы А.29 P_kЧn = 0,0197Ч300 > 5. При θ₀ = 1,2097; θ₁ = 2,1032х_i принимают значения -3,1435; -1,4629; 0,1704; 2,2490; 3,8823; 5,5629. Вероятности попадания наблюдений в интервал из таблицы А.29: 0,0197; 0,0833; 0,2084; 0,3772; 0,2084; 0,0833; 0,0197. По выборке находят числа наблюдений n_i, попавших в соответствующие интервалы (3, 29, 67, 105, 64, 26, 6). В соответствии с соотношением (1) вычисляют значение статистики  При справедливости гипотезы H₀ статистика приближенно подчиняется  - распределению. Вычисленное значение вероятности  подтверждает хорошее согласие экспериментальных данных теоретическому распределению по данному критерию. При значениях уровня значимости α < 0,5221 гипотеза H₀ будет принята. Результаты проверки гипотезы о согласии иллюстрирует рисунок 18.

Рисунок 18 - Результаты проверки согласия к примеру 6

Пример 7 Проверяют сложную гипотезу о принадлежности выборки, представленной в примере 2, распределению Вейбулла. Проверяют гипотезу

при оценивании по выборке параметров θ₀ и θ₁ методом максимального правдоподобия. Вычисленные оценки θ₀ = 1,2585, θ₁ = 1,0088. Из условия, чтобы ожидаемое число наблюдений, попавших в интервал с наименьшей вероятностью, было не очень малым, по таблице А.23 выбирают k = 6. В этом случае P_kЧn = 0,0122Ч300 > 3. Оптимальные граничные точки в виде  берут из таблицы А.22: 0,0772; 0,3649; 1,2269; 2,5726; 4,4096. При θ₀ = 1,2585; θ₁ =1,0088; θ₂ = 0 по значениям t_i определяют : 0,1318; 0,4528; 1,1868; 2,1374; 3,2798. Вероятности попадания наблюдений в интервал из таблицы А.23: 0,0743; 0,2314; 0,4011; 0,2169; 0,0641; 0,0122. По выборке находят числа наблюдений n_i, попавших в соответствующие интервалы (24, 69, 116, 67, 21, 3).

Значение статистики  При справедливости гипотезы H₀ статистика приближенно подчиняется  - распределению. Так как вычисленная вероятность  то это свидетельствует об очень хорошем согласии данных с теоретическим распределением. Результаты проверки гипотезы иллюстрирует рисунок 19.

Рисунок 19 - Результаты проверки согласия к примеру 7

3 Порядок применения критериев типа χ²

3.1 Порядок проверки простой гипотезы

При проверке простой гипотезы о согласии опытного распределения с теоретическим распределением случайной величины X действуют следующим образом.

а) Формулируют проверяемую гипотезу, выбирая теоретическое распределение случайной величины F(x, θ), согласие которого с опытным распределением этой величины следует проверить.

б) Из совокупности отбирают случайную выборку объема N.

в) В зависимости от объема выборки N в соответствии с рекомендациями 2.8 выбирают число интервалов k.

г) Выбирают граничные точки интервалов группирования.

1) Интервалы можно выбирать равной длины, в этом случае необходимо подсчитать число n_i и определить значения вероятностей P_i(θ).

2) Интервалы можно выбирать равновероятными, тогда P_i(θ) = 1/k, но необходимо вычислить значения граничных точек х_i, разделяющих интервалы.

3) Можно разбивать выборку на интервалы в соответствии с асимптотически оптимальным группированием для данного закона распределения (см. 2.9, таблицу 3). Такое разбиение наиболее предпочтительно, так как повышает способность критерия различать близкие гипотезы.

д) После подсчета n_i и P_i(θ) в соответствии с выбранным критерием проверки вычисляют значение статистики S^* критерия по формуле (1) или (6).

е) В соответствии с  - распределением по формуле (5) вычисляют значение P{S > S^*}. Если P{S > S^*} > α, где α - задаваемый уровень значимости, то нет оснований для отклонения проверяемой гипотезы. В противном случае проверяемую гипотезу H₀ отвергают.

Можно вычисленное значение статистики S^* сравнить с критическим значением S_r,α, где 1 r = k - 1 - число степеней свободы, определяемым из уравнения  Значения S_r,α приведены в приложении Б. Гипотезу о согласии отвергают, если значение статистики попадает в критическую область, т. е. при S^* > S_r,α.

3.2 Порядок проверки сложной гипотезы

3.2.1 При проверке сложной гипотезы и вычислении оценок параметров по группированным данным в результате минимизации статистик, задаваемых формулами (1) и (6), или в результате максимизации функции правдоподобия (8) порядок проверки аналогичен случаю простой гипотезы (см. 3.1) с заданием числа степеней свободы r = k - m - 1, где m - число оцененных по данной выборке параметров. При этом остаются в силе рекомендации по способам группирования.

3.2.2 При проверке сложной гипотезы и вычислении оценок максимального правдоподобия по исходным негруппированным выборочным данным и использовании для проверки гипотезы статистики (11) число степеней свободы предельного распределения r = k - 1.

3.2.3 При вычислении оценок максимального правдоподобия по исходным негруппированным выборочным данным и применении для проверки гипотезы статистики, определяемой формулой (1) или (6), руководствуются следующими соображениями.

3.2.3.1 Значения S_r,α процентных точек  - распределения при числе степеней свободы r = k - m - 1 меньше, чем значения процентных точек действительных предельных распределений статистик (1) и (6) для такой ситуации (см. 2.7). Поэтому, если S^* < S_r,α, то гипотеза H₀ о согласии при заданном уровне значимости α заведомо не должна быть отвергнута.

3.2.3.2 Значения процентных точек действительных распределений статистик (1) и (6) существенно отличаются от процентных точек  - распределения при числе степеней свободы r = k - m - 1.

При больших значениях S^* вероятности вида P{S > S^*}, вычисляемые в соответствии с  - распределением по формуле (5), достаточно близки к вероятностям P{S > S^*}, соответствующим действительным распределениям статистик.

При малых значениях S^* вероятности, вычисляемые по формуле (5), много меньше действительных значений P{S > S^*} (см. 2.7). Поэтому, если приближенное значение, вычисленное по формуле (5), больше значения α, то заведомо P{S > S^*} > α и гипотеза о согласии не должна быть отвергнута.

ПРИЛОЖЕНИЕ А

(рекомендуемое)

Таблицы асимптотически оптимального группирования наблюдений в критериях согласия типа χ²

Таблица А.1 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании параметра экспоненциального распределения, параметра распределения Парето, масштабного параметра распределения Вейбулла, параметра сдвига распределения наименьшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.2 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² (при оценивании масштабного параметра экспоненциального распределения, параметра распределения Рэлея, параметра распределения Парето, масштабного параметра распределения Вейбулла, параметра сдвига распределения наименьшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.3 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании параметра распределения Рэлея) и соответствующие значения относительной асимптотической информации А

Таблица А.4 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании параметра распределения Максвелла) и соответствующие значения относительной асимптотической информации А

Таблица А.5 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² (при оценивании масштабного параметра распределения Максвелла) и соответствующие значения относительной асимптотической информации А

Таблица А.6 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании параметра полунормального распределения) и соответствующие значения относительной асимптотической информации А

Таблица А.7 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² (при оценивании параметра полунормального распределения) и соответствующие значения относительной асимптотической информации А

Таблица А.8 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 4)] и соответствующие значения относительной асимптотической информации А

Таблица А.9 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 4)] и соответствующие значения относительной асимптотической информации А

Таблица А.10 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 5)] и соответствующие значения относительной асимптотической информации А

Таблица А.11 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 5)] и соответствующие значения относительной асимптотической информации А

Таблица А.12 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 6)] и соответствующие значения относительной асимптотической информации А

Таблица А.13 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 6)] и соответствующие значения относительной асимптотической информации А

Таблица А.14 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 7)] и соответствующие значения относительной асимптотической информации А

Таблица А.15 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 7)] и соответствующие значения относительной асимптотической информации А

Таблица А.16 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 8)] и соответствующие значения относительной асимптотической информации А

Таблица А.17 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 8)] и соответствующие значения относительной асимптотической информации А

Таблица А.18 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании параметра распределения модуля нормальной случайной величины (m = 9)] и соответствующие значения относительной асимптотической информации А

Таблица А.19 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² [при оценивании параметра распределения модуля нормальной случайной величины (m = 9)] и соответствующие значения относительной асимптотической информации А

Таблица А.20 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании основного параметра распределения Вейбулла, масштабного параметра распределения наименьшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.21 - Оптимальные вероятности (частоты) при проверке сложных гипотез по критериям типа χ² (при оценивании основного параметра распределения Вейбулла, масштабного параметра распределения наименьшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.22 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров распределения Вейбулла, двух параметров распределения наименьшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.23 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров распределения Вейбулла, двух параметров распределения наименьшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.24 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании математического ожидания нормального распределения, параметра сдвига логарифмически нормальных распределений) и соответствующие значения относительной асимптотической информации А

Таблица А.25 - Оптимальные вероятности (частоты) при проверке сложных гипотез по критериям типа χ² (при оценивании математического ожидания нормального распределения, параметра сдвига логарифмически нормальных распределений) и соответствующие значения относительной асимптотической информации А

Таблица A.26 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании стандартного отклонения нормального распределения, масштабного параметра логарифмически нормальных распределений) и соответствующие значения относительной асимптотической информации А

Таблица А.27 - Оптимальные вероятности (частоты) при проверке сложных гипотез по критериям типа χ² (при оценивании стандартного отклонения нормального распределения, масштабного параметра логарифмически нормальных распределений) и соответствующие значения относительной асимптотической информации А

Таблица А.28 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров нормального распределения, двух параметров логарифмически нормальных распределений) и соответствующие значения относительной асимптотической информации А

Таблица А.29 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров нормального распределения, двух параметров логарифмически нормальных распределений) и соответствующие значения относительной асимптотической информации А

Таблица А.30 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании параметра сдвига распределения наибольшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.31 - Оптимальные вероятности (частоты) при проверке сложных гипотез по критериям типа χ² (при оценивании параметра сдвига распределения наибольшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.32 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра распределения наибольшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.33 - Оптимальные вероятности (частоты) при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра распределения наибольшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.34 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров распределения наибольшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.35 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров распределения наибольшего экстремального значения) и соответствующие значения относительной асимптотической информации А

Таблица А.36 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра распределения Коши) и соответствующие значения относительной асимптотической информации А

Таблица А.37 - Оптимальные вероятности (частоты) при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра распределения Коши) и соответствующие значения относительной асимптотической информации А

Таблица А.38 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании параметра сдвига распределения Коши) и соответствующие значения относительной асимптотической информации А

Таблица А.39 - Оптимальные вероятности (частоты) при проверке сложных гипотез по критериям типа χ² (при оценивании параметра сдвига распределения Коши) и соответствующие значения относительной асимптотической информации А

Таблица А.40 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров распределения Коши) и соответствующие значения относительной асимптотической информации А

Таблица А.41 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании параметра сдвига логистического распределения) и соответствующие значения относительной асимптотической информации А

Таблица А.42 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра логистического распределения) и соответствующие значения относительной асимптотической информации А

Таблица А.43 - Оптимальные вероятности (частоты) при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра логистического распределения) и соответствующие значения относительной асимптотической информации А

Таблица А.44 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров логистического распределения) и соответствующие значения относительной асимптотической информации А

Таблица А.45 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров логистического распределения) и соответствующие значения относительной асимптотической информации А

Таблица А.46 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании масштабного параметра распределения Лапласа) и соответствующие значения относительной асимптотической информации А

Таблица А.47 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании масштабного параметра распределения Лапласа) и соответствующие значения относительной асимптотической информации А

Таблица А.48 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² (при оценивании масштабного параметра распределения Лапласа) и соответствующие значения относительной асимптотической информации А

Таблица А.49 - Оптимальные вероятности (частоты) при проверке простых и сложных гипотез по критериям типа χ² (при оценивании масштабного параметра распределения Лапласа) и соответствующие значения относительной асимптотической информации А

Таблица А.50 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра двойного показательного распределения) и соответствующие значения относительной асимптотической информации А

Таблица А.51 - Оптимальные частоты при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра двойного показательного распределения)

 

Таблица А.52 - Оптимальные граничные точки интервалов группирования при проверке простых и сложных гипотез по критериям типа χ² (при оценивании двух параметров двойного показательного распределения) и соответствующие значения относительной асимптотической информации А

Таблица А.53 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании основного параметра θ₀ гамма-распределения в зависимости от его значений) и соответствующие значения относительной асимптотической информации А

Таблица A.54 - Оптимальные вероятности (частоты) интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании основного параметра θ₀ гамма-распределения в зависимости от его значений) и соответствующие значения относительной асимптотической информации А

Таблица А.55 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра гамма-распределения и известных значениях основного параметра θ₀) и соответствующие значения относительной асимптотической информации А

Таблица A.56 - Оптимальные вероятности (частоты) интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного параметра гамма-распределения и известных значениях основного параметра θ₀) и соответствующие значения относительной асимптотической информации А

Таблица A.57 - Оптимальные граничные точки интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного и основного параметров гамма-распределения в зависимости от значений основного параметра θ₀) и соответствующие значения относительной асимптотической информации А

Таблица A.58 - Оптимальные вероятности (частоты) интервалов группирования при проверке сложных гипотез по критериям типа χ² (при оценивании масштабного и основного параметров гамма-распределения в зависимости от значений основного параметра θ₀) и соответствующие значения относительной асимптотической информации А

ПРИЛОЖЕНИЕ Б

(справочное)

Процентные точки χ² - распределений

Таблица Б.1- (1 - α) - квантили -распределения

ПРИЛОЖЕНИЕ В

(справочное)

Библиография

Ключевые слова: проверка гипотез, простые и сложные гипотезы, критерии согласия, группирование данных, асимптотически оптимальное группирование данных, уровень значимости, конкурирующая гипотеза, мощность критерия