Критерий согласия Колмогорова предназначен для проверки гипотезы о принадлежности выборки некоторому закону распределения, то есть проверки того, что эмпирическое распределение соответствует предполагаемой модели .

Критерий однородности Смирнова используется для проверки гипотезы о принадлежности двух независимых выборок одному закону распределения, то есть о том, что два эмпирических распределения соответствуют одному и тому же закону .

Эти критерии носят имена математиков Андрея Николаевича Колмогорова и Николая Васильевича Смирнова .

Критерий Смирнова о проверке гипотезы об однородности двух эмпирических законов распределения является одним из наиболее часто используемых непараметрических критериев .

Описание

Если в критерии ${\displaystyle \chi ^{2}}$ сопоставляются частоты двух распределений отдельно по каждому разряду, то здесь сопоставляются сначала частоты по первому разряду, потом по сумме первого и второго разрядов, потом по сумме первого, второго и третьего разрядов и т. д. Таким образом, каждый раз сопоставляются накопленные к данному разряду частоты.

Если различия между двумя распределениями существенны, то в какой-то момент разность накопленных частот достигнет критического значения, и различия можно будет признать статистически достоверными. В формулу критерия ${\displaystyle \lambda }$ включается эта разность. Чем больше эмпирическое значение ${\displaystyle \lambda }$ , тем более существенными являются различия.

Статистика критерия Колмогорова

Пусть эмпирическая функция распределения (ЭФР) ${\displaystyle F_{n}}$ , построенная по выборке ${\displaystyle X=\left(X_{1},\;\ldots ,\;X_{n}\right)}$ , имеет вид:

${\displaystyle F_{n}(x)={\frac {1}{n}}\sum _{i=1}^{n}I_{X_{i}\leqslant x},}$

где ${\displaystyle I_{X_{i}\leqslant x}}$ указывает, попало ли наблюдение ${\displaystyle X_{i}}$ в область ${\displaystyle (-\infty ,\;x]}$ :

${\displaystyle I_{X_{i}\leqslant x}={\begin{cases}1,&X_{i}\leqslant x;\\0,&X_{i}>x.\end{cases}}}$

Выполняется проверка того, является ли выборка порождённой случайной величиной ${\displaystyle \xi }$ с функцией распределения ${\displaystyle F(x)}$ . Статистика критерия для эмпирической функции распределения ${\displaystyle F_{n}(x)}$ определяется следующим образом:

${\displaystyle D_{n}=\sup _{x\in \mathbb {R} }|F_{n}(x)-F(x)|,}$

где под ${\displaystyle \sup }$ понимается супремум функции ${\displaystyle {|F_{n}(x)-F(x)|}}$ .

Распределение статистики Колмогорова

Обозначим нулевую гипотезу ${\displaystyle H_{0}}$ , как гипотезу о том, что выборка подчиняется распределению ${\displaystyle F(X)\in C^{1}(\mathbb {X} )}$ . Тогда по теореме Колмогорова для введённой статистики справедливо:

${\displaystyle \forall t>0\colon \lim _{n\to \infty }P({\sqrt {n}}D_{n}\leqslant t)=K(t)=\sum _{j=-\infty }^{+\infty }(-1)^{j}e^{-2j^{2}t^{2}}=\theta _{4}{\big (}e^{-2t^{2}}{\big )},}$

где ${\displaystyle \theta _{4}(q)}$ -- Тета-функция Якоби. Учтём, что критерий имеет правостороннюю критическую область .

Принятие решения по критерию Колмогорова. Если статистика ${\displaystyle {\sqrt {n}}D_{n}}$ превышает процентную точку распределения Колмогорова ${\displaystyle K_{\alpha }}$ заданного уровня значимости ${\displaystyle \alpha }$ , то нулевая гипотеза ${\displaystyle H_{0}}$ (о соответствии закону ${\displaystyle F(x)}$ ) отвергается. Иначе гипотеза принимается на уровне ${\displaystyle \alpha }$ .

Если ${\displaystyle \alpha }$ достаточно близко к 1, то ${\displaystyle K_{\alpha }}$ можно приблизительно рассчитать по формуле:

${\displaystyle K_{\alpha }\approx {\sqrt {-{\frac {1}{2}}\ln {\frac {1-\alpha }{2}}}}.}$

Асимптотическая мощность критерия равна 1.

---

Обозначим теперь за нулевую гипотезу ${\displaystyle H_{0}}$ гипотезу о том, что две исследуемые выборки подчиняются одному распределению случайной величины ${\displaystyle \xi \colon F(X)\in C^{1}(\mathbb {X} )}$ .

Теорема Смирнова. Пусть ${\displaystyle F_{1,\;n}(x),\;F_{2,\;m}(x)}$ — эмпирические функции распределения, построенные по независимым выборкам объёмом ${\displaystyle n}$ и ${\displaystyle m}$ случайной величины ${\displaystyle \xi }$ . Тогда, если ${\displaystyle F(x)\in C^{1}(\mathbb {X} )}$ , то ${\displaystyle \forall t>0\colon \lim _{n,\;m\to \infty }P\left({\sqrt {\frac {nm}{n+m}}}D_{n,\;m}\leqslant t\right)=K(t)=\sum _{j=-\infty }^{+\infty }(-1)^{j}e^{-2j^{2}t^{2}}}$ , где ${\displaystyle D_{n,\;m}=\sup _{x}|F_{1,\;n}-F_{2,\;m}|}$ .

Теорема Смирнова позволяет построить критерий для проверки двух выборок на однородность.

Принятие решения по критерию Смирнова. Если статистика ${\displaystyle {\sqrt {\frac {nm}{n+m}}}D_{n,\;m}}$ превышает квантиль распределения Колмогорова ${\displaystyle K_{\alpha }}$ для заданного уровня значимости ${\displaystyle \alpha }$ , то нулевая гипотеза ${\displaystyle H_{0}}$ (об однородности выборок) отвергается. Иначе гипотеза принимается на уровне ${\displaystyle \alpha }$ .

См. также

• Проверка статистических гипотез
• Статистический критерий
  • Q-критерий Розенбаума
  • U-критерий Манна — Уитни
  • t-критерий Стьюдента
  • Критерий отношения правдоподобия
  • Критерий Пирсона
  • Критерий согласия Купера
• Критерий Крамера — Мизеса — Смирнова
• Критерий Андерсона-Дарлинга
• Критерий согласия Пирсона
• Критерий согласия Ватсона

Примечание 1

В критерии Колмогорова предпочтительней использование статистики с поправкой Большева в следующем виде ${\displaystyle {\sqrt {n}}D_{n}+1/(6{\sqrt {n}})}$ . Распределение данной статистики уже не так сильно зависит от объема выборки. Зависимостью её распределения от объема выборки ${\displaystyle n}$ можно пренебречь при ${\displaystyle n>25}$ .

Примечание 2

Классический критерий Колмогорова предназначен для проверки простых гипотез . Если проверяется гипотеза о согласии наблюдаемой выборки с законом, все параметры которого известны, то критерий Колмогорова является свободным от распределения : неважно, с каким законом проверяется согласие. Если проверяемая гипотеза справедлива, предельным распределением статистики Колмогорова является распределение Колмогорова ${\displaystyle K(t)}$ .

Всё меняется при проверке сложных гипотез , когда по анализируемой выборке оцениваются параметры теоретического закона, согласие с которым проверяется. При проверке сложных гипотез свобода от распределения теряется. При проверке сложных гипотез и справедливости проверяемой гипотезы распределения статистик непараметрических критериев согласия (и критерия Колмогорова) зависят от ряда факторов: от вида наблюдаемого закона, соответствующего проверяемой гипотезе; от типа оцениваемого параметра и числа оцениваемых параметров; в некоторых случаях от конкретного значения параметра (например, в случае семейств гамма- и бета-распределений); от метода оценивания параметров. Различия в предельных распределениях той же самой статистики при проверке простых и сложных гипотез настолько существенны, что пренебрегать этим ни в коем случае нельзя.

О применении критерия Колмогорова при проверке сложных гипотез

Ссылки