Interested Article - Априорная вероятность

В байесовском статистическом выводе априорное распределение вероятностей ( англ. prior probability distribution , или просто prior ) неопределённой величины распределение вероятностей , которое выражает предположения о до учёта экспериментальных данных. Например, если — доля избирателей, готовых голосовать за определённого кандидата, то априорным распределением будет предположение о до учёта результатов опросов или выборов. Противопоставляется апостериорной вероятности .

Согласно теореме Байеса , нормализованное произведение априорного распределения на функцию правдоподобия является условным распределением неопределённой величины согласно учтённым данным.

Априорное распределение часто задается субъективно опытным экспертом. При возможности используют сопряжённое априорное распределение , что упрощает вычисления.

Параметры априорного распределения называют , чтобы отличить их от параметров модели данных . Например, если используется бета-распределение для моделирования распределения параметра распределения Бернулли , то:

  • — параметр модели данных (распределения Бернулли);
  • и — параметры априорного распределения (бета-распределения), то есть гипер параметры.

Информативное априорное распределение

Информативное априорное распределение выражает конкретную информацию о переменной.

Например, подходящим априорным распределением для температуры воздуха завтра в полдень будет нормальное распределение со средним значением , равным температуре сегодня в полдень, и дисперсией , равной ежедневной дисперсии температуры.

Таким образом, апостериорное распределение для одной задачи (температуры сегодня) становится априорным для другой задачи (температуры завтра); чем больше свидетельств накапливается в таком априори, тем менее оно зависит от исходного предположения и более — от накопленных данных.

Неинформативное априорное распределение

Неинформативное априорное распределение выражает размытую или общую информацию о переменной.

Такое название не очень точно, более точным было бы не очень информативное априори или объективное априори , так как свойства распределения не назначаются субъективно.

Например, такое априори может выражать «объективную» информацию о том, что «переменная может быть только положительной» или «переменная лежит в интервале».

Простейшим и старейшим правилом назначения неинформативного априори является , который назначает равные вероятности для всех возможностей.

В использование неинформативных априори обычно приносит результаты, которые мало отличаются от традиционных, так как функция правдоподобия часто приносит больше информации, чем неинформативные априори.

Были предприняты попытки найти логические априори ( англ. a priori probability ), которые бы следовали из самой природы вероятности. Это является предметом философской дискуссии, которая разделила последователей байесовского подхода на две группы: «объективных» (которые верят, что такое априори существует во многих прикладных ситуациях) и «субъективных» (которые верят, что априорные распределения обычно представляют субъективные мнения и не могут быть строго обоснованы (Williamson 2010)). Возможно, сильнейший аргумент в пользу объективного байесизма был дан Эдвином Томпсоном Джейнсом .

В качестве примера естественного априори, следуя Джейнсу (2003), рассмотрим ситуацию, когда известно, что мяч спрятан под одной из трех чашек A, B или C, но нет никакой другой информации. В этом случае равномерное распределение интуитивно кажется единственно обоснованным. Более формально, проблема не изменится, если поменять местами названия чашек. Поэтому стоит выбрать такое априорное распределение, чтобы перестановка названий его не изменяла. И равномерное распределение является единственным подходящим.

Некорректное априорное распределение

Если теорема Байеса записана в виде:

то очевидно, что она останется верной, если все априорные вероятности P ( A i ) и P ( A j ) будут умножены на одну и ту же константу; то же верно для непрерывных случайных величин . Апостериорные вероятности останутся нормированными на сумму (или интеграл) 1, даже если априорные не были нормированными. Таким образом, априорное распределение должно задавать только верные пропорции вероятностей.

См. также

Литература

  • Williamson, Jon (2010). (PDF) . Philosophia Mathematica . 18 (1): 130—135. doi : . Архивировано из (PDF) 9 июня 2011 . Дата обращения: 2 июля 2010 .
Источник —

Same as Априорная вероятность