Interested Article - Ковариационная матрица

Ковариацио́нная ма́трица (или ма́трица ковариа́ций ) в теории вероятностей — это матрица , составленная из попарных ковариаций элементов одного или двух случайных векторов .

Ковариационная матрица случайного вектора — квадратная симметрическая неотрицательно определенная матрица, на диагонали которой располагаются дисперсии компонент вектора, а внедиагональные элементы — ковариации между компонентами.

Ковариационная матрица случайного вектора является многомерным аналогом дисперсии случайной величины для случайных векторов. Матрица ковариаций двух случайных векторов — многомерный аналог ковариации между двумя случайными величинами.

В случае нормально распределённого случайного вектора ковариационная матрица вместе с математическим ожиданием этого вектора полностью определяют его распределение (по аналогии с тем, что математическое ожидание и дисперсия нормально распределённой случайной величины полностью определяют её распределение)

Определения

  • Пусть , — два случайных вектора размерности и соответственно. Пусть также случайные величины имеют конечный второй момент ( дисперсию ), то есть . Тогда матрицей ковариации векторов называется

то есть

,

где

,
математическое ожидание .

Свойства матриц ковариации

  • Сокращённая формула для вычисления матрицы ковариации:
.
.
  • Смена масштаба:
.
  • Если случайные векторы и нескоррелированы ( ), то
.
,

где — произвольная матрица размера , а .

,
.
  • Если и независимы, то
.

Условная ковариационная матрица

Ковариационная матрица случайного вектора является характеристикой его распределения. В случае (многомерного) нормального распределения математическое ожидание вектора и его ковариационная матрица полностью определяют его распределение. Характеристиками условного распределения одного случайного вектора при условии заданного значения другого случайного вектора являются соответственно условное математическое ожидание ( функция регрессии ) и условная ковариационная матрица.

Пусть случайные векторы и имеют совместное нормальное распределение с математическими ожиданиями , ковариационными матрицами и матрицей ковариаций . Это означает, что объединенный случайный вектор подчиняется многомерному нормальному распределению с вектором математического ожидания и ковариационной матрицей которую можно представить в виде следующей блочной матрицы

где

Тогда случайный вектор при заданном значении случайного вектора имеет нормальное распределение (условное) со следующим условным математическим ожиданием и условной ковариационной матрицей

Первое равенство определяет функцию линейной регрессии (зависимости условного математического ожидания вектора от заданного значения x случайного вектора ), причем матрица - матрица коэффициентов регрессии.

Условная ковариационная матрица представляет собой матрицу ковариаций случайных ошибок линейных регрессий компонентов вектора на вектор .

В случае если - обычная случайная величина (однокомпонентный вектор), условная ковариационная матрица - это условная дисперсия (по существу - случайной ошибки регрессии на вектор )

Примечания

  1. А. Н. Ширяев. Глава 2, §6. Случайные величины II // Вероятность. — 3-е изд. — Cambridge, New York,...: МЦНМО, 2004. — Т. 1. — С. 301. — 520 с.
Источник —

Same as Ковариационная матрица