Сходимость и метрики

Материал данного поста является вспомогательным, хотя и весьма важным. Поэтому здесь приводятся доказательства не всех формулируемых утверждений. Кроме того, здесь не будут приводиться обобщения (иногда достаточно содержательные) этих утверждений.

Повсюду в этом посте будем предполагать, что все рассматриваемые случайные величины принимают значения в метрическом пространстве Ψ, наделенном метрикой ρ. В дальнейшем в качестве таких случайных величин будут рассматриваться состояния процесса zt, для которого соответствующие метрики введены в марковских процессах с дискретным временем.

Будем также считать, что все рассматриваемые случайные величины определены на одном вероятностном пространстве, хотя в ряде случаев данное предположение является излишним. Тем самым мы имеем право рассматривать не только маргинальные (частные) распределения случайных величин, но и их совместные распределения.

Условимся в пределах данного поста применять для случайных величин ξi, ξ, ηi и η следующие обозначения: Fi(B) = {ξi∈B}, F(B) = P{ξ∈B}, Gi(B) = Р{ηi∈B}, G(B) = P{η∈B}, H (D) = Р {(ξ, η)∈D}, B⊂Ψ, D⊂ΨxΨ. Более того, будем рассматривать лишь случай когда все случайные величины являются векторами конечной размерности. Поэтому введем еще функции распределения, обозначаемые теми же буквами, что и соответствующие распределения: Fi(x) = Р {ξi≤x}, F(х) = Р {ξ≤x}, Gi(y) = P{ηi≤y}, G(y) = P{η≤y}, H(x,y) = P{ξ≤x, η≤y}, x, y ∈ Ψ.

Пусть χ(Ψ)—множество непрерывных ограниченных функций, заданных на Ψ. Если B⊂Ψ, то Вε означает ε-окрестность множества В, т. е.

Вε = {х:ρ(х, В) < ε, x∈Ψ},

а В* — границу множества B.

Определение 1. Последовательность распределений F, слабо сходится к F, если для любой функции f∈χ(Ψ) имеет место соотношение

lim ∫f(x)Fk(dx) = ∫f(x)F(dx). (1)

Соотношение (1) можно переписать в виде

lim Mf(ξk) = Мf(ξ). (2)

Будем также при выполнении (1) или (2) говорить о слабой сходимости последовательности случайных величин {ξk} к величине ξ.

Понятие слабой сходимости основано лишь на маргинальных распределениях Fk и F случайных величин ξk и ξ соответственно. Иногда при доказательствах удобно пользоваться другими определениями слабой сходимости. Приведем поэтому критерии слабой сходимости.

Теорема 1. Для слабой сходимости распределений Fk к распределению F необходимо и достаточно, чтобы для любого множества В такого, что F(B)=0 {такое множество называют F-непрерывным), было выполнено соотношение

lim Fk(В) = F(B). (3)

Следствие. Для слабой сходимости распределений Fk к F необходимо и достаточно, чтобы

lim Fk(x) = F(x), (4)

для любой точки х, в которой функция распределения F непрерывна.

При рассмотрении прикладных и теоретических вопросов часто возникает необходимость связать рассматриваемый тип сходимости с некоторой метрикой, чтобы иметь количественный показатель скорости сходимости.

Ниже будут вводиться расстояния как между распределениями (все рассматриваемые распределения должны иметь одну и ту же область определения), так и между случайными величинами (все случайные величины принимают значения в одном и том же пространстве).

Определение 2. Неотрицательную функцию h, которая ставит в соответствие каждой паре распределений F и G число h(F, G), назовем расстоянием, если выполнены следующие условия:
1) h(F, G) = A(G, F);
2) h(F, G) = 0 тогда и только тогда, когда F = G;
3) h(F, G) ≤ h(F, К) + h(K, G) для любых распределений F, G, К.

Определение 3. Неотрицательную функцию h, которая ставит в соответствие каждой паре случайных величин ξ и η некоторое число h(ξ, η), назовем расстоянием, если выполнены условия:

1) h(ξ, η) = h(η, ξ);
2) из равенства Р {ξ = η} = 1 следует, что h(&xi, η) = 0, из равенства h(&xi, η) = 0 следует, что F = G;
3) h(&xi, η) ≤ h(&xi, ζ) + h(ζ, η) для любых случайных величин &xi,, η, ζ.

Все вводимые ниже расстояния удовлетворяют определениям 2 или 3.

Замечание. Часто расстоянием между случайными величинами называют функцию h, удовлетворяющую условиям 1) и 3) определения 3, и которая, кроме того, равна нулю в том и только в том случае, когда P{ξ = η} = 1. Такое определение более «традиционно», но оно менее удобно и естественно для задач, решаемых далее.

Пусть ξ и η — скалярные случайные величины с функциями распределения F и G соответственно.

Определение 4. Расстоянием Леей между распределениями F и G (или между случайными величинами ξ и η) назовем число

L(F, G) = L(ξ, η) = inf{ε : F(x) ≤ G(x + ε) + ε,
G(x) ≤ F(x + ε) + ε для всех x∈Ψ}. (5)

В случае, когда Ψ не является действительной прямой, более естественным представляется расстояние Леви — Прохорова.

Определение 5. Расстоянием Леви — Прохорова между распределениями F и G (или между случайными величинами ξ и η) назовем число

π(F, G) = π(ξ, η) = inf{ε : F(B) ≤ G(Bε) + ε,
G(B) ≤ F(Bε) + ε для любых замкнутых B⊂Ψ}. (6)

В равенстве (6) вместо замкнутых множеств В можно брать открытые или всевозможные борелевские множества из Ψ.

Еще одно расстояние порождено определением 1 слабой сходимости.

Определение 6. Расстоянием Дадли между распределениями F и G (или между случайными величинами ξ и η) назовем число

d(F, G) = d(ξ, η) = sup |Mf(ξ) — Mf(η)}, (7)

Лемма 1. Справедливо неравенство

π2(F, G) ≤ d(F, G) ≤ 3π(F, G). (8)

Следствие. Если ξ и η — целочисленные случайные величины, то

π(ξ, η) ≤ d(ξ, η) ≤ 2π(ξ, η). (8′)

Следующая теорема связывает понятие слабой сходимости с введенными метриками.

Теорема 2. Для слабой сходимости последовательности распределений {Fk} к F необходимо и достаточно, чтобы

lim π(Fk, F) = 0. (9)

Из леммы 1 вытекает, что соотношение (9) выполнено тогда и только тогда, когда

lim d(Fk, F) = 0. (10)

Если Fk и F — распределения на прямой, то необходимым и достаточным условием слабой сходимости является соотношение

lim L(Fk, F) = 0. (11)

Как было отмечено, в формулировке понятия слабой сходимости использовались лишь маргинальные распределения членов рассматриваемой последовательности, т. е. при этом было неважно, заданы ли случайные величины, образующие указанную последовательность, на одном вероятностном пространстве или нет.

Понятие сходимости по вероятности, к определению которого мы сейчас перейдем, требует, чтобы все рассматриваемые случайные величины были заданы на одном вероятностном про
странстве, поскольку этот тип сходимости определяется через совместные распределения всевозможных пар (ξk, ξ).

Определение 7. Последовательность случайных величин {ξk} сходится по вероятности к случайной величине ξ, если для произвольного числа ε > 0 справедливо

lim P{ρ(ξk, ξ) ≥ ε} = 0. (12)

Удобно дать несколько иную формулировку сходимости по вероятности, эквивалентную первоначальной.

Определение 7′. Последовательность случайных величин {ξk} сходится по вероятности к случайной величине ξ, если для произвольного числа ε > 0 существует целое N > 0 такое, что

sup P{ρ(ξk, ξ) ≥ ε} < ε. (13)

Теорема 3. Если последовательность {ξk} сходится по вероятности к случайной величине ξ, то она слабо сходится к ξ.

Свяжем сходимость по вероятности с метрикой.

Определение 8. Расстоянием Ки-Фана между случайными величинами ξ и η назовем число

ℵ(ξ, η) = inf{ε: P{ρ(ξk, η) ≥ ε} < ε, (14)

Из определений 7′ и 8 следует

Теорема 4. Для .того чтобы последовательность случайных величин {ξk} сходилась по вероятности к случайной величине, необходимо и достаточно, чтобы

lim ℵ(ξk, ξ) = 0. (15)

Наряду со сходимостью по вероятности нам понадобится сходимость в среднем. Ее мы с самого начала определим в «метрической» форме.

Определение 9. Средним расстоянием между случайными величинами ξ и η назовем число

m(ξ, η) = Mρ(ξ, η). (16)

В отличие от ранее введенных расстояний, которые были ограниченными, среднее расстояние может принимать, вообще говоря, и бесконечные значения. Как и расстояние Ки-Фана, среднее расстояние определяется совместным распределением величин ξ и η.

Определение 10. Последовательность случайных величин {ξk} сходится в среднем к случайной величине ξ, если

lim m(ξk, ξ) = 0. (17)


Комментарии запрещены.





Статистика

Рейтинг@Mail.ru