Материал данного поста является вспомогательным, хотя и весьма важным. Поэтому здесь приводятся доказательства не всех формулируемых утверждений. Кроме того, здесь не будут приводиться обобщения (иногда достаточно содержательные) этих утверждений.

Повсюду в этом посте будем предполагать, что все рассматриваемые случайные величины принимают значения в метрическом пространстве Ψ, наделенном метрикой ρ. В дальнейшем в качестве таких случайных величин будут рассматриваться состояния процесса z_t, для которого соответствующие метрики введены в марковских процессах с дискретным временем.

Будем также считать, что все рассматриваемые случайные величины определены на одном вероятностном пространстве, хотя в ряде случаев данное предположение является излишним. Тем самым мы имеем право рассматривать не только маргинальные (частные) распределения случайных величин, но и их совместные распределения.

Условимся в пределах данного поста применять для случайных величин ξ_i, ξ, η_i и η следующие обозначения: F_i(B) = {ξ_i∈B}, F(B) = P{ξ∈B}, G_i(B) = Р{η_i∈B}, G(B) = P{η∈B}, H (D) = Р {(ξ, η)∈D}, B⊂Ψ, D⊂ΨxΨ. Более того, будем рассматривать лишь случай когда все случайные величины являются векторами конечной размерности. Поэтому введем еще функции распределения, обозначаемые теми же буквами, что и соответствующие распределения: F_i(x) = Р {ξ_i≤x}, F(х) = Р {ξ≤x}, G_i(y) = P{η_i≤y}, G(y) = P{η≤y}, H(x,y) = P{ξ≤x, η≤y}, x, y ∈ Ψ.

Пусть χ(Ψ)—множество непрерывных ограниченных функций, заданных на Ψ. Если B⊂Ψ, то В^ε означает ε-окрестность множества В, т. е.

В^ε = {х:ρ(х, В) < ε, x∈Ψ},

а В* — границу множества B.

Определение 1. Последовательность распределений F, слабо сходится к F, если для любой функции f∈χ(Ψ) имеет место соотношение

lim ∫f(x)F_k(dx) = ∫f(x)F(dx). (1)

Соотношение (1) можно переписать в виде

lim Mf(ξ_k) = Мf(ξ). (2)

Будем также при выполнении (1) или (2) говорить о слабой сходимости последовательности случайных величин {ξ_k} к величине ξ.

Понятие слабой сходимости основано лишь на маргинальных распределениях F_k и F случайных величин ξ_k и ξ соответственно. Иногда при доказательствах удобно пользоваться другими определениями слабой сходимости. Приведем поэтому критерии слабой сходимости.

Теорема 1. Для слабой сходимости распределений F_k к распределению F необходимо и достаточно, чтобы для любого множества В такого, что F(B)=0 {такое множество называют F-непрерывным), было выполнено соотношение

lim F_k(В) = F(B). (3)

Следствие. Для слабой сходимости распределений F_k к F необходимо и достаточно, чтобы

lim F_k(x) = F(x), (4)

для любой точки х, в которой функция распределения F непрерывна.

При рассмотрении прикладных и теоретических вопросов часто возникает необходимость связать рассматриваемый тип сходимости с некоторой метрикой, чтобы иметь количественный показатель скорости сходимости.

Ниже будут вводиться расстояния как между распределениями (все рассматриваемые распределения должны иметь одну и ту же область определения), так и между случайными величинами (все случайные величины принимают значения в одном и том же пространстве).

Определение 2. Неотрицательную функцию h, которая ставит в соответствие каждой паре распределений F и G число h(F, G), назовем расстоянием, если выполнены следующие условия:
1) h(F, G) = A(G, F);
2) h(F, G) = 0 тогда и только тогда, когда F = G;
3) h(F, G) ≤ h(F, К) + h(K, G) для любых распределений F, G, К.

Определение 3. Неотрицательную функцию h, которая ставит в соответствие каждой паре случайных величин ξ и η некоторое число h(ξ, η), назовем расстоянием, если выполнены условия:

1) h(ξ, η) = h(η, ξ);
2) из равенства Р {ξ = η} = 1 следует, что h(&xi, η) = 0, из равенства h(&xi, η) = 0 следует, что F = G;
3) h(&xi, η) ≤ h(&xi, ζ) + h(ζ, η) для любых случайных величин &xi,, η, ζ.

Все вводимые ниже расстояния удовлетворяют определениям 2 или 3.

Замечание. Часто расстоянием между случайными величинами называют функцию h, удовлетворяющую условиям 1) и 3) определения 3, и которая, кроме того, равна нулю в том и только в том случае, когда P{ξ = η} = 1. Такое определение более «традиционно», но оно менее удобно и естественно для задач, решаемых далее.

Пусть ξ и η — скалярные случайные величины с функциями распределения F и G соответственно.

Определение 4. Расстоянием Леей между распределениями F и G (или между случайными величинами ξ и η) назовем число

L(F, G) = L(ξ, η) = inf{ε : F(x) ≤ G(x + ε) + ε,
G(x) ≤ F(x + ε) + ε для всех x∈Ψ}. (5)

В случае, когда Ψ не является действительной прямой, более естественным представляется расстояние Леви — Прохорова.

Определение 5. Расстоянием Леви — Прохорова между распределениями F и G (или между случайными величинами ξ и η) назовем число

π(F, G) = π(ξ, η) = inf{ε : F(B) ≤ G(B^ε) + ε,
G(B) ≤ F(B^ε) + ε для любых замкнутых B⊂Ψ}. (6)

В равенстве (6) вместо замкнутых множеств В можно брать открытые или всевозможные борелевские множества из Ψ.

Еще одно расстояние порождено определением 1 слабой сходимости.

Определение 6. Расстоянием Дадли между распределениями F и G (или между случайными величинами ξ и η) назовем число

d(F, G) = d(ξ, η) = sup |Mf(ξ) — Mf(η)}, (7)

Лемма 1. Справедливо неравенство

π²(F, G) ≤ d(F, G) ≤ 3π(F, G). (8)

Следствие. Если ξ и η — целочисленные случайные величины, то

π(ξ, η) ≤ d(ξ, η) ≤ 2π(ξ, η). (8′)

Следующая теорема связывает понятие слабой сходимости с введенными метриками.

Теорема 2. Для слабой сходимости последовательности распределений {F_k} к F необходимо и достаточно, чтобы

lim π(F_k, F) = 0. (9)

Из леммы 1 вытекает, что соотношение (9) выполнено тогда и только тогда, когда

lim d(F_k, F) = 0. (10)

Если F_k и F — распределения на прямой, то необходимым и достаточным условием слабой сходимости является соотношение

lim L(F_k, F) = 0. (11)

Как было отмечено, в формулировке понятия слабой сходимости использовались лишь маргинальные распределения членов рассматриваемой последовательности, т. е. при этом было неважно, заданы ли случайные величины, образующие указанную последовательность, на одном вероятностном пространстве или нет.

Понятие сходимости по вероятности, к определению которого мы сейчас перейдем, требует, чтобы все рассматриваемые случайные величины были заданы на одном вероятностном пространстве, поскольку этот тип сходимости определяется через совместные распределения всевозможных пар (ξ_k, ξ).

Определение 7. Последовательность случайных величин {ξ_k} сходится по вероятности к случайной величине ξ, если для произвольного числа ε > 0 справедливо

lim P{ρ(ξ_k, ξ) ≥ ε} = 0. (12)

Удобно дать несколько иную формулировку сходимости по вероятности, эквивалентную первоначальной.

Определение 7′. Последовательность случайных величин {ξ_k} сходится по вероятности к случайной величине ξ, если для произвольного числа ε > 0 существует целое N > 0 такое, что

sup P{ρ(ξ_k, ξ) ≥ ε} < ε. (13)

Теорема 3. Если последовательность {ξ_k} сходится по вероятности к случайной величине ξ, то она слабо сходится к ξ.

Свяжем сходимость по вероятности с метрикой.

Определение 8. Расстоянием Ки-Фана между случайными величинами ξ и η назовем число

ℵ(ξ, η) = inf{ε: P{ρ(ξ_k, η) ≥ ε} < ε, (14)

Из определений 7′ и 8 следует

Теорема 4. Для .того чтобы последовательность случайных величин {ξ_k} сходилась по вероятности к случайной величине, необходимо и достаточно, чтобы

lim ℵ(ξ_k, ξ) = 0. (15)

Наряду со сходимостью по вероятности нам понадобится сходимость в среднем. Ее мы с самого начала определим в «метрической» форме.

Определение 9. Средним расстоянием между случайными величинами ξ и η назовем число

m(ξ, η) = Mρ(ξ, η). (16)

В отличие от ранее введенных расстояний, которые были ограниченными, среднее расстояние может принимать, вообще говоря, и бесконечные значения. Как и расстояние Ки-Фана, среднее расстояние определяется совместным распределением величин ξ и η.

Определение 10. Последовательность случайных величин {ξ_k} сходится в среднем к случайной величине ξ, если

lim m(ξ_k, ξ) = 0. (17)

Комментарии запрещены.