Некоторые задачи теории вероятностей и математической статистики, связанные с распределением Лапласа

Классическое распределение Лапласа с нулевым средним и дисперсией а2 было введено П. С. Лапласом в 1774 году [54]. С тех пор, наряду с нормальным, оно стало одной из наиболее активно используемых симметричных вероятностных моделей. Это распределение задается характеристической функцией или плотностью.

1(х) = —^ ехр{—>/2|ж|/о-}, СГ > 0, же И. (1) сг/2.

Хорошо известно, что распределение Лапласа находит широкое применение при математическом моделировании многих процессов в телекоммуникационных системах, в экономике, финансовом деле, технике и других областях, например, в задачах выделения полезного сигнала на фоне помех. Популярность распределения Лапласа как математической (вероятностной) модели обусловлена тем, что его хвосты тяжелее, чем у нормального распределения (см, например, книги [24, 44, 62], где описывается роль распределения Лапласа в методах робастного оцениванияработу [36], где обосновывается целесообразность использования распределения Лапласа как модели распределения погрешностей измерений в энергетикестагыо [46], посвященную применению распределения Лапласа для моделирования ошибок в навигацииработу [56], в которой распределение Лапласа применяется в метеорологиистатьи [25, 34], посвященные применению распределения Лапласа в управлении запасами и радиоэлектронике). Во многих работах описано успешное применение распределения Лапласа для моделирования распределения приращений логарифмов финансовых индексов [35, 53, 55]. В работах [38, 39, 47, 57] распределение Лапласа используется как модель логарифма доходов фирм и индивидуумов. Многие работы посвящены применению распределения Лапласа для моделирования распределения логарифма размера частиц при дроблении [26, 27, 37]. Наконец, распределение Лапласа применяется при моделировании статистических закономерностей поведения некоторых характеристик атмосферной [28] и плазменной [12] турбулентности. В [48, 52] можно найти дальнейшие ссылки на работы, в которых описывается применение распределения Лапласа к решению прикладных задач в самых разнообразных областях.

Привлекательность распределения Лапласа в качестве вероятностной модели при решении конкретных прикладных задач во многом обусловливается его экстремальными энтропийными свойствами. Согласно энтропийному (информационному) подходу построения вероятностных математических моделей в условиях неопределенности следует выбирать то модельное распределение, которое обладает максимальной энтропией при заданном условиями задачи комплексе ограничений. Выбор максимально неопределенной модели в определенном смысле соответствует реализации минимаксного подхода. Так распределение Лапласа обладает максимальной энтропией (максимизирует дифференциальную энтропию) в классе всех абсолютно непрерывных распределений, носителем которых является вся вещественная прямая, с нулевым математическим ожиданием и абсолютным моментом первого порядка, равным 1//2, а также в классе таких распределений, для которых случайная величина У с распределением из этого класса может быть представлена в виде произведения.

У = У'/У", где случайная величина У имеет функцию распределения из класса всех абсолютно непрерывных распределений, носителем которых является вся вещественная прямая, с нулевым математическим ожиданием и единичной дисперсией, а случайная величина У" имеет функцию распределения из класса всех абсолютно непрерывных распределений, носителем которых является неотрицательная полуось, с единичным математическим ожиданием (см. [49]). Этим свойством часто мотивируется выбор распределения Лапласа в качестве распределения погрешностей измерений, в которых точность (параметр масштаба) изменяется от измерения к измерению случайным образом (см., в частности, [21, 62]). Это свойство, также позволяет построить методику определения характерных временных масштабов в экспериментах с плазменной турбулентностью (см. [12]).

Естественность возникновения распределения Лапласа в задачах теории вероятностей и математической статистики подробно обоснована в недавней работе В. Е. Бенинга и В. Ю. Королёва [1], где была выявлена тесная связь распределения Лапласа с другими вероятностными распределениями и фигурирование распределения Лапласа в качестве сверточной и рандомизационной симметризаций показательного (экспоненциального) распределения, масштабной смеси нормальных законов с нулевым средним при экспоненциальном смешивающем распределении и других смесей, предельного распределения для геометрических случайных сумм (которые играют важную роль в теории надежностисм., например, [40]) асимптотической аппроксимации для распределений регулярных статистик, построенных по выборкам случайного объема. Последний результат стоит отметить особо.

В подавляющем большинстве ситуаций, связанных с анализом экспериментальных данных, можно признать, что число случайных факторов, влияющих на наблюдаемые величины, само является случайным и изменяется от наблюдения к наблюдению. Примеры прикладных статистических задач, в которых объем выборки существенно случаен, можно найти, например, в книгах [13] и [2]. Поэтому вместо различных версий центральной предельной теоремы, обосновывающих нормальность распределения наблюдаемых случайных величин в классической статистике, в таких ситуациях следует опираться на их аналоги для выборок случайного объема.

В первой главе указана довольно простая асимптотическая схема, непосредственно приводящая к распределению Лапласа как к предельному, и, как следствие, дающая обоснование возможности более широкого использования распределения Лапласа в задачах описательной статистики.

Рассмотрим случайные величины N2, ¦. ¦, Х, Х2,., определенные на одном и том же измеримом пространстве Л). Пусть на Л задана вероятностная мера Р! Предположим, что при каждом п > 1 случайные величины Ип принимают только натуральные значения и не зависят от последовательности, Х2,. Пусть Тп — Тп (Хг,., Хп) — некоторая статистика, то есть измеримая функция от случайных величин Х,., Хп. Для каждого п > 1 определим случайную величину, положив ТМпН {Хг (и),. для каждого элементарного исхода со? П. Будем говорить, что статистика Тп асимптотически нормальна, если существуют числа, а > 0 и ^? Е такие, что.

Р (ау/п (Тп — ц) < х) Ф (ж), п оо. (2).

Примеры асимптотически нормальных статистик хорошо известны. Свойством асимптотической нормальности обладают, например, выборочное среднее (при условии существования дисперсий), центральные порядковые статистики, оценки максимального правдоподобия (при достаточно общих условиях регулярности) и многие другие статистики.

Лемма 1. ([1]) Пусть {с/п}п>1 — неограниченно возрастающая последовательность положительных чисел. Предположим, что Ип —> оо по вероятности при п —> оо. Пусть статистика Тп асимптотически нормальна в смысле (2). Для того чтобы существовала такая функция распределения F (x), что.

P (< х) => F (x), п оо, необходимо и достаточно, чтобы существовала функция распределения Н (х), удовлетворяющая условиям.

Н{х) = 0, ж < 0;

F (x) =.

Ф (х y/y)dH (y), хеШ- (3).

Р (ЛГП < йпх) Н (х), п —^ оо.

В работе [1] было доказано, что распределение Лапласа является масштабной смесью нормальных законов с нулевым средним при экспоненциальном смешивающем распределении, то есть доказана следующая лемма.

Лемма 2. ([1]) Для любого хбй.

А (х) = где ш dE (z),.

Л (ж) = { г х > 0, функция распределения распределения Лапласа, соответствующая плотности 1(х), определенной в формуле (1), с, а = 1- и 1 — е~х, х > 0, Е (х) = { (4) 0, ж < 0.

Смесь (3) отличается от той, которая фигурирует в лемме 2, тем, что смешивающий параметр стоит не в знаменателе аргумента подынтегральной функции распределения, а в числителе. Поэтому, если Н{х) из леммы 1 совпадает с функцией обратного показательного распределения Q (x), то предельная функция F (x) является функцией распределения Лапласа.

Обратное показательное распределение — это распределение случайной величины.

У = 1 W где случайная величина С/ имеет показательное распределение Е (х) (см. формулу (4)). При этом.

Э (ж) = Р (У < х) = Р < х^ = Р (V > ^ - 1 — Е ^ = с" «1/*, ж > 0. (5).

Обратное показательное распределение является частным случаем распределением Фре-ше, хорошо известного в асимптотической теории экстремальных порядковых статистик как предельное распределение типа II (см., например, [8]).

Таким образом, распределение Лапласа допускает представление в виде смеси.

А (®-) = при этом изменение значения параметра формы обратного показательного распределения влечет изменение параметра масштаба (дисперсии) итогового распределения Лапласа. Точнее, если.

Я (х) = е~6'х, 5 > 0, (6) то соответствующая плотность распределения Лапласа имеет вид.

Кх) = Ке-^*К = (7).

V ^ о.

Из леммы 1 непосредственно следует следующая теорема.

Теорема 3. ([1]) Пусть 5 > 0 произвольно и {с?п}п>1 — некоторая неограниченно возрастающая последовательность положительных чисел. Предположим, что —> оо по вероятности при п —> оо. Пусть статистика Тп асимптотически нормальна в смысле (2). Для справедливости соотношения.

Р (ау/Гп (Т^ - ц) < х) =фА (ж), п оо, где А (х) — функция распределения распределения Лапласа, соответствующая плотности 1(х) с параметром масштаба 5 (см. (7)), необходимо и достаточно, чтобы.

Р (ЛГ" < йпх) ==> Я (х), п оо, где <3(х) — обратное показательное распределение с параметром формы 5 вида (6).

Приведем пример ситуации, в которой случайный объем выборки имеет предельное распределение Q (x) вида (6). Пусть Уь У2) • ¦ ¦ — независимые одинаково распределенные случайные величины с одной и той же непрерывной функцией распределения. Пусть т — произвольное натуральное число. Обозначим.

N (m) — min{n > 1: max Yj < max Yk}.

1 < j < m т + 1<�к<�тп + п.

Случайная величина N (m) имеет смысл количества дополнительных наблюдений, которые надо произвести, чтобы текущий (по т наблюдениям) максимум был перекрыт. Распределение случайной величины N (m) было найдено С. Уилксом, который в работе [64] показал, что распределение величины N (m) является дискретным распределением Парето:

P (iV (m) > = fc>l (8) см. также [19], с. 85). Пусть теперь. — независимые случайные величины с одним и тем же распределением (8). В работе [1] было доказано, что для любого х > О.

Р (- • max N^im) < ж J е~т/х, п оо. п 1<3<п J.

Заметим, что в правой части предельного выражения стоит функция распределения обратного показательного распределения Q (x) с параметром формы 5 = т (см. (6)). Поэтому, если положить.

Nn = max NW (m), (9).

1 < j < n теорема 3 с dn = n дает иллюстрацию того, как вместо ожидаемого в соответствии с утверждениями классической асимптотической статистики нормального распределения при замене объема выборки случайной величиной в качестве предельного распределения регулярных статистик возникает распределение Лапласа.

Теорема 4. ([1]) Пусть т — произвольное натуральное число. Предположим, что.

N^(m),. — независимые случайные величины с одним и тем же распределением (8), и случайная величина Nn определяется формулой (9). Пусть статистика Тп асимптотически нормальна в смысле (2). Тогда.

Р (a/n (TNn — ?) < х) ==" А (ж), 71 —^ оо равномерно по х? 1R, где А (х) — функция распределения Лапласа с плотностью вида (7) с6 = т.

Таким образом, основной вывод из приведенных выше результатов можно сформулировать следующим образом. Если число случайных факторов, определяющих наблюдаемое значение случайной величины, само является случайной величиной, распределение которой может быть приближено обратным показательным распределением (например, является случайной величиной вида (9)), то те функции от значений случайных факторов, которые в классической ситуации считаются асимптотически нормальными, в действительности являются асимптотически лапласовскими.

Далее приведена общая теорема, позволяющая автоматически получать оценки скорости сходимости распределений статистик, построенных по выборкам случайного объема, к распределению Лапласа из оценок скорости сходимости к нормальному закону этих же статистик, но уже построенных по обычным, неслучайным выборкам. При этом предполагается, что объем выборок является случайной величиной вида (9).

Пусть Ип — случайная величина вида (9) с некоторым натуральным параметром т. е. Нас будет интересовать предельное поведение распределения случайной величины Мп/п при п —> оо. В главе 1 доказана следующая теорема.

Теорема 5. Для каждого натурального т существует константа Ст > 0 такая, что sup я->0.

Р < s) — Q (x) п-> оо (10) п где 1УП — случайная величина, определяемая формулой (9), а — функция распределения обратного показательного распределения, определяемая формулой (6) с 5 = т. При этом.

8е~2/3, те = 1,.

Затем эта теорема применяется следующим образом.

Пусть Тп — Tn (Xi,., Хп) — асимптотически нормальная статистика, и для ее распределения справедлива оценка скорости сходимости вида: для некоторого 0 < s < so < 2 существуют числа, а > 0 и (j, е IR такие, что.

SUp |Р {л/пО'{Тп — ц) < х) — Ф (ж)) = 0(n~S), 72 -«ОО. х.

Пусть Nn — случайная величина вида (9) с некоторым натуральным параметром те, которая не зависит от исходных случайных величин Х, Х2,. и п —> оо. Пусть, А (ж) — функция распределения Лапласа с плотностью вида (7) с 5 = т. Рассмотрим статистику TNn, построенную по выборке случайного объема Nn, то есть.

Tn" = TNn (Xi,. XNn).

В главе 1 доказана следующая теорема.

Теорема 6. Пусть распределение статистики Тп = Тп (Хi,., Хп) удовлетворяет соотношению sup |р {у/псг (Тп — ¡-л) < х) — Ф (ж)| = 0{n~s), оо, х тогда распределение статистики TNn = Tpjn (Xi,., Xpjn), где случайная величина Nn определена в (9), удовлетворяет равенству sup |Р (/псг (Тмп — д) < х) — А (ж)| = e>(n~min{M}), п —^ оо. X.

Далее приведены два примера использования теоремы 6. Первый пример касается iZ-статистик, а второй — линейных комбинаций порядковых статистик, широко применяемых в статистике (см., например, [15, 29, 41, 61].

Пусть (Xi,., Хп) — повторная выборка независимых одинаково распределенных случайных величин, имеющих общую функцию распределения F (x). Определим U — статистику Тп^ по формуле.

Т" 1> = пТгг^Т)? («).

1<�г<7<�п где ядро h (x, у) — симметричная измеримая функция двух переменных. Введем также следующие функции g (x) = E (h (X1,X2)X1 = х), Ф (х, у) = h (x, y) — д (х) — д (у). (12).

В работе [43] доказана следующая теорема.

Теорема 7. ([43]) Пусть выполнены следующие условия.

Eh (XuX2) = 0, E|/ipfi, X2)|p < оо, р > 5/3,.

Ед2{Х{) > 0, E|s (Xi)|3 < оо.

Тогда справедливо соотношение sup |Р {у/титхтМ <х)~ Ф (ж)| = С?(п" ½), п -«• оо, х где WW)-1.

Определим теперь линейные комбинации порядковых статистик. Пусть (Х-п <. < Хп: п) — вариационный ряд, построенный по исходной выборке (Xi,., Хп). Тогда линейная комбинация порядковых статистик определяется по формуле.

1 п.

Tj2> = -Г^Дь, (13) п г=1 где сгп — некоторые числа. Справедлива следующая теорема. Теорема 8. ([41, 4%]) Пусть выполнены следующие условия.

E|Xi|3 < оо и существует функция J (s), заданная на (0,1), удовлетворяющая условию Липшица и такая, что max i.

Сгп TL.

J (s)ds i-l)/n.

0(n-1)..

Тогда справедливо соотношение sup |- ?.lo) < x) — Ф (®-)| = G (n V2), n oo, X где =.

J (s)F~1(s)ds, F-1(s) = inf{rc: F (x) > s},.

J (F (x))J (F (y)) (min (F (x), F (y)) — F (x)F (y)) dxdy..

Пусть теперьЛ/" п — случайная величина вида (9) с некоторым натуральным ш, которая не зависит от исходных случайных величин. в п —>• оо. Рассмотрим теперь статистики (см. определения (11) и (13)) Т^, г = 1,2, построенные по выборке случайного объема то есть трп = Т$>п{Х.

Следующая теорема является непосредственным следствием теоремы 6..

Теорема 9. Пусть для статистик Тп г = 1,2 выполнены условия регулярности, сформулированные в теоремах 7 и 8. Тогда распределения статистик Т$п = Т$п (Х1,. ¦ ¦, Хмп), г = 1,2, где случайная величина Мп определена в (9), удовлетворяет равенству п.

71 вир Р- !1г) < х) — А (х) = 0{п~п —> оо, п X где величины аг, г = 1,2- ц = О, = Ц определены в теоремах 7 и 8, а А (х) — функция распределения Лапласа с плотностью вида (7) с 5 = т..

Вернемся к теореме 6. Эта теорема описывает порядок скорости сходимости распределений статистик Тмп, построенных по выборкам случайного объема, к распределению Лапласа с учетом скорости сходимости распределений статистик Тп, построенных по выборкам большого, но не случайного объема. В главе 1 получены предельные выражения для константы в этой оценке..

Пусть теперь для асимптотически нормальной статистики Тп = Тп (Хх,., Хп) справедлива оценка вир Р (л/па (Тпц)<�х) — Ф (х) | < Сп~% 0 < в < во < 2, п = 1,2,., (14) где С — некоторая константа- — случайная величина, определенная в (9) при некотором натуральном т. При условии независимости при каждом п > 1 случайной величины Хп от каждой из случайных величин из последовательности Х, Х2, ¦ ¦ • теорема 6 дает следующую оценку для функции распределения статистики Тдгп: зир Р (у/па (ТКп — И) <х) — Л (аг)| < С5тГ т’п (1'в) + о (п~т1п^), п ^ оо, (15) где А (х) — функция распределения распределения Лапласа, соответствующая плотности вида (7) с 5 — т. Через Сх^п обозначим константу следующего вида X X т = 1, т>2..

Теорема 10. Для константы Св из формулы (15) справедливо соотношение где С — константа из неравенства (14)..

Приведем пример использования этой теоремы. Пример. Пусть Xi,., Хп — независимые одинаково распределенные случайные величины с мат. ожиданием 0 и дисперсией 1. Положим /i3 = E|A" i|3. Тогда для статистики Тп = Yji=iXi/n по неравенству Берри-Эссеена справедлива оценка (см. [51]) sup|P (v^rn <х) — Ф (х)| < Ml^tl. х у/П.

Пусть Nn — случайная величина вида (9) с некоторым натуральным га. Применяя теорему 10 для случая s = ½, получим.

Id t г-гг * / м ^ O.47840F//3 1 / 1 sup Р (VnTNn < х) — Л (ж) < -п г——7= + о -7=. т 1 4 • ' 1 2i/m у/п vW.

Справедлива также более грубая, но не зависящая от т, оценка: sup jP (VriTNn < х) — Л (®-)| < 0.2392л/^^з • ~ + о х у/ТЬ.

В главе 2 рассматривается асимптотическая задача проверки гипотез с использованном подхода Питмэна. Рассмотрим задачу проверки простой гипотезы в случае однопа-раметрического семейства. Пусть имеются независимые наблюдения Х&bdquo- = (Х[,., Хп), каждое из которых принимает значения в измеримом пространстве (X, Л) и имеет неизвестную с точностью до параметра в плотность р (х, в) относительно некоторой о — конечной меры и (-) на Л. Предположим, что неизвестный параметр в принадлежит открытому множеству Э с И, содержащему 0. Обозначим через Рп, в, ЕП1<? соответственно распределение и математическое ожидание Хп, а через Ро, Ео соответственно распределение и математическое ожидание Х..

Рассмотрим задачу проверки простой гипотезы.

Н0:в = 0 против сложной альтернативы 9 ф 0. В общем случае наилучшего (равномерно наиболее мощного) критерия не существует, и поэтому рассмотрим асимптотический подход, при котором га —>• со. Рассмотрим сначала простую альтернативу (в известно).

Нг: в = 01 ф 0..

Согласно фундаментальной лемме Неймана-Пирсона наилучший (наиболее мощный) критерий основан на логарифме отношения правдоподобия п i=1 где 1(х, в) = logр (х, в), и отвергает гипотезу Н0 в случае, если.

Л&bdquo-(0) > Сп, причем критическое значение сп выбирается из условия.

Pn, o (An (0i) > Сп) = а, где, а е (0,1) — фиксированный уровень значимости, и мы для простоты предполагаем непрерывность распределения A7l (#i) при гипотезе Но, то есть считаем, что.

Pn, o (An (#i) = Сп) = 0..

Обозначим через fi*(9i) мощность наилучшего критерия для проверки гипотезы Н0 против альтернативы Hi, основанного на статистике An (??i), то есть.

Р*п (01) = Pn, ei (A"(^i)>cn)..

В работе [29] было показано, что этот критерий состоятелен, то есть справедлива следующая лемма..

Лемма 11. ([29]) Если сг2(0) > 0, а2(в1) > 0, то.

РЖ) 1, п оо.

Факт стремления мощности /3*(вi) к единице, а точнее скорость сходимости к единице, может быть использован для сравнения различных состоятельных критериев (см., например, [20] и обзор, приведенный там). Рассмотрим несколько иной подход к сравнению различных критериев, основанный на идеях Питмэна (см. [60]), согласно которому для получения нетривиального предела мощности /3^(01), заключенного между, а и 1, рассматривают последовательность альтернатив в = вп, стремящуюся к нулю с определенной скоростью..

Будем рассматривать задачу проверки простой гипотезы, Но против последовательности сложных близких альтернатив вида.

НпД: в = 4=, 0 < t < С, С > 0, у/п где параметр t неизвестен. Для любого фиксированного Ь е (О, С] наилучший критерий для проверки гипотезы Н0 против простой альтернативы.

Нп,: в = основан на логарифме отношения правдоподобия.

Обозначим через мощность такого критерия уровня, а е (0,1). Поскольку t неизвестно, мы не можем использовать статистику Лп (£) для построения критерия проверки гипотезы Н0 против альтернативы НП)1. Однако так называемая огибающая функция мощности, дает верхнюю границу для мощности любого критерия при проверке гипотезы Н0 против фиксированной альтернативы Нп>4,? > 0 и может служить стандартом при сравнении различных критериев..

Найдем предельное выражение для /3*(?). В работе [29] при естественных условиях регулярности было получено стохастическое разложение для Лп (£) в виде.

М*) = + + (16) где ьп = -7= - Ео/"^)), .7 = 1,2,., 1 j = 1,2,. е=о и / = E0(/^(Xi))2 — фишеровская информация. Критерий, основанный на логарифме отношения правдоподобия Лn (i), отвергает гипотезу Н0, если.

Л&bdquo-(*) > Сп, и (17) где критическое значение выбирается из условия.

Pn, o (A"(t) > Cntt) = а..

Поскольку An (t) есть сумма независимых одинаково распределенных случайных величин, то согласно центральной предельной теореме имеем при п —У оо.

Kn{t) — Е0Аn (t) С.

Do K{t).

Но) —> -А/" (0,1), (18) откуда, с использованием хорошо известного факта, состоящего в том, что.

E0/(l)(Xi) = О, E0/(2)(*i) = -I, следует, что.

A"(i)|H0) —> Л/" (—i2//2,i2/). (19).

Из соотношения (17) теперь получаем (поскольку сходимость функций распределения к нормальной функции распределения равномерна), что.

Cn, t —> Ct = tflua — | t2I, (20) где ua = Ф-1(1 — а) и Ф (ж) — функция распределения стандартного нормального закона. Аналогично из (16) получаем, что.

An (i)|Hn, t) —У Af{t2I/2,t2l). (21).

Теперь с учетом соотношений (20), (21) и.

РпУ) = (An, t > Cn, t) имеем n (t) —* ?*(t) = Ф (?/Т-гха), n^oo. (22).

Заметим, что для проверки гипотезы, Но против альтернативы Нt существуют критерии, основанные на статистиках, отличных от Лn (i) и не зависящих от t, и имеющие ту же предельную мощность ?*(t). Такие критерии называются асимптотически наиболее мощными (AHM) (точнее локально AHM, поскольку альтернатива НГ1д имеет локальный характер). Таковы, например, критерии основанные на статистиках.

An (to), где to > 0 фиксировано, оценках максимального правдоподобия и другие. Все эти статистики не зависят от неизвестного параметра t, и поэтому могут быть использованы при проверке гипотезы Н0 против альтернативы Нпд..

Соотношение (22) дает естественную основу для асимптотического сравнения различных AHM критериев, однако, для различения критериев такого рода, то есть удовлетворяющих соотношению n{t) ?*(t), п-> оо, где? n (t) — мощность конкретного рассматриваемого критерия, нужны следующие члены асимптотического разложения? n (t), то есть представление типа n (t) = ?*(t) + 4= м^ + -ш +..

Jn п.

Асимптотическим разложениям в статистике посвящена работы [23, 30, 32, 59]. При этом было замечено, что при выполнении естественных условий регулярности для AHM критериев совпадают и члены hi (t), различия наступают в членах порядка МОЭтим вопросам посвящены работы [23, 29, 59]. При этом величина r (t) = lim n{?*n{t)-?n (t)), (23).

П—УОО допускает статистическую интепретацию в терминах необходимого числа наблюдений и позволяет находить асимптотический дефект (см. [23, 29, 45])..

Соотношение (23) может быть понято следующим образом. Предположим, что статистику Тп AHM критерия можно монотонным преобразованием (не меняющим мощности критерия) преобразовать в статистику Sn (t) такую, что величина.

Д&bdquo-(*) = Sn (t) — An (i) —* 0, п оо (24) по вероятности относительно распределений РП)0 и Рn, t/y/nТогда критерий, основанный на статистике Sn (t), имеет те же предельные распределения при гипотезах, Но и Hnjt, что и критерий, основанный на Лп (£), и, следовательно, ту же предельную мощность ?*(t). Например, для AHM критерия, основанного на статистике Ln.

Т = Lw тогда, полагая (см. (16)).

Sn (t) = tTn-±t2I, получим.

An (t) = + .—> 0, TL У оо. (25).

Z у/П.

В том типичном случае, когда An (t), как в (25), имеет порядок можно ожидать, что мощность? n (t) критерия, основанного на Sn (t) (или на Тп), отличается от /3*(i) на величину порядка 1 /л/п. Однако было обнаружено, что для широкого класса AHM критериев это отличие имеет порядок 1 /п (см. [23], [29])..

Первоначально выражения для r (t) (см. (23)) строились с помощью асимптотических разложений для ?*(t) и? n (t) (см. [45]). Этот подход технически очень трудоемкий и громоздкий. Однако в работах [23, 29] была получена общая формула для величины r (i) без построения асимптотических разложений. Для ее демонстрации обозначим A (i) нормальную случайную величину вида M (—t2I, t2l), тогда в силу (19).

C (An (t)|Н0) Л/*(—¿-2J/2,í-2/), (26) и предположим, что при гипотезе, Но случайный вектор.

An (t), An (i)) (27) имеет предельное распределение (типичным образом двумерное нормальное), совпадающее с распределением вектора.

A (?), A (i)), (28) тогда в работах [23, 29] показано, что r (t) = <�р (иа — iv7) D (A (I) IA (f) = Ct), (29) где et = ty/luat2I vl ip (x) = Ф'(ж)..

В работе [29] рассмотрен общий случай в терминах общего статистического эксперимента и приведена общая теорема, дающая достаточные условия для существования предела r (t) = lim г" 2 (Р*п — ДО = lebp (b)D (AA = h), п—>оо? где Ь — Ф]" 1(1 — Ф1(®-) ~ функция распределения, предельная для логарифма отношения правдоподобия Лп при гипотезе Н0, р (х) = Ф'^з:) и т. п. 0 — малый параметр, (А, Л) — случайный вектор, предельный для (г~1Дп, Лп) при гипотезе Н0, Ап = Sn — Ап, Sn — монотонное преобразование статистики критерия Тп..

Для случая абсолютно непрерывных распределений эта теорема формулируется следующим образом:.

Условие 1. Существует последовательность тп 4- 0 и непрерывно дифференцируемые, не зависящие от п функции Фх (ж) и Фг (ж) такие, что Ф]. (а-) имеем ограниченную производную р (х) = Ф'^ж) > 0 и.

1. sup |Pn, o {Лп < х} - Фх (ж) — тпФ2(ж)| = о (т") — х.

2. sup Р&bdquo-tt/^a{x < Лп < ж + = о (т2) для некоторого ?3 > 0 и произвольного.

Х< ХО х0 е JR..

Условие 2. Существует последовательность 7п 4- 0,7П = о (тп такая, что.

1. т-1 ЕП, 0Д2 1(7″, оо)(|Ап|) = о (т2) —.

2. ЕП1оехр{Лп}|Ап|1(7п10о)(|Дп|) = о (т2), где Д&bdquo- = 5″ - ЛП, 5П = апТп + Ьп для некоторых ап > 0, Ьп? Н..

Условие 3. Существуют действительные случайные величины Д, Л, Л с плотностью распределения р (х) из условия 1, и последовательность ап 4,0,0 < Ф (п) < Ф (п), Ф (гг) —> оо такие, что.

ГпЧОЧ-'ф-'Мехр!-^2^)^} 0, ^(т" 17п)2Ф3(п) оо, Ф-'(п)Ф (п) = о (тп2), и2 = где ?3 берется из условия 1, а также:.

1. для I = 0,1 интегрируема и.

J (Qn, i (s) — qi (s))ds о, где q"ti (s) = ЕП) о exp{?sAn} exp{isrnz}zldz,.

Тп 1Д" ф) = -—i-y Еехр{мЛ}Дт- 2. справедливы соотношения т~Ч (п) sup |Eni0exp{?sS, n}An| 0, (30) п)<�И<�Ф (п) г^шах^НДф-1^)-^-1^)^-1) sup |En>o exp{z'sA"}| —0, (31).

Ф (п)<�И<�Ф (п).

Тп1 шах (Ф (п), г" 1) sup |En, 0exp{isSn}| 0, (32) п)<�М<�Ф (п) где.

Ф (п) = 1оё (Ф (п)Ф1(п)). Теорема 12. ([29]) Пусть выполнены перечисленные условия 1−3, и 0 < а < 1. Тогда lim г" 2 (?* -?n) = еьр (Ь) D (A |А = Ь), (33) п—> оо? где Ъ = — а) — Ф1 (х), р (х) — функции из условия 1- Д и Л — случайные величины из условия 3..

Из этой теоремы следует следующий результат: если для некоторой монотонно убывающей последовательности тп величина An (t) (см. (24)) имеет порядок тп (в том смысле, что главный член стохастического разложения имеет порядок тп), или.

C{r~^n{t) |Н0) —> £(Д (*)), и выполняются условия теоремы 12, то мощность? n (t) критерия, основанного на статистике Тп, отличается от мощности ?^(t) наилучшего критерия на величину порядка при этом коэффициенты, стоящие при членах порядка т^ в асимптотических разложениях мощностей? n{t) и ?*{t) отличаются на величину, определяющуюся формулой (33)..

Как уже было отмечено, в типичном случае, когда соблюдены условия регулярности, тп = та~½ и? n{t) отличается от /?*(?) на величину порядка и-1. Условия регулярности заключаются в существовании всех необходимых моментов случайных величин 1(Х, 0) и существовании необходимых производных по в для функций 1{х, в). Отсутствие регулярности может приводить к нарушению естественного порядка? разности? nif) — ?n{t) и приводить к другим порядкам..

Так, в работе [14] было рассмотрено стандартное распределение Лапласа с параметром сдвига, т. е. семейство плотностей которое не является регулярным, поскольку у р (х, в) не существует производной по в в точке в = х. Факт нарушения обычных порядков при сравнении оценок в случае распределения Лапласа был отмечен в работе [59]. При этом там была ссылка на работу [63], в которой на эвристическом уровне построено асимптотическое разложение для оценок максимального правдоподобия. Строгое доказательство для таких оценок дано в работе [6]. Далее в работе [14] было показано, что для распределения Лапласа с параметром сдвига и статистики AHM критерия.

Тп = 4=Vsign (X0, (34) предельное распределение величины y/nAn{t) (см. (24)) совпадает с распределением нормальной случайной величины с параметрами (0, § i3) и на эвристическом уровне (без проверки условий) из теоремы 12 была получена формула r (t) = lim y/ii{?'(t) — ?n (t)) = %.

Назовем обобщенным распределением Лапласа распределение с плотностью вида р{х) = Са, ъе-ах2~Цх о > 0, 6 > 0, жеЖ, (36) где Са> ъ — константа нормировки такая, что.

Са, ь = *.

I, а = 0-.

I а>0 и оо erfc (a-) = -7=.

Л J dy..

Обощенное распределение Лапласа может оказаться полезным в тех случаях, когда необходим более тонкий контроль за поведением функции плотности, чем может быть предоставлен однопараметрическими по параметру формы нормальным и лапласовским распределениями. Так, правильно подобрав параметры, можно получить распределение с хвостами менее тяжелыми, чем у соответствующего распределения Лапласа, при этом сохранив существенную особенность негладкости функции плотности, которая отсутствует у нормального распределения..

Обычное распределение Лапласа получается при, а = 0. Для распределения Лапласа задача проверки простой гипотезы против последовательности сложных альтернатив детально разобрана в работе [14]. Кроме того, как было отмечено выше, обычное распределение Лапласа не может являться примером применения теоремы 12 для случал нерегулярного распределения. Поэтому далее всюду будем предполагать, а > 0..

Для обобщенного распределения Лапласа рассмотрим задачу проверки простой гипотезы против последовательности близких сложных альтернатив, т. е..

Н0: в = О,.

H", i: в = 0 < t < С, С > О, у/п на основе выборки (Ai,., Хп) — независимых одинаково распределенных наблюдений, имеющих распределение с плотностью вида (36). Для любого фиксированного t G (О, С] наилучший критерий всегда существует согласно фундаментальной лемме Неймана-Пирсона и основан на логарифме отношения правдоподобия An (t) п.

Лп (0) = ^ - 1(Х" ^ i=1.

An (i) = An (tn~V2), где 1(х, в) = logр{х, в), в > 0..

Обозначим через ?*(i) мощность такого критерия уровня a € (0,1). Заметим, что поскольку t неизвестно, мы не можем использовать статистику A"(i) для построения критерия проверки гипотезы, Но против альтернативы Н"д. Однако, как было отмечено в предыдущем разделе, ?*(t) дает верхнюю границу для мощности любого критерия при проверке Н0 против фиксированной альтернативы.

Hn, t: в = —т=5 t > 0, л/п и может служить стандартом при сравнении различных критериев..

Ранее отмечалось, что для проверки Н0 против Нпд существуют (асимптотически наиболее мощные, или AHM) критерии, основанные на статистиках, отличных от Лn (t), и имеющие ту же предельную мощность /?*(?). Там же было отмечено, что среди них существуют критерии, основанные на статистиках, которые не зависят от неизвестного параметра t, и поэтому могут быть использованы при проверке гипотезы, Но против сложной альтернативы Нпд..

Основным результатом второй главы является доказательство следующей теоремы..

Теорема 13. Для обобще? шого распределения Лапласа (36) справедлива формула.

2С ub2t2 / r (t) = lim ~ Ш) = Ч> (t^TZbиа), (38) n-Wo Oy/Ia, b 4 7 где (Зп{Ь) — функция мощности АНМ критерия, основанного на статистике.

Тп = ¿-[2аХ1 + ЬзЕп (ЗД (39) г=1 уровня, а е (0,1) и Ф (иа) = 1 — а..

Доказательство проводится в несколько шагов:.

1. Сначала доказывается, что.

Ш ?*(*) = Ф{1у/1^ъ-иа), п У оо. (40).

Ранее было отмечено, что это соотношение справедливо в регулярном случае. Заметим, что семейство (36), также как и семейство плотностей обычного распределения Лапласа, не является регулярным, поскольку у р (х, в) не существует производной по в в точке в = х. Доказав (40), мы тем самым покажем, что отсутствие дифферен-цируемости по в функции плотности обобщенного распределения Лапласа р (х, в) в точке 9 = х качественно не влияет на порядок альтернатив 0п (равный и вид предельной мощности /?*(?)..

2. Затем при гипотезе, Но находятся предельные распределения для величины •^/пДТ1(£) и случайного вектора (^пАп (£), А&bdquo-(£)), где Д71(/) = ?"(?) — А&bdquo-(£) и ?" «(?) — монотонное (не меняющее мощность критерия) преобразование статистики Тп (см. (39)), и, в частности, показывается, что величина Ап (Ь) имеет порядок 1 / /п. На этом этапе уже можно получить на эвристическом уровне формулу (38)..

3. И наконец проводится формальное доказательство формулы (38) с применением теоремы 12..

На первом этапе получены соотношения, описывающие асимптотическое (п оо) поведение логарифма отношения правдоподобия Лп (£) как при гипотезе Но, так и при альтернативе Нп 4. Справедлива следующая лемма..

Лемма 14. В случае распределения (36) справедливы следующие соотношения.

1а, ь = 2 (ЬСа, ь + а),.

Л"(?)|Н0) ЛГ (-1а, ь?/2,1а²), ?(Лп (г)|Нп, г) ЛГ (/а, ь?2/2,/а, ь?2), п оо..

Эта лемма показывает, что отсутствие дифференцируемости по в функции р (х, в) (см. (36)) в точке в — х качественно не влияет на порядок альтернатив вп, равный Из леммы 14 и результатов для регулярного случая, приведенных выше (см. вывод формулы (22)), вытекает.

Следствие 15. В случае распределения (36) справедливо соотношение.

Ш /?*(*) = п оо..

На втором этапе показывается, что справедлива формула для предельного отклонения разностей мощностей (38). Для этого доказывается следующая лемма..

Лемма 16. В случае распределения (36) справедливы следующие соотношения.

Дп (г)|Но) ЛГ (0,4Са, ьЬН3/3), где Я2 — двумерный нормальный закон с соответствующими параметрами..

Из этой леммы следует, что случайные величиныу/пД"(?) и Л&bdquo-(£) асимптотически независимы, и, полагая Л (£), Д (£) — независимые нормальные случайные величины, распределенные соответственно с параметрами 2,1а, ь?2)> (0,4Са, ьЬН3/3) и — —.

I &.

2'', получаем формулу для г (£) вида (38), пользуясь соотношением (29)..

На третьем этапе проверяются условия теоремы 12 и проводится формальное доказательство формулы (38)..

Из доказанной теоремы 13 следует, что:.

1. Отсутствие регулярности обобщенного распределения Лапласа приводит к порядку л-½ отклонения мощности асимптотически наиболее мощного критерия от мощности наилучшего критерия, в отличие от регулярного случая, для которого этот порядок равен п-1..

2. Обобщенное распределение Лапласа в случае, а > 0 является примером применения общей теоремы 12, дающей достаточные условия для существования предела этого отклонения, в нерегулярном случае..

Выражаю благодарность своему научному руководителю Владимиру Евгеньевичу Бенин-гу, под руководством которого проходила работа над диссертацией, за постановку задач и постоянное внимание к работе..

Все основные результаты диссертации являются новыми и состоят в следующем..

1. Получена оценка скорости сходимости распределения случайной величины, являющейся суперпозиций специального вида бесконечно большого числа случайных величин с дискретным распределением Парето, к обратному показательному распределению..

2. Построены оценки скорости сходимости распределений асимптотически нормальных статистик к распределению Лапласа в случае выборок случайного объема с распределением указанной суперпозиции случайных величин..

3. Предложены варианты использования полученных результатов в исследованиях с применением '{/-статистик, а также линейных комбинаций-порядковых статистик..

4. Предложено обобщенное распределение Лапласа, которое при правильной «подгон-ке» параметров обладает хвостами менее тяжелыми, чем у соответствующего распределения Лапласа, сохраняя при этом существенную особенность негладкости функции плотности, которая отсутствует у нормального распределения..

5. Для этого распределения описана задача проверки простой гипотезы против сложной альтернативы в постановке Питмэна. С применением общей теоремы из работы [29] показано, что отсутствие регулярности приводит к нарушению естественного порядка гГ1 разности функций мощности наилучшего и асимптотически наиболее мощного критериев и приводит к порядку п-½..

По результатам диссертации перспективой дальнейших исследований может быть.

1. Получение для случая выборок случайного объема предельной теоремы, в которой в качестве предельного распределения фигурирует асимметричное распределение Лапласа..

2. Получение оценок скорости сходимости распределений статистик, построенных по выборкам случайного объема, к асимметричному распределению Лапласа..

3. Получение асимптотических разложений функций мощности наилучшего и асимптотически наиболее мощного критериев в случае обобщенного распределения Лапласа, которые могут быть полезные при численной аппроксимации этих мощностей..

Заключение.

Целью диссертации было обоснование возможности использования распределения Лапласа в задачах теории вероятности и математической статистики, возникающего в качестве предельного в случае выборок случайного объема, а также построение примера применения в случае нерегулярного распределения общей теоремы из работы [29], дающей достаточные условия для существования предела отклонения мощности асимптотически наиболее мощного критерия от мощности наилучшего критерия..