Московский государственный университет им. М.В. Ломоносова

Факультет вычислительной математики и кибернетики

На правах рукописи

КОРОЛЕВ Роман Анатольевич

О МОЩНОСТИ КРИТЕРИЯ ЗНАКОВ

В СЛУЧАЕ РАСПРЕДЕЛЕНИЯ ЛАПЛАСА

01.01.05 теория вероятностей и математическая статистика

АВТОРЕФЕРАТ

Москва 2010

Работа выполнена на кафедре математической статистики факультета вычислительной математики и кибернетики Московского государственного университета им. М.В. Ломоносова.

Научный руководитель доктор физико-математических наук, профессор Бенинг Владимир Евгеньевич

Официальные оппоненты доктор физико-математических наук, профессор Зейфман Александр Израилевич доктор физико-математических наук, ведущий научный сотрудник НИИ математики и механики имени Н.Г. Чеботарева Чупрунов Алексей Николаевич

Ведущая организация Институт проблем информатики Российской академии наук (ИПИ РАН)

Защита состоится 24 декабря 2010 года в 11:00 ч. на заседании диссертационного совета Д 501.001.44 при Московском государственном университете имени М.В. Ломоносова по адресу: 119991, ГСП-1, Москва, Ленинские горы, МГУ, 2-й учебный корпус, факультет ВМиК, аудитория 685.

С диссертацией можно ознакомиться в библиотеке факультета ВМиК МГУ. С текстом автореферата можно ознакомиться на официальном сайте факультета ВМиК МГУ http://www.cmc.msu.ru в разделе Наука Работа диссертационных советов Д 501.001.44.

Автореферат разослан 24 ноября 2010 года.

Ученый секретарь диссертационного совета профессор Н.П. Трифонов

Общая характеристика работы

Актуальность темы. В 1774 году Пьер-Симон Лаплас в своей статье Sur la probabilit des causes par les vnements (см. [1 ] и литературу там) e ee предложил естественный вероятностный закон для ошибки измерений в такой формулировке: логарифм частоты ошибки есть линейная функция абсолютного значения ошибки. Назвав этот закон первым законом для ошибки измерений, который исторически является первым вероятностым распределением с неограниченным носителем, Лаплас уже через Thorie Analytique (см. [1 ] и года в своей фундаментальной работе e литературу там) рассматривает второй вероятностный закон, который гласит: логарифм частоты ошибки измерений есть квадратичная функция ошибки. Именно этот второй закон благодаря хорошим аналитическим свойствам будет детально исследоваться все последующее время, получит название нормальное распределение и займет главное место в теории вероятностей вследствие центральной предельной теоремы. Лишь спустя почти 150 лет известный экономист и математик Дж. Кейнс (см. [1 ] и литературу там) напомнит о существовании первого закона для ошибки измерений и получит его вновь из предположения, что наиболее вероятное значение измеряемой величины есть ее медиана. Следом за ним известный математик Э. Уилсон (см. [1 ] и литературу там) с помощью непараметрических методов покажет на одном примере, что распределение отклонений от медианы измерений является скорее первым законом Лапласа, нежели нормальным законом. Спустя еще почти 50 лет в научной литературе (см. [1 ] и литературу там) все чаще стали появляться пожелания использовать первый закон Лапласа в качестве основного распределения для экономических, биометрических и демографических данных в противовес нормальному распределению.

В наши дни первый закон Лапласа называют распределением Лапласа.

Это распределение задается характеристической функцией (см. обзор в 1 Kotz S., Kozubowski T. J., Podgrski K. The Laplace distribution and generalizations:

a revisit with applications to communications, economics, engineering, and nance.

Birkhuser Boston, USA, 2001.

работе [2 ] и литературу там) или плотностью на возможность получения его как разности двух независимых одинаково распределенных экспоненциальных величин, которые часто используются для описания продолжительности жизни наблюдаемых объектов. Недавно В.Е. Бенингом и В.Ю. Королвым было показано (см. работу [2 ]), что распределение Лапласа естественно возникает как предельное распределение асимптотически нормальных статистик в случае выборок случайного объема.

распределения Лапласа как математической (вероятностной модели) распределения. Так в теории связи в задачах обнаружения постоянного сигнала в качестве вероятностной модели некоторых типов импульсных помех выбирают распределение Лапласа (см. [3 ], [4 ], [5 ]). В работе [6 ] распределение Лапласа рассматривается как модель для речевого сигнала в задачах кодирования и декодирования аналоговых сигналов.

Использованию распределения Лапласа в задачах на разрушение 2 Бенинг В. Е., Королв В. Ю. Некоторые статистические задачи, связанные с распределением Лапласа. // Информатика и е применения, 2008, т. 2, вып. 2, с. 19–34.

3 Dadi M. I., Marks R. J. II. Detector relative eciencies in the presence of Laplace noise.

// IEEE Trans. Aerospace Electron. Systems, 1987, AES-23(4), p. 568–582.

4 Marks R. J., Wise G. L., Haldeman D. G., Whited J. L. Detection in Laplace noise. // IEEE Trans. Aerospace Electron. Systems, 1978, AES-14(6), p. 866–871.

5 Miller J. H., Thomas J. B. Detectors for discrete-time signals in non-Gaussian noise. // IEEE Trans. Inform. Theory, 1972, IT-18(2), p. 241–250.

6 Duttweiler D. L., Messerschmitt D. G. Nearly instantaneous companding for nonuniformly quantizied PCM. // IEEE Trans. Comm., 1976, COM-24(8), p. 864–873.

устройств и излом материалов посвящена работа [7 ]. Работы [8 ] [9 ] обсуждают применение распределения Лапласа в аэродинамике, где градиент скорости ветра по отношению к периоду времени моделируется с помощью смесей распределения Лапласа и нормального распределения, распределение ошибки в навигации с использованием распределения Лапласа исследуется в [10 ].

Возросший интерес к распределению Лапласа делает актуальным его использование в математической статистике. Нерегулярность использовании его в задачах проверки статистических гипотез. Однако развитые в последние десятилетия асимптотические методы проверки статистических гипотез (см. [11 ], [12 ], [13 ], [14 ] и литературу там) позволяют сравнения мощности асимптотически наиболее мощного критерия с мощностью наилучшего критерия рассматривается в диссертации.

Пусть принадлежит открытому множеству R1, содержащему ноль, n N. Рассмотрим задачу проверки простой гипотезы против последовательности сложных близких альтернатив вида 7 Epstein B. Application of the theory of extreme values in fracture problems. // J. Amer.

Statist. Assoc., 1948, vol. 43, No. 243, p. 403–412.

8 Jones P. N. McLachlan G. J. Laplace-normal mixtures tted to wind shear data. // J.

Appl. Statistics, 1990, vol. 17, No. 2, p. 271–276.

9 Kanji G. K. A mixture model for wind shear data. // J. Appl. Statistics, 1985, vol. 12, No. 1, p. 49–58.

10 Hsu D. A. Long-tailed distributions for position errors in navigation. // Appl. Statist., 1979, vol. 28, No. 1, p. 62–72.

11 Чибисов Д. М. Вычисление дефекта асимптотически эффективных критериев. // Теория вероятн. и ее примен., 1985, т. 30, вып. 2, с. 269–288.

12 Bening V. E. Asymptotic Theory of Testing Statistical Hypotheses. VSP, Utrecht, 2000.

13 Chibisov D. M. An asymptotic expansion for distributions of C() test statistics. // Lecture Notes in Statistics, 1980. vol. 2. p. 63–96.

14 Chibisov D. M., Van Zwet W. R. On the Edgeworth Expansion for the Logarithm of the Likelihood Ratio. I. // Теория вероятн. и ее примен., 1984, т. 29, вып. 3, с. 417–439.

с неизвестным параметром t, на основе выборки Xn = (X1,..., Xn ), состоящей из независимых и одинаково распределенных наблюдений, имеющих плотность Распределение случайной величины X1 будем обозначать P, а n-кратное произведение таких распределений при гипотезе H0 и альтернативе Hn, обозначим, соответственно, через Pn,0 и Pn,1.

Для любого фиксированного t (0, C] согласно лемме НейманаПирсона наилучший критерий для проверки гипотезы H0 (см. (1)) против простой альтернативы в случае распределения Лапласа (3) основан на логарифме отношения правдоподобия Обозначим через n (t) мощность такого критерия уровня (0, 1).

Заметим, что поскольку t неизвестно, то мы не можем использовать статистику n (t) для построения критерия проверки гипотезы H0 против альтернативы Hn,1. Однако n (t), это так называемая огибающая функция мощности, дает верхнюю границу для мощности любого критерия при проверке гипотезы H0 против фиксированной альтернативы Hn,t (см.

(4)), t > 0, и может служить стандартом при сравнении различных критериев. Рассмотрим критерий уровня (0, 1), основанный на знаковой статистике вида обозначим через n (t) его мощность. Очевидно, статистика (6) не зависит от неизвестного параметра t и может быть использована для проверки гипотезы H0 против альтернативы Hn,1. В диссертации вычисляется предел вида достижения той же мощности, что и наилучшего критерия. В работе справедливости представления где bt = 1 (1 ), 1 (x) функция распределения, предельная для распределений логарифмов отношения правдоподобия n (t) при гипотезе H0, p(x) = 1 (x), ((t), (t)) случайный вектор, предельный для ( nn (t), n (t)), n (t) = Sn (t) n (t), Sn (t) монотонное преобразование статистики Tn, не меняющие мощности критерия, вида Однако достаточные условия из этой теоремы не выполняются в случае распределения Лапласа. Так теорема 3.2.1 работы [12 ] не Лапласа, поскольку достаточное условие 3 (ii) (см. с. 79 работы [12 ]) – аналог условия Крамера (С) – не выполняется для характеристической функции решетчатой статистики Sn (t). Также в связи с нерегулярностью стохастическое разложение порядка n формулировке теоремы 2.1 работы [11 ].

В диссертации доказана общая теорема, обобщающая условие теоремы из работы [12 ], и распределение Лапласа является частным случаем применимости этой теоремы.

Цель работы. Целью данной диссертации является вычисление предела (7) для нормированной разности мощностей асимптотически оптимального критерия знаков и асимптотически наилучшего критерия в случае распределения Лапласа. При этом получена общая теорема, частным случаем которой является распределение Лапласа. Получены также асимптотические разложения для распределений логарифма отношения правдоподобия как при гипотезе, так и при альтернативах. Проведена численная аппроксимация для мощности критерия и для дефекта асимптотически оптимального критерия знаков в случае распределения Лапласа.

являются новыми. Вычислен предел нормированной разности мощностей асимптотически оптимального критерия знаков и асимптотически наилучшего критерия в задаче проверки простой гипотезы против последовательности односторонних сложных локальных альтернатив в случае распределения Лапласа, а также получен дефект критерия знаков.

Получены общие достаточные условия для справедливости формулы для предела нормированной разности мощностей критериев, в случае когда статистика асимптотически оптимального критерия имеет решетчатое распределение. Распределение Лапласа при этом является частным случаем.

Методы исследования. В работе используются методы математического и функционального анализа, а также методы теории вероятностей, в частности, методы сходимости условных моментов и условных мер, зависящих от параметра (см. [11 ], [12 ], [13 ]), неравенство сглаживания для расстояния Леви между распределениями (см. [13 ], [15 ], [16 ], [17 ]), метод характеристических функций.

Теоретическая и практическая значимость. Результаты диссертации имеют теоретический характер и одновременно допускают практическое применение для построения асимптотически оптимальных критериев, проверки гипотез на основе наблюдений в случае распределения Лапласа и вычисления дефекта критериев.

15 Золотарев В. М. Оценки различия распределений в метрике Леви. // Труды Матем.

ин-та им. В. А. Стеклова, 1971, т. CXII, с. 224–231.

16 Золотарев В. М., Сенатов В. В. Двусторонние оценки метрики Леви. // Теория вероятн. и ее примен., 1975, т. 20, вып. 2, с. 239–250.

17 Абрамов В. А. Оценка расстояния Леви-Прохорова. // Теория вероятн. и ее примен., 1976, т. 21, вып. 2, с. 406–410.

Апробация работы. Результаты диссертации докладывались на научноисследовательском семинаре “Теория риска и смежные вопросы” на факультете ВМиК МГУ (руководители В.Е. Бенинг и В.Ю. Королв), на семинаре Школы математических наук Пекинского университета (май 2009 г.), на XXVIII международном научном семинаре по проблемам устойчивости стохастических моделей (31 мая - 5 июня 2009 г., Закопане, Польша), на семинаре 32-й Финской летней школы теории вероятностей (июнь 2010 г.) и нашли свое отражение в трудах упомянутых семинаров и конференций.

Публикации. Основные результаты диссертации опубликованы в статьях (1, 2, 3, 4, 5, 6) в журналах, входящих в список ВАК Перечень ведущих рецензируемых научных журналов и изданий, в которых должны быть опубликованы основные научные результаты диссертации на соискание ученой степени доктора и кандидата наук.

Структура и объем диссертации. Диссертация состоит из введения, трех глав, приложения, содержащего 3 таблицы и 7 рисунков, и списка литературы, содержащего 54 наименования. Объем работы 131 страница.

Благодарности. Работа выполнена под руководством доктора физикоматематических наук, профессора Бенинга Владимира Евгеньевича, которому автор выражает искреннюю благодарность.

Содержание работы Введение освещает актуальность темы, описывает объекты исследования и основные результаты диссертации.

В первой главе формулируется задача проверки простой гипотезы об одномерном параметре сдвига против последовательности односторонних сложных локальных альтернатив в случае распределения Лапласа на основе независимых одинаково распределенных наблюдений.

Эвристически выводятся формулы для предела нормированной разности мощностей асимптотически наилучшего и асимптотически оптимального критериев и для дефекта асимптотически оптимального критерия.

При этом порядок разности мощностей критериев оказывается n1/ в случае распределения Лапласа в отличие от регулярного случая, когда этот порядок есть n1. Получены предельные теоремы для последовательностей функций распределения статистики, на которой основан критерий.

Рассмотрим снова задачу проверки простой гипотезы H0 (см.

(1)) против последовательности односторонних сложных локальных альтернатив Hn,1 (см. (2)), где параметр t неизвестен. Согласно фундаментальной лемме Неймана-Пирсона для любого фиксированного t (0, C] существует наиболее мощный критерий для проверки простой гипотезы H0 (см. (1)) против простой альтернативы Hn,t (см. (4)), который основан на логарифме отношения правдоподобия где l(x, ) = log p(x, ), и отвергает гипотезу H0 в случае, если причем критическое значение cn,t выбирается из условия (предположим непрерывность распределения n (t)) где (0, 1) – фиксированный уровень значимости. Мощность наилучшего критерия n (t) вычисляется по формуле Функция n (t) называется огибающей функцией мощности, поскольку n (t) дает верхнюю границу для мощности любого критерия при t > 0. Критерий, основанный на n (t), нельзя применить для сложных альтернатив ввиду неизвестности параметра t (0, C], в регулярном случае существует алгоритм построения критериев, не зависящих от t и имеющих ту же предельную мощность, что и n (t), при n. Этот подход основан на стохастическом разложении логарифма отношения правдоподобия n (t) где и I = E0 (l(1) (X1 ))2 фишеровская информация. При этом в выражении порядка малости, чем n, и использован хорошо известный факт, состоящий в том, что Рассмотрим вместо критерия, основанного на n (t), критерий, основанный на Ln из выражения (10). Хорошо известно, что где n (t) мощность критерия, основанного на статистике Ln, L n (t) | H0, L(n (t) | Hn,t ) распределения n (t) при соответствующих гипотезах, N нормальный закон с соответствующими параметрами и Критерии, для которых выполняется (11), называются асимптотически наиболее мощными (АНМ). Таковы, например, критерии основанные на статистиках Ln, n (t0 ), где t0 > 0 фиксировано, оценках максимального правдоподобия и т.п. Для сравнения таких критериев можно использовать следующие члены асимптотического разложения n (t), то есть представления типа Асимптотическим разложениям в статистике посвящены работы [18 ] и [19 ].

18 Pfanzagl J. Asymptotic expansions in parametric statistical theory. in: Developments in Statistics, Ed. by P.R. Krishnaiah, New York-London, Academic Press, 1980, vol. 3, p. 1–97.

19 Bickel P. J. Edgeworth expansions in nonparametric statistics. // Ann. of Statist., 1974, vol. 2, No. 1, p. 1–20.

Было замечено, что в формуле (12) при выполнении естественных условий регулярности для АНМ критериев совпадают и члены h1 (t), различия наступают в членах порядка n1. Этим вопросам посвящены работы [11 ], [12 ], [18 ]. При этом величина допускает статистическую интерпретацию в терминах необходимого числа наблюдений и позволяет находить асимптотический дефект (см. [11 ], [12 ], [20 ].) статистического эсперимента и приведена общая теорема, дающая достаточные условия для существования предела r(t).

Теорема 1. (Bening, 2000) Пусть выполнены условия регулярности (см. теорему 3.2.1 из работы [12 ]) и 0 < < 1. Тогда логарифма отношения правдоподобия n при гипотезе H0 (выше было критерия Tn, не меняющее мощности критерия.

Рассмотрим теперь случай распределения Лапласа (см. (3)). Для этого семейства не выполняются естественные условия регулярности, поскольку у p(x, ) (см. (3)) не существует производной по в точке = x.

Справедлива следующая Теорема 2. В случае распределения Лапласа (см. (3)) справедливы следующие соотношения: фишеровская информация равна 1 и 20 Hodges J. L., Lehmann E. L. Deciency. // Ann. Math. Statist., 1970, vol. 41, No. 5, p. 783–801.

и поэтому Эта лемма показывает, что отсутствие дифференцируемости по функции p(x, ) (см. (3)) в точке = x качественно не влияет на порядок альтернатив n (равный n1/2 ) и вид предельной мощности (t). Однако стохастическое разложение для n (t) Действительно, рассмотрим следующее монотонное преобразование (t > 0) знаковой статистики Tn (см.(6)) тогда и справедлива следующая Теорема 3. Для распределения Лапласа (см. (3)) выполнены следующие соотношения параметрами.

Как видно, порядок величины n (t) равен n = n1/4 в отличие от регулярного случая n1/2. Из этой теоремы также следует, что случайные величины 4 nn (t) и n (t) асимптотически независимы, и поэтому, применяя формально указанную выше теорему 1, имеем r(t) = lim этой формулы содержится в главе 3.

Величина r(t) тесно связана с асимптотическим дефектом. Найдем асимптотическое представление для дефекта dn (см. [12 ], [20 ]) критерия, основанного на статистике Tn (см. (6)), который определяется как разность kn n, где kn число наблюдений, необходимых критерию, основанному на статистике Tn для достижения той же мощности, что и критерий, основанный на n (t), при одинаковых альтернативах tn1/2. Предполагая, что dn непрерывная переменная, получаем равенство для её определения Из теорем 2, 3 следует, что в случае распределения Лапласа для мощностей n (t) и n (t) справедливы представления где h (t) и h(t) некоторые полиномы по t и u. Из этих соотношений и Таким образом, в отличие от регулярного случая, в котором dn d < (см. [11 ], [12 ]), то есть существует конечный асимптотический дефект, в случае распределения Лапласа дефект dn стремится к бесконечности со скоростью n.

Для критерия, основанного на статистике Tn, в первой главе доказана следующая Теорема 4. В случае распределения Лапласа (см. (3)) для любого < справедливо соотношение Во второй главе доказана формула (14) для предела нормированной разности мощностей асимптотически оптимального критерия знаков и асимптотически наилучшего критерия в случае распределения Лапласа с помощью асимптотических разложений для мощностей критериев.

Проведен численный анализ аппроксимации для мощностей обоих критериев. Для критериев численно исследована точность аппроксимации функций мощности их асимптотическими разложениями до порядка n1.

Численно исследовано поведение дефекта критерия знаков. Результаты расчетов в виде таблиц и графиков приведены в приложении.

В следующей теореме строится асимптотическое разложение для мощности критерия, основанного на знаковой статистике Tn.

справедливо следующее асимптотическое разложение где где [y] Получено также асимптотическое разложение для критерия, основанного на n (t).

основанного на логарифме отношения правдоподобия n (t) справедливо асимптотическое разложение Полученные асимптотические разложения для мощностей критериев (теоремы 5, 6) позволяют непосредственно вычислить предел их нормированной разности. Кроме того, данные разложения могут быть использованы для численной аппроксимации соответствующих мощностей.

Теорема 6 дает упрощенную формулу для вычисления мощности наилучшего критерия, и, как замечено в проведенных в диссертации численных расчетах, эта аппрокимация дает вполне приемлемое приближение даже для малых n. Численная аппроксимация была проведена также для мощности критерия знаковой статистики и для дефекта знаковой статистики. Приложение диссертации содержит графики и таблицы результатов численных расчетов.

В третьей главе в терминах общего статистического эксперимента сформулирована и доказана общая теорема, позволяющая получать предел нормированной разности мощностей асимптотически оптимальных критериев и наилучшего критерия. В отличие от предшествующих работ (см. [11 ], [12 ]) данная формула справедлива в случаях, когда порядок отклонения мощностей может отличаться от n1, и когда условие Крамера (С) или его аналог может не выполняться для характеристической функции статистики, лежащей в основе асимптотически эффективного критерия. В качестве примера применения данной теоремы в последнем параграфе диссертации рассматривается случай распределения Лапласа.

Теорема 7. В случае распределения Лапласа (см. (3)) предел статистиках n (см. (5)) и Tn (см. (6)), в задаче проверки гипотезы H0 (см. (1)) против альтернативы Hn,1 (см. (2)) для заданного уровня значимости (0, 1) вычисляется по формуле уровня 1 стандартного нормального распределения.

Приложение содержит таблицы и графики численных расчетов, проведенных в главе 2.

Основные результаты работы 1. Для случая распределения Лапласа вычислен предел нормированной разности мощностей асимптотически оптимального критерия, основанного на знаковой статистике, и асимптотически наилучшего критерия, основанного на логарифме отношения правдоподобия.

Получены асимптотические разложения для функции распределения логарифма отношения правдоподобия при гипотезе и альтернативе.

2. В терминах общего статистического эксперимента сформулирована и доказана общая теорема о формуле для предела нормированной разности мощностей критериев. Эта теорема применена к случаю распределения Лапласа.

3. Получены численные оценки точности аппроксимации функций мощности критерия знаков и асимптотически наилучшего критерия в случае распределения Лапласа их асимптотическими разложениями до порядка n1, а также численные оценки для асимптотического дефекта критерия знаков. Построены таблицы для значений мощностей критериев и дефекта.

Список публикаций по теме диссертации асимптотически оптимального критерия в случае распределения Лапласа. // Вестник Тверского государственного университета, серия Прикладная математика, 2008, вып. 8, № 4(64), с. 5–23.

2. Королев Р. А., Бенинг В. Е. Асимптотические разложения для мощностей критериев в случае распределения Лапласа. // Вестник Тверского государственного университета, серия Прикладная математика, 2008, вып. 3(10), № 26(86), с. 97–107.

3. Королев Р. А. О численной аппроксимации мощностей критериев государственного университета, серия Прикладная математика, 2009, вып. 1(12), № 8, с. 59–76.

4. Королев Р. А. Формула для предела нормированной разности мощностей критериев в случае распределения Лапласа. // Вестник Тверского государственного университета, серия Прикладная математика, 2010, вып. 1(16), № 9, с. 5–24.

5. Бенинг В. Е., Королев Р. А. О предельном поведении мощностей критериев в случае распределения Лапласа. // Информатика и е применения, 2010, т. 4, вып. 2, с. 63–74.

6. Korolev R. A., Bening V. E. On the power of an asymptotically optimal test for the case of Laplace distribution. // Banach Center Publications, 2010, V. 90, p. 27–38.