«А.И. Волковец, А.Б. Гуринович ТЕОРИЯ ВЕРОЯТНОСТЕЙ И МАТЕМАТИЧЕСКАЯ СТАТИСТИКА Конспект лекций для студентов всех специальностей и форм обучения БГУИР Минск 2003 УДК 519.2 (075.8) ББК 22.171+22.172 я 73 В 67 Волковец ...»

Министерство образования Республики Беларусь

Учреждение образования

«Белорусский государственный университет

информатики и радиоэлектроники»

Кафедра вычислительных методов и программирования

А.И. Волковец, А.Б. Гуринович

ТЕОРИЯ ВЕРОЯТНОСТЕЙ

И МАТЕМАТИЧЕСКАЯ СТАТИСТИКА

Конспект лекций

для студентов всех специальностей и форм обучения БГУИР Минск 2003 УДК 519.2 (075.8) ББК 22.171+22.172 я 73 В 67 Волковец А.И.

В 67 Теория вероятностей и математическая статистика: Конспект лекций для студ. всех спец. и форм обучения БГУИР / А.И. Волковец, А.Б. Гуринович. – Мн.: БГУИР, 2003. – 84 с.: ил.

Конспект лекций по курсу «Теория вероятностей и математическая статистика» включает в себя 17 лекций по темам, определенным типовой рабочей программой изучения данной дисциплины.

Целью изучения является усвоение основных методов формализованного описания и анализа случайных явлений, обработки и анализа результатов физических и численных экспериментов. Для изучения данной дисциплины студенту необходимы знания, полученные при изучении разделов «Ряды», «Множества и операции над ними», «Дифференциальное и интегральное исчисления» курса высшей математики.

УДК 519.2 (075.8) ББК 22.171+22.172 я © Волковец А.И., Гуринович А.Б., © БГУИР,

СОДЕРЖАНИЕ

ЛЕКЦИЯ 1

ВВЕДЕНИЕ

ОСНОВНЫЕ ПОНЯТИЯ

АКСИОМЫ ТЕОРИИ ВЕРОЯТНОСТЕЙ

НЕПОСРЕДСТВЕННЫЙ ПОДСЧЕТ ВЕРОЯТНОСТЕЙ.

ОСНОВНЫЕ КОМБИНАТОРНЫЕ ФОРМУЛЫ

ЛЕКЦИЯ 2

ГЕОМЕТРИЧЕСКОЕ ОПРЕДЕЛЕНИЕ ВЕРОЯТНОСТЕЙ.

ТЕОРЕМЫ СЛОЖЕНИЯ ВЕРОЯТНОСТЕЙ

УСЛОВНАЯ ВЕРОЯТНОСТЬ

ЗАВИСИМЫЕ И НЕЗАВИСИМЫЕ СОБЫТИЯ

ТЕОРЕМЫ УМНОЖЕНИЯ ВЕРОЯТНОСТЕЙ

ВЕРОЯТНОСТЬ БЕЗОТКАЗНОЙ РАБОТЫ СЕТИ

ЛЕКЦИЯ 3

ФОРМУЛА ПОЛНОЙ ВЕРОЯТНОСТИ

ФОРМУЛА БАЙЕСА

ТЕОРЕМА О ПОВТОРЕНИИ ОПЫТОВ

ЛЕКЦИЯ 4

СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. ЗАКОН РАСПРЕДЕЛЕНИЯ ВЕРОЯТНОСТЕЙ

ФУНКЦИЯ РАСПРЕДЕЛЕНИЯ

РЯД РАСПРЕДЕЛЕНИЯ

ПЛОТНОСТЬ РАСПРЕДЕЛЕНИЯ

ЛЕКЦИЯ 5

ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНОЙ ВЕЛИЧИНЫ

Математическое ожидание

Начальный момент

Центральный момент

Дисперсия

Среднее квадратическое отклонение

Мода

Медиана

Квантиль

ЛЕКЦИЯ 6

ТИПОВЫЕ ЗАКОНЫ РАСПРЕДЕЛЕНИЯ

Индикатор случайного события

Геометрическое распределение

Биномиальное распределение

Распределение Пуассона

Равномерное распределение

Экспоненциальное распределение

Нормальное распределение

ЛЕКЦИЯ 7

ФУНКЦИИ ОДНОГО СЛУЧАЙНОГО АРГУМЕНТА

ЗАКОН РАСПРЕДЕЛЕНИЯ ФУНКЦИИ СЛУЧАЙНОГО АРГУМЕНТА

ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ ФУНКЦИИ СЛУЧАЙНОГО АРГУМЕНТА

ХАРАКТЕРИСТИЧЕСКАЯ ФУНКЦИЯ СЛУЧАЙНОЙ ВЕЛИЧИНЫ

ЛЕКЦИЯ 8

ДВУХМЕРНЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. ДВУХМЕРНЫЙ ЗАКОН РАСПРЕДЕЛЕНИЯ....

ДВУХМЕРНАЯ ФУНКЦИЯ РАСПРЕДЕЛЕНИЯ

МАТРИЦА РАСПРЕДЕЛЕНИЯ.

ДВУХМЕРНАЯ ПЛОТНОСТЬ РАСПРЕДЕЛЕНИЯ

ЗАВИСИМЫЕ И НЕЗАВИСИМЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ

УСЛОВНЫЕ ЗАКОНЫ РАСПРЕДЕЛЕНИЯ

ЛЕКЦИЯ 9

ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ ДВУХМЕРНЫХ ВЕЛИЧИН

Смешанный начальный момент

Смешанный центральный момент

Корреляционный момент

Коэффициент корреляции

УСЛОВНЫЕ ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ

ЛЕКЦИЯ 10

НОРМАЛЬНЫЙ ЗАКОН РАСПРЕДЕЛЕНИЯ НА ПЛОСКОСТИ

ЗАКОН РАСПРЕДЕЛЕНИЯ ФУНКЦИИ ДВУХ СЛУЧАЙНЫХ ВЕЛИЧИН

МНОГОМЕРНЫЕ СЛУЧАЙНЫЕ ВЕЛИЧИНЫ

ЛЕКЦИЯ 11

ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ ФУНКЦИИ МНОГИХ ПЕРЕМЕННЫХ

ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ СУММЫ СЛУЧАЙНЫХ ВЕЛИЧИН

Теорема о математическом ожидании суммы

Теорема о дисперсии суммы

ЧИСЛОВЫЕ ХАРАКТЕРИСТИКИ ПРОИЗВЕДЕНИЯ СЛУЧАЙНЫХ ВЕЛИЧИН

Теорема о математическом ожидании произведения

Теорема о дисперсии произведения

ЛЕКЦИЯ 12

ЗАКОН БОЛЬШИХ ЧИСЕЛ

Неравенство Чебышева

Теорема Чебышева

Теорема Бернулли

ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА.

ЛЕКЦИЯ 13

МАТЕМАТИЧЕСКАЯ СТАТИСТИКА. ОСНОВНЫЕ ПОНЯТИЯ

ОЦЕНКА ЗАКОНА РАСПРЕДЕЛЕНИЯ

Эмпирическая функция распределения

Статистический ряд распределения

Интервальный статистический ряд

Гистограмма

ЛЕКЦИЯ 14

ТОЧЕЧНЫЕ ОЦЕНКИ ЧИСЛОВЫХ ХАРАКТЕРИСТИК

Оценка математического ожидания

Оценка дисперсии

Оценка вероятности

ОЦЕНКА ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЯ

Метод моментов

Метод максимального правдоподобия

ИНТЕРВАЛЬНЫЕ ОЦЕНКИ ЧИСЛОВЫХ ХАРАКТЕРИСТИК

Доверительный интервал для математического ожидания

Доверительный интервал для дисперсии

Доверительный интервал для вероятности

ЛЕКЦИЯ 15

ПРОВЕРКА СТАТИСТИЧЕСКИХ ГИПОТЕЗ

Проверка гипотезы о равенстве вероятностей

КРИТЕРИИ СОГЛАСИЯ

Критерий согласия Пирсона

Критерий согласия Колмогорова

ЛЕКЦИЯ 16

СТАТИСТИЧЕСКАЯ ОБРАБОТКА ДВУХМЕРНЫХ СЛУЧАЙНЫХ ВЕЛИЧИН

Оценка корреляционного момента.

Оценка коэффициента корреляции.

Доверительный интервал для коэффициента корреляции

СТАТИСТИЧЕСКИЕ КРИТЕРИИ ДВУХМЕРНЫХ СЛУЧАЙНЫХ ВЕЛИЧИН

Гипотеза об отсутствии корреляционной зависимости

';

t-критерий

F-критерий

Критерий Уилкоксона

ЛЕКЦИЯ 17

ОЦЕНКА РЕГРЕССИОННЫХ ХАРАКТЕРИСТИК

МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

ЛИТЕРАТУРА

ЛЕКЦИЯ Теория вероятностей – раздел высшей математики, изучающий закономерности массовых случайных явлений.

Приведем несколько примеров случайных явлений.

1. Производится ряд испытаний заводских изделий определенного типа, например реле, на длительность безотказной работы. Результат испытания от одного раза к другому не остается постоянным, меняется. Эти изменения обусловлены влиянием ряда малозначительных, трудноуловимых факторов, таких, например, как микродефекты в металле; разные температурные условия;

разные условия хранения и транспортировки изделий; отклонения напряжения от номинала и т.д.

2. Самолет совершает полет на заданной высоте; теоретически он летит горизонтально, равномерно и прямолинейно. Фактически полет сопровождается отклонениями центра массы самолета от теоретической траектории и колебаниями самолета около центра массы. Эти отклонения и колебания являются случайными и связаны с турбулентностью атмосферы; от одного раза к другому они не повторяются.

3. Рассматривается непрерывная работа ЭВМ между двумя очередными сбоями в решении задачи. Все контролируемые условия работы ЭВМ:

температура, влажность, напряжение питания, характер решаемой задачи – остаются неизменными. Повторяя такой опыт несколько раз, мы убеждаемся, что время работы ЭВМ между двумя очередными сбоями будет разным (случайным). Это объясняется тем, что различные элементы ЭВМ подвергаются незначительным, неконтролируемым изменениям.

Все приведенные примеры рассмотрены здесь под одним и тем же углом зрения: подчеркнуты случайные вариации, неодинаковые результаты ряда опытов, основные условия которых остаются неизменными. Эти вариации всегда связаны с наличием каких-то второстепенных факторов, влияющих на исход опыта, но не заданных в числе его основных условий. Основные условия опыта, определяющие в общих и грубых чертах его протекание, сохраняются неизменными; второстепенные – меняются от опыта к опыту и вносят случайные различия в их результаты.

Совершенно очевидно, что в природе нет ни одного физического явления, в котором не присутствовали бы в той или иной мере элементы случайности.

Как бы точно и подробно ни были фиксированы условия опыта, невозможно достигнуть того, чтобы при повторении опыта результаты полностью и в точности совпадали. Случайные отклонения неизбежно сопутствуют любому закономерному явлению. Тем не менее в ряде практических задач этими случайными элементами можно пренебречь, рассматривая вместо реального явления его упрощенную схему, «модель», и предполагая, что в данных условиях опыта явление протекает вполне определенным образом. При этом из бесчисленного множества факторов, влияющих на данное явление, выделяются самые главные, решающие; влиянием остальных, второстепенных факторов просто пренебрегают. Такая схема изучения явлений постоянно применяется в физике, механике, технике. При использовании этой схемы для решения любой задачи прежде всего выделяется основной круг учитываемых условий и выясняется, на какие параметры задачи они влияют; затем применяется тот или иной математический аппарат (например, составляются и интегрируются дифференциальные уравнения, описывающие явление); таким образом выявляется основная закономерность, свойственная данному явлению и дающая возможность предсказать результат опыта по его заданным условиям.

По мере развития науки число учитываемых факторов становится все больше;

явление исследуется подробнее; научный прогноз становится точнее.

Однако для решения ряда вопросов описанная схема – классическая схема так называемых «точных наук» – оказывается плохо приспособленной.

Существуют такие задачи, где интересующий нас исход опыта зависит от столь большого числа факторов, что практически невозможно зарегистрировать и учесть все эти факторы. Это задачи, в которых многочисленные второстепенные, тесно переплетающиеся между собой случайные факторы играют заметную роль, а вместе с тем число их так велико и влияние столь сложно, что применение классических методов исследования себя не оправдывает.

Рассмотрим следующий пример. Некоторое техническое устройство, например система автоматического управления, решает определенную задачу в условиях, когда на систему непрерывно воздействуют случайные помехи.

Наличие помех приводит к тому, что система решает задачу с некоторой ошибкой, в ряде случаев выходящей за пределы допустимой. Возникают вопросы: как часто будут появляться такие ошибки? какие следует принять меры для того, чтобы практически исключить их возможность?

Чтобы ответить на такие вопросы, необходимо исследовать природу и структуру случайных возмущений, воздействующих на систему, изучить реакцию системы на такие возмущения, выяснить влияние конструктивных параметров системы на вид этой реакции. Все подобные задачи, число которых в физике и технике чрезвычайно велико, требуют изучения не только основных, главных закономерностей, определяющих явление в общих чертах, но и анализа случайных возмущений и искажений, связанных с наличием второстепенных факторов и придающих исходу опыта при заданных условиях элемент неопределенности.

Какие же существуют пути и методы для исследования случайных явлений? С чисто теоретической точки зрения те факторы, которые мы условно назвали «случайными», в принципе ничем не отличаются от других, которые мы выделили в качестве «основных». Теоретически можно неограниченно повышать точность решения каждой задачи, учитывая все новые и новые группы факторов: от самых существенных до самых ничтожных. Однако практически такая попытка одинаково подробно и тщательно проанализировать влияние решительно всех факторов, от которых зависит явление, привела бы только к тому, что решение задачи, в силу непомерной громоздкости и сложности, оказалось бы практически неосуществимым и к тому же не имело бы никакой познавательной ценности. Очевидно, должна существовать принципиальная разница в методах учета основных, решающих факторов, определяющих в главных чертах течение явления, и вторичных, второстепенных факторов, влияющих на течение явления в качестве «погрешностей» или «возмущений». Элемент неопределенности, сложности, многопричинности, присущий случайным явлениям, требует создания специальных методов для изучения этих явлений.

Такие методы и разрабатываются в теории вероятностей. Ее предметом являются специфические закономерности, наблюдаемые в случайных явлениях.

Практика показывает, что, наблюдая в совокупности массы однородных случайных явлений, мы обычно обнаруживаем в них вполне определенные закономерности, своего рода устойчивости, свойственные именно массовым случайным явлениям. Например, если много раз подряд бросать монету, частота появления герба (отношение числа появившихся гербов к общему числу бросаний) постепенно стабилизируется, приближаясь к вполне определенному числу, а именно к 1/2. Такое же свойство «устойчивости частот» обнаруживается и при многократном повторении любого другого опыта, исход которого представляется заранее не определенным, случайным.

Отметим, что именно массовость случайных явлений обеспечивает выполнение этой закономерности.

Подобного рода закономерности (их называют «статистическими») возникают, когда мы наблюдаем в совокупности массивы однородных случайных явлений. Они оказываются практически независимыми от индивидуальных особенностей отдельных случайных явлений, входящих в массив: эти особенности как бы взаимно погашаются, нивелируются;

выражаясь образно, «из множества беспорядков возникает порядок». Средний массовый результат множества случайных явлений оказывается практически уже не случайным, предсказуемым. Это и является базой для практического применения вероятностных (статистических) методов исследования.

Методы теории вероятностей не отменяют и не упраздняют случайности, непредсказуемости исхода отдельного опыта, дают возможность предсказать, с каким-то приближением, средний суммарный результат массы однородных случайных явлений.

Цель вероятностных (статистических) методов – в том, чтобы, минуя слишком сложное (и зачастую практически невозможное) исследование отдельного случайного явления, обратиться непосредственно к законам, управляющим массами таких явлений. Изучение этих законов позволяет не только осуществлять прогноз в области случайных явлений, но и целенаправленно влиять на ход этих явлений, контролировать их, ограничивать сферу действия случайности, сужать ее влияние на практику.

В настоящее время нет практически ни одной области науки, в которой в той или иной степени не применялись бы вероятностные методы. В одних науках, в силу специфики предмета и исторических условий, эти методы находят применение раньше, в других – позднее. Исторически первые зачатки вероятностных методов с довольно примитивным математическим аппаратом возникли в XVII в. при разработке теории азартных игр с целью дать рекомендации игрокам. Затем эти методы стали применяться в практике страховых компаний для установления разумных размеров страховых премий.

Постепенно область применения вероятностных методов расширялась. Сегодня эти методы распространяются все шире и шире. Целые разделы современной физики (в частности, ядерная физика) базируются на математическом аппарате теории вероятностей. Широко применяются вероятностные методы в современных электронике, радиотехнике, теории связи, теории автоматического регулирования, кибернетике, вычислительной технике, теории автоматизированных систем управления. Это и естественно, так как работа современных радиотехнических, электронных систем протекает в условиях случайных воздействий, без учета которых невозможны разумное проектирование подобных систем, выбор их конструктивных параметров.

Любая процедура управления чем бы то ни было (техническим устройством, группой устройств, человеко-машинным комплексом) протекает в заранее не известных, случайных условиях, неизбежно сопровождается случайными ошибками измерения тех или других параметров, ошибками выполнения команд и т. д.; анализ работы такой системы практически невозможен без учета случайных факторов.

Знакомство с методами теории вероятностей и математической статистики необходимо сегодня каждому грамотному инженеру. И не только инженеру. Биология, физиология, медицина, социология все шире применяют вероятностные методы. Не чуждаются их и такие «исконно гуманитарные»

науки, как психология, лингвистика, литературоведение, даже эстетика.

Случайное явление – это явление, которое при неоднократности воспроизведения одного и того же опыта протекает каждый раз по-иному, непредсказуемым образом.

Опыт – воспроизводимая совокупность условий, в которых фиксируется тот или иной результат.

Случайное событие – всякий факт, который в опыте со случайным исходом может произойти или не произойти. Обозначение: А, В, С, ….

Вероятность случайного события – количественная мера объективной возможности его осуществления.

элементарным событием wi, i = 1, 2,..., n, где n – число исходов данного опыта. Множество всех опыта или пространство элементарных событий.

Тогда любое случайное событие А, возможное в данном опыте, есть некоторое подмножество универсального множества A :

где m – число исходов, благоприятных событию A.

Событие А называется достоверным, если A =, т.е. происходит в каждом опыте.

Событие А называется невозможным, данном опыте.

Противоположным к событию А невыполнении А, т.е. оно происходит всегда, когда не происходит A.

Событие С называется суммой событий тогда, когда происходит либо А, либо В, либо оба одновременно (хотя бы одно событие).

происходит тогда, когда происходят и А и В одновременно.

События А и В несовместны, если они не могут произойти одновременно, т.е. А·В =.

События Ai (i = 1, 2,..., n) образуют полную группу, если они попарно несовместны и в При преобразовании выражений можно пользоваться следующими тождествами:

Аксиома 1. Вероятность p(А) случайного события А есть функция множества элементарных исходов, благоприятных событию А, и вероятность любого события принимает значения:

Аксиома 2. Вероятность суммы несовместных случайных событий равна сумме вероятностей этих событий:

Следствие аксиом 1 и 2:

События А1 …Аn называются случаями, если они обладают следующими свойствами:

- события А1 …Аn образуют полную группу, - события А1 …Аn равновозможны, p ( Ai ) = p, i.

Пусть некоторый опыт сводится к схеме случаев, тогда вероятность события А в этом опыте равна отношению числа благоприятных случаев к общему числу случаев:

где m – число случаев Аi, благоприятных событию А, т.е. входящих в n – число всех возможных случаев.

Доказательство. Очевидно, что A = A1 + A2 + … + Am. Так как Аi несовместимы, то определим вероятность события A по второй аксиоме:

Формула (1.3) называется классическим определением вероятности и использовалась как определение вероятности с XVII по XIX в. При определении значений m, n в (1.3) могут оказаться полезными следующие формулы из комбинаторики.

Пусть имеется множество X = {x1, x2,..., xn}, состоящее из n различных элементов. (n, r)-выборкой называется множество, состоящее из r элементов, взятых из множества X.

Упорядоченной называется выборка, для которой важен порядок следования элементов. Если каждый элемент множества X может извлекаться несколько раз, то выборка называется выборкой с повторениями.

Число упорядоченных (n, r)-выборок (размещений) с повторениями A(n,r) и без повторений A(n, r) равно Если r = n, то размещения без повторений называются перестановками, т.е. это расположение элементов исходного множества в определенном порядке. Число перестановок из n элементов равно Пустое множество можно упорядочить только одним способом: P0 = 0! = 1.

Число неупорядоченных (n, r)-выборок (сочетаний) с повторениями Cn и без повторений Cn равно Число различных разбиений множества из n элементов на k непересекающихся подмножеств, причем в 1-м подмножестве r1 элементов, во 2-м r2 элементов и т.д., а n = r1 + r2 +... + rk, равно ЛЕКЦИЯ Классическое определение вероятности предполагает, что число элементарных исходов конечно. На практике встречаются опыты, для которых множество таких исходов бесконечно. Чтобы преодолеть недостаток классического определения вероятности, состоящий в том, что оно неприменимо к испытаниям с бесконечным числом исходов, вводят геометрические вероятности – вероятности попадания точки в область.

Пусть в некоторую область случайным образом равноправны в отношении попадания точки T. Тогда за вероятность попадания точки T в область A принимается отношение где S(A) и S() – геометрические меры (длина, площадь, объем и т.д.) областей Теорема сложения двух случайных событий. Вероятность суммы случайных событий А и В равна сумме вероятностей этих событий минус вероятность их совместного появления:

Доказательство. Представим событие А + В в Тогда на основании второй аксиомы Представим события А и В в виде суммы несовместимых событий:

A = A B + AB, p(A) = p(AB) + p(AB) p(AB) = p(A) – p(AB), B = BA + AB, p(B) = p(BA) + p(AB) p(BA) = p(B) – p(AB), Подставим p(AB) и p(BA) в выражение p(А + В) и после преобразований получим: p(А + В) = p(А) + p(В) – p(АВ).

Теорема сложения для n случайных событий. Вероятность суммы n событий A1,..., An равна где число слагаемых в k-й сумме равно C n, т.е. перебираются все возможные сочетания из k слагаемых.

Доказательство. Используем метод математической индукции. Однако для экономии времени и места докажем переход от m слагаемых к m+1 для случая m = 2. Докажем, что Обозначим B = A2 + A3, что и требовалось доказать.

На практике, с учетом того что p ( A) = 1 p ( A ), вероятность суммы n событий (если n > 2) удобнее вычислять по формуле Ранее случайное событие определялось как событие, которое при осуществлении совокупности условий (опыта) может произойти или не произойти. Если при вычислении вероятности события никаких других ограничений, кроме этих условий, не налагается, то такую вероятность называют безусловной. Если же налагаются и другие дополнительные условия, то вероятность события называется условной.

Проводится опыт со случайным исходом, в результате которого возможны два события А и В. Условной вероятностью p(В/А) называется вероятность события В, вычисленная при условии (в предположении), что событие А произошло.

Событие А называется независимым от события В, если его вероятность не зависит от того, произошло В или нет, т.е. критерий независимости В противном случае, т.е. когда критерий не выполняется, событие А зависит от события В.

Зависимость и независимость всегда взаимны, т.е. если событие А не зависит от события В (см. (2.5)), то и событие В не зависит от события А:

Теорема умножения вероятностей для двух событий. Вероятность произведения двух событий равна вероятности одного из них, умноженной на условную вероятность второго при наличии первого:

Доказательство. Докажем (2.7) для схемы случаев. Пусть в опыте возможны n несовместимых и равновозможных исходов. Событию А соответствует m исходов, событию B – k исходов. В l исходах события А и В происходят одновременно.

условную вероятность p(В|А), т.е. вероятность события В в предположении, что А произошло. Если известно, что событие А произошло, то из ранее возможных n случаев остаются возможными только те m, которые благоприятствовали событию А. Из них l благоприятны событию В p(B / A) =. Аналогично вычислим условную вероятность p(A/B), т.е. вероятность события A в предположении, что B произошло: p( A / B) =.Подставим найденные что и требовалось доказать. Очевидно, что безразлично, какое из событий считать первым, а какое вторым.

Теорема умножения вероятностей для n событий. Вероятность произведения n событий А1 …Аn равна где p( Ak / A1 … Ak 1 ) ) – вероятность появления события Ak, при условии что Доказательство. Используем метод математической индукции. Однако для экономии времени и места докажем переход от m сомножителей к m+1 для случая m = 2. Докажем, что p ( A1 A 2 A3 ) = p ( A1 ) p ( A2 / A1 ) p ( A3 / A1 A2 ), если p ( A1 A2 ) = p ( A1 ) p ( A2 / A1 ). Обозначим B = A1 A 2, тогда что и требовалось доказать.

Если события А1 …Аn независимы, то вероятность произведения равна произведению вероятностей этих событий:

а вероятность p( A1 + A2 + … + An ) появления хотя бы одного события А1, А2,..., Аn равна (см. (2. 4)) Событие B – безотказная работа сети, состоящей из n независимо работающих элементов Ai. Надежность p( Ai ) = pi (вероятность безотказной работы) каждого элемента известна. Необходимо определить вероятность безотказной работы сети в целом.

Рассмотрим последовательное соединение элементов:

Очевидно, что B = A1 A2 … An, а с учетом (2.9) B = A1 + A2 + … + An, а с учетом (2.10) p(B) =1 p( A A2 … An ) =1 q1 q2 … qn, (2.12) Сети с любой другой схемой соединения всегда можно представить в виде участков параллельным соединением и вероятность безотказной работы сети определить, последовательно применяя формулы (2.11) и (2.12).

ЛЕКЦИЯ Следствием обеих теорем вероятности: теоремы сложения и теоремы умножения – является формула полной вероятности.

Пусть проводится опыт, об условиях которого можно сделать n исключающих друг друга предположений (гипотез), образующих полную группу:

Каждая из гипотез осуществляется случайным образом и представляет собой случайное событие. Вероятности гипотез известны и равны:

Рассмотрим некоторое событие А, которое может появиться только вместе с одной из гипотез. Известны условные вероятности события А для каждой из гипотез:

Требуется определить полную (безусловную) p(А) вероятности события А.

Представим событие А как сумму из n несовместимых вариантов:

На основании второй аксиомы С учетом теоремы умножения вероятностей p(HiA) = p(Hi)p(A/Hi), тогда Базируется на формуле полной вероятности и теореме умножения вероятностей.

Пусть до проведения некоторого опыта об его условиях n можно сделать n исключающих друг друга предположений (гипотез), образующих полную группу:

Вероятности гипотез до опыта (априорные вероятности) известны:

Опыт произведен, и произошло некоторое событие А. Требуется определить вероятности гипотез с учетом того, что произошло событие А, т.е.

определить апостериорные вероятности: p(H1/A), p(H2/A), …, p(Hn/A).

Вероятность того, что событие А произошло совместно с Нi, на основании теоремы умножения вероятностей равна p(HiA) = p(Hi)p(A/Hi) = p(A)p(Hi/A).

Отбросим левую часть равенства и выразим p(Нi/А):

Раскроем p(A) по формуле полной вероятности (3.1) и получим формулу Байеса Формула Байеса позволяет пересчитать априорные вероятности гипотез с учетом того, что опыт завершился событием А.

Пусть проводятся n независимых одинаковых опытов, в каждом из которых событие А появляется с вероятностью р. Вероятность P(n, k) того, что событие А произойдет ровно в k опытах, равна (формула Бернулли):

где q = 1 – р – вероятность того, что А не появится в одном опыте.

Доказательство. Обозначим через Вk появление события А в k опытах и появление А в n – k опытах. Событие Вk представляет собой сумму несовместимых событий:

Bk = A1 A2...... Ak Ak +1 Ak + 2...... An +.........+ A1 A2...... An k An k +1 Ak + 2...... An где Аi Ai – появление и не появление событие А в i-м опыте.

Определим вероятность одного из слагаемых. Так как все опыты одинаковы, то вероятности всех вариантов одинаковы и равны Количество вариантов таких сложных событий равно числу выборок к номеров опытов из n возможных, в которых произойдут события А, т.е. равно числу сочетаний без повторения элементов C n. Так как эти события несовместимы, то на основании второй аксиомы : p( Bk ) = P(n, k ) = Cn p q.

Свойства формулы Бернулли:

1. Правая часть формулы (3.3) представляет собой общий член разложения бинома Ньютона:

2. Рекуррентная формула P(n, k)имеет вид 3. Число к0, которому соответствует максимальная вероятность P ( n, k 0 ), называется наивероятнейшим числом появления события А и определяется неравенствами Доказательство:

Итак, при k < np q функция P(n, k) возрастает, а при k > np q – убывает. Тогда существует точка k0, в которой P(n, k) достигает максимума, т.е.

Решив данную систему неравенств относительно k0, получим (3.6).

4. Вероятность Pn ( k 1 k k 2 ) того, что в n опытах схемы Бернулли событие А появится от k 1 до k 2 раз (0 k 1 k 2 n ), равна:

5 Вероятность P(n,1 k n) того, что в n опытах событие А появится хотя бы один раз, равна Пусть производится n независимых опытов, каждый из которых имеет r (r > 2) попарно несовместных и единственно возможных исходов A1, A2, …, Ar с вероятностями p1 = p(A1), p2 = p(A2), …, pr = p(Ar).

Требуется определить вероятность того, что из серии n независимых опытов исход A1 наступит k1 раз, A2 k2,..., Ar kr ( k1 + k2 +..... + kr = n ), то Вычисление вероятностей P( n, k ) при больших значениях n по формуле Бернулли проблематично. Поэтому вычисление соответствующих вероятностей проводится с помощью следующих приближенных формул.

Если количество испытаний велико n, а вероятность события мала Ниже приведены графики плотности и функции равномерного распределения Числовые характеристики равномерно распределенной случайной величины:

При необходимости определения параметров a и b по известным mX, DX используют следующие формулы:

Условия возникновения:

1. Случайная величина Х – ошибки округления при ограниченной разрядной сетке:

– округление до меньшего целого, X [–1; 0], mX = – 0,5;

– округление до большего целого, X [–0; 1], mX = 0,5;

– округление до ближайшего целого, X [– 0,5; 0,5], mX = 0, где 1 – вес младшего разряда.

2. Случайная величина Х – погрешность считывания значений с аналоговой шкалы измерительного прибора, X [– 0,5; 0,5], mX = 0, где 1 – цена деления шкалы.

3. Генераторы псевдослучайных величин, например RANDOM, встроенные в языки программирования высокого уровня.

Экспоненциальное распределение имеет непрерывная случайная величина T, принимающая только положительные значения, если ее плотность вероятности и функция распределения равны:

где – параметр распределения ( > 0).

Ниже приведены графики плотности и функции экспоненциального распределения при = 1.

Числовые характеристики экспоненциальной случайной величины:

Условия возникновения. Случайная величина T – интервал времени между двумя соседними событиями в простейшем или пуассоновском потоке случайных событий, причем параметр распределения – интенсивность потока.

Нормальное распределение (распределение Гаусса) имеет непрерывная случайная величина Х, если ее плотность вероятности и функция распределения равны:

где m, – параметры распределения ( > 0);

Ниже приведены графики плотности и функции нормального распределения при m = 1, = 1.

Так как первообразная для ex в аналитическом виде не существует, то для вычисления значений функции распределения и вероятностей событий, связанных с нормальной случайной величиной, используется табулированная функция Лапласа. При использовании таблицы значений функции Лапласа следует учитывать, что (–x) = – (x), (0) = 0, () = 0,5.

Числовые характеристики нормальной случайной величины:

Условия возникновения. Это наиболее часто встречающийся на практике закон распределения – см. лекцию 12 (Центральная предельная теорема).

Например, нормальный закон распределения имеют:

– погрешности измерительных приборов; при этом откалибрированный прибор не имеет систематической погрешности, т.е. m = 0, а величина определяется классом точности измерительного прибора;

– параметры радиоэлектронных компонентов (резисторов, конденсаторов и т.п.), причем m – номинальное значение, указанное на маркировке, а определяется классом точности.

ЛЕКЦИЯ Пусть некоторая случайная величина Х подвергается детерминированному преобразованию, в результате которого получится величина Y, т.е. Y = (x).

Очевидно, что величина Y будет случайной, и, как правило, необходимо определить закон распределения и/или числовые характеристики случайной величины Y по известному закону распределения величины Х и виду преобразования.

Закон распределения функции случайного аргумента В случае, если Х – дискретная случайная величина с известным рядом распределения вероятностей, определение ряда вероятностей Y не составит сложности.

Из (*) путем упорядочивания и объединения одинаковых значений получаем ряд распределения случайной величины Y (**).

Если Х – непрерывная случайная величина с известной плотностью вероятности f ( x), то алгоритм получения закона распределения Y = ( x) зависит от вида. Рассмотрим участок оси абсцисс [а, b], на котором лежат все возможные значения величины Х, т.е. p(a X b) =1, в частном случае a =, b = +. Способ решения поставленной задачи зависит от поведения функции на участке [а, b]: монотонна она на этом участке или нет. При этом отдельно проанализируем два случая: монотонного возрастания и монотонного убывания функции.

Y = (х) – монотонно возрастающая функция. Определим функцию распределения G ( y ) случайной величины У. По определению она равна где (y) – обратная функция (x).

Для выполнения условия Y < y случайная величина Х попала на участок оси абсцисс от а до (y). Таким аргумента X, распределенного в где (y) – обратная функция (x).

Для выполнения условия Y < y необходимо и достаточно, чтобы случайная величина Х попала на участок оси абсцисс от х = (y) до b. Таким образом, функция распределения Y для аргумента X, распределенного в интервале [a, b], равна:

Плотность вероятностей случайной величины Y = (x) для любого монотонного случая имеет следующий вид:

Пример. Пусть случайная величина Х имеет нормальный закон распределения f(x) = g( y ).

функция. Алгоритм получения закона распределения Y = (x) приведен ниже.

1. Построить график Y = (х) и определить диапазон значений Y [ymin, ymax].

2. Диапазон Y разбить на M интервалов, в каждом из которых одинаковая степень неоднозначности ki, i = 1, 2,..., M:

Степень неоднозначности ki – число значений Х, соответствующих одному значению Y, или число обратных функций для данного интервала j(у), j = 1, …, ki.

3. Определить обратные функции j(у) = –1(х) и вычислить j'(у).

В общем случае число обратных функций j(у) в i-м интервале равно ki.

4. Определить плотность вероятностей g(y) по следующей формуле:

В частном случае, когда обратные функций одинаковы для всех интервалов j ( y ) = ( y ), j ( y ) = ( y ), формула (7.2) принимает вид а если величина Х равномерно распределена в интервале [a, b], т.е. ее плотность Числовые характеристики функции случайного аргумента Пусть Y = (х), где X – случайная величина с известным законом распределения, и необходимо определить числовые характеристики Y. В том случае, когда закон распределения Y определен (см. выражения (7.1 7.4)), то числовые характеристики Y легко вычислить по формулам (5.1 5.7). Однако, если закон распределения величины Y в явном виде не нужен, а необходимы только ее числовые характеристики, применимы следующие формулы.

Если Х – дискретная случайная величина с известным рядом распределения вероятностей, то Если Х – непрерывная случайная величина с известной плотностью вероятностей f(x), то формулы принимают вид Характеристическая функция случайной величины Пусть Y = e, где X – случайная величина с известным законом распределения, t – параметр, i = 1.

Характеристической функцией случайной величины Х называется математическое ожидание функции Y = e Таким образом, характеристическая функция X (t) и закон распределения случайной величины однозначно связаны преобразованием Фурье. Например, плотность распределения f(x) случайной величины X однозначно выражается через ее характеристическую функцию при помощи обратного преобразования Фурье:

Основные свойства характеристической функции:

1. Характеристическая функция величины Z = aX +b, где X – случайная величина с характеристической функций X (t ), равна 2. Начальный момент k-го порядка случайной величины X равен где Xk ) (0) – значение k-й производной характеристической функции при t = 0.

слагаемых:

4. Характеристическая функция нормальной случайной величины с параметрами m и равна:

ЛЕКЦИЯ Двухмерные случайные величины. Двухмерный закон распределения Двухмерная случайная величина (Х, Y) – совокупность двух одномерных случайных величин, которые принимают значения в результате проведения одного и того же опыта.

Двухмерные случайные величины характеризуются множествами значений X, Y своих компонент и совместным (двухмерным) законом распределения. В зависимости от типа компонент X, Y различают дискретные, непрерывные и смешанные двухмерные случайные величины.

Двухмерную случайную величину (Х, Y) геометрически можно представить как случайную точку (Х, У) на плоскости х0у либо как случайный вектор, направленный из начала координат в точку (Х, У).

Двухмерный закон распределения вероятностей – функция, таблица, вероятности любых событий, связанных двухмерной случайной величиной (Х, Y):

Двухмерная функция распределения двухмерной случайной величины (Х, Y) равна вероятности совместного выполнения двух событий {Х < х} и {Y < у}:

Геометрически двухмерная функция распределения F(x, y) – это вероятность попадания случайной точки (Х, Y) в бесконечный квадрант с вершиной в Компонента Х приняла значения, меньшие действительного числа х, это функция распределения компонента Y – меньшие действительного числа у, это функция распределения Свойства двухмерной функции распределения:

Доказательство. Свойство вытекает из определения функции распределения как вероятности: вероятность – неотрицательное число, не превышающее 1.

3. F(x1, y) F(x2, y), если x2 > x1; F(x, y1) F(x, y2), если y2 > y1.

Доказательство. Докажем, что F(x, y) неубывающая функция по переменной х. Рассмотрим вероятность 4. Переход к одномерным характеристикам:

5. Вероятность попадания в прямоугольную область Функция распределения наиболее двухмерных случайных величин.

Матрица распределения Двухмерная случайная величина (Х, Y) является дискретной, если множества значений ее компонент X и Y представляют собой счетные множества. Для описания вероятностных характеристик таких величин используется двухмерная функция распределения и матрица распределения.

Матрица распределения представляет собой прямоугольную таблицу, которая содержит значения компоненты X X = {x1, x2,..., xn}, значения компоненты Y Y = {y1, y2, …, ym} и вероятности всевозможных пар значений pij = p(X = xi, Y = yj ), i = 1, …, n, j = 1, …, m.

Свойства матрицы распределения вероятностей:

2. Переход к ряду распределения вероятностей составляющей X:

3. Переход к ряду распределения вероятностей составляющей Y:

Двухмерная случайная величина (X, Y) является непрерывной, если ее функция распределения F(х, у) представляет собой непрерывную, дифференцируемую функцию по каждому из аргументов и существует вторая Двухмерная плотность распределения f(х, у) характеризует плотность вероятности в окрестности точки с координатами (х, у) и равна второй смешанной производной функция распределения:

Геометрически f(х, у) – это некоторая поверхность распределения, для одномерной случайной величины.

Аналогично можно ввести понятие Вероятность попадания значения (X, Y) в произвольную область D равна сумме всех элементов вероятности для этой области:

Свойства двухмерной плотности:

2. Условие нормировки:

Геометрически – объем тела, ограниченный поверхностью распределения и плоскостью x0y, равен единице.

3. Переход к функции распределения:

4. Переход к одномерным характеристикам:

Зависимые и независимые случайные величины Величина Х независима от величины У, если ее закон распределения не зависит от того, какое значение приняла величина У. Для независимых величин выполняется следующие соотношения, т. е. критерии независимости:

1) F(x, y) = p(X < x, Y < y) = p(X < x)p(Y < y) = FX(x)FY(y) x, y; (8.11) В том случае, если критерии не выполняются хотя бы в одной точке, величины X и Y являются зависимыми. Для независимых величин двухмерные формы закона распределения не содержат никакой дополнительной информации, кроме той, которая содержится в двух одномерных законах.

Таким образом, в случае зависимости величин X и Y переход от двух одномерных законов к двухмерному закону осуществить невозможно. Для этого необходимо знать условные законы распределения.

Условным законом распределения называется распределение одной случайной величины, найденное при условии, что другая случайная величина приняла определенное значение.

Условные ряды распределения для дискретных составляющих Х и Y определяются по формулам:

Матрица распределения вероятностей дискретной двухмерной случайной величины (Х,Y), если ее компоненты зависимы, «порождает» два одномерных ряда вероятностей (см. (8.3, 8.4)) и два семейства условных рядов вероятностей (8.14, 8.15).

Условные плотности распределения для непрерывных составляющих X и Y определяются по формулам:

Условные законы распределения обладают всеми свойствами соответствующих им одномерных форм законов распределения.

Если величины Х и Y независимы, то условные законы распределения равны соответствующим безусловным:

Следует различать функциональную и статистическую (вероятностную) зависимости между случайными величинами. Если Х и Y – случайные величины, которые связаны между собой функциональной зависимостью у = = (х), то, зная значение Х, можно точно вычислить соответствующие значение Y, и наоборот.

Если между случайными величинами существует статистическая зависимость (величины Х и Y зависимы – см. (8.11 – 8.13)), то по значению одной из них можно установить только условное распределение вероятностей другой, т.е. определить, с какой вероятностью появится то или иное значение другой величины.

Пример. Y – урожай зерна, Х – количество удобрений на некотором участке земли. Очевидно, что между Х и Y существует статистическая зависимость, так как значение Y (урожайность на участке) зависит и от многих других факторов.

ЛЕКЦИЯ Числовые характеристики двухмерных величин Рассмотрим основные числовые характеристики двухмерной случайной величины (X, Y).

Смешанный начальный момент порядка k + s равен математическому ожиданию произведения Xk и Ys:

Смешанный центральный момент порядка k + s равен математическому где pij – элементы матрицы распределения вероятностей дискретной случайной f(x, y) – совместная плотность вероятности непрерывной случайной Рассмотрим наиболее часто используемые начальные и центральные моменты:

Особую роль, как характеристика системы случайных величин, играет второй смешанный центральный момент порядка 1+1 µ1,1 ( x, y), который называется корреляционным моментом или ковариацией случайных величин X, Корреляционный момент KXY характеризует степень тесноты линейной зависимости величин X и Y и рассеивание их значений относительно точки (mX, mY):

Свойства ковариации KXY :

2. Корреляционный момент двух независимых случайных величин X и Y равен нулю.

Для независимых величин (см. (8.12)) f ( x, y) = f X ( x) fY ( y), 3. Абсолютная величина корреляционного момента двух случайных величин не превышает среднего геометрического их дисперсий Доказательство. Приведено в лекции 11.

Если K XY < 0, то между величинами X и Y существует отрицательная корреляционная зависимость, т.е. чем больше значение одной величины, тем более вероятны меньшие значение у другой (см. статистическую зависимость в лекции 8). Пример. Х – число пропусков занятий студента, Y – оценка на экзамене.

Если K XY > 0, то между величинами X и Y существует положительная корреляционная зависимость, т.е. чем больше значение одной величины, тем более вероятны большие значения у другой. Пример. X и Y – рост и вес наугад взятого студента.

Если K XY = 0, то величины X и Y называются корреляционно независимыми или некоррелированными, т.е. между ними отсутствует зависимость линейного характера.

Если K XY 0, то величины X и Y называются коррелированными.

Итак, из коррелированности двух случайных величин следует их зависимость, но из зависимости еще не вытекает их коррелированность, так как зависимость может иметь и нелинейный характер. Из независимости случайных величин (см. критерии независимости (8.11 8.13)) обязательно следует их некоррелированность, но из некоррелированности не всегда следует независимость этих величин.

Величина ковариации K XY зависит от дисперсии случайных величин X, Y, т.е. от рассеивания их значений относительно точки (mX, mY), поэтому для того, чтобы получить характеристику только степени тесноты линейной зависимости, корреляционный момент нормируется. Эта числовая характеристика называется коэффициентом корреляции.

Коэффициент корреляции R XY характеризует степень линейной зависимости величин и равен:

DX DY X Y

Свойства коэффициента корреляции:

1. Абсолютная величина коэффициента корреляции двух случайных величин не превышает единицы: R XY 1.

Доказательство. Разделим обе части двойного неравенства (9.6) XY KXY XY на произведение положительных чисел X Y 0 и получим 2. R XY = 1, если величины X, Y связаны линейной функциональной зависимостью Y = aХ + b.

Доказательство:

Найдем дисперсию Y: D [Y ] = D [ aX + b ] = a D X, т.е. коэффициент Чем больше абсолютная величина коэффициента корреляции, тем ближе статистическая зависимость величины X, Y к линейной функциональной зависимости.

3. Если величины X и Y независимы, то RXY = 0.

Для зависимых двухмерных величин могут быть определены условные законы распределения (см. (8.14 8.17)). Эти законы распределения обладают всеми свойствами безусловных законов, и на их основе по известным формулам (5.1 5.4) (после замены в них безусловных законов на условные) могут быть вычислены числовые характеристики, которые называются условными.

Наибольшее практическое значение имеют условные математические ожидания.

Условным математическим ожиданием случайной величины Х называется ее математическое ожидание, вычисленное при условии, что случайная величина Y приняла определенное значение Y = y:

Аналогично и для Условное математическое ожидание m X / y называется регрессией X на y, а условное математическое ожидание m Y / x регрессией Y на х. Очевидно, что условные математические ожидания представляют собой некоторые функции, которых зависят от значения, взятого в условии, т.е. m X / y = ( y ), а Графики этих зависимостей называются линиями регрессии ( см.

рисунок).

Линия регрессии 1 указывает, что между величинами X, Y существует положительная корреляционная зависимость, так как при увеличении значения х более вероятны большие значения Y (среднее значение Y увеличивается), т.е.

K XY > 0. Линия регрессии 2 указывает, что величины X, Y независимы, а линия существует отрицательная корреляционная Регрессионный анализ позволяет величинами X, Y. Величины X, Y называются линейно коррелированными, если линии регрессии являются прямыми. Уравнения прямых регрессии имеют вид:

Обе прямые проходят через точку (mX, mY), которую называют центром совместного распределения величин Х и Y.

ЛЕКЦИЯ Нормальный закон распределения на плоскости Непрерывная двухмерная случайная величина (X, Y) имеет нормальное распределение, если ее плотность вероятности равна:

где mX, mY, X,Y, RXY – параметры распределения.

Если составляющие X, Y двумерной нормально распределенной случайной величины некоррелированы, то они и независимы, т.е. при R XY = Итак, для нормальных случайных величин понятия независимости и некоррелированности равносильны.

Закон распределения функции двух случайных величин Рассмотрим функцию двух случайных аргументов Y = ( X1, X 2 ).

Необходимо определить закон распределения случайной величины Y по известному закону распределения двухмерной случайной величины (Х1, Х2) и виду преобразования. Функция распределения G(y) величины Y определяется по формуле где f ( x1, x2 ) совместная плотность вероятности величин X1 и X2.

производится по области D, которая ( X 1, X 2 ) < y. Форма области D зависит от вида функции ( X 1, X 2 ). В случае, когда Y = X 1 + X 2, область суммы двух случайных величин определяется по формуле Дифференцируя это выражение по y, получим плотность распределения величины Y:

Если величины X1 и X2 независимы, то В случае, когда складываются независимые случайные величины, говорят о композиции законов распределения. Произвести композицию двух законов распределения – это значит найти закон распределения суммы двух независимых случайных величин, распределенных по этим законам (см. (10.5)).

Совокупность произвольного числа n одномерных случайных величин Хi, i = 1, …, n, которые принимают значение в результате проведения одного и того же опыта, называется n-мерной случайной величиной (Х1, Х2, …, Хn). Ее можно интерпретировать как случайную точку или случайный вектор в n-мерном пространстве.

Полной характеристикой n-мерной случайной величины (Х1, Х2, …, Хn) является n-мерный закон распределения, который может быть задан функцией распределения или плотностью вероятности.

Функцией распределения n-мерной случайной величиной (Х1, Х2, …, Хn) называется вероятность выполнения n неравенств вида Хi < xi:

Функцию распределения любой частной системы из величин, входящих в систему, можно получить, если положить все остальные аргументы n-мерной функции распределения равными бесконечности.

Плотностью распределения n-мерной случайной величиной (Х1, Х2, …, Хn) называется n-я смешанная частная производная функции F ( x1, x2...xn ), взятая один раз по каждому аргументу:

Она обладает следующими свойствами:

2. Условие нормировки:

3. Плотности распределения меньшего порядка могут быть получены путем интегрирования n-мерной плотности распределения по ненужным переменным. Например, одномерная плотность распределения величины Хк равна 4. Вероятность попадания случайной точки (Х1, Х2, …, Хn) в пределы nмерной области D равна n-кратному интегралу по этой области:

Случайные величины (Х1, Х2, …, Хn) называются независимыми, если закон распределения каждой частной системы, выделенной из системы (Х1, Х2, …, Хn), не зависит от того, какие значения приняли остальные случайные величины.

Плотность распределения системы независимых случайных величин равна произведению плотностей распределения отдельных величин, входящих в систему: f ( x1, x2,..., xn ) = f1 ( x1 ) f2 ( x2 )... fn ( xn ).

Основные числовые характеристики n-мерной случайной величиной (Х1, Х2, …, Хn) следующие.

1. Вектор математических ожиданий M = (m1, m2, …, mn):

2. Вектор дисперсий D = (D1, D2, …, Dn):

3. Корреляционная матрица, характеризующая попарную корреляцию всех величин, входящих в систему:

где Данная матрица является симметричной ( K ij = K ji ) и включает в себя вектор дисперсий, так как Кii = Di 4. Матрица коэффициентов корреляции:

где Матрица квадратная и симметричная.

ЛЕКЦИЯ Числовые характеристики функции многих переменных Пусть Y = (x1, x2, …, xn), где Х1, Х2, …, Хn – случайные величины с известной совместной n-мерной плотностью вероятностей f(x1, x2, …, xn).

Начальные моменты величины Y определяются по формуле а центральные моменты по формуле причем В случае, когда совместная плотность вероятности аргументов f(x1, x2, …, xn)неизвестна, а известны числовые характеристики аргументов, то задача определения числовых характеристик Y разрешима только для определения классов функций.

Числовые характеристики суммы случайных величин Пусть Y = X i, где Х1, Х2, …, Хn – случайные величины с известными числовыми характеристиками:

– вектор математических ожиданий M = (m1, m2, …, mn);

– вектор дисперсий D = (D1, D2, …, Dn);

– корреляционная матрица K ij.

Теорема о математическом ожидании суммы случайных величин.

Математическое ожидание суммы случайных величин равно сумме математических ожиданий слагаемых:

Доказательство. Пусть n = 2, т.е. Y = Х1 + Х2, и предположим, что слагаемые – непрерывные случайные величины с некоторой совместной плотностью распределения f ( x1, x2 ). Тогда Аналогично и для дискретных слагаемых. Используя метод математической индукции, легко доказать, что теорема справедлива для любого n.

Теорема о дисперсии суммы случайных величин. Дисперсия суммы случайных величин равна сумме всех элементов корреляционной матрицы слагаемых:

Доказательство:

Следствие. Дисперсия суммы некоррелированных случайных величин равна сумме дисперсий этих величин, так как K ij = 0, i, j :

Y = a0 + ai X i, a i – неслучайные коэффициенты, то математическое Если ожидание и дисперсия Y равны:

Это легко доказать, используя (11.6), (11.7) и свойства математического ожидания (M[c] = c, M[X + c] = mX + c, M[cX] = c mX ) и дисперсии (D[c] = 0, D[X + c] = DX, D[cX] = c2DX).

Пример. Докажем, что абсолютная величина корреляционного момента двух случайных величин не превышает среднего геометрического их дисперсий:

Введем в рассмотрение случайные величины Z1 = Y X XY, Z2 = YX + YY и вычислим их дисперсии по формуле (11.9):

Так как дисперсия всегда неотрицательна, то 2 XY 2 XY KXY 0

X Y K XY X Y K X Y X Y.

Числовые характеристики произведения случайных величин числовыми характеристиками:

– вектор математических ожиданий M = (m1, m2, …, mn);

– вектор дисперсий D = (D1, D2, …, Dn);

– корреляционная матрица K ij.

Теорема о математическом ожидании произведения случайных величин. Математическое ожидание произведения двух случайных величин равно произведению их математических ожиданий плюс ковариация:

Доказательство. По определению ковариация равна Откуда следует формула (11.10).

Следствие. Математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий:

Доказательство. Пусть n = 2. Для независимых случайных величин K ij = 0, i, j, тогда формула (11.10) примет вид mY = M [ X 1 X 2 ]= m1m2.

Используя метод математической индукции, легко доказать, что (11.11) справедлива для любого n.

Теорема о дисперсии произведения случайных величин. Дисперсия произведения независимых случайных величин равна Доказательство. По определению дисперсия равна Следствие. Дисперсия произведения независимых центрированных случайных величин равна произведению дисперсий этих величин:

ЛЕКЦИЯ Пусть проводится некоторый опыт, в котором нас интересует значение случайной величины Х. При однократном проведении опыта нельзя заранее сказать, какое значение примет величина Х. Но при n-кратном (n > 100...1000) повторении «среднее» (среднее арифметическое) значение величины Х теряет случайный характер и становится близким к некоторой константе.

Закон больших чисел – совокупность теорем, определяющих условия стремления средних арифметических значений случайных величин к некоторой константе при проведении большого числа опытов.

Неравенство Чебышева. Для любой случайной величины X с математическим ожиданием mX и дисперсией DX выполняют следующее неравенство:

где > 0.

Доказательство. Рассмотрим вероятность p( X ) :

Пример. Определим вероятность, что случайная величина примет значение за пределами интервала 3X. Полагаем в неравенстве Чебышева = 3 X, имеем:

Неравенство Чебышева дает только верхнюю границу вероятности данного отклонения. Значение вероятности быть выше этой границы (1/9) не может ни при каком законе распределения. Таким образом, правило 3X выполняется с вероятностью не меньшей, чем 8/9.

Сходимость по вероятности. Последовательность случайных величин Xn вероятность того, что Xn и a будут сколь угодно близки, неограниченно приближается к единице:

где, – произвольно сколь угодно малые положительные числа.

Одна из наиболее важных форм закона больших чисел – теорема Чебышева, она устанавливает связь между средним арифметическим наблюдаемых значений случайной величины и ее математическим ожиданием.

Теорема Чебышева. Пусть произведены n одинаковых независимых опытов, в каждом из которых случайная величина X приняла значения X1, X2, …, Xn. При достаточно большом числе независимых опытов среднее арифметическое значений случайной величины X сходится по вероятности к ее математическому ожиданию:

Доказательство. Рассмотрим величину Y = числовые характеристики Y (см. (11.5), (11.7)):

Запишем неравенство Чебышева для величины Y:

Как бы ни было мало число, можно взять n таким большим, чтобы выполнялось неравенство Теорема Бернулли. Пусть произведены n одинаковых независимых опытов, в каждом из которых возможно событие А с вероятностью р. Тогда частота появления события А в n опытах сходится по вероятности к вероятности появления А в одном опыте:

где p* ( A ) = – частота события А в n опытах;

m – число опытов в которых произошло событие А;

n – число проведенных опытов.

Пусть случайная величина X – индикатор события А:

тогда Xi – индикатор события А в i-м опыте.

Числовые характеристики индикатора X случайного события (см. (6.1)):

где q = 1 – p – вероятность осуществления А.

Применим теорему Чебышева:

Данная теорема определяет условия, при которых возникает случайная величина с нормальным законом распределения. Различные формы центральной предельной теоремы различаются между собой условиями, накладываемыми на распределения образующих сумму случайных слагаемых X1, X2, …, Xn. Чем жестче эти условия, тем легче доказывается теорема; чем они шире, тем труднее доказательство. Здесь мы докажем одну из самых простых форм этой теоремы, а именно, центральную предельную теорему для одинаково распределенных слагаемых.

Теорема. Если X1, X2, …, Xn – независимые случайные величины, имеющие одно и то же распределение с математическим ожиданием m и дисперсией 2, то при неограниченном увеличении n (n ) закон нормальному закону с параметрами:

Доказательство. Проведем доказательство для случая непрерывные случайных величин (для дискретных оно будет аналогичным). Применим для этого аппарат характеристических функций. Случайные величины X1, X2, …, Xn имеют одну и ту же плотность f(х), а значит, одну и ту же характеристическую функцию X (t ). Не нарушая общности, можно перенести начало отсчета всех случайных величин X1, X2, …, Xn в их общее математическое ожидание m; это равносильно их центрированию и, значит, тому, что m = 0. Согласно свойству (7.16) характеристическая функция суммы равна произведению характеристических функций слагаемых:

Разложим функцию X (t ) в окрестности точки t = 0 в ряд Маклорена с тремя членами:

где производные берутся по t; (t ) 0 при t 0.

Используя свойство (7.15) характеристических функций определим значения Подставив их в (12.5), получим Перейдем от Y к линейно связанной с ней «нормированной» случайной величине Z =. Эта величина удобна тем, что ее дисперсия не зависит от n и равна единице при любом. Если мы докажем, что случайная величина Z имеет нормальное распределение, это будет означать, что и случайная величина Y, линейно связанная с Z, распределена нормально.

Вместо того чтобы доказывать, что закон распределения случайной величины Z при увеличении n приближается к нормальному, докажем, что ее характеристическая функция, однозначно определяющая плотность, приближается к характеристической функции нормального закона e с теми же, что у Z, параметрами mZ = 0; Z = 1 (см. (7.17)).

Найдем характеристическую функцию случайной величины Z. Из свойства (7.14) характеристической функции имеем:

Подставив (12.5) и (12.7) в (12.8), получим:

Прологарифмируем это выражение:

Будем неограниченно увеличивать n; при этом величина будет стремиться к нулю. Разложим ln (1 ) в ряд по степеням и ограничимся одним членом функция случайной величины, распределенной по нормальному закону с параметрами m = 0, = 1.

Более общую форму центральной предельной теоремы мы приведем без доказательства.

Теорема. Если X1, X2, …, Xn – независимые случайные величины, имеющие примерно одинаковые дисперсии Di D для i, то при неограниченном увеличении n (n ) закон распределения их суммы Y = X i неограниченно приближается к нормальному закону с параметрами:

Требование Di D, i означает, что ни одно из слагаемых не носит доминирующего характера (влияние всех Хi на сумму Y приблизительно одинаково).

Таким образом, нормальное распределение возникает тогда, когда суммируется много независимых (или слабо зависимых) случайных величин, сравнимых по порядку своего влияния на рассеивание суммы. На практике такая обстановка встречается нередко. Пусть рассматривается отклонение Y какого-то параметра, например радиоэлектронного устройства от номинала.

Это отклонение (при известных допущениях) может быть представлено как сумма n элементарных отклонений, связанных с отдельными причинами:

где, например:

X1 – отклонение, вызванное влиянием температуры;

Х2 – отклонение, вызванное влиянием влажности воздуха;

Х3 – отклонение, вызнанное недостаточной чистотой материала изделия;

Хn – отклонение, вызнанное недостаточной чистотой материала изделия.

Число n этих элементарных отклонении весьма велико, как и число n причин, вызывающих суммарное отклонение Y. Обычно слагаемые X1, X2, …, Xn сравнимы по порядку своего влияния на рассеивание суммы. Действительно, если бы какая-то из случайных величин X1, X2, …, Xn оказывала существенно большее влияние на рассеивание суммы, чем все остальные, было бы естественно принять специальные меры для того, чтобы устранить главную причину рассеивания; поскольку такие меры не предпринимаются, можно предположить, что оставшиеся случайные слагаемые сравнимы по порядку своего (равномерно малого) влияния на рассеивание суммы.

Нормальный закон широко распространен в технике; в большинстве случаев ошибки измерения параметров, ошибки выполнения команд, ошибки ввода различных величин в техническое устройство распределены по нормальному (или близкому к нормальному) закону; такая ошибка обычно может быть представлена в виде суммы многих «элементарных ошибок» Xi, каждая из которых связана с отдельной, практически независимой от других причиной. Именно в применении к теории ошибок был впервые обоснован Лапласом и Гауссом нормальный закон.

На практике при суммировании величин с одинаковым законом распределения закон распределения суммы можно считать нормальным, если n>10...20.

Пример 1. Пусть Х – случайная величина, равномерно распределенная на интервале [0, 1], и формируется, например, генератором псевдослучайных величин. На основании центральной предельной теоремы величина будет иметь практически нормальный закон распределения с параметрами m,.

Пример 2. Докажем теоремы Муавра–Лапласа (см. (3.11), (3.12)), т.е. что число появлений событий А в n независимых одинаковых опытах распределено по нормальному закону, если количество опытов n велико, а вероятности p и q не малы, так что выполняются следующие условия:

Пусть Xi – индикатор события А в i-м опыте, тогда число появлений событий А в n опытах равно Y = X i, причем 0 Y n. На основании центральной предельной теоремы величина Y будет иметь практически mY = mi = np, Y = D = npq. Условие (12.12) получено на основании правила 3 Y для величины Y, так чтобы практически все значения нормальной величины Y находились в интервале [0; n].

ЛЕКЦИЯ Математическая статистика. Основные понятия Математической статистикой называется наука, занимающаяся методами обработки опытных данных, полученных в результате наблюдений над случайными явлениями. Любой такой результат можно представить как совокупность значений, принятых в результате n опытов случайной одномерной или многомерной величиной.

Генеральной совокупностью опыта называется множество объектов, из которых производится выборка. Каждый из объектов задает фиксированное значение случайной величины X. Количество (N) входящих в генеральную совокупность объектов называют объемом генеральной совокупности. Она может состоять из бесчисленного множества объектов.

Выборка – множество {x1, x2,..., xn } случайно отобранных объектов (значений) из генеральной совокупности. Объемом выборки n называется число входящих в нее объектов. К выборке предъявляется требование, чтобы она адекватно представляла генеральную совокупность, т.е. была репрезентативной (представительной). В силу закона больших чисел можно утверждать, что выборка будет репрезентативной, если ее осуществлять случайно, т.е. каждый из объектов генеральной совокупности имеет одинаковую вероятность попасть в выборку. Очевидно, что можно осуществить в одинаковых условиях k выборок объема n и получить различные совокупности значений случайной величины X:

{x1(1),..., xn },{x1(2),..., xn },...,{x1(k ),..., xnk )}. Пусть для генеральной совокупности опыта случайная величина X имеет функцию распределения F(x), тогда каждую из выборок {x1(1),..., xn },{x1(2),..., xn },...,{x1(k ),..., xnk )} можно рассматривать, как реализацию n-мерной случайной величины (Х1,...,Хn), где составляющая Хi, i = = 1,..., n, есть значение величины Х в i-м опыте. Очевидно, что все составляющие Хi будут иметь одинаковый закон распределения F(x). Так как компоненты Хi независимы, то функция распределения n-мерной случайной величины (X1, X2, …, Xn) определяется формулой Вариационным рядом называется выборка { x1, x2,..., xn }, полученная в результате расположения значений исходной выборки в порядке возрастания.

Значения x i называются вариантами.

Одной из главных задач математической статистики является определение закона распределения случайной величины Х.

Эмпирическая функция распределения случайной величины X равна частоте того, что X примет значение меньшее, чем аргумент функции x, и определяется формулой При n эмпирическая функция распределения F*(x) сходится по вероятности к теоретической функции распределения F(x).

Основные свойства функции F*(x).

2. F*(x) – неубывающая ступенчатая функция.

Эмпирическая функция распределения является наилучшей оценкой закона распределения (несмещенной, состоятельной, эффективной). Недостаток функции F*(x) заключается в ее невысокой наглядности: визуально сложно определить закон распределения случайной величины X.

Статистический ряд распределения вероятностей определяется по исходной выборке объемом n, если анализируемая случайная величина Х является дискретной с известным множеством значений { x1, x 2,..., x m } :

Здесь p j = kj – число значений xj в выборке.

Свойства статистического ряд распределения вероятностей:

Интервальный статистический ряд вероятностей строится по исходной выборке, если анализируемая случайная величина Х является непрерывной:

Здесь j – номер интервала;

M – число непересекающихся и примыкающих друг к другу интервалов, на которые разбивается диапазон значений [ x1, x n ] :

где int(x) – целая часть числа x. Желательно, чтобы n без остатка делилось на M;

Aj, Bj – левая и правая границы j-го интервала (Aj+1 = Bj), причем hj = Bj – Aj – длина j-го интервала;

j – количество чисел в выборке, попадающих в j-й интервал;

При построении интервального статистического ряда вероятностей используют следующие методы разбиения диапазона значений на интервалы:

1) равноинтервальный, т.е. все интервалы одинаковой длины:

2) равновероятностный, т.е. границы интервалов выбирают так, чтобы в каждом интервале было одинаковое число выборочных значений (необходимо, чтобы n без остатка делилось на M):

Гистограмма – статистический аналог графика плотности вероятности f (x) случайной величины, и она строится по интервальному статистическому ряду. Гистограмма представляет собой совокупность прямоугольников, построенных, как на основаниях, на интервалах hj статистического ряда с высотой равной статистической плотности вероятности f j в соответствующем интервале.

Для равноинтервального метода все прямоугольники гистограммы имеют одинаковую ширину, а для равновероятностного метода – одинаковую площадь. Сумма площадей всех прямоугольников гистограммы равна 1.

Достоинства гистограммы: простота построения, высокая наглядность.

ЛЕКЦИЯ Точечные оценки числовых характеристик Статистической оценкой Q параметра Q распределения называется приближенное значение параметра, вычисленное по результатам эксперимента (по выборке). Статистические оценки делятся на точечные и интервальные.

Точечной называется оценка, определяемая одним числом. Точечная оценка Q параметра Q случайной величины X в общем случае равна где xi – значения выборки.

Очевидно, что оценка Q – это случайная величина, так как она является функцией от n-мерной случайной величины (X1, X2, …, Xn), где Хi – значение величины Х в i-м опыте, и значения Q будут изменяться от выборки к выборке случайным образом. К оценкам предъявляется ряд требований.

1. Оценка Q называется состоятельной, если при увеличении объема выборки n она сходится по вероятности к значению параметра Q:

Состоятельность – это минимальное требование к оценкам.

2. Оценка Q называется несмещенной, если ее математическое ожидание точно равно параметру Q для любого объема выборки:

Несмещенная оценка является состоятельной, если lim D Q = 0.

3. Несмещенная оценка Q является эффективной, если ее дисперсия минимальна по отношению к дисперсии любой другой оценки этого параметра:

Оценка математического ожидания. На основании теоремы Чебышева в качестве состоятельной оценки математического ожидания может быть использовано среднее арифметическое значений выборки x, называемое выборочным средним:

Определим числовые характеристики оценки x.

т.е. оценка несмещенная.

Оценка (14.5) является эффективной, т.е. ее дисперсия минимальна, если величина X распределена по нормальному закону.

Состоятельная оценка начального момента k-го порядка определяется по формуле Оценка дисперсии. В качестве состоятельной оценки дисперсии может быть использовано среднее арифметическое квадратов отклонений значений выборки от выборочного среднего:

Определим математическое ожидание оценки S2. Так как дисперсия не зависит от того, где выбрать начало координат, выберем его в точке mX, т.е.

перейдем к центрированным величинам:

Ковариация Kij = 0, так как опыты, а следовательно, и Хi значение величины Х в i-м опыте независимы. Таким образом, величина S 2 является смещенной оценкой дисперсии, а несмещенная состоятельная оценка дисперсии равна:

Дисперсия величины S 0 равна:

Для нормального закона распределения величины X формула (14.10) примет вид для равномерного закона распределения – отклонения определяется по формуле Состоятельная оценка центрального момента k-го порядка равна:

Оценка вероятности. На основании теоремы Бернулли несмещенная состоятельная и эффективная оценка вероятности случайного события A в схеме независимых опытов равна частоте этого события:

где m – число опытов, в которых произошло событие A;

n – число проведенных опытов.

Числовые характеристики оценки вероятности p * ( A ) = p * равны:

Для вычисления оценок параметров распределения чаще всего применяются методы моментов и максимального правдоподобия.

Метод моментов. Пусть имеется выборка {x1,..., xn} независимых значений случайной величины с известным законом распределения f(x, Q1,..., Qm) и m неизвестными параметрами Q1,..., Qm. Необходимо вычислить оценки Q,..., Q параметров Q1,..., Qm. Последовательность вычислений следующая:

1. Вычислить значения m начальных и/или центральных теоретических моментов 2. Определить m соответствующих выборочных начальных k ( x) и/или центральных µk ( x) моментов по формулам (14.7, 14.14).

3. Составить и решить относительно неизвестных параметров Q1,..., Qm систему из m уравнений, в которых теоретические моменты приравниваются к выборочным моментам. Каждое уравнение имеет вид k ( x) = k ( x) или µ ( x ) = µ ( x ). Найденные корни являются оценками Q,..., Q неизвестных параметров.

Замечание. Часть уравнений может содержать начальные моменты, а оставшаяся часть – центральные.

Метод максимального правдоподобия. Согласно данному методу оценки Q1,..., Qm получаются из условия максимума по параметрам Q1,..., Qm положительной функции правдоподобия L( x1,..., xn, Q1,..., Qm ).

Если случайная величина X непрерывна, а значения xi независимы, то Если случайная величина X дискретна и принимает независимые значения xi с вероятностями p( X = xi ) = pi ( xi, Q1,..., Qm ), то функция правдоподобия равна Система уравнений согласно этому методу может записываться в двух видах:

или Найденные корни выбранной системы уравнений являются оценками Q1,..., Qm неизвестных параметров Q1,..., Qm.

Интервальные оценки числовых характеристик Пусть для параметра Q получена из опыта несмещенная оценка Q.

Оценим возможную ошибку, возникающую при замене параметра Q его оценкой Q. Возьмем достаточно большую вероятность, такую, что событие с вероятностью можно считать практически достоверным, и найдем такое значение, для которого Тогда диапазон практически возможных значений ошибки, возникающей при замене Q на Q, будет ±; большие по абсолютной величине ошибки будут появляться только с малой вероятностью = 1. Равенство (14.19) означает, что с вероятностью неизвестное значение параметра Q попадает в интервал Доверительным называется интервал I, в который с заданной вероятностью (надежностью) попадают значения параметра Q. Вероятность выбирается близкой к 1: 0,9; 0,95; 0,975; 0,99.

Очевидно, что для построения доверительного интервала должен быть известен закон распределения величины Q. Затруднение состоит в том, что закон распределения оценки Q зависит от закона распределения величины X и, следовательно, от его неизвестных параметров (в частности и от самого параметра Q ). Для решения этой проблемы воспользуемся тем, что величина Q представляет собой, как правило, сумму n независимых одинаково распределенных случайных величин и, согласно центральной предельной теореме, при достаточно большом n (n > 20…50) ее закон распределения можно считать нормальным.

Доверительный интервал для математического ожидания. Интервал I для математического ожидания случайной величины X с неизвестным законом распределения имеет вид где z = arg ( ) – значение аргумента функции Лапласа, т.е. Ф(z) =.

Если случайная величина X параметрами mx и x, то величина закону Стьюдента с (n – 1) степенью свободы.

плотность распределения:

где ( ) = t e dt – гамма-функция.

Доверительный интервал с надежностью для математического ожидания имеет вид где – значение, взятое из таблицы распределения Стьюдента.

Доверительный интервал для дисперсии. Интервал I для дисперсии случайной величины X с неизвестным законом распределения имеет вид Если случайная величина X распределена по нормальному закону с параметрами mx и x, то величина v = с (n – 1) степенью свободы и доверительный интервал с надежностью для дисперсии имеет вид где 1,n1, 1+,n1 – значения, взятые из таблицы распределения Формулы (14.24, 14.26) можно использовать при любом объеме выборки n, так как эти интервалы I построены на основе знания точных законов распределения величин, связывающих Q и Q. Кроме этого, если случайная величина X распределена по нормальному закону и ее дисперсия X известна, то точный интервал I для математического ожидания при любом объеме выборки n определяют по формуле (14.22), заменив в ней оценку S 0 СКО его точным значением X.

вероятности события A в схеме независимых опытов Бернулли имеет вид m – число опытов, в которых произошло событие A;

n – число проведенных опытов;

z = arg ( ) – значение аргумента функции Лапласа, т.е. Ф(z) =.

ЛЕКЦИЯ Статистической гипотезой называется всякое непротиворечивое множество утверждений {Н0, Н1, …, Hk-1} относительно свойств распределения случайной величины. Любое из утверждений Hi называется альтернативой гипотезы. Простейшей гипотезой является двухальтернативная:

{H0, H1}. В этом случае альтернативу H0 называют нулевой гипотезой, а H1конкурирующей гипотезой.

Критерием называется случайная величина U = ( x1,K, xn ),где xi – значения выборки, которая позволяет принять или отклонить нулевую гипотезу H0 Значения критерия, при которых гипотеза H0 отвергается, образуют критическую область проверяемой гипотезы, а значения критерия, при которых гипотезу принимают, область принятия гипотезы (область допустимых значений). Критические точки отделяют критическую область от области принятия гипотезы.

Ошибка первого рода состоит в том, что будет отклонена гипотеза H0, если она верна ("пропуск цели"). Вероятность совершить ошибку первого рода обозначается и называется уровнем значимости. Наиболее часто на практике принимают, что = 0,05 или = 0,01.

Ошибка второго рода заключается в том, что гипотеза H0 принимается, если она неверна ("ложное срабатывание"). Вероятность ошибки этого рода обозначается. Вероятность не допустить ошибку второго рода (1-) называют мощностью критерия. Для нахождения мощности критерия необходимо знать плотность вероятности критерия при альтернативной гипотезе. Простые критерии с заданным уровнем значимости контролируют лишь ошибки первого рода и не учитывают мощность критерия.

Проверка гипотезы о равенстве вероятностей. Пусть произведено две серии опытов, состоящих соответственно из n1 и n2 опытов. В каждом из них регистрировалось появление одного и того же события А. В первой серии событие А появилось в k1 опытах, во второй – в k2 опытах, причем частота события А в первой серии получилась больше, чем во второй:

p 1* = 1 > p 2 = 2. Разность между двумя частота получилась равной Спрашивается, значимо или не значимо это расхождение? Указывает ли оно на то, что в первой серии опытов событие A действительно вероятнее, чем во второй, или расхождение между частотами надо считать случайным?

Выдвинем двухальтернативную гипотезу {H0, H1}, где:

H0 – различия в вероятностях не существует, т.е. обе серии опытов произведены в одинаковых условиях, а расхождение U объясняется случайными причинами, H1 – различие в вероятностях существует, т.е. обе серии опытов произведены не в одинаковых условиях.

В данном случае нуль-гипотеза H0 состоит в том, что обе серии опытов однородны и что вероятность р появления события А в них одна и та же, приближенно равная частоте, которая получится, если обе серии смешать в одну: p p = При достаточно больших n1 и n2 каждая из случайных величин p1* и p распределена практически нормально, с одним и тем же математическим ожиданием m = p p. Что касается дисперсий D1 и D2 в первой и во второй сериях, то они различны и равны соответственно (см. (14.16)) распределение с математическим ожиданием mU = 0 и дисперсией Определим критическую точку U для заданного уровня значимости из уравнения:

Если значение, вычисленное по формуле (15.1), больше, чем критическое значение, т.е. U > U, то гипотеза H0 отклоняется, в противном случае нет оснований ее отклонить.

Критериями согласия называются критерии, используемые для проверки гипотез о предполагаемом законе распределения.

Критерий согласия Пирсона ( ). Это один из наиболее часто применяемых критериев. Алгоритм проверки следующий.

1. Построить интервальный статистический ряд и гистограмму.

2. По виду гистограммы выдвинуть гипотезу:

H0 – величина X распределена по такому-то закону: f(x) = f0(x), H1 – величина X не распределена по такому-то закону: f(x) f0(x), где f0(x), F0(x) – плотность и функция гипотетического закона распределения.

3. Используя метод моментов или максимального правдоподобия, определить оценки неизвестных параметров Q1,..., Qm гипотетического закона распределения.

4. Вычислить значение критерия по формуле где pj – теоретическая вероятность попадания случайной величины в j- й интервал при условии, что гипотеза H0 верна:

Замечания. При расчете p1 и pM в качестве крайних границ первого и последнего интервалов A1, BM следует использовать теоретические границы гипотетического закона распределения. Например, для нормального закона A = -, BM = +. После вычисления всех вероятностей pi проверить, выполняется ли контрольное соотношение распределением величины X, а зависит от параметра k, который называется числом степеней свободы:

где ( ) = t e dt – гамма-функция.

плотности распределения довольно сложным, то в практике используют таблицу значений,k, рассчитанных из значений k.

5. Из таблицы распределения заданный уровень значимости ( = 0,05 или = 0,01), а k – число степеней свободы, которое определяется по формуле Здесь s – число неизвестных параметров гипотетического закона распределения, значения которых были определены в п. 3.

6. Если значение, вычисленное по формуле (15.2), больше, чем критическое значение, т.е. >,k, то гипотеза H0 отклоняется, в противном случае нет оснований ее отклонить.

Критерий согласия Колмогорова. Алгоритм проверки следующий:

1. Построить вариационный ряд и график эмпирической функции распределения F*(x).

2. По виду графика F*(x) выдвинуть гипотезу:

где F0(x) – функция гипотетического закона распределения.

3. Используя метод моментов или максимального правдоподобия определить оценки неизвестных параметров Q1,..., Qm гипотетического закона распределения.

4. Рассчитать 10...20 значений функции F0(x) и построить ее график в одной системе координат с функцией F*(x).

5. По графику определить максимальное по модулю отклонение между функциями F*(x) и F0(x).

6. Вычислить значение критерия Колмогорова Величина распределена по закону Колмогорова, который не зависит от закона распределения величины X,:

Так как аналитическое выражение функции то в практике используют таблицу значений, рассчитанных из уравнения p (0 < ) =.

7. Из таблицы распределения Колмогорова заданный уровень значимости ( = 0,05 или = 0,01).

8. Если >, то нулевая гипотеза H0 отклоняется, в противном случае нет оснований ее отклонить.

Достоинствами критерия Колмогорова по сравнению с критерием :

являются возможность его применения при очень маленьких объемах выборки (n < 20), более высокая "чувствительность", а следовательно, меньшая трудоемкость вычислений. Недостатком является то, что эмпирическая функция распределения F*(x) должна быть построена по несгруппированным выборочным данным, что затруднительно при больших объемах выборки.

Кроме этого, следует отметить, что критерий Колмогорова можно применять только в случае, когда гипотетическое распределение полностью известно заранее из каких-либо теоретических соображений, т.е. когда известен не только вид функции распределения F0(x), но и все входящие в нее параметры Q1,..., Qk. Такой случай сравнительно редко встречается на практике. Обычно из теоретических соображений известен только общий вид функции F0(x), а входящие в нее числовые параметры определяются по данному статистическому материалу. При применении критерия это обстоятельство учитывается соответствующим уменьшением числа степеней свободы распределения k. Критерий. Колмогорова такого согласования не предусматривает. Если все же применять этот критерий в тех случаях, когда параметры теоретического распределения определяются по статистическим данным, критерий дает заведомо заниженные значения ; поэтому мы в ряде случаев рискуем принять как правдоподобную гипотезу, которая в действительности плохо согласуется с опытными данными.

ЛЕКЦИЯ Статистическая обработка двухмерных случайных величин Пусть проводится n независимых опытов, в каждом из которых двухмерная случайная величина (Х,У) принимает определенные значения и результаты опытов представляют собой двухмерную выборку вида {(х1, у1), (х2, у2),…,(хn, уn)}. Статистическая обработка опытных данных включает в себя обработку и анализ составляющих Х и У, как одномерных величин (см. лекции 1315), и вычисление оценок и анализ параметров, присущих только двухмерным (многомерным) случайным величинам. Как правило, определяются следующие оценки числовых характеристик случайной величины (Х,У):

оценки математических ожиданий:

оценки дисперсии:

Оценка корреляционного момента. Состоятельная несмещенная оценка корреляционного момента равна где xi, yi – значения, которые приняли случайные величины X, Y в i-м опыте;

x, y – средние значения случайных величин X и Y соответственно.

коэффициента корреляции равна где S0 ( x), S0 ( y ) – оценки среднеквадратического отклонения случайных Доверительный интервал для коэффициента корреляции с надежностью для случая двумерного нормального распределения имеет вид z = arg ( ) – значение аргумента функции Лапласа, т.е. Ф(z) =.

Статистические критерии двухмерных случайных величин Гипотеза об отсутствии корреляционной зависимости.

Предполагается, что двухмерная случайная величина (X, Y) распределена по нормальному закону. Алгоритм проверки следующий.

1. Формулируется гипотеза:

Здесь R X Y – теоретический коэффициент корреляции.

2. Вычисляется оценка коэффициента корреляции R X Y по формуле (16.6) 3. Если объем выборки не велик ( n < 50 ), определяется значение критерия который распределен по закону Стьюдента с (n-2) степенями свободы, если гипотеза H0 верна.

4. По заданному уровню значимости вычисляется доверительная вероятность =1 и из таблицы Стьюдента выбирается критическое значение t, n 2.

величины X, Y коррелированы. В противном случае гипотеза H0 принимается.

3*. Если объем выборки велик (n > 50 ), то определяется значение критерия который распределен практически по нормальному закону, если гипотеза H верна.

4*. По заданному уровню значимости из таблицы функции Лапласа 5*. Если Z > Z, то гипотеза H0 отклоняется, а следовательно, величины X, Y коррелированы. В противном случае гипотеза H0 принимается.

t-критерий. t-критерий служит для сравнения двух средних значений из нормально распределенных генеральных совокупностей в предположении, что дисперсии X и Y равны, хотя и неизвестны. Таким образом, проверяемая гипотеза Н0 утверждает, что mX = mY. Пусть {x1, x2,..., xn1 }, {y1, y2,..., yn2 } – независимые случайные выборки из обеих генеральных совокупностей; в общем случае они могут иметь совершенно разные объемы. В качестве критерия используем величину При сделанных предпосылках (нормальная распределенность X и Y и равенство дисперсий) и в предположении, что гипотеза Н0 верна, величина Т удовлетворяет распределению Стьюдента с k = n1 + n2 2 степенями свободы.

Поэтому критическая область может быть установлена следующим образом. Для заданного уровня значимости по таблице распределения значение T удовлетворяет неравенству T > t1,n 1, то гипотезу Н0 отвергают.

По отношению к предпосылке «нормальной распределенности» t-критерий не очень чувствителен. Его можно применять, если статистические распределения обеих выборок не имеют нескольких вершин (т.е.

унимодальные) и не слишком ассиметричны. Предпосылка X = Y во многих случаях может быть обоснована на содержательном уровне; а гипотезу X = Y можно проверить по F-критерию (см. ниже).

F-критерий. Гипотезы о дисперсии имеют в технике большое значение, так как X есть мера таких характеристик, как точность машин, ошибки измерительных приборов, точность технологических процессов и т. п.

F-критерий служит для проверки гипотезы о равенстве дисперсий при условии, что X и Y распределены нормально. Проверяемая гипотеза Н утверждает, что X = Y. Из каждой генеральной совокупности производятся выборки объема n1 и n2. В качестве критерия используем величину причем, большую дисперсию выбирают в качестве числителя.

Величина F удовлетворяет F-распределению с (n1 -1, n2 -1) степенями свободы. Критическая область выбирается следующим образом. Для уровня значимости по таблице F-распределения определяем критическое значение F / 2;n1 1, n2 1. Если F, вычисленное по выборке, больше, чем это критическое значение F / 2;n1 1, n2 1, то гипотеза Н0 должна быть отклонена.

Критерий Уилкоксона. Данный критерий служит для проверки, относятся ли две выборки к одной и той же генеральной совокупности; другими словами, гипотеза Н0 утверждает, что FX (x) FY ( y). Относительно закона распределений величин X и Y никаких предположений не делается. Способы проверки, при которых не делается предположений о распределении в генеральной совокупности, называются способами, свободными от параметров, в противоположность рассматривавшимся выше параметрическим критериям, в которых предполагалась нормальная распределенность X и Y. Значения {x1, x2,..., xn1 } и { y1, y2,..., yn2 } обеих выборок упорядочиваются вместе в порядке их возрастания. Пара значений (хi yj;) образует инверсию, если yj < хi.

Пусть, например, для n1 = 4 и n2 = 5 получилась такая последовательность: y5 x x4 y1 y2 x2 y4 y3 x1. В нашем примере x3 и x4 образуют по одной инверсии (с y5), x образует три инверсии (с y5 y1 y2), а x1 образует пять инверсий (со всеми у).

В качестве критерия используется величина U – полное число инверсий.

Если гипотеза верна, значение U не должно слишком сильно отклоняться от своего математического ожидания M U = 1 2. Данная величина распределена по закону Уилкоксона и от гипотезы Н0 отказываются, если U больше критического значения U, взятого из таблицы Уилкоксона для заданного уровня значимости. Для больших объемов выборки (n1 и n2 больше 25) критическое значение U определяется по формуле где Z = arg - значение аргумента функции Лапласа, т.е. ( Z ) = ЛЕКЦИЯ Пусть проводится n независимых опытов, в каждом из которых двухмерная случайная величина (Х,У) принимает определенные значения и результаты опытов представляют собой двумерную выборку вида {(х1, у1), (х2, у2),…,(хn, уn)}. Необходимо на основании имеющейся выборки выявить характер связи между величинами X, Y, т.е. получить оценку условного математического ожидания m Y / x оценку регрессии Y на х. Данная оценка представляет собой некоторую функцию:

где a0, a1,..., am – неизвестные параметры.

зависимости (x, a0, a1,..., am ) – т.е.

квадратичной, показательной и т.д., неизвестных параметров a0, a1,..., am.

строится диаграмма рассеивания можно получить, если результаты опытов изобразить в виде точек на координат (см. рисунок). На основании анализа корреляционного поля выбираем тип эмпирической линии регрессии y ( x ) = ( x, a 0, a1,..., a m ), которая должна проходить через точки (х1,y1)....(xn,yn) так, чтобы ее график наилучшим образом соответствовал бы к неизвестной линии регрессии, т.е. ее значения должны быть приблизительно равны средним арифметическим значений Y для каждого значения Х=х. Во многих случаях тип зависимости может быть выбран на основе теоретических или иных соображений.

Для определения значений параметров, при которых обеспечивается наилучшее согласования кривой y = ( x, a 0, a1,..., a m ) и экспериментальных точек {(х1, у1), (х2, у2,…, (хn, уn)}, используется метод наименьших квадратов.

Суть данного метода заключается в том, что значения параметров a0, a1,..., am необходимо выбрать так, чтобы сумма квадратов отклонений экспериментальных точек от сглаживающей кривой обращалась в минимум:

Найдем значения a j, j = 1,..., m, обращающие левую часть выражения (17.1) в минимум. Для этого продифференцируем его по a j, j = 1,..., m, и приравняем производные к нулю (в точке экстремума производная равна нулю):

– значение частной производной функции по параметру a j в где Система уравнений (17.2) содержит столько же уравнений, сколько неизвестных параметров, т.е. m+1.

Решить систему (17.2) в общем виде нельзя; для этого необходимо задаться конкретным видом функции.

Пусть y представляет собой степенной ряд:

Тогда (17.2) примет вид системы линейных уравнений (СЛУ):

Поделим обе части уравнений на объем выборки n, система примет вид где k ( x ) = ( xi ) - оценка начального момента k-го порядка величины X;

k,1 ( x, y ) = xik y i – оценка смешанного начального момента порядка Переменными в системе (17.4) являются a j, j = 1,..., m, а вычисленные по исходной выборке оценки начальных моментов являются коэффициентами СЛУ. Решив данную систему, мы определим оценки параметров a0, a1,..., am, обеспечивающие наилучшее согласование кривой y = ( x, a 0, a1,..., a m ) и экспериментальных точек {(х1, у1), (х2, у2),…,(хn, уn)}.

Пример. Определим оценку линейной регрессии mY / x = a0 + a1 x.

Система (17.5) для m=1 имеет вид Отсюда что соответствует уравнениям прямых регрессий (9.10) (см. лекцию 9).

ЛИТЕРАТУРА

1. Вентцель Е.С., Овчаров Л.А. Теория вероятностей и ее инженерные приложения. – М.: Наука, 1988. – 416 с.