«ИНФОРМАЦИОННЫЕ СИСТЕМЫ ВЕРОЯТНОСТНЫЕ МОДЕЛИ И СТАТИСТИЧЕСКИЕ РЕШЕНИЯ Учебное пособие Санкт-Петербург Издательство СПбГПУ 2003 УДК 681.518:519.2 (075.8) ББК 32.973.202 я 73 Г 701 Городецкий А.Я. Информационные системы. ...»

Министерство образования Российской Федерации

_

САНКТ-ПЕТЕРБУРГСКИЙ

ГОСУДАРСТВЕННЫЙ ПОЛИТЕХНИЧЕСКИЙ

УНИВЕРСИТЕТ

А.Я. Городецкий

ИНФОРМАЦИОННЫЕ СИСТЕМЫ

ВЕРОЯТНОСТНЫЕ МОДЕЛИ И

СТАТИСТИЧЕСКИЕ РЕШЕНИЯ

Учебное пособие Санкт-Петербург Издательство СПбГПУ 2003 УДК 681.518:519.2 (075.8) ББК 32.973.202 я 73 Г 701 Городецкий А.Я. Информационные системы. Вероятностные модели и статистические решения. Учеб.пособие. СПб: Изд-во СПбГПУ, 2003. 326 c.

I8BN 5-7422-0381-X Пособие соответствует дисциплинам государственного образовательного стандарта ЕН.Ф.01.7 «Методы оптимизации» и ЕН.Ф.01.8 «Теория принятия решений» по направлениям «Системный анализ и управление», «Информатика и вычислительная техника» при подготовке бакалавров, магистров и дипломированных специалистов по компьютерным сетям и основанным на них системам управления, а также по специальностям «Информационные системы и технологии» и «Вычислительные машины, комплексы, системы и сети».

Пособие также может быть полезно для инженеров и научных работников, интересующихся проблемами статистического оценивания и управления.

В учебном пособии в рамках вероятностно-статистических подходов представлены формируемые в информационных системах алгоритмы анализа и синтеза, которые используются в задачах измерения, моделирования и управления. Рассмотрены методы обнаружения, линейной и нелинейной фильтрации, интерполирования и прогнозирования, идентификации и статистического синтеза управления динамических систем с использованием понятий пространства состояний и марковских моделей процесса.

Ил.8. Библиогр.: 79 назв.

Печатается по решению редакционно-издательского совета Санкт-Петербургского государственного политехнического университета.

I8BN 5-7422-0381-X © Санкт-Петербургский государственный политехнический университет, © Городецкий А.Я.,

ПРЕДИСЛОВИЕ

В инфраструктуре современного информационноиндустриального общества информационные системы занимают одно из ключевых мест. Это вызвано возрастающей ролью информации в наукоемком промышленном производстве. Его эффективность из-за требований резкого снижения материало- и энергозатрат, а также экологической безопасности определяется не только количеством переработанного сырья, но и объемом овеществленной информации.

Информация в современных условиях выступает, как ресурс, позволяющий минимизировать расходы других ресурсов (сырьевых, материальных, энергетических, трудовых, финансовых и т.д.).

Требования к качеству информации в современных условиях настолько возросли, что, вообще говоря, трудно представить нормальное функционирование общества без соответствующего информационного обеспечения. Например, в условиях рыночной экономики особое значение приобретают достоверность и полнота информации, без которых невозможна маркетинговая, финансовая и инвестиционная деятельность. Кроме того, современные информационные технологии открыли новые возможности в организации научной деятельности, в создании современных форм обучения на базе технических средств информационных систем.

Таким образом, решаемые информационными системами задачи разнообразны, зависят от конкретных сфер человеческой деятельности и практическая их направленность определяется поставленными на инженерном уровне целями управления, требованиями информационного обеспечения и т.д.

Имеющиеся затруднения в классификации и решении этих задач проистекают как по причине разнородности технической базы информационных технологий и разнообразия выполняемых этими системами функций, влияния структур управления с учетом реальных режимов и возмущений, в том числе и случайных, так и вследствие разных подходов при исследовании информационных систем и неоднозначности оценок эффективности их функционирования.

Методы решения указанных задач, а также проведение наиболее перспективной технической политики в области создания новых информационных технологий и аппаратно-программных средств передачи и обработки данных были бы наиболее плодотворны, если бы опирались на общую теорию информационных систем. Пока не представляется возможным рассматривать эту теорию как сложившееся научное направление и ожидать в ближайшем будущем подробное и всеобъемлющее ее изложение. С другой стороны, бурный научно-технический прогресс в информатизации общества диктует необходимость формирования и развития этой теории.

Одним из возможных путей решения этой проблемы является самостоятельное развитие отдельных разделов теории с последующей их интеграцией. Следствием этого интеграционного процесса станет создание новых знаний и методик, что, в свою очередь, послужит толчком для следующего этапа развития теории информационных систем.

Предлагаемое учебное пособие посвящено одному из важных относительно самостоятельных разделов теории информационных систем, отражающему содержательный аспект информации - анализу вероятностных моделей процессов и формированию на их базе методов обнаружения и оценивания, а также статистического синтеза управления динамических систем.

Обучаемым по информационно-телекоммуникационным специальностям студентам вузов в настоящее время отводится много времени для изучения как общетеоретических, так и специальных учебных курсов по теориям вероятностей и оптимальных статистических решений. Это оправдано, так как теория динамических систем развивается в направлении более полных и глубоких подходов в анализе функционирования и эффективности, а также в методах синтеза этих систем при учете реальных режимов, возмущений и помех. Цель пособия – ознакомить читателя с современными вероятностно-статистическими методами анализа и синтеза динамических систем. Учебное пособие отличается от других аналогичных изданий по информационным системам. В нем круг рассматриваемых проблем, характер решаемых задач не выходит за рамки вероятностно-статистических подходов, базирующихся на методах теории марковских процессов. Такой подход позволяет единообразно и экономно анализировать и синтезировать динамические системы различного назначения.

Учебное пособие состоит из пяти разделов: «Методы описания случайных процессов», «Модели процессов в информационных системах», «Корреляционный анализ процессов», «Статистические решения и оптимальная обработка сигналов» и «Методы статистического синтеза оптимального управления динамических систем».

В первом и втором разделах даются краткие сведения о случайных величинах, процессах и методах их описания с помощью распределения вероятностей, плотностей вероятностей, характеристических и производящих функций и функционалов, а также других статистических характеристик. Обсуждаются математические модели и определяются статистические характеристики винеровского, гауссовских, марковских, точечных (случайных потоков) и фрактальных процессов, аппроксимирующих реальные сигналы в информационных системах.

В третьем разделе сформулированы задачи корреляционного анализа, основным содержанием которых является изучение прохождения (преобразования) случайных сигналов через линейные и нелинейные устройства (системы) с известными характеристиками, определение статистических характеристик в рамках корреляционной теории и оценка качества работы устройств (систем).

Корреляционный анализ линейных и нелинейных систем осуществляется с единых позиций, поскольку для нелинейных систем применяется приближенный метод статистической линеаризации.

Подробно рассмотрены вопросы применения этого метода при анализе точности работы нелинейных систем.

Четвертый раздел посвящен методам оптимальной обработки сигналов: задачам обнаружения и различения гипотез, оценивания параметров, интерполирования, фильтрации, прогнозирования и индетификации. Изложение материала проводится по единой методологии, именуемой в пособии совместным обнаружением и фильтрацией случайных процессов. В вычислительных сетях информационных систем для предотвращения возможных перегрузок оптимизации подвергаются сетевые процессы.

В пятом разделе рассматриваются методы синтеза оптимального управления динамических систем. Исследуются задачи статистического синтеза оптимального закона управления. Для определения этого закона в соответствии с постановкой задачи выбирается критерий экстремального значения апостериорного среднего функционала качества, зависящего от вероятностных характеристик фазовых координат системы и управления. В общем виде решение указанной задачи достаточно сложно. Наиболее конструктивные физически содержательные результаты могут быть получены методами теории условных марковских процессов на основании достаточных статистик (оценок фазовых координат системы). Из всего многообразия подходов оптимального управления в учебном пособии рассматривают аналитические задачи управления, зависящего от времени: терминальные двухточечные и локальные задачи, опирающиеся на принцип максимума, а также базирующиеся на стохастическом варианте динамического программирования.

Причем управление осуществляется по неполной информации, когда измерения из-за наличия шумов и помех не позволяет точно определить состояние системы.

ВВЕДЕНИЕ

Окружающий мир представляет собой совокупность взаимосвязанных биологических, технических, социальноэкономических и других систем, нормальное функционирование которых невозможно без определенной организации. Наиболее существенными функциями в организации этих систем является, вопервых, управление, обеспечивающее сохранение структуры, режим ее деятельности, реализацию целевых программ организации, а также адаптацию к изменяющимся условиям; во-вторых, связь (передача информации), так как управление системой сопряжено с привлечением и обработкой больших объемов сведений о состоянии и поведении указанных систем. «Связь и управление являются основными процессами, характеризующими любую организацию»

[Винер]. Информация как ресурс наряду с энергетическими и материальными ресурсами занимает ключевое место в процессе существования экосистем. В сфере человеческой деятельности информация является стратегическим ресурсом, оказывающим огромное влияние на процессы в экономике, образовании и культуре.

Эффективность управления любой динамической (не только технической или кредитно-финансовой, но и административнохозяйственной) системой во многом определяется тем, как организовано хранение, поиск, передача, обработка и пополнение информации. Использующие ЭВМ автоматизированные системы, осуществляющие эти процессы с целью предоставления пользователям информации в соответствии с их запросами, называются информационными системами. Объектами, образующими информационные системы, являются языки программирования, компьютеры, вычислительные сети и другие аппаратно-программные средства, предназначенные для выполнения заданных процедур передачи и обработки данных. При этом необходимо отметить, что обработка данных осуществляется без конкретного смысла, т.е. без обработки содержания, и трансформация данных в информацию предусматривает наличие некоторых механизмов интерпретации результатов. Оценить смысловое содержание полученных данных может находящийся за пределами системы обработки данных человек-оператор (пользователь) через систему знаний с помощью разработанных алгоритмов, логических выводов и эвристических моделей. Пользователь при рассматриваемом подходе выступает в роли субъекта системы, определяющего ценность исходной и обработанной информации, и в совокупности с системой обработки данных формирует и организует эффективное функционирование информационной системы.

Существенным в информации при этом оказывается содержательный аспект данных (сведений, фактов), а задачей информационной системы становится преобразование исходной («сырой») в результатную (обработанную) информацию, необходимую для принятия решения. Информация как бы становится одновременно сырьем и продуктом, что кардинально ее отличает как ресурс от материальных, энергетических и других видов ресурсов в сфере производства, для которой главным является производство и потребление материальных благ. В сферу влияния информационной системы в дополнение к ранее перечисленным объектам оказываются вовлеченными также система восприятия (наблюдения, результаты измерений), модели и методы анализа процессов, алгоритмы обработки сигналов, в том числе использующие теоретиковероятностные подходы при исследовании динамических систем, а также прикладные программы, реализующие эти алгоритмы на языке компьютеров. В задачах управления на основании анализа результатной информации, оценки вариантов синтеза осуществляется выбор рационального управления системой. В других задачах информационно-справочного и расчетного характера указанный анализ заканчивается логическим выводом, экспертными оценками или переходом к следующему этапу научно-исследовательской работы.

Обобщенная схема преобразования информации, взаимосвязей объектов и субъектов информационной системы представлена на рисунке В.1.

В связи с появлением больших распределенных систем актуальной становится проблема управления этими системами.

Огромный поток данных, необходимость их передачи и обработки в интересах многочисленных расположенных в разных местах пользователей для выработки соответствующих управленческих решений делает не эффективным и практически не реальным хранение и обработку этих данных в одном месте. Решение этой проблемы взаимодействия пользователей лежит на путях создания локальных и глобальных сетевых инфраструктур (распределенных вычислительных или компьютерных сетей). Указанные сети являются важной компонентной информационной системы и структурно отображены на обобщенной схеме.

Обслуживающая информационную систему и пользователей система знаний занимает на схеме промежуточное положение. Это объясняется тем, что эта система в виде методик, сведений из книг, описания моделей и алгоритмов может быть придана непосредственно пользователям или в том или ином объеме в качестве набора программных модулей хранится в памяти информационной системы и по команде пользователей или внутренним командам взаимодействует с объектами системы обработки данных (вычислительной сети).

Представленная схема при всей своей условности достаточно универсальна и охватывает широкий спектр задач, выполняемых информационными системами. При использовании этих систем в качестве управляющей подсистемы – обязательного элемента системы управления, выход блока принятия решения, в котором производится оценка вариантов и выбор наиболее рационального управления, замыкают на вход динамической системы – объекта управления (охватывает эту систему обратной связью).

эл.-магнитного внешней среде Если информационная система выполняет самостоятельные функции научно-исследовательского или информационносправочного характера, то из схемы исключается динамическая система и к пользователям с блока принятия решений поступают данные в виде экспертных оценок, логических выводов, проектных решений и т.д. В случае обмена информации между пользователями приоритетным становится содержательный аспект этих данных – исходная и результатная информация. В задачах идентификации и имитационного моделирования осуществляется соответственно формирование информационной модели системы и проверка этой модели на влияние неблагоприятных факторов и чувствительность к вариациям параметров. В качестве еще одного примера можно указать на интегрирование информационных систем в современные системы связи, что расширило возможности информационных технологий.

Современные методы описания процессов в информационных системах разнообразны и требуют различного смыслового содержания и представления для применения в инженерной практике.

Среди них все большее значение приобретают теоретиковероятностные методы исследований, основанные на вероятностной трактовке протекающих в информационных системах процессов.

Вероятностный (статистический) подход позволяет более полно учесть состояние динамической системы, характер управляющих и возмущающих воздействий, результирующее поведение информационных потоков в больших вычислительных сетях и во многих случаях более адекватен практическим задачам.

Круг вытекающих из указанного подхода проблем, охватываемых пособием, достаточно широк: описание математических моделей случайных процессов в информационных системах, формирование на их базе статистических методов проверки гипотез и обнаружения, оценивания и фильтрации, интерполяции (сглаживания) и экстраполяции (прогнозирования), а также разработка алгоритмов оптимального управления стохастическими системами.

Значительное место уделено практическим аспектам применения методов статистического анализа и синтеза, использующих математический аппарат теории марковских процессов. Для успешного овладения этими методами изложение материала базируется на математическом описании системы (его фазовых координат) в пространстве состояний, а при решении задач фильтрации – на способах совместного обнаружения и оценивания сигналов. Для получения реализуемого в инженерной практике единообразного алгоритма при исследовании линейных и нелинейных систем в данном пособии широко применяется приближенный метод статистической линеаризации нелинейностей.

Учитывая, что развитие систем связи, управления и т.д.

характеризуется в настоящее время широким использованием цифровой вычислительной техники, в учебном пособии, в основном, уделяется внимание дискретным алгоритмам обработки информации и управлению дискретными стохастическими системами.

1. МЕТОДЫ ОПИСАНИЯ СЛУЧАЙНЫХ

ПРОЦЕССОВ

1.1. ФУНКЦИИ РАСПРЕДЕЛЕНИЯ И ПЛОТНОСТИ

ВЕРОЯТНОСТЕЙ

При решении задач анализа и синтеза необходимыми для расчета данными служат полученные из опыта некоторые экспериментальные данные. Опытом называются наблюдения какоголибо явления при выполнении некоторого комплекса условий и действий, который каждый раз при повторении указанного опыта строго выполняется. Количественная характеристика опыта состоит в определении получаемой из опыта некоторой величины. Из-за влияния различных трудно учитываемых факторов результаты экспериментов в серии опытов имеют случайный непредсказуемый характер, а сами величины оказываются случайными. Несмотря на это в длинной серии опытов можно установить общие статистические закономерности, присущие реальным явлениям.

Эти закономерности отражаются в вероятности значений, полученных из опыта случайных величин. Так, например, если разбить на действительной числовой оси интервал возможных значений физической величины на конечное число непересекающихся подынтервалов и подсчитать в серии опытов число события попадания случайной величины в каждый из подынтервалов, то отношение числа событий в одном из подынтервалов к общему числу опытов называется частотой появления событий в этом подынтервале. При достаточно длинной серии опытов эта частота мало изменяется и может служить количественной мерой вероятности появления или непоявления рассматриваемых событий.

Остановимся на одном из способов определения случайного процесса на основе введенного понятия случайной величины. Под случайной величиной (ti ) понимается одно из значений случайной функции (t ) при фиксированном аргументе ti из произвольного множества T, ti T. В зависимости от возможных значений случайная величина подразделяется на дискретную (из конечного или счетного множества Х) или непрерывную (принимает непрерывные значений на всей действительной оси или ее интервале). Если аргумент t интерпретируется как время, то совокупность случайных величин называется случайным процессом). Время может принимать дискретные или непрерывные значения. В соответствии с этим случайные процессы подразделяются на процессы с дискретным и непрерывным временем. Конкретный вид случайного процесса в результате отдельных экспериментов называется реализацией (траекторией или выборочной функцией).

Вероятностные характеристики случайного процесса могут быть определены на основе понятия совокупности (последовательности) случайных величин { (ti ), i = 1, n}. Наиболее полной такой характеристикой является n-мерная функция расределения вероятностей - вероятность того, что случайный процесс в любые возможные моменты времени t1,...,tn примет соответственно значения не выше уровней x1,...,xn из множества Х. Эта функция удовлетворяет условиям неотрицательности F () 0 и согласованности Наряду с временным аргументом в теории случайных процессов в число аргументов могут входить координаты пространства. В этих задачах случайные факторы приводят к случайным полям, обладающим пространственно-временными характеристиками функций распределений. В данном пособии рассматриваются случайные функции временного аргумента.

Она является неубывающей функцией своих аргументов Если функция дифференцируема по x1,...xn, то можно определить n-мерную плотность вероятностей Плотность вероятностей (1.2) является неотрицательной функцией p() 0 и удовлетворяет условию нормировки Важным классом случайных процессов являются стационарные процессы. Случайный процесс называется стационарным, если функции распределения вероятностей инвариантны относительно сдвига времени для любых n и :

Для стационарных процессов выражения для функции распределения не зависит от положения начала отсчета времени.

Аналогичные соотношения выполняются и для плотностей вероятностей Если вероятностные характеристики случайных процессов не инвариантны к произвольному смещению начала времени, то процесс является нестационарным. Для стационарных случайных процессов одномерная функция плотности не зависит от времени; двумерная плотность зависит лишь от разности t2t1:

n–мерная плотность вероятностей будет функцией n разностей ti t1, i = 2, n.

Перейдем к рассмотрению условных функций распределений.

Вероятность совместного выполнения неравенств при условии, что распределения Определим условную плотность вероятностей как производную по xn,...,xnm функции распределения. С учетом формулы полной вероятности Соотношение (1.4) называется формулой Байеса для условных вероятностей. Как и безусловные условные плотности вероятностей удовлетворяют условиям неотрицательности и нормировки (n=2,m=0) формула Байеса принимает вид В задачах теории случайных процессов довольно часто необходимо найти по известной плотности вероятностей p (x) плотность вероятностей функции случайной величины = ( ), т.е.

Предположим, что функция (x) имеет первые кусочнонепрерывные производные по x и не постоянна ни на каком множестве значений аргумента x, имеющем отличную от нуля вероятность. Кроме того, будем полагать что случайные величины связаны однозначной детерминированной зависимостью. В силу последнего предположения из того факта, что величина заключена в интервале (x,x+dx) достоверно следует, что находится в интервале (y,y+dy). И вероятности этих событий должны быть одинаковы p(x)dx=p(y)dy или Поскольку плотность вероятностей не может быть отрицательной, то в формулу (1.5) необходимо подставить модуль производной.

В случае многомерной плотности вероятностей имеем где якобиан преобразования вектора x=-1(y) имеет вид определителя Если функция =() такова, что обратная ей функция неоднозначна, то одному значению y соответствует несколько ветвей x=1(y). Обозначим через xik(yn,...,y1) k-ую ветвь обратного преобразования, i = 1, n. В этом случае многомерная плотность вероятностей равна

1.2. МОМЕНТНЫЕ И КОРРЕЛЯЦИОННЫЕ ФУНКЦИИ

Полное вероятностное описание случайного процесса с помощью конечномерных распределений возможно тогда, когда процесс представляет собой конечную последовательность случайных величин { (ti ), i = 1, n}, т.е. для процессов с дискретным временем. Если случайный процесс непрерывен во времени для его полного описания необходимо перейти к континуальным (непрерывным) характеристикам. Прежде чем перейти к вероятностному описанию непрерывного случайного процесса остановимся на имеющем большое значение для технических приложениях функциональном преобразовании – характеристической функции (хф) [1]. Хф первого порядка 1 ( v) называется среднее значение случайной функции exp{ jv (t )} где v - произвольный действительный параметр. Из вида хф следует, что она является Фурье-преобразованием плотности вероятностей p(x,t). Более полную информацию о случайном процессе можно получить из многомерной хф По характеристической функции, применяя обратное преобразование Фурье, можно определить плотность вероятностей Для исчерпывающего описания случайного процесса необходимо устремить n, что приводит к так называемому континуальному характеристическому функционалу (ХФ) где v(t) - вспомогательная действительная функция.

Таким образом, при описании случайных процессов можно с одинаковым правом использовать как плотности вероятностей, так и характеристическую функцию или ХФ. На практике для описания случайных процессов чаще используются система функции, получаемые из хф и ХФ. Причем эти системы функции обладают тем свойством, что функции более низкого порядка не несут информации о последующих функциях. К числу таких функций относятся неслучайные статистические характеристики: моментные и корреляционные функции. Причем наибольший интерес представляют корреляционные функции первых двух порядков, так как значимость многократных корреляций с увеличением порядка уменьшается. В дальнейшем при описании конкретных случайных процессов корреляционную функцию первого порядка будем называть также математическим ожиданием, а для корреляционной функции второго порядка название порядка опускать. По моментным и корреляционным функциям можно определить хф и, следовательно, плотность вероятностей. И наоборот, по хф - рассчитать указанные системы функции. Выражение ХФ в виде многомерного разложения в ряд относительно моментных mn() и корреляционных kn() функций имеют следующий вид [2] Для ХФ разложение в ряд записывается в форме Моментные и корреляционные функции определяются через ХФ путем n-кратного функционального дифференцирования Сравнивая выражения (1.8) и (1.9) можно получить следующие соотношения, связывающие моментные и корреляционные функции:

Другая часто используемая в технических приложениях система функций получила название центральные моменты:

Корреляционные функции и центральные моменты второго и третьего порядков совпадают. Для функций четвертого порядка соотношение, связывающее корреляционную функцию и центральный момент, имеет вид Функции mn и kn при t1=...=tn=t называются соответственно моментами и кумулянтами (семиинвариантами) n-ого порядка.

Играющая важную роль в задачах анализа и синтеза функция k2(t,t)=D(t) получила название дисперсия. В инженерной практике довольно часто корреляционные функции первого и второго порядка достаточно полно характеризуют случайный процесс. Раздел теории случайных процессов, ограничивающийся изучением только этих функций получил название корреляционной теории. Изложим основные свойства корреляционной функции второго порядка, являющейся в рассматриваемом случае действительной функцией от действительных аргументов (подстрочный индекс два опускаем) - корреляционная функция симметрична, т.е.

k(t1,t2)=k(t2,t1);

- корреляционная функция удовлетворяет соотношению - если (t) - неслучайная функция, то ее корреляционная функция тождественно равна нулю;

- корреляционная функция произведения (t)=(t)(t), где (t) неслучайная, а (t) - случайная функция, определяется соотношением - если (t ) = i (t ) i (t ), где i(t) - неслучайная, а i(t) i = случайная функция, то Взаимная корреляционная функция k(t1,t2) случайных функций (t) и (t) имеет свойства в принципе аналогичные свойствам обычной корреляционной функции. Однако, некоторые отличия в свойствах этих функций имеются. Взаимная корреляционная функция не является симметричной функцией относительно аргументов. Но можно установить соотношение k(t1,t2)=k(t2,t1), означающее, что при одновременной перестановке аргументов и порядка следования случайных функций значение взаимной корреляционной функции не изменяется. Если процессы (t) и (t) статистически независимы, то взаимная корреляционная функция равна нулю. В отличие от условия стационарности (1.3), характеризующего случайные процессы стационарные в строгом смысле, случайные процессы в рамках корреляционной теории оказываются стационарными в широком смысле. Для этих процессов математическое ожидание и дисперсия не зависят от времени, а корреляционная функция зависит от разности аргументов t2t1=:

Случайные процессы стационарные строго (в узком смысле) всегда стационарны в широком смысле, но не наоборот. Очевидно, что в рамках корреляционной теории достаточно знать плотности или функции распределения вероятностей не выше второго порядка.

Отметим, что корреляционная теория дает полное описание важного класса случайных процессов – гауссовских процессов.

В технических приложениях корреляционной теории для стационарных процессов нередко вместо корреляционной функции ограничиваются указанием интервала корреляции k. При >k значения (t) и (t+) для любого момента времени t можно считать практически некоррелированными. Обычно интервал корреляции определяют как половину ширины основания прямоугольника с высотой равной дисперсии k(0)=D, площадь которого равняется площади под кривой модуля корреляционной функции На практике обычно не представляется возможным использовать формулы (1.9), (1.10) и (1.11) для точного определения статистических характеристик, так как функции распределения или плотностей вероятностей часто оказываются неизвестными. Поэтому прибегают к определению оценок (статистик) этих характеристик путем обработки экспериментально полученных n реализаций случайного процесса (t) на основании следующих формул - оценка математического ожидания случайного процесса;

- оценка дисперсии случайного процесса;

- оценка корреляционной функции случайного процесса;

- оценка взаимной корреляционной функции случайного процесса.

Согласно этим формулам оценки представляют собой приближенные значения статистических характеристик. При n соответствующим статистическим характеристикам.

Определение статистических характеристик на основании формул (1.13), (1.14), (1.15) и (1.16) предполагает достаточно большое число реализации случайного процесса. Если случайный процесс стационарен в строгом смысле, то представляется допустимым получения этих реализаций путем разделения результата одного опыта на необходимое число частей. Однако эта возможность в действительности имеет место не во всех случаях существования стационарного процесса, а лишь тогда, когда этот процесс эргодичен.

Случайный стационарный процесс считается эргодическим, если любая статистическая характеристика, полученная усреднением по множеству возможных реализаций равна временному среднему, полученному усреднением за достаточно большой промежуток времени Т по одной единственной реализации случайного процесса.

В работе [3] показано, что необходимым и достаточным условием эргодичности стационарного случайного процесса является где k() - корреляционная функция процесса.

В результате в случае эргодичности стационарного процесса при вычислении оценок статистических характеристик вместо формул (1.13), (1.14), (1.15) и (1.16) могут использоваться более простые формулы где 1(t) и 1(t) - одна реализация соответственно случайных процессов (t) и (t).

1.4. СПЕКТРАЛЬНЫЕ ХАРАКТЕРИСТИКИ

В теории случайных процессов наряду с описанием сигналов во временной области используют частотные представления сигналов.

Пусть для любой реализации случайного процесса на интервале (0, Т) выполняется условие Это условие означает ограничение мощности сигнала. В этом случае спектральная функция конкретной реализации (t) может быть определена с помощью прямого преобразования Фурье В спектральной функции содержится вся информация о реализации (t). Последняя может быть восстановлена по спектральной функции путем применения обратного преобразования Фурье Из-за случайного характера непосредственное использование спектральной функции вызывает неудобства. В связи с этим целесообразно перейти к другому виду спектрального представления - спектральной плотности, полученной в результате усреднения квадрата модуля спектральной функции по всем реализациям. Для стационарного в широком смысле с нулевым математическим ожиданием процесса эта функция равняется где T ( j ) = T (t ) exp{ jt )dt, T (t ) - усеченная реализация, равная нулю вне интервала (0,Т).

Спектральная плотность или энергетический спектр дает только усредненную картину распределения энергии по частотам гармонических составляющих, не учитывает их фазовую структуру.

Поэтому по ней нельзя восстановить реализации случайного процесса. Спектральная плотность и корреляционная функция для стационарного процесса связаны между собой парой взаимного преобразования Фурье, называемых формулами Хинчина-Винера.

Учитывая четность спектральной плотности, формулы ВинераХинчина можно также записать в виде Если случайный процесс имеет отличное от нуля математическое ожидание M{(t)}=m, то в выражении спектральной плотности появляется дополнительное дельтаобразное слагаемое 2m ( ), что соответствует появлению в спектре дискретной линии на нулевой частоте. Спектральная плотность является неотрицательной F()0 и четной F()=F() функцией своего аргумента.

На практике протяженность спектральной плотности стационарного случайного процесса характеризуется шириной полосы спектра –. Ее определяют как величину площади под кривой спектральной плотности, отнесенной к спектральной плотности на характерной частоте 0:

В качестве F(0) принимают максимум спектральной плотности или координату, соответствующую точке симметрии. Обычно при широкополосном спектре ею является спектральная плотность на нулевой частоте F(0). Отметим также, что произведение интервала корреляции на ширину полосы k - величина постоянная для семейства спектральных плотностей заданной формы. Таким образом, можно сформулировать следующее утверждение: чем уже корреляционная функция, тем протяженнее спектр, и наоборот, чем протяженнее корреляционная функция, тем уже спектр.

2. МОДЕЛИ ПРОЦЕССОВ В ИНФОРМАЦИОННЫХ

СИСТЕМАХ

При аналитическом исследовании поведения реальных динамических систем важным является обоснование математических моделей процессов, протекающих в этих системах. В ходе формирования методов анализа и синтеза эти модели, с одной стороны, должны наиболее адекватно отражать свойства реальных сигналов, с другой – допускать исследования этих процессов известными теоретическими методами. Выход, видимо, следует искать на основе компромиссных решений в части выбора наиболее простых и в то же время содержательных (продуктивных) моделей при решении интересующих задач. Рассматриваемые в данном разделе модели случайных процессов являются наиболее типичными в практике исследований динамических систем с учетом реальных режимов, возмущений и помех и во многих случаях могут служить базовыми при формировании более сложных процессов.

В инженерной практике особую роль играют гауссовские случайные процессы благодаря возможности аппроксимации ими многих реальных процессов. К числу таких процессов, например, относятся собственные шумы электронных устройств, тепловые флуктуации, космические излучения и т.д. Они представляют собой суммарный эффект большого числа сравнительно малых элементарных импульсов, возникающих в случайные моменты времени. На основании центральной предельной теоремы теории вероятностей [4] плотность вероятности этой суммы неограниченно приближается к гауссовской с увеличением числа слагаемых, независимо от того, какие плотности вероятности имеют отдельные слагаемые.

Случайный процесс, у которой корреляционные функции третьего и более высоких порядков для любых t равняются нулю, называются гауссовским kn(t1,...,tn)=0, n3:

Характеристическая функция на основании (1.7) В результате обратного Фурье-преобразования найдем n-мерную плотность вероятностей гауссовского процесса где |k2| - определитель корреляционной матрицы k2=||k2(ti,tk)|| размера (nn); hik - компоненты матрицы ||h(ti,tk)||, обратной корреляционной матрице ||k2(ti,tk)||, x и k1=m - векторы-столбцы размера (n1).

Для стационарного гауссовского процесса математическое ожидание m (ti ) = m, i = 1,n постоянно, а корреляционные функции зависят от разности моментов времени titk. Для гауссовских процессов стационарность в строгом и широком смысле совпадают.

В случае одномерного гауссовского процесса плотность вероятности имеет вид где k2(t,t)=Dt.

Гауссовский процесс, у которого взаимные корреляционные функции равны нулю k2(ti,tk)=0, ik, является процессом с независимыми значениями с плотностью вероятностей равной произведению n одномерных гауссовских плотностей Условные плотности вероятностей совместно гауссовских процессов являются гауссовскими. Этот результат следует из формулы условной вероятности (1.4) вероятностей нестационарного гауссовского процесса Используя формулу (2.3), с учетом (2.2) получим условную плотность вероятностей При выводе формулы (2.4) математические ожидания приравнивались нулю m(t1)=m(t2)=0.

Сумма гауссовских случайных процессов также имеет гауссовское распределение. Отсюда следует, что линейная (t ) = Ci (t ) i (t ) + Si (t ), где Ci(t) и Si(t) - заданные функции времени, также представляет гауссовский случайный процесс. Например, сумма двух гауссовских процессов, имеющих математическое ожидание и корреляционные функции равные соответственно m1, m 2 и k1, k 2 представляет собой гауссовский процесс с математическим ожиданием m = m1 + m 2 и корреляционной функцией k = k1 + k1 2 + k 21 + k 2, где k1 2 и k 21 - взаимные корреляционные функции.

2.2. ВИНЕРОВСКИЙ ПРОЦЕСС. БЕЛЫЙ ШУМ Винеровский процесс играет важную роль при формировании более сложных сигналов, в том числе марковских и фрактальных процессов. К понятию винеровского процесса можно прийти при рассмотрении следующей физической задачи. Частицы жидкости или газа в отсутствии внешних воздействий из-за столкновений с молекулами находятся в постоянном хаотическом движении (броуновском движении), интенсивность которого зависит от температуры и плотности среды. При этих столкновениях частицы изменяют свою скорость и направление движения. Если масса частицы равна m, то, пренебрегая силами трения, скорость движения частицы B(t) по какой-либо координате на основании закона Ньютона определяется из соотношения где функция (t) является составляющей по этой координате случайной последовательности силовых толчков. Из условия симметрии направления этих толчков равновероятны и поэтому математическое ожидание этой функции равно нулю: M{(t)}=0.

При определении статистических характеристик броуновского движения необходимо исходить из того, что в реальном физическом эксперименте время корреляции процесса (t) конечно и, грубо говоря, не превосходит среднего времени между столкновениями 0.

Далее необходимо иметь ввиду, что реальные физические приборы, осуществляющие наблюдения и измерения, имеют конечное время разрешения t. В течение этого времени при большой концентрации молекул частица испытывает большое число столкновений, вследствие чего интервал измерения оказывается много больше интервала корреляции: t>>0. В связи с изложенным на основании центральной предельной теоремы процесс (t) приближенно можно представить гауссовским процессом с математическим ожиданием равным нулю и дельтаобразной корреляционной функцией определяется из формулы (1.17), (t2t1) - дельта-функция (Приложение 1).

Спектральная плотность его постоянна во всем диапазоне изменения частот. Такой процесс получил название гауссовский белый шум. Он имеет бесконечную дисперсию (мощность) и служит математической моделью реальных широкополосных воздействий. В случае стационарного гауссовского белого шума его статистические характеристики имеют вид Винеровский процесс B(t) по определению находится через белый шум (t) из стохастического дифференциального уравнения Винеровский процесс после линейного интегрального преобразования (2.5) остается гауссовским процессом и с учетом корреляционную функцию Очевидно, корреляционную функцию винеровского процесса можно также представить для положительных t1 и t2 в виде Плотность распределения винеровского процесса имеет вид Рассмотрим некоторые свойства приращений винеровского процесса – их некоррелированность на неперекрывающихся интервалах времени и масштабируемость (самоподобие). Для моментов времени t2>t1>t0>0 имеем Отсюда на основании (2.6) и (2.7) математическое ожидание и дисперсия приращения винеровского процесса соответственно равны выполнении условия (2.11) на основании (2.8) равна Таким образом, приращения процесса B(t) некоррелированы и, поскольку имеют гауссовское распределение, они также независимы.

Кроме того, эти приращения стационарны, так как их математические ожидания равны постоянной величине (нулю), а дисперсии пропорциональны постоянным временным интервалам:

t1t0=...=tk+1tk, k=0,1,... Реализации винеровского процесса |B|=|B(t+t)B(t)| характеризуется среднеквадратическим отклонением, порядок которого на основании (2.7) t1/2, и при t стремится к нулю. Реализации винеровского процесса не дифференцируемы, так как Согласно свойству масштабируемости, вытекающему из соотношения (2.12), изменение масштаба времени в b раз сопровождается приращением координаты винеровского процесса в b1/2 раз.

Это свойство можно представить в виде Особый характер поведения винеровского процесса является следствием его свойства, которое символически можно записать в виде (B)2~t. В то же время для дифференцируемой функции квадрат ее приращений имеет порядок малости квадрата приращения аргумента: (f)2~t2.

Важным результатом этих свойств является соотношение для винеровского процесса где произвольное разбиение отрезка (t0,tm):

t0t0 зависит от x0 и от значений правой части этого уравнения и не зависит от значений x(t) до момента времени t0. Таким образом, правая часть этого уравнения при t>t0 статистически независима от ее значений при tt0 статистически независима от ее значений при tt oтносительно любой совокупности случайных величин x(t1),...,x(tk),x(t0) при t10). Для величины 1=0 и имеет место Для несмещенной оценки среднее значение этой оценки при любом n равно математическому ожиданию параметра В частности, байесовская оценка при квадратичной функции потерь является несмещенной.

Эффективной в классе несмещенных оценок называют оценку с наименьшей дисперсией Часто эффективность определяется из условия достижения нижней границы в неравенстве Крамера-Рао.

Необходимо пользоваться такими оценками, для которых дисперсия ошибки равна или близка Dэфф. Для нахождения этих оценок в многих случаях оказывается полезным понятие достаточной оценки (статистики). Определяют достаточную оценку z, как некоторую функцию наблюдаемой реализации ytt0 так, чтобы соблюдалось равенство для апостериорных рисков или АПВ Достаточными статистиками могут быть оценки параметров, неизвестных процессов, сами наблюдаемые реализации. В последнем случае существует более компактное разбиение пространства наблюдений за счет сокращения объема выборки наблюдаемых отсчетов или длины наблюдаемой реализации без изменения величины апостериорного риска или АПВ.

Достаточная статистика содержит всю информацию о неизвестном параметре, которую можно получить при наблюдениях.

В случае марковских сигналов для оценки параметра в момент времени tn+1 нет необходимости определять каждый раз все отсчеты наблюдаемого процесса из интервала (t0,tn+1) достаточно получить последний отсчет для tn+1 и иметь лишь одну функцию от реализации на интервале (t0,tn) - достаточную статистику. Если zn = xn достаточная статистика, то зависящая от выборочных значений реализации y1 +1 апостериорная плотность вероятностей p( x | y1 +1 ) преобразуется в АПВ вида p(x|zn,yn+1).

4.2. ОБСУЖДЕНИЕ ПОДХОДОВ РЕШЕНИЯ ЗАДАЧИ

На основании полученных результатов изложим в общих чертах возможные подходы определения оценок неизвестных параметров или случайных процессов. Представим рассматриваемые процессы, протекающими в дискретном времени (tn, n=0,1,2,...}.

Наблюдаемый сигнал и оцениваемый процесс являются для этого случая последовательностями отсчетов соответственно {yn} и {xn}. Апостериорную плотность вероятностей на основании формулы условных вероятностей (1.4) представим в виде где x0 - начальное значение параметра, последовательность наблюдений (y1,...,yn+1); плотность вероятностей p(xn+1,...,x1,x0)=p(x0)p(x1|x0)...p(xn+1|x0,...,xn) Сомножитель [p( y1 +1 )]1 не зависит от {xn+1}, его учитывают в x0 = ( x0, x1,..., xn ).

среднеквадратической ошибки можно, вообще говоря, получить оптимальную оценку xn +1 и дисперсию ошибки оценки Dn+1. Но такой способ решения задачи не эффективен, поскольку представляет собой трудно разрешимую проблему из необходимости определения n+1кратного интеграла. Существенными преимуществами в отношении вычислений и моделирования обладают методы, использующие марковские модели процессов и связанные с ними рекуррентные процедуры. Пусть x является непрерывным марковским процессом. В дискретном времени его также можно представить в виде последовательности отсчетов {xn+1}. Плотность вероятностей марковского процесса (2.31) позволяет, используя двумерные переходные вероятности (xn+1|xn) и известную функцию правдоподобия p(yn+1|xn+1), по отсчетам наблюдаемого процесса yn+ рекурретно вычислять апостериорные плотности вероятностей {p(xn+1| y1 +1 )}.А по ней на основании формул (4.9) и (4.8) - оценки и дисперсии ошибок оценок. И хотя представленная картина определения оценок носит качественный характер (подробное и строгое изложение рекуррентных алгоритмов будет проведено в разделе 4.6.2) можно сформулировать важный результат: для получения оценки в момент времени tn+1 используется последний результат (отсчет) наблюдения yn+1 и достаточная статистика, как функция всех предшествующих наблюдений. Полагая в данном случае достаточной статистикой оценку параметров z = x,можно записать операторное рекуррентное уравнение где оператор Jn+1() зависит от статистических свойств оцениваемого сигнала x и наблюдаемого процесса y. Общая методика данного подхода к рекуррентным процедурам совместного обнаружения и фильтрации применительно к радиотехническим задачам впервые была рассмотрена в работах [33,34,35].

Аналогичные задачи, в которых моделями наблюдаемых сигналов являются случайные потоки, рассматривались в [36,37,38].

Точное решение уравнений оценивания (фильтрации) вызывает, за исключением ряда частных случаев, большие технические трудности. Обычно ищут приближенные решения. Одним из таких решений является представление АПВ в виде разложения его логарифма в ряд по заданной системе функций i(xt) относительно некоторой оценки xt где hit - неизвестные апостериорные параметры i-го порядка, K порядок аппроксимации.

Очевидно, чем больше K, тем точнее может быть описана АПВ.

С другой стороны, с увеличением порядка аппроксимации сложнее решить задачу синтеза. Для упрощения урезают число аппроксимирующих АПВ членов ряда. Случай K=2 соответствует квазиоптимальному в гауссовском приближении методу фильтрации.

В качестве системы функций выбирают степенную функцию i ( xt ) = ( xt xt0 )i / i!. В этом случае логарифм АПВ является усеченным (до К-го члена) разложением в ряд Тейлора, в котором апостериорные параметры определяются из соотношения Если обеспечить h1t = оценкой xt, соответствующей критерию максимума апостериорной плотности вероятностей. Заметим, что определение системы неизвестных параметров h2t,...,hkt эквивалентно заданию приближенного значения АПВ (до K члена разложения ряда).

Использование при синтезе приближенного значения АПВ неизбежно приводит к некоторым потерям оптимальности. Отказ от полной оптимальности - вынужденная мера и является своеобразной платой за упрощение технических решений.

4.3. ОБНАРУЖЕНИЕ И РАЗЛИЧЕНИЕ СИГНАЛОВ

В простейшей задаче обнаружения некоторый источник порождает сигналы в виде двух значений параметра. По результатам наблюдения ytt0,представляющего собой смесь полезного сигнала и шума, необходимо с наименьшими потерями решить, какая из возможных ситуаций имеет место. Предлагаемая задача обнаружения в теории статистических решений эквивалентна проверки простой гипотезы - утверждения, что =1 есть сигнал против простой альтернативы - утверждения, что =0 нет сигнала. При байесовском походе решающее правило должно минимизировать средний риск (4.2). При выводе выражения среднего риска полагаем заданными априорные вероятности каждой из гипотез p0=P(=0) и p1=P(=1), p0+p1=1. Функция потерь здесь переходит в матрицу где 0 - решение, что =0, 1 - решение, что =1. Положим без существенных ограничений общности подхода Разобьем пространство наблюдений на две непересекающиеся подобласти 1 и 0, = 0 1. Если результат наблюдения оказался в 1, то принимается гипотеза =1, если в 0 - то ее альтернатива =0. В двухальтернативной задаче обнаружения принятие решения сопровождается ошибками первого и второго рода. Ошибка первого рода - альтернатива =0 отвергается тогда, когда в действительности она верна; ошибка второго рода - отвергается гипотеза =1 в то время, как она верна. В этом случае вероятности ошибочных решений где p( ytt0 |0) и p( ytt0 |1)- функции правдоподобия соответственно при гипотезах =0 и =1. Для указанного разбиения пространства наблюдения на две подобласти средний риск (4.2) можно представить в виде суммы двух слагаемых Поскольку1=/0, то на основании условия нормировки можно записать p( ytt0 | 0)dytt0 = 1 p ( ytt0 | 0)dytt0 и средний риск (4.14) становится равным Ввиду того, что (0,1)p0 - постоянная неотрицательная величина, минимальное значение среднего риска будет получено, если подынтегральная функция будет неотрицательной, т.е. в подобласть 0 включены все точки пространства наблюдения, для которых выполняется Точки, для которых выполняется обратное неравенство, следует отнести к подобласти 1. На основании (4.15) приходим к байесовскому оптимальному решению Таким образом, оптимальное (согласно байесовскому подходу) правило решения сводится к формированию статистики, называемой отношением правдоподобия ( ytt0 ) (ОП), и к сравнению с его порогом обнаружения h. Величина порога определяется априорными вероятностями наличия и отсутствия сигнала и задаваемой матрицей функций потерь. Отметим, что решающему правилу (4.16) эквивалентно неравенство так как обе части неравенства (4.16) являются положительными величинами. Для простых функций потерь (0,0)=(1,1)=0, (0,1)=(1,0)=1 средний риск равен R()=p0+p1, который совпадает с полной вероятностью ошибки. Таким образом, при простых функциях потерь минимум среднего риска приводит к минимуму полной вероятности ошибки. Байесовский критерий обнаружения можно записать на основании (1.4) в терминах апостериорной вероятности. Оптимальному решению, называемому в этом случае правилом решения идеального наблюдателя, соответствует неравенство Если представить непрерывную реализацию ytt0 в дискретном времени в виде n-мерного вектора отсчетов y1, то отношение правдоподобия ( y1 ) и соответственно l( y1 ) оказываются достаточными статистиками обнаружения. Достаточная статистика позволяет свести n-мерный вектор наблюдения к скалярным величинам ( y1 ) или l( y1 ) при соблюдении равенства апостериорных рисков Полученные результаты можно распространить на задачи различения многих гипотез или многоальтернативного обнаружения.

С указанными проблемами сталкиваются при обработке большого числа сигналов в радиосвязи и радиолокации, в задачах распознавания и разрешения многих целей и т.д. Необходимо отметить, что задачи многоальтернативного обнаружения, посуществу, адекватны статистической теории распознавания образов, имеющей широкое применение в теории статистических решений.

Применительно к задачам оценивания при многоальтернативном обнаружении ассоциируется с самим сигналом х (или параметрами этого сигнала) из непрерывного множества действительной оси.

Пусть наблюдаемая реализация ytt0 представляет собой шум или смесь шума с одним из возможных сигналов, который отождествляется с параметром i, i = 0, M. Обозначим через i подобласть пространства наблюдения, в которой принимается решение о верности гипотезы - утверждения, что i есть сигнал.

минимизирующего средний риск Минимизация достигается определением подобласти i, в которой средний риск минимален. При (j,i)=1, ij и (j,i)=0 для всех остальных i, j = 0, M указанный критерий приводит к принятию решения о верности той из гипотез i, для которой апостериорные вероятности имеют максимальное значение P(i| ytt0 )>P(j| ytt0 ) для ij.

Это правило можно записать по-другому Если к тому же априорные вероятности pi всех состояний оказываются одинаковыми, то это правило сводится к выбору наибольшего ОП Многоальтернативное обнаружение можно использовать в задачах совместного обнаружения сигнала и оценки его параметров, которые принимают одно из значений µi, i = 0, M. В этом случае также приходим к многоканальной системе обработки сигнала, в которой оценка параметра сигнала определяется по номеру канала с максимальным выходным эффектом. Структура канала задается условным ОП:

4.4. НЕБАЙЕСОВСКИЕ ПРАВИЛА РЕШЕНИЯ

4.4.1. КРИТЕРИЙ МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ Байесовский подход связан с предположением, что априорные распределения состояний случайных величин и функции потерь известны. Если этих априорных сведений нет, то используются небайесовские методы принятия решений. К их числу относят критерий максимального правдоподобия.

Представим на основании формулы Байеса (1.4) соотношение (4.6) в виде В практических задачах сталкиваются с ситуацией, когда априорную плотность вероятностей p(x) затруднительно заранее определить. Тогда ее аппроксимируют достаточно широким равномерным распределением и принимают lnp(x)/x=0. В этом случае оценка по критерию максимума АПВ совпадает с небайесовской оценкой по критерию максимума функции правдоподобия Условию экстремума (4.17) соответствует такая оценка параметра, для которой при заданном объеме наблюдаемых отсчетов y1 = ( y1,..., yn ) функция p( y1 |x) достигает максимума. Оценка, удовлетворяющая указанному критерию, называется максимально правдоподобной.

Для независимых отсчетов из уравнения (4.17) следует Указанный критерий получил широкое распространение в задачах оценивания постоянных параметров (случайных величин) x=. Эти оценки при t асимптотически состоятельны, эффективны и нормально распределены [39].

4.4.2. КРИТЕРИЙ НЕЙМАНА-ПИРСОНА Решающее правило в этом случае разбивает пространство наблюдения также на две непересекающиеся подобласти 1 и 0, = 1 0. Но выбор этих подобластей производится из других соображений. Используя ранее рассмотренные вероятности ошибок первого рода - (вероятность ложной тревоги) и вероятность ошибки второго рода - ( вероятность пропуска сигнала). Вероятность есть вероятность правильного обнаружения. Согласно этому критерию оптимальным решением считается такое, которое обеспечивает минимум вероятности пропуска сигнала (максимум 1) при условии, что вероятность ложной тревоги не превышает заданного числа. Этому решающему правилу эквивалентно неравенство (4.16) где порог выбирается из условия Для этого требуется доказать, что для любой подобласти 1, неравенство Обозначим через G пересечение подобласти 1 и, а также разности подобластей 1 / G = A, / G = B. Так как A1, то с учетом (4.18) имеем На основании (4.20) можно записать можно переписать Ввиду того, что B - подобласть наблюдения, где гипотеза = отвергается, для этой области имеет место t Отсюда на основании (4.22) имеем что и требовалось доказать.

Согласно рассмотренному решающему правилу оптимальный обнаружитель формирует ОП и подает его на пороговое устройство, где осуществляется процедура сравнения с порогом h, который определяется при заданном и известном распределении p(|0) из формулы (4.19).

4.4.3. МИНИМАКСНОЕ РЕШАЮЩЕЕ ПРАВИЛО Это правило в теории статистических решений рассматривается как специальный случай байесовского решения для наименее благоприятного распределения состояний случайной величины p(x).

Минимаксное решение минимизирует максимальный по всем значениям параметра x средний риск RMM ( ) = min max R( ). Это решение является наилучшим решением в наихудшей относительно x ситуации. В общем случае отыскание минимаксного решения довольно сложная задача. При более детальном анализе можно показать, что при некоторых слабых ограничениях указанное решение можно получить, если априорное распределение не зависит от x. Таким неблагоприятным распределением часто оказывается равномерное распределение.

В случае проверки простой гипотезы параметр принимает два значения =0 или =1 и указанное априорное распределение определяется лишь одной вероятностью p(=1)=p1, p(=0)=p0=1p1.

Обратим внимание на то, что ошибка первого и второго рода зависят от априорных вероятностей согласно формулам Разность RMM()R()>0 между минимаксным и байесовским средними рисками является своеобразной платой за отсутствие информации об априорном распределении.

Как следует из предыдущего, байесовский и минимаксный критерии, критерий Неймана-Пирсона приводят к решающему правилу обнаружения, основанному на сравнении ОП с некоторым порогом. Различие между правилами, оптимальными по указанным критериям, состоит в различном выборе порога h. Таким образом, рассмотренные выше критерии приводят к единообразной процедуре принятия решения по наблюдаемой выборке ytt0 в интервале (t0,t) 4.4.4. ПОСЛЕДОВАТЕЛЬНЫЙ КРИТЕРИЙ ОЦЕНИВАНИЯ Предыдущие критерии основываются на предположении, что объем наблюдаемой выборки ytt0 ( y1 ) фиксирован. Однако время, затрачиваемое на принятие решения для этих случаев, может оказаться столь значительным, что вопрос о числе измерений становится открытым. Последовательный критерий или критерий Вальда позволяет объем измерений ставить в зависимости от того, когда наблюдатель убедится в правильности одной из гипотез. Если ранее использовались две подобласти в пространстве наблюдения, то при последовательных испытаниях вводится еще одна промежуточная область, в которой окончательное решение не принимается. При последовательных испытаниях принимается одно из трех решений: принять гипотезу 1, принять альтернативу 0, произвести следующее измерение. Как и в критерии Неймана Пирсона выбираются приемлемые значения ошибок и. По результатам n измерений формируется ОП - ( y1 ). Полученное значение ОП сравнивается с двумя порогами h и h. Если ( y1 ) L (i 2), где Ln характеризует относительный порядок параметров Анализ неравенств (4.104) показывает, что их выполнение обеспечивается уже при i=3, т.е. hn / 2 >> L1 или, принимая во внимание, что апостериорная дисперсия Dn = hn 1, получаем k=2,...,q1, где k - значение крутизны k-го участка.

Рис. 4.2. Аппроксимация нелинейной характеристики Заменив переменную x на = ( x ~ ) / D, получим для первого и остальных участков На основании принципа суперпозиции запишем для статических характеристик и коэффициентов усиления ( ) = (2 ) 1 / 2 exp 2 - функция плотности вероятностей.

После интегрирования получаем для первого участка (результаты приводятся для дискретного времени tn, n=1,2,...) для k-го участка (k=2,3,...q1) для q-го участка Значения интеграла вероятностей ( k ) = 2 ( )d и функции плотности вероятностей (k) приведены в [29].

Рекуррентный алгоритм отношения правдоподобия можно получить если подставить представление НФ (4.38) в соотношение (4.119), а результат интегрирования в уравнение (4.118) 4.8.3.2. АЛГОРИТМЫ СИНТЕЗА ДЛЯ МНОГОМЕРНОГО МАРКОВСКОГО

ПРОЦЕССА

При определении рекуррентных уравнений фильтрации и обнаружения используется многомерные уравнения марковских процессов (4.120), наблюдаемого сигнала (4.121) и функция правдоподобия (4.122).

После статистической линеаризации многомерных НФ последние принимают в дискретном времени форму где fn(xn), f0n, (xn xn ), (xn+1 ~n +1 ) - вектора размера (r1), f0n/ xn - матрица Якоби размера (rr), (ij) – компонента которой f0i,n/ x* (i jn номер строки, j - номер столбца); Sn+1(xn+1) и S0,n+1 - вектора размера (q1), S0,n+1/ ~n +1 - матрица Якоби размера (qr), (ij) компонента которой S0i,n+1/ ~ j, n +1 (i - номер строки, j - номер столбца).

В результате подстановки соотношений (4.174) и (4.148) в выражения (4.120), (4.122) и (4.58), определения производных логарифма ФП-вектора (1+1 ( ~n +1 ) и матрицы ( 2)1 ( ~n +1 ), использования их в уравнениях (4.61) и (4.62) получаем рекуррентные уравнения оценки и дисперсии ошибки оценки при статистической линеаризации нелинейных функций Как следует из полученных результатов, уравнение оценки нелинейно относительно самого вектора оценки, а уравнение дисперсии зависит от вектора оценки и его необходимо решать совместно с уравнением оценки.

Используя уже известный подход для скалярных процессов, приходим к рекуррентному уравнению отношения правдоподобия При формировании рекуррентных алгоритмов фильтрации и обнаружения квазидетерминированных процессов (4.89) используется скалярное уравнение наблюдаемого сигнала (4.129) и функция правдоподобия (4.130). После статистической линеаризации скалярной функции Sn+1(a), последняя принимает в дискретном времени вид где S0,n+1/ an - вектор-строка размера (1k) из компонент Sn+1( an )/ anj, j=1,k; (a an ) - вектор-столбец размера (k1).

В результате подстановки (4.153) в ФП (4.62), определения производных логарифма ФП-вектора (1+1 ) ( an ) и матрицы ( 2+)1 ( an ), использования их в уравнениях (4.61) и (4.62) при K=2 получаем рекуррентные уравнения оценки и дисперсии ошибки сигнала при статистической линеаризации нелинейных функций где выражения в квадратных скобках являются скалярными величинами.

К рекуррентному алгоритму отношения правдоподобия можно прийти после подстановки выражения (4.153) в интегральное соотношение (4.119) и последующего вычисления по формуле (4.118) В скалярно-координатной форме уравнения (4.154) и (4.155) принимают вид 4.8.3.3. АЛГОРИТМЫ СИНТЕЗА ДЛЯ НЕПРЕРЫВНОГО ВРЕМЕНИ Для многомерных процессов уравнения фильтрации в непрерывном времени при статистической линеаризации нелинейностей получают путем предельного перехода в уравнениях (4.149) и (4.150). Подставим в эти уравнения экстраполированные параметры (4.151) и (4.152), а также учтем n=t(tn), Qn=Nn/t, Q,n+1=N,n+1/t.

После предельного перехода t0 получаем дифференциальные уравнения оценок и дисперсии ошибок оценок Для квазидетерминированных процессов после предельного перехода в уравнениях (4.154) и (4.155) соответствующие дифференциальные уравнения принимают вид

4.9. ЭКСТРАПОЛЯЦИЯ И ИНТЕРПОЛЯЦИЯ

Рассматриваемые задачи экстраполяции (прогнозирования) и интерполяции являются задачами оценивания, для которых оценки определяются соответственно в моменты времени t1>t или t принадлежит апостериорной плотности вероятностей wt( xt1 ), t1 < t.

Ограничимся обсуждением алгоритмов в дискретном времени.

На основании формул (4.156) и (4.157) апостериорная оценка и дисперсия ошибки оценки определяется из соотношений где апостериорная плотность вероятностей wnm(xm)=p(xm| y1 ).

При m=n АПВ соответствует задаче фильтрации, при m>n задаче экстраполяции, при mt, где x - интервал корреляции процесса, t - интервал отсчетов точечного процесса.

Рассмотрим одну частную задачу, в которой скалярный наблюдаемый сигнал в виде последовательности целочисленных отсчетов {Nn} зависит от какой-либо компоненты многомерного марковского процесса, например x1n. Поскольку соответствующие алгоритмы получают таким же путем что и в скалярном варианте задачи разд.4.7.2, приведем окончательные выражения алгоритма фильтрации в векторной форме где R =||D11,n+1...Dr1,n+1||T, T n+1 - матрица размера rr, компонента которой D i1,n+1 D j1,n+1, i,j=1, r.

При формировании рекуррентных алгоритмов фильтрации квазидетерминированного процесса вида (4.89) учитывается, что оператор ФПК равен нулю, а уравнение АПВ имеет вид (4.91).

Первая и вторая производные логарифма ФП для расширенного фильтра Калмана принимают векторно-матричные формы где Sn+1(a * )/a * - вектор-строка из компонент Sn+1(a * )/ajn, j=1, k.

После подстановки выражений (4.185) и (4.186) в уравнения (4.61) и (4.62), используя тождество (4.85), а также соотношение (4.87), получим рекуррентный алгоритм фильтрации параметров квазидетерминированного процесса где выражения в квадратных скобках являются скалярными величинами.

4.10.3.2. МЕТОД СТАТИСТИЧЕСКОЙ ЛИНЕАРИЗАЦИИ Нелинейные функции fn(xn) и Sn+1(xn+1) аппроксимируются выражениями (4.137) и (4.138) для скалярных процессов или (4.147) и (4.148) для многомерных процессов. Первая и вторая производные логарифма ФП (4.178) для определения соответствующих рекуррентных уравнений могут быть получены согласно методике разд.4.10.3.1. Ввиду единообразной процедуры получения этих рекуррентных уравнений приведем окончательные выражения уравнений оценки и дисперсий ошибки оценки для типовых задач при скалярном наблюдаемом сигнале в виде целочисленных отсчетов случайного потока на непересекающихся и примыкающих к друг другу подынтервалах (tn,tn+1) наблюдаемого интервала (t1,tn+1).

Фильтрация скалярных процессов где экстраполированные параметры ~n +1 и D n+1 определяются из выражений (4.143) и (4.144).

Фильтрация компоненты многомерного марковского процесса где вектор R n+1 и матрица T n+1 приведены в разд.4.10.3.1.

Фильтрация параметров квазидетерминированного процесса.

4.11. НИЖНЯЯ ГРАНИЦА ДИСПЕРСИИ ОШИБКИ Введем параметр отношение сигнал/шум (отношение мощности полезного сигнала к мощности помехи) для дискретного времени где D0 - мощность (априорная дисперсия) оцениваемого процесса, n2 )1 (xn+1) - введенная в разд.4.8.2 усредненная с плотностью вероятностей p(yn+1|xn+1) вторая производная логарифма ФП. Операцией усреднения добиваются независимости параметра qx от флуктуации наблюдаемого сигнала y. Физический смысл формулы (4.187) можно раскрыть на основании следующих соображений.

Мощность помехи зависит от ширины ФП (ФП полагаем унимодальной функцией). Чем шире ФП, тем больше мощность помехи. Функция n2 )1 (xn+1) пропорциональна средней крутизне ФП для всех значений y в точке, соответствующей состоянию xn+1. Чем «шире» ФП, тем меньше крутизна и, следовательно, меньше параметр Для линейной задачи ФП имеет вид (4.69) и этот параметр не зависит от xn+ Для нелинейных задач в случае гауссовского приближения при локальной гауссовской аппроксимации на основании соотношения (4.115) этот параметр равен Для точечных процессов и локальной гауссовской аппроксимации на основании соотношения (4.182) этот параметр оказывается равным По аналогии с предыдущим введем усредненную дисперсию Dn +1 = g 2, n +1 + x, n +1. О качестве фильтрации будем судить по относительной дисперсии ошибки Как следует из (4.190), относительная дисперсия ошибки, соответствующая моменту времени tn+1, с увеличением qx уменьшается и в асимптотике при qx,n+1/g2,n+1D0>>1 стремится к q x,1n +1, т.е. не зависит от дисперсий D0 и g2,n+1.

Из полученных результатов также следует, что для нелинейных систем отношение сигнал/шум зависит от оцениваемого процесса x и в этом смысле является условной характеристикой. Для получения используемой далее безусловной характеристики необходимо этот параметр усреднить относительно априорной плотности вероятностей p(xn+1) Для линейной задачи имеет место тождество qx,n+1=q0,n+1.

Для многомерных процессов отыскивается соответствующая матрица, диагональные элементы которой являются отношением сигнал/шум для каждой компоненты оцениваемых процессов.

Например, при локальной гауссовской аппроксимации указанная матрица имеет вид где Q,n+1 и D0 - диагональные матрицы соответственно размеров (qq) и (rr); Sn+1(xn+1)/xn - матрица Якоби размера (qr), компонента которой Si,n+1(xn+1)/xj,n+1 (i - номер строки, j - номер столбца).

4.11.2.1. НИЖНЯЯ ГРАНИЦА ДИСПЕРСИИ ОШИБКИ ОЦЕНИВАЕМОЙ

СЛУЧАЙНОЙ ВЕЛИЧИНЫ

В практических задачах получение точных алгоритмов оптимальной оценки наталкивается на серьезные технические трудности. Поэтому прибегают к приближенным методам решений уравнений оптимизации, что приводит к замене оптимальных алгоритмов квазиоптимальными. При обосновании применения квазиоптимальных алгоритмов важным является оценка потерь, вызванных неоптимальностью используемых алгоритмов. Для ее получения необходимо определить нижнюю границу дисперсии ошибки. И по степени близости к ней можно судить об эффективности используемых квазиоптимальных алгоритмов.

Указанная граница может быть получена в общем виде для широкого класса задач и разных типов наблюдаемых сигналов.

При оценке параметра - случайной величины x по результатам наблюдения y указанная граница формируется на основании неравенства Крамера-Рао: средний квадрат (дисперсия) ошибки для любой несмещенной оценки параметра удовлетворяет этому неравенству где p(x, ytt0 ) и p(x) - априорная совместная плотность вероятностей параметра и наблюдаемого сигнала и априорная плотность вероятностей параметра. Математическое ожидание в правой части неравенства (4.192) берется относительно p(x, ytt0 ). При выводе этого неравенства используют очевидное соотношение для точечной несмещенной оценки M{ x }=x, где усреднение проводится с плотностью вероятностей p( yt0 |x). На основании соотношения M{( x x)}=0 имеем Умножим обе части выражения (4.193) на p(x), а затем продифференцируем по x, получаем После интегрирования обеих частей выражения (4.194) по x при условии дифференцируемости плотностей вероятностей по x и существования приведенных интегралов.

Используем теперь неравенство Коши-Буняковского, которое приводит к соотношению Далее продифференцируем с учетом (4.195) получаем что и доказывает неравенство (4.192).

Оценка, для которой дисперсия ошибки, достигает нижней границы называется эффективной.Анализ показывает, что для существования эффективной оценки АПВ – p(x| ytt0 ) должна быть гауссовской. При анализе квазиоптимальных алгоритмов нижняя граница определяет потенциальную точность систем фильтрации.

Неравенство Крамера-Рао обобщается на задачу оценивания вектора параметров x=||x1...xr||T. В этом случае ошибки оказываются коррелированными и их совокупность описывается матрицей дисперсий ошибок D, (i,j) компонента которой равна M{( x ixi)( x jxj)}, i,j=1, r. Неравенство Крамера-Рао для нижней границы имеет вид где J1 - матрица, обратная матрице Фишера, компоненты которой Все оценки являются эффективными, если D=J1, что имеет место при гауссовском характере многомерной АПВ. Компоненты главной диагонали матрицы J1 являются нижними границами дисперсий ошибок соответствующих параметров.

4.11.2.2. НИЖНЯЯ ГРАНИЦА ДИСПЕРСИИ ОШИБКИ ОЦЕНИВАЕМОГО

СЛУЧАЙНОГО ПРОЦЕССА

При фильтрации случайного процесса последний необходимо представить в виде последовательности случайных величин временных отсчетов в дискретные моменты tj, j=1, n + 1, объединенных в вектор x 1 +1 ={x1,...,xj,...,xn+1}.

Нахождение нижней границы для дисперсии ошибки сводится к определению матрицы Фишера в соответствии с выражением (4.196).

Однако, при этом возникают трудности вычислительного характера из-за необходимости обращения матрицы Фишера высокого порядка, который возрастает с увеличением номера момента времени tn.

Существенно упрощает вычислительный процесс переход к диагональной матрице, для которой только компоненты, расположенные на главной диагонали, не равны нулю: Jij=0, ij; Jij0, i=j.

Сначала рассмотрим задачу фильтрации дискретизированного во времени одномерного марковского процесса (4.67) при наличии независимой от полезного сигнала аддитивной помехи типа белого шума. Представим совместную плотность вероятностей векторов случайных величин x 1j и наблюдаемых сигналов y 1j для момента времени tj в виде p(x 1j,y 1j )=p(y 1j )p(x 1j |y 1j ).

рекуррентного алгоритма выражений АПВ где АПВ для момента времени tj определяется из соотношения Эквивалентность здесь означает переход к выражению АПВ, позволяющему определить оценку x j по результатам наблюдения для того же момента времени yj и некоторой статистики от всех предшествующих наблюдений y 1j 1.

На основании указанного условия эквивалентности можно записать Прологарифмируем в выражении (4.197) стоящее справа от стрелки соотношение, а затем определим вторые производные функции lnp(xj|y 1j ) по параметрам xk и xl, k,l=1, j. Поскольку функции lnp(yj|xj) и ln w j1(xj) зависят только от отсчета процесса x - в момент времени tj, не равной нулю оказывается вторая производная функции lnp(xj|y 1j ) по xj.

В случае линейной задачи и фильтрации одномерного гауссовского марковского процесса ФП имеет вид (4.69). Используя методику разд.4.7.1 после вычислений имеем Для получения нижней границы дисперсии ошибки необходимо сначала усреднить выражение (4.198) с вероятностью p(x 1j,y 1j ), а затем изменить его знак на обратный. Ввиду того, что это выражение не зависит от процессов x и y компоненты главной диагонали Фишера принимают вид Jjj=g2j+ C 2Qj1, Jij=0 при ij.

С учетом параметра отношения сигнал/шум нижняя граница дисперсии ошибки оценки равна Покажем, что диагональной матрице Фишера соответствуют наиболее эффективные оценки. Ограничимся рассмотрением матрицы второго порядка. Для двух отсчетов x1 и x2 дисперсия совместно эффективных оценок имеет вид где |J|=J11J22J12J21, J12=J21.

Умножим вторые слагаемые в круглых скобках на сомножитель |J| /|J|2, получим где k12=k21=J12/|J|.

Первые сомножители в выражениях (4.199) и (4.200) являются компонентами диагональной матрицы Фишера. Из этих выражений следует, что наличие конечных корреляций между ошибками оценок приводит к увеличению дисперсии ошибок оценок. И только при k12=k21=0 дисперсии ошибок оказываются наименьшими по величине, а оценки, следовательно, наиболее эффективными.

Таким образом, для линейной задачи нижняя граница дисперсии ошибки для момента времени tn+1 равна ранее вычисленной дисперсии ошибки оптимальной оценки (4.76) Для нелинейной задачи при локальной гауссовской аппроксимации (порядок аппроксимации K=2) с наблюдаемым сигналом (4.107) и ФП (4.108) вторая производная логарифма совместной плотности оцениваемого процесса и наблюдаемого сигнала где вторая производная логарифма ФП вероятностей p(x 1j,y 1j ). После перемены знака получим Обратим внимание, что функция (j2 ) (xj) зависит от отсчетов процесса x в момент времени tj. Поэтому математическое ожидание от этой функции следует брать с плотностью вероятностей p(xj,yj) и в два этапа: сначала с условной плотностью вероятностей p(yj|xj) затем с априорной плотностью вероятностей p(xj)Mx{}. Учитывая, что M{yj|xj}=Sj(xj), получим компоненты диагональной матрицы Фишера Или, используя параметр безусловного отношения сигнал/шум (4.191), имеем В этом случае дисперсия ошибки оценки удовлетворяет неравенству Для случайных точечных процессов, используя аналогичный подход, также можно определить для j-го момента времени на основании безусловного отношения сигнал/шум компоненты диагональной матрицы Фишера (4.202) и получить соответствующее неравенство для оценки снизу дисперсии ошибки (4.204), где Определение нижней границы J 1 с учетом (4.203) и (4.205) изjj за необходимости усреднения при произвольном характере p(x) является технически сложной в вычислительном отношении задачей.

Если плотность вероятностей p(x) аппроксимируется гауссовским распределением, а нелинейные функции имеют аналитический вид, то подобно рассмотренному в разд.4.8.3 методу в ряде задач удается определить статистические характеристик нелинейных функций. В более сложных случаях эти характеристики можно получить, осуществив кусочно-линейную аппроксимацию нелинейных функций.

Получение этой границы при некоторых допущениях не связаны с большими трудностями. Так, при большом отношении сигнал/шум ошибки оценок оказываются малыми, а уравнения фильтрации при гауссовском приближении практически точными. Компоненты матрицы Фишера в этом случае принимают вид или для точечных процессов Нижними границами после замены g2j= D 1 являются решения уравнений (4.126) или (4.184).

Для многомерных процессов и линейной задачи условие эквивалентности для многомерной плотности вероятностей имеет вид где диагональная матрица размера (rr) отношений сигнал/шум = C T Qj1C j D0 } ; xk, xl, xj - векторы оцениваемых процессов для различных моментов времени размера (r1), Cj - матрица размера (qr), Qj, D0 и D 1 - диагональные матрицы соответственно размеров (qq), (rr) и (rr).

В этом случае матрица нижних границ дисперсий ошибок равна Для нелинейной задачи при гауссовской аппроксимации матрица нижних границ дисперсий ошибок определяется из неравенств для дискретных систем;

для точечных процессов, где Sj(xj)/xj - матрица Якоби размера (qr), Qj и [Sj(xj)+0j]1 диагональные матрицы размера (qq).

4.12. УЧЕТ УПРАВЛЕНИЯ В ЗАДАЧАХ ОЦЕНИВАНИЯ

СОСТОЯНИЯ ДИНАМИЧЕСКИХ СИСТЕМ

В задачах оптимального управления используются по сравнению с ранее рассмотренными (4.120) более полные учитывающие управление модели состояния системы. Управление входит в уравнение состояний системы в виде детерминированной аддитивной составляющей – последовательности сигналов управления {un}, зависящих от оценок состояния системы в дискретном времени где Vn детерминированная матрица коэффициентов обратной связи размера (rq), un - вектор управления размера (q1).

Наряду с (4.206) в задачах управления используется сокращенная запись уравнений С помощью сигналов {un} осуществляется целенаправленное управление динамическими системами.

С учетом управления получим рекуррентные уравнения оценки и дисперсии ошибки оценки в линейной задаче для скалярных и многомерных процессах, а также для задач гауссовской локальной и статистической линеаризации.

Для скалярных процессов уравнение одномерного гауссовского марковского процесса имеет вид где n=1+tfn, vn - детерминированный зависящий от времени параметр обратной связи.

С учетом ФП (4.69) можно получить рекуррентные уравнения фильтрации: оценки (4.71) и дисперсии ошибки оценки (4.72).

Остановимся подробней на определении экстраполированных параметров. Экстраполированная оценка на основании формулы (4.53) равна так как M{vnun|y 1 }=vnun.

Для экстраполированной дисперсии уравнение (4.54) сохраняет свой вид ввиду детерминированного характера управления. Как следует из полученных выражений, введение сигналов управления отражается только на форме экстраполированной оценки, остальные входящие в рекуррентные алгоритмы выражения и уравнения сохраняют свой вид. Используя аналогичный подход, можно определить рекуррентные алгоритмы для других задач оценивания состояния системы при наличии управляющих сигналов.

Линейная задача фильтрации многомерных процессов.

Уравнение многомерного гауссовского марковского процесса имеет вид где n и n ранее введенные при анализе уравнения (4.80) матрицы.

Экстраполированная оценка равна Уравнения (4.88), (4.86) и (4.66) сохраняют свой вид.

Задача фильтрации при локальной гауссовской линеаризации.

Уравнение многомерного марковского процесса имеет вид где fn(xn) - вектор размера (r1).

Экстраполированная оценка равна Уравнения (4.125), (4.126) и (4.128) сохраняют свой вид.

Задача фильтрации при статистической линеаризации нелинейностей.

Уравнение многомерного марковского процесса имеет вид (4.211). Экстраполированная оценка равна Уравнения (4.149), (4.150) и (4.152) сохраняют свой вид.

Для точечных процессов также можно получить аналогичные результаты: наличие управляющих сигналов отражается только на форме записи экстраполированной оценки.

4.13. СТАТИСТИЧЕСКАЯ ИДЕНТИФИКАЦИЯ

ДИНАМИЧЕСКИХ СИСТЕМ

В задачах синтеза оптимального управления необходимо располагать математической (информационной) моделью динамической системы - объекта управления. Такой моделью, как следует из раздела 3.1, служит система уравнений (или оператор системы), описывающая поведение динамической системы.

Математическая модель может быть получена на основании теоретического анализа известных законов механики и физики, а также в результате экспериментальных исследований входных и выходных сигналов (фазовых координат) системы, установления соотношений между ними. В последнем случае имеют дело с задачей идентификации динамических систем. В большинстве случаев эта задача должна формулироваться как статистическая, так как учитывает в процессе нормальной эксплуатации случайный характер входных сигналов, воздействующих шумов и помех. При статистическом подходе оператор или уравнения динамической системы определяются на основании вероятностных методов обработки наблюдаемой информации и получения статистических характеристик выходных сигналов системы.

При решении практических задач прибегают к пробным (зондирующим) воздействиям с целью получения апостериорных характеристик: оценок фазовых координат и их корреляционных функций. При наиболее общем подходе в задачах идентификации определяется структура детерминированных операторов, аппроксимирующих наилучшим образом с точки зрения принятого критерия качества оператор идентифицируемой динамической системы. В данном разделе рассматривается одна из частных задач идентификации, в которой получают оценки ряда параметров динамической системы известной структуры.*) Полагаем, что поведение динамической системы описывается многомерным марковским процессом в пространстве состояний:

системой линейных разностных уравнений первого порядка в матричной форме Здесь n=I+tFn, I - единичная матрица; n - вектор зондирующих сигналов, обычно аппроксимируемых дискретным белым шумом с известной диагональной матрицей дисперсии и нулевым математическим ожиданием. Другие типы зондирующих сигналов на основании методики раздела 2.3.7 путем расширения вектора состояния системы всегда можно свести к дискретному белому шуму. Вектор детерминированных зондирующих сигналов un является аналогом введенных в разделе 4.12 сигналов управления.

Матрица Fn размера rr с неполностью известными компонентами (параметрами) имеет вид Fn=||fij,n||.

Требуется определить оценки неизвестных параметров всех или части фазовых координат системы при воздействии случайных зондирующих сигналов по вектору наблюдения размера q (qr) где n - случайная помеха при измерениях, представляющая собой дискретный белый шум с известной диагональной матрицей дисперсии и нулевым математическим ожиданием.

С различными методами идентификации можно ознакомиться в работах [52, 53, 54, 30] Номинальное значение матриц F 0 =||f ij,n || и 0 =I+tF 0 полагают известными, а отклонение от неизвестных параметров малыми по величине. При известных статистических характеристиках зондирующих сигналов и номинальных значениях параметров матрицы 0 из уравнения (4.212) можно получить матричное уравнение для определения вектора mx Используя уравнения (4.212) и (4.213), после линеаризации относительно номинальных значений имеем Расширим вектор состояния системы за счет неизвестных параметров матрицы n. При этом полагаем, что за время наблюдения отклонения параметров от номинальных значений являются постоянными случайными величинами. Введем векторы in=||1i,n...ri,n||T, i=1, r, образующие матрицу n||1n...in...rn||.

Если теперь пронумеровать все компоненты вектора xn и матрицы n и образовать из них вектор z,то придем к матричному уравнению расширенного вектора состояния системы где прямоугольная матрица Далее для определения оценок компонент вектора z используются рассмотренные в разделе 4.7.2 методы теории линейной фильтрации. Уравнение оценки имеет вид Блочная матрица Dn+1 состоит из матриц дисперсий ошибок Dx,n+1, D,n+1 и взаимных дисперсий ошибок Dx,n+1*) Компоненты блочной матрицы определяются из матричного уравнения дисперсии ошибок оценок Погрешность получаемых оценок параметров определяется матрицами Dx и D i. Предельная минимальная погрешность для устойчивой стационарной системы получается из решений уравнений дисперсии при n (tn).

Перейдем к идентификации динамической системы, описываемой нелинейным векторным уравнением в дискретном времени Рассмотрим общие подходы определения оценок не полностью известных параметров вектора при использовании метода статистической линеаризации. Предварительно путем усреднения из выражения (4.215) получают уравнение относительно номинальных значений вектора математических ожиданий фазовых координат системы mx и компонент вектора В обозначениях блочной матрицы для сокращений записей опущен подстрочный индекс где D 0 - дисперсия, соответствующая номинальному значению mxn, вычисленная из совместного решения уравнений (4.215) и (4.216). Полагая отклонения неизвестных параметров от номинальных значений малыми, линеаризируем векторную нелинейность Используя выражение (4.217) и подставляя уравнение (4.216) в (4.215), получаем линеаризованное уравнение которое по структуре аналогично уравнению (4.214). Поэтому дальнейшее решение задачи идентификации проводится по алгоритму линейной задачи. Процедуры дополнительных операций, связанных с определением статистических характеристик и коэффициентов усиления, ранее рассматривались в разд.3.4.2 и 4.8.3.

4.14. ПРОГНОЗИРОВАНИЕ И УПРАВЛЕНИЕ В

КОМПЬЮТЕРНЫХ СЕТЯХ

Одним из важных требований, предъявляемых к современным высокоскоростным средствам компьютерных телекоммуникаций и характеризующих эффективность их функционирования, является быстрая и надежная (в смысле наименьшей ошибки) передача информации. Количественная оценка эффективности работы сетей отражается в параметре - пропускной способности или верхней границе средней скорости передачи данных в цифровой форме.

Задача оптимизации сетей заключается в уменьшении потерь пропускной способности и тем самым в обеспечении более высокого качества использования сетевых ресурсов. Проблема состоит в том, что переход к технологии пакетной коммутации и создание интегрированных сетевых приложений сопровождается, как было отмечено в разд.2.5, появлением сложных явлений, исследование которых может быть проведено в рамках теоретико-вероятностных подходов. Анализ потоков информации в виде последовательности серий или пачек пакетов (сетевого трафика) показывает, что эти потоки сопровождаются существенными случайными флуктуациями - пачечностью трафика и наличием больших межпачечных интервалов (прерывистым потоком пачек пакетов)*). Поэтому при организации внутрисетевого взаимодействия, кроме среднего значения скорости передачи данных, необходимо учитывать ее пиковое значение. В результате в сети следует иметь значительные запасы по пропускной способности, что приводит к нерациональному использованию сетевых ресурсов. Объяснения этому следует искать в особенностях построения сетей. Сетевая конфигурация включает в себя узлы, в которых расположены сетевые устройства (буфера, маршрутизаторы, коммутаторы), обеспечивающие требуемые маршруты прохождения пакетов. Из-за ограниченного объема памяти этих устройств возникают очереди, часть пакетов может быть даже потеряно, что приводит к необходимости их повторной передаче. Все это вызывает дополнительные временные задержки. Из-за нерегулярного влияния при передаче информации этих факторов поведение сетевого трафика принимает случайный характер.

Содержанием задач прогнозирования (экстраполяции) и управления в компьютерных сетях является формирование алгоритма минимизации потерь в пропускной способности или, что тоже самое, предотвращения перегрузки сетевых устройств. Необходимо иметь ввиду, что координация взаимодействия всех информационных ресурсов сети обеспечивается комплексом программных средств или блоком протоколов. Наряду с многочисленными функциями по сбору информации, анализу и контролю за состоянием сетевых объектов, формированию соответствующих команд управления сетевым взаимодействием, на протоколы возложены функции управления трафиком для экономной и эффективной передачи пакетов данных, В современных компьютерных сетях техника передачи информации предусматривает, что поток байтов разбивается на отдельные пакеты (пакетизируется), в которых помимо передаваемой присутствует служебная информация с указанием адреса назначения пакета.

Далее информация передается на пакетном уровне по дуплексному (двунаправленному) каналу связи управления их очередями и предотвращения тупиковых ситуаций, например, переполнения буферов в промежуточных узлах сети.

Модели фрактальных процессов, аппроксимирующих поведение сетевого трафика, рассматривались в разделе 2.5. В рамках корреляционной теории были получены статистические характеристики этих процессов (математическое ожидание, корреляционные функции и коэффициенты корреляции, спектральные плотности). С другой стороны, общие подходы по прогнозированию процессов, опирающиеся на соответствующие алгоритмические приемы, обсуждались в разделе 4.9. Все это позволяет перейти к решению конкретных задач по прогнозированию и управлению сетевым трафиком [55, 56, 20].

4.14.2. АЛГОРИТМ ДЛЯ МОДЕЛЕЙ СЕТЕВОГО ТРАФИКА ТИПА

ПРИРАЩЕНИЙ ТОЧЕЧНОГО ПРОЦЕССА

При формализации задачи упомянутые выше случайные флуктуации скорости передачи данных для стационарного процесса приращений (отсчетов) Xn случайного точечного процесса могут быть охарактеризованы математическим ожиданием mx=T (2.101) и коэффициентом корреляции r(k;T) (2.120), где - средняя скорость (интенсивность) точечного процесса; T - интервал заданной длительности, k - число интервалов T, на которые разнесены отсчеты*). Управление информационными потоками между узлами виртуального соединения осуществляется на основе прогноза приращений точечного процесса с помощью модифицированного варианта протокола UDP. Выберем два узла, из которых i-ый узел является источником, а j-ый узел - приемником. Допустим, что интенсивность потока (пропускная способность участка сети между i и j узлами) определяется очередью в узле j, возникшей, например, изза ограниченного объема памяти буфера в этом узле, низкой интенсивностью разгрузки этого буфера, из-за прибывающих в этот узел пакетов с других соединений сети и т.д. В связи с этим интенсивность потока информации от узла i к узлу j понижается, а в случае переполнения буфера в узле j передача информации прекращается, что сопровождается потерей части пакетов. Для Для указанных моделей точечным процессом аппроксимируется последовательность пачек пакетов. В качестве случайных величин рассматриваются интервалы между точками (пачками пакетов) [57].

предотвращения полной потери пропускной способности необходимо регулировать уровень загрузки этого буфера. Для этого воспользуемся оптимальными в средне-квадратическом смысле прогнозируемыми оценками приращений точечного процесса.

Полагаем, что на рассматриваемом участке сети практически точно измеряется число отсчетов за время (tnT,tn).

Одновременно осуществляется прогноз на некотором интервале упреждения kT на основании формулы (4.165) при где r(k;T) в зависимости от исходных данных и особенностей решения задач принимает одну из форм (2.120), (2.121) и (2.122);

X n+k - оценка числа отсчетов за время (tn+kT,tn+k), слагаемое T учитывает известную постоянную составляющую приращений процесса.

Если величина прогноза оказывается больше порога зависящего от уровня загрузки буфера и определяемого некоторым адаптивным алгоритмом, то по сигналу обратной связи интенсивность генерации с узла i уменьшается на величину, зависящую от уровня загрузки буфера и значений оценок прогноза. Хотя скорость передачи данных из-за этого на участке сети понижается, но в связи с сохранением процесса передача информации и уменьшением числа потерянных пакетов удается в среднем уменьшить потери в пропускной способности этого соединения. Если необходимо сохранить пропускную способность, то по сигналу обратной доступные сетевые ресурсы перераспределяются в пользу этого участка виртуального соединения сети.

Качество прогноза оценивается по величине дисперсии ошибки при заданном параметре смещения k (4.166) где D(T) - априорная дисперсия числа отсчетов (2.111).

Как следует из этого выражения, с возрастанием параметра k, что соответствует увеличению глубины прогноза, качество прогноза ухудшается (увеличивается ошибка). В пределе при k дисперсия ошибки прогноза стремится к априорной дисперсии D(T).

4.14.3. АЛГОРИТМ ДЛЯ МОДЕЛЕЙ СЕТЕВОГО ТРАФИКА ТИПА

ФРАКТАЛЬНОГО БРОУНОВСКОГО ДВИЖЕНИЯ

В современных компьютерных сетях соединение между пользователями осуществляется ТСР/IР протоколом. В соответствии с алгоритмом функционирования этого протокола пропускная способность со стороны источника в фазе медленного старта определяется текущим окном перегрузки, равным числу разрешенных к передаче пакетов до прихода пакетов подтверждения. На Рис. 4.4.

представлен процесс формирования и эволюции окна перегрузки размера Wi для выбранного виртуального соединения источникприемник по одному из вариантов реализации ТСР/IР протокола, где i - номер шага фазы медленного старта.