Лекция 15

Схема с зависимыми испытаниями. Цепи Маркова

На практике часто приходится рассматривать проблемы, которые не сводятся к схеме независимых испытаний. Существует большой круг задач, в которых последовательно проводимые испытания не являются независимыми, а, наоборот, связаны между собой в определенного рода цепь. Один из вариантов такой цепи получил название цепи Маркова.

Понятие цепи Маркова

Цепью Маркова называют последовательность испытаний, в каждом из которых появляется только одно из полной группы попарно несовместных событий , причем условная вероятность того, что в -м испытании наступило событие , () при условии, что в -м испытании наступило событие , (), не зависит от результатов предшествующих испытаний.

Независимые испытания являются частным случаем цепи Маркова, таким образом, понятие цепи Маркова является обобщением понятия независимых испытаний. Для описания цепей Маркова целесообразно ввести некоторые новые понятия. Пусть исследуемая система в каждый момент времени находится в одном из состояний. В отдельные моменты времени в результате испытаний состояния системы изменяются, т.е. система переходит из состояния в состояние . В частности, после испытания система может остаться и в прежнем состоянии (случай ).

Таким образом, события называют состояниями системы, а испытания – изменениями ее состояний.

Цепью Маркова называется последовательность испытаний, в каждом из которых система принимает только одно из состояний полной группы, причем условная вероятность того, что в -м испытании система будет находиться в состоянии () при условии, что после -го испытания она находилась в состоянии (), не зависит от результатов остальных, ранее произведенных испытаний.

Цепью Маркова с дискретным временем называют цепь, изменение состояний которой происходит в определенные фиксированные моменты времени.

Цепью Маркова с непрерывным временем называют цепь, изменение состояний которой происходит в любые случайные возможные моменты времени.

Однородные цепи Маркова

Однородной называют цепь Маркова, в которой условная вероятность перехода из состояния в состояние не зависит от номера испытания . Поэтому, вместо обычно применяют обозначение .

Условную вероятность того, что из состояния (в котором система оказалась в результате некоторого испытания безразлично какого номера) в итоге следующего испытания система перейдет в состояние
переходной вероятностью. В обозначении первый индекс указывает номер предшествующего, а второй – номер последующего состояния.

Матрицей перехода системы, имеющей конечное число состояний , называют матрицу, которая содержит все переходные вероятности этой системы:


Так как в каждой строке матрицы помещены вероятности событий (перехода из одного и того же состояния в любое возможное состояние ), которые образуют полную группу событий, то сумма вероятностей этих событий равна единице. Сумма переходных вероятностей каждой строки матрицы перехода равна единице:

, ().

Равенство Маркова

Обозначим через вероятность того, что через шагов (после испытаний) система перейдет из состояния в состояние . Очевидно, что при получим переходные вероятности . По известным переходным вероятностям нужно найти вероятность перехода системы из состояния в состояние через шагов. Для этого введем в рассмотрение промежуточное (между и ) состояние , т.е. будем считать, что из первоначального состояния за шагов система переходит в состояние , с вероятностью , после чего за оставшиеся шагов из промежуточного состояния она перейдет в конечное состояние с вероятностью . По формуле полной вероятности:

.

Полученное выражение называется равенством Маркова.

Если в равенстве Маркова предположить, что , а , то получим:

.

Таким образом, можно найти все вероятности , а значит и матрицу . Далее предположим, что , а , тогда по аналогии с предыдущими рассуждениями, получим .

В общем случае .

Предельные вероятности

Следующей важной задачей является исследование вероятностей переходов системы при неограниченном увеличении числа .

Теорема Маркова. Пусть существует такое число шагов, при которых все вероятности строго положительны (отличны от нуля). Тогда для каждого состояния существует предельная вероятность его наступления, т.е. такое число , что независимо от исходного состояния имеет место равенство .

Смысл содержащегося в теореме утверждения интуитивно понятен: вероятность того, что система окажется в состоянии не зависит от предыстории системы и мало отличается от предельной величины . Найти эти вероятности можно следующим образом. Воспользуемся доказанным ранее равенством Маркова . Если перейти к пределу при , то получим . Если дополнить это уравнение условием нормировки , то получится система уравнений, решениями которой и будут искомые величины . Причем, несложно показать, что эта система определяет величины однозначно, т.е. полученные значения единственны.

Любому студенту нужна работа Найдите то, что Вам по душе. Много разных предложений, Вы точно сможете подобрать что-то себе!