Условие задачи
Задана матрица P i (i - номер варианта) перехода за один шаг цепи Маркова. Найдите матрицу состояний системы на втором и десятом шаге, если система в начальный момент времени находится в состоянии , , . Определите финальное распределение вероятностей и среднее время пребывания системы в каждом из состояний S1, S2, S3 .
Ответ
Если задана матрица перехода за один шаг цепи Маркова, то для нахождения матрицы P[2] состояний системы на втором шаге можно воспользоваться уравнением Чепмена-Колмогорова . Так как система в начальный момент времени находится в состоянии S , то