Условие задачи
Дано начальное распределение вероятностей цепи Маркова Q и ее матрица переходов P.
а) Найти распределение вероятностей состояний через 2 шага.
б) Найти стационарный режим.
в) Нарисовать размеченный граф переходов в цепи.
Ответ
а) Для дискретной цепи Маркова в случае ее однородности справедливо соотношение
где P матрица переходных вероятностей за один шаг;
Pn матрица переходных вероятностей за n шагов.
Найдем матрицу P2 перехода за два шага: