Существенное состояние

Суще́ственное состоя́ние — это такое состояние цепи Маркова, покинув которое, она всегда может в него вернуться.

Определение

Пусть дана однородная цепь Маркова с дискретным временем [math]\displaystyle{ \{X_n\}_{n \geq 0} }[/math] и дискретным пространством состояний [math]\displaystyle{ \{1,2,\ldots \} }[/math]. Тогда состояние [math]\displaystyle{ i }[/math] называется несуще́ственным, если существует состояние [math]\displaystyle{ j }[/math] и [math]\displaystyle{ n_{ij} \in \mathbb{N} }[/math], такие что

[math]\displaystyle{ p_{ij}^{(n_{ij})} \gt 0 }[/math], но [math]\displaystyle{ p_{ji}^{(n)} = 0,\quad \forall n \in \mathbb{N} }[/math].

В противном случае состояние [math]\displaystyle{ i }[/math] называется суще́ственным.

Замечание

Несущественные состояния не играют роли при изучении долговременного поведения цепи Маркова, а потому их чаще всего игнорируют.

Пример

Пусть пространство состояний цепи Маркова конечно: [math]\displaystyle{ \{1,2,3,4\} }[/math], а матрица переходных вероятностей имеет вид:

[math]\displaystyle{ P = \left( \begin{matrix} 0 & 1 & 0 & 0 \\ 0 & 0 & 0.6 & 0.4 \\ 0 & 0 & 0.5 & 0.5 \\ 0 & 0 & 0.1 & 0.9 \end{matrix} \right) }[/math].

Тогда состояния [math]\displaystyle{ 1 }[/math] и [math]\displaystyle{ 2 }[/math] несущественны, а [math]\displaystyle{ 3 }[/math] и [math]\displaystyle{ 4 }[/math] — существенны.