Nos exercícios abaixo, sempre que necessário, considere uma cadeia de Markov sobre o conjunto de estados com transições e distribuição inicial .
Suponha que uma cadeia de Markov tenha matriz de transição
Encontre a distribuição estacionária.
Para a cadeia de dois estados com
onde e encontre a distribuição limite.
Encontre a distribuição estacionária da cadeia de Markov do tempo cuja matriz de transição é:
Chuva
Neve
Limpo
Chuva
Neve
Limpo
Cadeia de Markov preguiçosa: Seja uma cadeia de Markov irredutível em um espaço de estados enumerável , com matriz de transição e distribuição estacionária . Seja e defina
onde é a matriz identidade. Mostre que é a matriz de transição de uma cadeia de Markov irredutível e aperiódica, cuja distribuição estacionária é .
Para um grafo  conexo e finito, um passeio aleatório simples pelos vértices do grafo édefinido por um vetor estocástico para a distribuição inicial e matriz de transição
á
onde é o grau do vértice em , ou seja, é a quantidade de arestas a que pertence. Determine a distribuição estacionária desse passeio aleatório.
No exercício anterior, descreva a(s) distribuição(ões) estacionária(s) se o grafo for desconexo.
Movimentos aleatórios no xadrez. Considere um tabuleiro de xadrez com um rei branco solitário realizando movimentos aleatórios, ou seja, a cada jogada ele escolhe, de forma uniforme ao acaso, uma das casas possíveis para se mover.A cadeia de Markov correspondente é irredutível e/ou aperiódica?
Mesma pergunta, mas agora com o rei substituído por um bispo.
Mesma pergunta, mas agora com um cavalo.
Problema do Colecionador de Cupons Você quer coletar cada um de cupons diferentes e recebe todo dia um cupom aleatório pelo correio, quanto tempo precisa esperar? Dica:
é o primeiro instante em que cupons tenham sido recebidos, assim, Determine .