Nos exercícios abaixo, sempre que necessário, considere uma cadeia de Markov sobre o conjunto de estados com transições e distribuição inicial .
Suponha que uma cadeia de Markov tenha matriz de transição
Encontre a distribuição estacionária.
Para a cadeia de dois estados com
onde e encontre a distribuição limite.
Encontre a distribuição estacionária da cadeia de Markov do tempo cuja matriz de transição é:
Chuva
Neve
Limpo
Chuva
Neve
Limpo
Cadeia de Markov preguiçosa: Seja uma cadeia de Markov irredutível em um espaço de estados enumerável , com matriz de transição e distribuição estacionária . Seja e defina
onde é a matriz identidade. Mostre que é a matriz de transição de uma cadeia de Markov irredutível e aperiódica, cuja distribuição estacionária é .
Para um grafo conexo e finito, um passeio aleatório simples pelos vértices do grafo é definido por um vetor estocástico para a distribuição inicial e matriz de transição
á
onde é o grau do vértice em , ou seja, é a quantidade de arestas a que pertence. Determine a distribuição estacionária desse passeio aleatório.
No exercício anterior, descreva a(s) distribuição(ões) estacionária(s) se o grafo for desconexo.
Um grafo é dito completo se é formado por todos os possíveis pares não ordenados de vértices. Se um passeio aleatório simples começa em m qual o tempo esperado para o passeio visitar todos os vértices do grafo completo?
Movimentos aleatórios no xadrez. Considere um tabuleiro de xadrez com um rei branco solitário realizando movimentos aleatórios, ou seja, a cada jogada ele escolhe, de forma uniforme ao acaso, uma das casas possíveis para se mover.A cadeia de Markov correspondente é irredutível e/ou aperiódica?
Mesma pergunta, mas agora com o rei substituído por um bispo.
Mesma pergunta, mas agora com um cavalo.
A cada instante , um número de partículas entra em uma câmara, onde são variáveis independentes, cada uma com distribuição de Poisson de parâmetro . As durações de vida das partículas são independentes e geometricamente distribuídas com parâmetro . Seja o número de partículas presentes na câmara no instante . Mostre que é uma cadeia de Markov e determine sua distribuição estacionária. (Dica: Se então tem distribuição )
Use o exercício 3 da lista anterior para provar que toda cadeia de Markov finita tem pelo menos uma distribuição estacionária. (dica: para todo .)