(b) há $h$ escolhas para um homem no fim da fila, $h-1$ escolhas para um homem no começo da fila e as $h+m-2$ pessoas restantes podem formar $(h+m-2)!$ filas defirentes. Pelo princípio multiplicativo serão $h\cdot (h-1)\cdot (h+m-2)!$ filas.
5.2 é um exercício do livro texto
No caso (a) o valor do montante no ato da compra é $$\frac{3V}{i+1}.$$
No caso (b) o valor do montante no ato da compra é $$V + \frac{V}{i+1} + \frac{V}{(i+1)^2} = 3V\left(\frac{1+i+i^2/3}{(i+1)^2}\right) = 3V\left(\frac{1}{i+1} + \frac{i^2}{3(i+1)^2}\right) = \frac{3V}{i+1} + \frac{3Vi^2}{3(i+1)^2}$$ como o segundo somando é $\geq 0$ a caso (a) é mais vantajoso para qualquer $i>0$.